Sommet du GESDA «Le contrôle des données peut être une arme de destruction massive»

Le contrôle des données et les algorithmes «auto-apprenants» peuvent devenir «une arme de destruction massive du 21e siècle». Avant le sommet du GESDA à Genève, un expert met en garde contre une possible confrontation entre des sociétés qui ne se parlent plus.

«La richesse et le pouvoir viennent actuellement du contrôle et de la gestion des données», affirme dans un entretien à Keystone-ATS le professeur à l'Université de Columbia et spécialiste des affaires internationales, Jean-Marie Guéhenno. Or, «la science est un multiplicateur qui peut être bien ou négativement utilisé». Elle offre une masse critique pour faire avancer la société mais provoque aussi des menaces.

Parmi ce qui l'inquiète, les armes biologiques ciblées ou les ordinateurs quantiques. Ceux-ci, s'ils aboutissent, pourraient offrir des possibilités mais s'accompagner aussi de dangers «qui font peur», dit l'ancien chef des opérations de maintien de la paix de l'ONU. Si la protection des données numériques ne peut être garantie, des questions importantes et aussi différentes que le contrôle aérien ou la gestion de l'eau pourraient être perturbées.

«Nous n'avons pas encore pris la mesure» des interactions entre toutes les avancées, insiste M. Guéhenno. Selon lui, les institutions actuelles «ne sortiront pas indemnes» face aux changements du lien entre science, communautés humaines et contrôle politique.

Pour être utiles, les données, «que nous fabriquons toujours plus», doivent être exploitées par l'intelligence artificielle (IA). Mais il est difficile de garantir que les algorithmes, toujours plus «auto-apprenants», continueront à se conformer aux droits humains, insiste l'ancien secrétaire général adjoint de l'ONU. Les robots tueurs, s'ils se matérialisent, vont supprimer les combattants dans les guerres.

Deux approches attendues

Les affrontements en Ukraine montrent déjà comment un conflit est mené «à distance» pour certaines sociétés, en dehors des Ukrainiens et des Russes. Ils ne semblent «pas réels» pour beaucoup d'Occidentaux et cette situation «est un peu dangereuse» parce qu'elle pourrait provoquer une militarisation plus large, ajoute M. Guéhenno. Il doute que la Russie puisse compenser son infériorité technologique par le nombre grâce à la mobilisation partielle.

Plus largement, «nous devons oeuvrer pour ne pas nous laisser contrôler par les technologies», insiste M. Guéhenno. Dans les vingt prochaines années, deux approches pourraient s'affronter, dont «aucune n'est satisfaisante». D'un côté, la société individualiste occidentale qui insiste sur la protection des données, mais aboutit déjà à une «lutte de tous contre tous» et une «polarisation» politique.

Elle fait face à «une violence qui monte» et une «prime à la radicalité». Les individus n'ont plus de liens avec ceux qui ne font pas partie de leur environnement numérique qui partage leurs opinions. Les élections récentes dans plusieurs pays occidentaux l'ont montré.

De l'autre, l'approche autoritaire et établie sur les valeurs collectives en Chine pourrait mener à des manipulations pour le contrôle du bonheur des citoyens. Un moyen d'annuler préventivement toute dissension.

«Si les algorithmes pouvaient maîtriser toutes les données alimentées par les êtres humains, cela permettrait de les contrôler d'une manière qui aurait fait rêver la police de Staline», insiste l'ancien secrétaire général adjoint de l'ONU. «Je ne sais pas si ce modèle aboutira», dit-il toutefois.

Plus de 1000 participants à Genève

Rapportée aux liens entre les Etats, cette situation pourrait aboutir à une «mobilisation nationaliste» synonyme de conflit, un scénario «catastrophique» qui n'est pas le plus probable. «C'est une menace qu'il ne faut pas sous-estimer», selon M. Guéhenno qui relève toutefois «la civilité» observée encore en Suisse.

Pour faire contrepoids, il appelle à oeuvrer par le bas, entre «citoyens actifs». De même, l'ONU doit aborder ces questions avec des acteurs au-delà des Etats, comme les scientifiques et le secteur privé, dit-il encore. Aucun pays, «même le plus puissant», ne pourra régler ces problèmes seul.

M. Guéhenno, qui doit participer mercredi à l'ouverture du sommet, salue l'initiative de l'Anticipateur de Genève pour la science et la diplomatie (GESDA), porté par la Suisse. Il faut que cette discussion sur les bienfaits et les problèmes soit menée, selon lui.

Près de 1200 participants d'environ 40 pays doivent se retrouver de mercredi à vendredi à Genève. Le GESDA doit notamment dévoiler son radar pour cette année sur les anticipations des percées scientifiques à 5, 10 ou encore 25 ans. Le président de la Confédération Ignazio Cassis rassemblera de son côté vendredi quelques ministres sur ce lien entre diplomatie et sciences dans le cadre de cette rencontre.

sn, ats