«Environnement toxique» Contenus truqués: l'IA inonde la campagne américaine

Un clip de Joe Biden qui prononce des jurons, une image de Donald Trump en train de se faire arrêter: ces contenus truqués en utilisant l'intelligence artificielle (IA) alimentent une vague de désinformation qui suscite l'inquiétude avant l'élection présidentielle américaine.

Keystone-SDA

05.08.2024, 08:03

ATS

Ces fausses images, destinées à orienter les électeurs vers un camp politique, attisent les tensions dans un contexte déjà ultra-polarisé aux Etats-Unis.

Des appels ont été lancés aux géants de la technologie pour qu'ils renforcent leurs garde-fous avant l'élection du 5 novembre, alors que plusieurs réseaux sociaux ont supprimé certaines de leurs mesures de modération de contenus.

La semaine dernière, le patron de X (anciennement Twitter), Elon Musk, a fait face à une pluie de critiques après avoir partagé un «deepfake», une vidéo manipulée, à ses 192 millions d'abonnés.

Il omet de dire que c'est une parodieMusk partage une fausse vidéo de Kamala Harris: tollé!

Elle montre Kamala Harris et une voix imitant celle de la candidate démocrate y qualifie Joe Biden de sénile et affirme «ne pas du tout savoir gérer le pays».

Dans la publication, rien n'indiquait qu'il s'agissait d'une parodie, mis à part un emoji rieur. Certains utilisateurs ignorant qu'il s'agissait d'une vidéo truquée pouvaient donc prendre pour argent comptant ces faux propos, se sont inquiétés des chercheurs.

Dans une autre vidéo circulant en ligne, Joe Biden semble maudire ses détracteurs, y compris en utilisant des insultes anti-LBGT. Cette séquence a en fait été tirée d'un discours du président dans lequel il dénonçait la violence politique. Le groupe PBS, qui avait diffusé le discours, a dénoncé l'utilisation de son logo sur cette vidéo manipulée.

Les deepfakes en politique

«Ces exemples récents sont très représentatifs de la façon dont les +deepfakes+ seront utilisés dans la politique à l'avenir», a déclaré à l'AFP Lucas Hansen, cofondateur de l'organisation à but non lucratif CivAI.

«Même si la désinformation alimentée par l'IA est une préoccupation, l'utilisation la plus probable sera des images et vidéos truquées, dans le but d'engendrer de la colère et de renforcer la tension» politique, a ajouté l'expert.

M. Hansen a montré à l'AFP la capacité d'un «chatbot», un logiciel conçu pour générer des réponses rapides à des questions, à produire en masse de faux messages.

Alimenté par une simple requête «les bureaux de vote font payer le parking» accompagnée d'un lieu précis, par exemple Allen, au Texas, l'outil, en quelques secondes, génère une publication affirmant que les autorités d'Allen ont «discrètement introduit un ticket de stationnement à 25 dollars au niveau de la plupart des bureaux de vote».

Des tests réalisés avec un outil d'IA, Midjourney, ont par ailleurs permis de créer de fausses images de Joe Biden arrêté ou de Donald Trump à côté d'un double, selon l'organisation Center for Countering Digital Hate (CCDH).

Midjourney avait pourtant bloqué toute tentative de trucage liée aux deux présidents. Mais, selon le CCDH, les utilisateurs peuvent facilement contourner cette contrainte.

Information toxique

Les observateurs préviennent que ce genre de désinformation à grande échelle risque d'aggraver les craintes des électeurs quant à la fiabilité du processus électoral.

Plus de la moitié des Américains pensent que les fausses informations générées par l'IA auront un impact sur le résultat de l'élection présidentielle, selon un sondage l'année dernière d'Axios et Morning Consult. Et environ un tiers des Américains disent qu'ils feront moins confiance aux résultats à cause de l'IA.

Plusieurs géants de la tech ont déclaré travailler sur des systèmes permettant d'étiqueter tout contenu généré par l'intelligence artificielle.

Dans une lettre adressée aux PDG de ces entreprises, plus de 200 groupes ou organisations ont demandé des efforts urgents pour renforcer la lutte contre la désinformation générée par l'IA, notamment en interdisant les «deepfakes» dans les clips de campagne et en mettant en avant les contenus électoraux vérifiés.

L'un des signataires de la lettre, l'ONG Free Press, a dit avoir «constaté peu de substance» dans les engagements pris les plateformes en cette année électorale.

«Ce qu'on a aujourd'hui, c'est un environnement en ligne toxique où les mensonges (...) sèment la confusion chez les électeurs», a déclaré à l'AFP Nora Benavidez, responsable au sein de l'ONG.

«Il s'agit d'un point de bascule dans notre élection», a-t-elle ajouté. «Les responsables des plateformes doivent s'empresser de renforcer et d'appliquer leurs politiques contre les deepfakes.»