«Deepfake» pornographique Les femmes, principales victimes des faux perfectionnés de l'IA

Entre applications photographiques qui déshabillent numériquement les femmes, messages sexualisés mettant en scène des filles nées de l'intelligence artificielle et images manipulées en vue d'un racket de «sextorsion», l'hypertrucage (deepfake) pornographique est en plein essor. Les législateurs se retrouvent pris de court.

La propagation de ces contenus altérés par l'intelligence artificielle (IA) a dépassé les efforts américains et européens visant à réglementer ce jeune domaine technologique.

Plusieurs photographies, fausses et perfectionnées, sont devenues virales ces derniers mois. L'une, prêtant à sourire, montrait le pape François en «doudoune», une énorme veste blanche rembourrée de duvet. L'autre, plus sérieuse, avait soi-disant immortalisé une arrestation de l'ancien président des Etats-Unis Donald Trump.

Mais bien plus répandue est l'utilisation de ces algorithmes pour générer des contenus pornographiques, à l'insu des intéressés ciblés, dont les vies en sont parfois détruites, estiment des experts. Et les femmes en sont les premières victimes.

«Anéantie»

«L'essor de la pornographie généré par l'IA normalise l'utilisation de l'image ou de la ressemblance d'une femme sans son consentement», souligne auprès de l'AFP Sophie Maddocks, chercheuse à l'université de Pennsylvanie qui suit les abus sexuels liés à l'image. «En tant que société, quel message envoyons-nous sur le consentement lorsque vous pouvez virtuellement déshabiller n'importe quelle femme?», interroge-t-elle.

QTCinderella, une streameuse américaine de Twitch, l'a appris à ses dépens. Elle a raconté dans une vidéo avoir été harcelée après l'utilisation pornographique de son image en déplorant, en larmes, «l'exploitation et l'objectivation constantes» des femmes. Elle a déclaré sur Twitter que cette expérience l'avait «anéantie».

Ces hypertrucages ou «faux en profondeur» peuvent en effet ruiner une réputation, servir à des actes d'intimidation ou de harcèlement. Ils illustrent la menace de la désinformation par l'IA.

Selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans l'IA, 96% des fausses vidéos en ligne sont de la pornographie non consensuelle. La plupart d'entre elles représentent des femmes: des célébrités comme la chanteuse Taylor Swift et l'actrice Emma Watson, mais aussi énormément de femmes qui n'occupent pas le premier plan médiatique.

«Fantasme sexuel»

Les médias américains et européens regorgent de témoignages de femmes universitaires ou militantes qui ont été choquées de découvrir leur visage dans du «deepfake» pornographique.

«Le fantasme sexuel, très privé, développé autrefois dans l'imaginaire d'une personne, est maintenant transféré à la technologie et aux créateurs de contenu dans le monde réel», résume pour l'AFP Roberta Duffield, directrice de l'intelligence chez Blackbird.AI.

«La facilité d'accès et le manque de surveillance, ainsi que la professionnalisation croissante de l'industrie, ancrent ces technologies dans de nouvelles formes d'exploitation et d'affaiblissement des femmes», pointe-t-elle encore.

Parmi les nouveaux générateurs de texte-art, on trouve des applications gratuites qui peuvent créer des «filles IA hyperréelles», des avatars à partir de photographies réelles, que l'on peut personnaliser en demandant «peau foncée» ou «ceinture de cuisses».

De nouvelles techniques, telles que Stable Diffusion, un modèle d'IA en libre accès développé par Stability AI, permettent des images réalistes à partir de descriptions textuelles.

«Sous notre nez»

Les avancées techniques ont donné naissance à ce que Roberta Duffield appelle une «industrie artisanale en expansion» autour de la pornographie générée par l'intelligence artificielle, dont de nombreux acteurs acceptent de générer du contenu – payant – mettant en scène la personne choisie par le client.

Le mois dernier, le FBI a mis en garde contre les chantages aux hypertrucages sexuels, fabriqués à partir d'images diffusées sur les réseaux sociaux et utilisés pour extorquer de l'argent aux victimes ou à leur famille, ces victimes pouvant être des enfants.

Face à cette prolifération d'outils d'IA, la réglementation est dépassée. «La loi doit rattraper son retard», professe Dan Purcell, directeur général et fondateur de la société Ceartas, spécialisée dans la protection des marques. «Il ne s'agit pas d'un coin sombre de l'Internet, où ces images sont créées et partagées. C'est juste sous notre nez», dit-il à l'AFP, en prônant des lois internationales harmonisées. «L'Internet est une juridiction sans frontières».

ATS