Equateur Enquête sur des vidéos porno générées par l'intelligence artificielle

La justice équatorienne a ouvert une enquête sur la diffusion de vidéos générées par l'intelligence artificielle (IA) montrant des contenus à caractère sexuel créés à partir d'images d'adolescents d'un établissement scolaire.

L'enquête a été ouverte jeudi à la suite de la «diffusion d'images et de vidéos d'élèves d'un établissement d'enseignement de Quito, modifiées à l'aide de l'intelligence artificielle», a déclaré le parquet sur X (ex-Twitter).

Les auteurs présumés ont manipulé des photos d'adolescents en associant leur visage au corps nu d'autres personnes.

Sybel Martinez, du programme de lutte contre le harcèlement Grupo Rescate Escolar, a déclaré qu'il y avait «environ 700 vidéos à contenu sexuel et érotique», impliquant des images de 20 à 24 élèves.

La distribution de contenu à caractère pornographique mettant en scène des enfants ou des adolescents est passible en Equateur d'une peine pouvant aller jusqu'à 16 ans de prison.

L'enquête fait suite à un incident survenu en Espagne, où des images de jeunes filles mineures nues, générées par l'IA, avaient été diffusées.

L'avènement de l'IA a suscité une inquiétude croissante dans le monde quant à l'utilisation de cette technologie à des fins malveillantes, telles que la création de «deepfakes», c'est-à-dire des images ou des vidéos générées par ordinateur, souvent réalistes, sur la base d'un modèle réel.

Selon une étude réalisée en 2019 par l'entreprise néerlandaise d'IA Sensity, environ 96% des vidéos «deepfakes» en ligne sont de la pornographie non consensuelle, la plupart d'entre elles représentant des femmes.

La justice équatorienne a ouvert une enquête sur la diffusion de vidéos générées par l'intelligence artificielle (IA) montrant des contenus à caractère sexuel créés à partir d'images d'adolescents d'un établissement scolaire