Technologie Amnesty International épingle Twitter

Amnesty International a réalisé une large enquête sur le contenu de messages postés sur la plateforme Twitter. Verdict: "le racisme, la misogynie et l'homophobie" prospèrent "sans contrôle" sur le réseau social, dénonce l'ONG pointant des carences de régulation.

L'ONG a fait une étude avec Element AI, qu'elle présente comme une entreprise fabricant des logiciels d'intelligence artificielle. Le projet a réuni 6500 volontaires qui ont vérifié le contenu de 228'000 tweets envoyés à 778 femmes noires, politiciennes ou journalistes, au Royaume-Uni et aux États-Unis en 2017.

A partir des résultats de cette enquête et des calculs d'Element AI, Amnesty a établi qu'1,1 million de messages "problématiques ou abusifs" avaient été envoyés à ces 778 femmes sur douze mois, soit environ un toutes les trente secondes.

Avec cette étude, "nous disposons des données pour corroborer ce que les femmes nous disent depuis longtemps : que Twitter est un endroit où le racisme, la misogynie et l'homophobie prospèrent essentiellement sans contrôle", a déploré Milena Marin, responsable de la recherche chez Amnesty, dans un communiqué.

Intervention demandée

"Nous avons constaté que les femmes de couleur étaient beaucoup plus susceptibles d'être touchées (par ces abus) et que les femmes noires sont ciblées de manière disproportionnée", a-t-elle ajouté. "Les manquements de Twitter à sévir contre ce problème signifient que la plateforme contribue à réduire au silence les voix déjà marginalisées".

Selon l'ONG, les femmes de couleur ont "34% de risque en plus" d'être mentionnées dans un message abusif ou problématique que les femmes blanches. Ce chiffre monte jusqu'à 84% pour les seules femmes noires. Amnesty demande au réseau social davantage de transparence sur la manière dont il utilise des logiciels "d'apprentissage automatique pour détecter les abus".

Elle rappelle que les "contenus abusifs violent les règles de Twitter". Sont considérés comme abusifs les tweets incitant à la violence contre des personnes, ou qui les menacent en raison de leur race, leur origine nationale, leur orientation sexuelle, leur sexe, ou leur appartenance religieuse par exemple.

Les tweets problématiques, quant à eux, sont ceux qui présentent un contenu "hostile ou blessant", a fortiori s'ils sont répétés.

ATS