Techno Facebook accentue ses efforts contre les incitations à la haine

Facebook a assuré mardi avoir progressé dans la détection des contenus incitant à la haine, sans parvenir à apaiser les associations à l'origine d'un large boycott publicitaire du géant des réseaux sociaux, accusé de laxisme dans la gestion de ce type de publications.

Malgré la pandémie de Covid-19, qui a désorganisé et réduit les capacités de ses équipes de modération de contenus, la plateforme estime que son taux de détection proactive des contenus haineux est passé de 89% à 95%.

Ce mécanisme à base d'intelligence artificielle permet de retirer des messages et images avant qu'ils ne soient signalés et donc avant qu'ils ne soient potentiellement vus par des centaines de milliers d'utilisateurs. Sur Instagram, ce taux a grimpé de 45% à 84% en un trimestre.

«Nous avons fait des progrès pour combattre la haine sur nos applications, mais nous savons que nous devons en faire plus pour nous assurer que tout le monde se sente à l'aise sur nos plateformes», note Guy Rosen, un des vice-présidents du groupe californien, en charge de l'intégrité.

En tout, entre avril et juin, Facebook dit avoir banni 22,5 millions de publications qui enfreignaient son règlement sur contenus relevant de la haine, c'est plus du double qu'au trimestre précédent (9,6 millions). Ce bond est dû à l'amélioration de la technologie de détection et à l'ajout de trois langues.

- Stéréotypes -

Facebook va aussi ajouter des types précis de contenus à la liste des interdictions, comme «les stéréotypes sur les Juifs qui contrôlent le monde» ou les images liées aux pratiques de «blackface», quand des personnes se griment le visage en noir.

«Souvent quand on parle de contenus haineux, on pense aux attaques explicites. Mais au fil des années nous avons identifié des images, des memes (images détournées) et des généralisations qui agressent les autres de façon implicite», a expliqué Monika Bickert, responsable des règlements de Facebook, lors d'une conférence de presse.

Le réseau rajoute donc des éléments à la liste après des retours et consultations de différents partenaires dans le monde, en sachant que les modérateurs humains auront la responsabilité de juger des nuances : une personne qui revendique une photo de «blackface» n'a pas les mêmes intentions qu'une autre qui dénoncerait le passé raciste d'une personnalité politique, par exemple.

Après la mort de George Floyd fin mai, un Afro-Américain tué par un policier blanc, de nombreux mouvements et associations de la société civile se sont mobilisés pour combattre les discriminations et le racisme dans toutes les institutions aux Etats-Unis, y compris sur Facebook, le réseau social dominant.

- Boycott -

Des organisations de défense des droits civiques ont ainsi lancé en juin un boycott baptisé #StopHateForProfit («Non à la haine pour les profits»), qui a été rejoint par plus de 1.100 entreprises en juillet, dont Adidas, Levi's, Coca-Cola, Starbucks, etc.

Plusieurs centaines continuent actuellement le boycott, selon une estimation du collectif, y compris Unilever (Lipton, Magnum, Dove, etc).

Facebook a répondu en martelant qu'il ne tirait aucun bénéfice des incitations à la haine, au contraire, et en faisant plusieurs annonces sur le démantèlement de réseaux suprématistes blancs ou conspirationnistes.

Mardi Guy Rosen a aussi rappelé que le groupe a mis en place des équipes spécialement chargées de sujets comme la diversité, l'équité et l'inclusion et se prête à des audits.

«Le fait est qu'il reste facile de trouver beaucoup de haine sur Facebook», a réagi un porte-parole de Stop Hate For Profit, pour l'AFP. «Facebook doit montrer des résultats, au lieu d'en parler.»

Début juillet, une réunion entre les organisateurs du boycott et les dirigeants de Facebook s'est soldée par la déception des associations.

«Ils ont parlé de +nuance+ (...), ils nous ont dit qu'ils étaient +sur la bonne voie+, qu'ils s'amélioraient, qu'ils y étaient presque», avait déploré Jonathan Greenblatt, patron de la Anti-Defamation League, lors d'une conférence de presse.

«Mais Starbucks ne dirait pas: +nous sommes sur la bonne voie, 89% de nos cafés ne contiennent pas de toxines+!«.