Algorithmus auf Abwegen Twitter-Zensurroboter verwechselt Deutsch und Englisch

Twitter sperrte einen Nutzer für die Verwendung des bestimmten Artikels «die». Der Algorithmus hatte ihn offenbar mit dem englischen Wort für «stirb» verwechselt.

Social-Media-Dienste stehen schon seit Langem massiv unter Druck, stärker gegen Hass und Hetze auf ihren Plattformen vorzugehen. Doch statt mehr menschliche Moderator*innen einzustellen und sie ordentlich zu bezahlen, setzen die Firmen vor allem auf Algorithmen, die keine Sozialversicherung oder Ferien brauchen.

Trotz aller vollmundigen Versprechungen, wie effektiv diese Algorithmen doch seien, zeigen sich immer wieder eklatante Fehler. So jüngst auch bei Twitter, das einen deutschen Nutzer für die Verwendung des Wortes «die» sperrte, wie der «Spiegel» schreibt. Offenbar war der Algorithmus überzeugt, dass der Nutzer jemandem den Tod gewünscht habe, entsprechend der englischen Bedeutung von «die».

Algorithmen verstehen keine Nuancen

Der Nutzer «Don Bauero» antworte einem CDU-Politiker mit dem deutsch-englisch gemischten Tweettext «Doppelmoral, die. Nothing new». Ein Kommentar im Stil einer Lexikondefinition ist ein beliebtes Stilmittel auf Twitter, um auf nach eigener Ansicht dumme Tweets zu reagieren. Doch dem Twitter-Algorithmus sind solche sprachliche Nuancen völlig fremd.

Der Account «Don Bauero» wurde daraufhin von Twitter gesperrt. In dem Begründungs-E-Mail hiess es, er habe jemand anderem körperlichen Schaden gewünscht. Auch ein Einspruch half nicht, eine «Überprüfung» habe ergeben, dass die Sperrung gerechtfertigt sei. Erst durch Druck von Dritten wurde der Account wieder freigegeben, meldet der «Spiegel».

Es war offenkundig nicht das erste Mal, dass Twitter das deutsche «die» mit dem englischen «die» verwechselt hat. Ein Twitter-Nutzer zeigte einen Screenshot eines E-Mails von Twitter, dass ihm eine Sperrung aufgrund der Wortfolge «Die Strickjacken» verkündete.

Vertrauter von Jack DorseyWas will der neue Twitter-Chef?