Geheime Liste enthüllt Diese Gruppen sind laut Facebook gefährlich

Ein Leak einer internen Facebook-Liste zeigt, welche Organisationen und Personen als «gefährlich» von der Plattform verbannt sind.

Ein interne Facebook-Liste zeigt, welche Organisationen und Personen das soziale Netzwerk als «gefährlich» einstuft und Diskussionen zu ihnen einschränkt. Die rund 4000 Einträge starke «Dangerous Individuals and Organizations List» wurde dem Online-Magazin «The Intercept» zugespielt.

Auf der Liste finden sich Personen und Organisationen aus den Bereichen Terrorismus, Verbrechen und Hassrede. Den grössten Teil machen islamistische Terrorgruppen und ihre Mitglieder aus. Vereinzelt finden sich auch Personen der Zeitgeschichte wie Adolf Hitler, Benito Mussolini oder Pablo Escobar wieder.

Liste in Stufen unterteilt

Einen eigenen Facebook-Account darf keiner der 4000 Einträge besitzen. Danach gibt es allerdings Abstufungen, wie sich andere Nutzer*innen zu den aufgelisteten Organisationen und Personen verhalten dürfen. In der höchsten Kategorie finden sich sich vor allem islamistische Terrorgruppen. Hier dürfen Nutzer*innen keinerlei Inhalte posten, die als Unterstützung dieser Gruppe verstanden werden könnten.

In der zweithöchsten Kategorie finden sich vorwiegend diverse Guerilla-Gruppen. Hier dürfen andere Nutzer*innen deren nicht-gewalttätige Aktionen anpreisen, nicht jedoch Unterstützung der Gruppen an sich zeigen.

Milde für Hassrede

In der dritten Kategorie finden sich Personen und Organisationen die für Hassrede berüchtigt sind sowie «Militarized Social Movements». Letzteres bezeichnet bewaffnete Milizen aus dem rechtsextremen Spektrum, die vor allem in den USA weit verbreitet sind.

Über Einträge in dieser dritten Kategorie dürfen andere Nutzer*innen frei diskutieren, lokale Gesetze etwa gegen Rassendiskriminierung mal aussen vor gelassen. Die einzigen Schweizer Einträge in der 4000er-Liste – zwei Neonazi-Musikbands – finden sich in dieser Kategorie.

Algorithmen löschen oftmals zu viel

Die Liste scheint vor allem nach US-amerikanischen Sensibilitäten erstellt worden sein. Sie bildet die Grundlage für Löschungen und Sperrungen durch Facebooks Moderator*innen sowie einen fehleranfälligen Algorithmus.

So wurden im Mai massenhaft Instagram-Posts über die al-Aqsa-Moschee in Jerusalem gelöscht. Da zahlreiche Terrorgruppen auf der Liste das Wort «al-Aqsa» in ihrem Namen tragen, war der Instagram-Löschalgorithmus mit diesen Nuancen offensichtlich überfordert.

CEO greift einZuckerberg attackiert Facebook-Whistleblowerin