Fataler Irrtum Künstliche Intelligenz löscht Videos von Kriegsverbrechen

Soziale Netzwerke entfernen Gewaltdarstellungen automatisch mithilfe von Künstlicher Intelligenz. Das gilt auch für Videos, die Kriegsverbrechen dokumentieren. Dabei gibt es für sie eine Ausnahmeregel.

Als soziale Netzwerke erstmals aufkamen, stellte sich die Frage, ob ihr demokratisches Grundprinzip, nach dem User*innen ihre eigenen Inhalte posten können, nicht zur Verbreitung unangemessenen Materials beitragen könnten.

Als Unternehmen wie YouTube oder Facebook, das heute Meta heisst, wuchsen, mussten sie immer mehr Personal aufbringen, um die dort geteilten Inhalte zu moderieren.

Heutzutage erhalten diese Teams wertvolle Unterstützung: Künstliche Intelligenz kann dazu eingesetzt werden, unangemessene Inhalte automatisch zu erkennen und direkt zu entfernen. Das funktioniert gut – eventuell auch zu gut. Wie die BBC berichtet, haben beide Firmen Videos entfernt, in denen Kriegsverbrechen dokumentiert werden.

Meta: Industrie «ist übervorsichtig gewesen»

Denn die KI ist zwar in der Lage, Gewaltdarstellungen zu erkennen – einschätzen, ob es sich dabei um Kriegsverbrechen oder etwa einen jugendgefährdenden Film handelt, kann sie jedoch nicht. Besonders schwerwiegend ist das, weil diese Inhalte oft ohne Back-up gelöscht werden.

Menschheit in GefahrExperten warnen in drastischen Worten vor Künstlicher Intelligenz

Ein Mitarbeiter von Meta sagte der BBC, die Tech-Industrie sei bei der Entfernung von Inhalten «übervorsichtig» gewesen. Es gebe aber Ausnahmeregelungen für Gewaltdarstellungen, deren Verbreitung im Interesse der Öffentlichkeit sei.

Russische Kriegsverbrechen gelöscht

Es sei nun wichtig, dafür zu sorgen, dass in diesen Fällen vernünftigere Entscheidungen getroffen werden können – sei es von Menschen oder Maschinen. Meta besitzt neben Facebook auch das soziale Netzwerk Instagram.

So waren die Videos des ehemaligen Reisejournalisten Ihor Zakharenko gelöscht worden, der eine russische Attacke auf ukrainische Zivilist*innen gefilmt hatte. Um das Verbrechen zu dokumentieren, filmte er ihre Leichen sowie Autos, die von den Truppen in Brand gesetzt worden waren.

Damit wollte er dem Narrativ der russischen Regierung entgegenwirken, nach dem es solche Kriegsverbrechen in der Ukraine nicht gebe. Die BBC lud Zakharenkos Aufnahmen daraufhin selbst auf Instagram und YouTube hoch. Erneut wurden sie entfernt. Ein Einspruch dagegen wurde abgelehnt.

Aktivist*innen archivieren Videos

Der Umgang mit dem Einspruch scheint den Bekundungen von Verantwortlichen zu widersprechen, wonach Kriegsaufnahmen im öffentlichen Interesse statt gelöscht zu werden, durch Beschränkungen einem ausschliesslich volljährigen Publikum zugänglich gemacht werden sollen.

Menschenrechtsaktivist*innen haben darum damit begonnen, solches Material, wenn möglich, zu archivieren, bevor es aussortiert wird. Dabei müssen auch die Metadaten gespeichert werden, um zu beweisen, dass es sich um keine Fälschungen handelt.

Russland etwa besteht darauf, dass Filmmaterial aus der Ukraine, das Kriegsverbrechen der russischen Armee zeigen soll, gefälscht sei.