Ausser Kontrolle? Künstliche Intelligenz: Experten warnen vor ihrer eigenen Schöpfung

Künstliche Intelligenz ist ein Milliardengeschäft. Oft geht es dabei um spielerische Elemente, die den Alltag erleichtern. Doch zum Teil dient sie auch der Überwachung. Autoritäre Regime erhalten durch Entwicklungen des Silicon Valley beängstigende Möglichkeiten.

Das Angebot war verlockend – Rana el Kaliouby und ihre Kollegen mussten daher lange mit sich ringen. Am Ende lehnten sie ab.
Denn die Investoren, die sich für ihre Software zur Gesichtserkennung interessierten, hatten Verbindungen zum Geheimdienst CIA. «Wir wollen keine Anwendungen unterstützen, mit denen dann Leute ausspioniert werden», sagt die Chefin des Start-ups Affectiva.

Programm erfasst Emotionen

Auf Basis von künstlicher Intelligenz (KI) hat die kleine Firma aus Boston ein Programm entwickelt, das Emotionen erfasst. Ist eine Person traurig oder glücklich, müde oder wütend? Durch Abgleich mit Fotos von mehr als sechs Millionen Gesichtern liefert das System schnell die Antwort. Affectiva liegt damit voll im Trend. Auch Giganten der Branche wie Facebook und Google setzen zunehmend auf das «Sehvermögen» von Computern – und vor allem auf die Verarbeitung der dabei gewonnenen Daten.

Es sei gut denkbar, dass sich auf diese Art bald in Echtzeit prüfen lasse, ob jemand ehrlich sei, sagt el Kaliouby. Für einen Diktator wäre es der IT-Expertin zufolge dann aber auch möglich, etwa die Reaktionen auf eine politische Rede zu prüfen – und jeden Widerspruch im Keim zu ersticken. Ihre Firma lasse daher die Hände von allem, was mit «Sicherheit, Flughäfen und Lügendetektoren» zu tun habe. Stattdessen arbeite Affectiva mit Autoherstellern zusammen, um Fahrer vom Einschlafen am Steuer abzuhalten, sagt el Kaliouby. Oder mit Konsumgüter-Marken, die mithilfe der Technik mehr über die Akzeptanz eines neuen Produkts erfahren könnten.

Das moralische Dilemma

Das Beispiel des Bostoner Start-ups zeigt, wie sehr die Branche derzeit auch vor moralischen Herausforderungen steht. Eine mit Kameras ausgestattete künstliche Intelligenz eröffnet schliesslich enorme Potenziale – zur kommerziellen Verwertung ebenso wie zu Missbrauch jeglicher Art. Und gerade von Seiten der Behörden scheint das Interesse an der Technik derzeit zu wachsen.

Kurz nach dem Attentat auf eine Zeitungsredaktion in Annapolis in der vergangenen Woche nutzte die Polizei zur Identifizierung des Festgenommenen nach eigenen Angaben Gesichtserkennung, da eine Fingerabdruck-Analyse nicht zu haben war. Dabei griffen sie nicht nur auf Fotos von bisherigen Straftätern und Verdächtigen zurück, sondern auch auf Fotos von allen Personen, die im US-Staat Maryland einen Führerschein beantragt hatten.

Videosysteme stellen Sünder bloss

Im Juni kündigten die Betreiber des Flughafens von Orlando in Florida an, noch in diesem Jahr obligatorische Gesichtserkennungsscans für alle Passagiere auf internationalen Flügen einzuführen. Andere amerikanische Flughäfen nutzen die Technik bereits vereinzelt. In einem neuen Geschäft ohne Kassierer von Amazon in Seattle registrieren Kameras und Sensoren, welche Ware ein Käufer aus den Regalen nimmt. In China werden intelligente Videosysteme eingesetzt, um Fussgänger, die sich nicht an die Verkehrsregeln halten, sofort zu identifizieren und blosszustellen.

Google-Mitarbeiter wollen Krieg mit KI verhindern

Bei allem Potenzial gibt es auch in den grossen Unternehmen mitunter Skrupel. Google erklärte kürzlich – nach Protesten von Mitarbeitern – seinen Rückzug aus einem militärischen Projekt, bei dem künstliche Intelligenz zur Auswertung von Drohnenvideos aus dem Irak und aus anderen Konfliktregionen eingesetzt wird. Auch bei Microsoft und Amazon gab es interne Debatten im Hinblick auf bestimmte Aufträge der Regierung.

Google hat inzwischen eigene Richtlinien zur künstlichen Intelligenz vorgestellt. Demnach sollen nur noch Anwendungen verbreitet werden, die «für die Gesellschaft nützlich» sind und die «unfaire Vorurteile» vermeiden. Amazon hingegen verkauft trotz zunehmenden Drucks von Mitarbeitern wie von Aktivisten seine Gesichtserkennungssoftware namens Rekognition auch weiterhin an Polizeibehörden und andere öffentliche Einrichtungen.

Google-Mitarbeiter verlangen Austritt aus Kriegstechnologie

Weitere 5 Bilder ansehen

Google-Mitarbeiter verlangen Austritt aus Kriegs-Technologie

Der US-Internetkonzern Google ist an einem Projekt des Pentagon beteiligt. Beim «Project Maven» wird Google-Software verwendet, um automatisch Drohnen-Bilder zu analysieren.

Bild: Getty Images

Dagegen regt sich nun Widerstand in den eigenen Reihen: Tausende Google-Mitarbeiter haben einen offenen Brief unterzeichnet, der verlangt, dass ihre Firma Abstand nimmt von militärischen Projekten.

Bild: Getty Images

Getreu dem originalen Leitsatz von Google «Don't be Evil» soll nur friedliche Technologie gefördert werden, fordern die «Googler». Für viele eine Horror-Vorstellung: Selbständig agierende Killerdrohnen, wie hier in einem Screenshot aus dem populären Kurzfilm «Slaughterbots» auf Youtube.

Bild: Screenshot Youtube

Tech-Firmen weltweit investieren Milliarden Dollar in Künstliche Intelligenz (KI) und automatische Bilderkennung: Eine Voraussetzung für selbständig agierende Drohnen. Hier im Bild ein Roboterhund der Firma «Boston Dynamics». Klar ist das Militär auch an den Forschungsergebnissen interessiert.

Bild: US Marine Corps

Der Aufruf der Google-Mitarbeiter an CEO Sundar Pichai: Ein sofortiger Austritt aus dem Rüstungsprogramm und eine grundsätzliche Erklärung, dass die Firma in Zukunft keine militärischen Projekte unterstützen werde. Eine konkrete Antwort des Chefs steht noch aus.

Bild: Getty Images 

Allen Beteiligten dürfte derweil klar sein, dass die Ablehnung eines Auftrags im Grunde nur dazu führt, dass andere den Job übernehmen. Ziel des Drohnenprojekts mit Google sei es gewesen, nach «Mustern des Alltags, verdächtigen Vorkommnissen und Hinweisen auf potenzielle Angriffe» zu suchen, sagt der frühere Vize-Pentagon-Chef Robert Work. Der Ausstieg von Google sei ein Rückschlag, da das Unternehmen «sehr, sehr gut darin» gewesen sei. Mithilfe anderer Partner könne die Arbeit aber trotzdem fortgesetzt werden.

Inzwischen benennt der Computer schon Katzenrassen

Die Entwicklung im Bereich künstliche Intelligenz schreitet seit einigen Jahren rasch voran. Noch 2012 war es eine Herausforderung, einen Computer in YouTube-Videos automatisch nach Katzen suchen zu lassen. Inzwischen gibt es eine Google-App, die gleich die jeweiligen Katzenrassen nennt. Eine der massgeblichen Expertenrunden, die jährliche Conference on Computer Vision and Pattern Recognition im Juni in Salt Lake City, habe sich in kürzester Zeit von einer verschlafenen Akademikerversammlung in eine Messe in Goldrauschstimmung verwandelt, die grosse Unternehmen und Regierungsbehörden anziehe, sagte der Informatiker und Mitorganisator Michael Brown von der York University in Toronto.

Forscher hätten an Ort und Stelle Angebote für hoch bezahlte Jobs bekommen, sagt Brown. Nur in wenigen der Tausenden eingereichten Fachpapiere gehe es hingegen um ethische Bedenken, räumt der Experte ein.

Digitale Überwachung: China schafft mittels KI den «besseren Menschen»

Digitale Überwachung: China schafft den «besseren Menschen»

Rongcheng, China: Auf einer Tafel sind sogenannte Modellbürger abgebildet, die im neuen Sozialkredit-System eine besonders hohe Punktzahl erreicht haben.

Bild: dpa

Die ostchinesische Küstenstadt am Gelben Meer ist Vorreiter von einigen Dutzend Pilotprojekten in China, mit denen 2020 landesweit ein Punktesystem zur Bewertung der «sozialen Vertrauenswürdigkeit» eingeführt werden soll. Im Bild: Auf einer Tafel sind Geldbeträge abgebildet, die Kinder ihren Eltern gegeben haben. Die Unterstützung der Eltern wird im neuen Sozialkredit-System berücksichtigt und mit Punkten belohnt.

Bild: dpa

Grafik zum Sozialkedit-System: Lange galt das Internet als Gefahr für Diktaturen, weil Menschen sich breit informieren und sich zusammentun könnten. Doch Chinas Führer nutzen inzwischen die Datenmassen - Big Data - zur Überwachung. Mehr noch. Mit den neuen digitalen Möglichkeiten sollen die Menschen erzogen werden. 

Bild: dpa

In der grossen Halle des Bürgeramtes von Rongcheng steht der Spruch des Revolutionärs und Staatsgründers Mao Tsetung «Dem Volke dienen» vorne in goldenen Zeichen auf einer Marmorwand. Hier lassen sich Bürger an einem Schalter die Bescheinigungen über ihre «gesellschaftliche Vertrauenswürdigkeit» ausdrucken.

Bild: dpa

Lu Qunying (rechts), Krankenhausangestellte, am Schalter des Sozialkredit-Systems im Bürgeramt von Rongcheng. Sie beurteilt das System positiv. «Es ermutigt, Gutes zu tun», sagt sie. «Wir brauchen Vorschriften oder ein System, um die Menschen zu überwachen.» Gerade weil China noch nicht so weit entwickelt sei. Überhaupt: «Die Stadt ist jetzt sauberer.»

Bild: dpa

Vor dem Bürgeramt von Rongcheng sind auf grossen Postern die Porträts von «Modellbürgern» ausgestellt.

Bild: dpa

He Junning, Direktor der Sozialkreditbehörde, erklärt das System, mit dem Bürger für besonders verantwortungsbewusstes Verhalten mit Punkten belohnt werden - oder auch Punktabzug bekommen, wenn sie gegen Vorschriften verstossen. Sein Sozialkreditamt hat acht Mitarbeiter.

Bild: dpa

Das Bürgeramt von Rongcheng. Junning meint zur Aufgabe seines Amtes: «Wir beschäftigen uns mit der Prüfung und Genehmigung der Informationen für die Kreditpunkte, die uns lokale Stellen liefern.»

Bild: dpa

Ju Junfang, Vizedirektorin des Sozialkredit-Systems, vermittelt Freiwilligenarbeit an Bürger von Rongcheng, die Pluspunkte für ihr soziales Führungszeugnis brauchen.Sie meint: «Viele Leute kommen zu uns und leisten Freiwilligenarbeit - hohe Beamte wie einfache Leute.»

Bild: dpa

Dorfbewohner stehen auf der Strasse. Sie wissen von dem neuen Sozialkredit-System noch nichts.

Bild: dpa

Bauer Mu Linming (rechts) hingegen ist begeistert: «Es zeigt, wer gut ist und wer nicht.»

Bild: dpa

«Unser Dorf war immer gut», sagt der frühere Bauarbeiter. «Aber nach Einführung des Systems ist es noch besser geworden.»

Bild: dpa

Frau Xi findet das System gut: «Es zügelt die Menschen, so dass sich ihr Benehmen verbessert.» Ihren eigenen Punktestand kennt sie nicht. Sie hat aber gehört, dass der Chef ihres Unternehmens viele Punkte hat. «Ich vermute, dass er Grosses leistet.»

Bild: dpa

Digitale Überwachung: China schafft den «besseren Menschen»

Rongcheng, China: Auf einer Tafel sind sogenannte Modellbürger abgebildet, die im neuen Sozialkredit-System eine besonders hohe Punktzahl erreicht haben.

Bild: dpa

Die ostchinesische Küstenstadt am Gelben Meer ist Vorreiter von einigen Dutzend Pilotprojekten in China, mit denen 2020 landesweit ein Punktesystem zur Bewertung der «sozialen Vertrauenswürdigkeit» eingeführt werden soll. Im Bild: Auf einer Tafel sind Geldbeträge abgebildet, die Kinder ihren Eltern gegeben haben. Die Unterstützung der Eltern wird im neuen Sozialkredit-System berücksichtigt und mit Punkten belohnt.

Bild: dpa

Grafik zum Sozialkedit-System: Lange galt das Internet als Gefahr für Diktaturen, weil Menschen sich breit informieren und sich zusammentun könnten. Doch Chinas Führer nutzen inzwischen die Datenmassen - Big Data - zur Überwachung. Mehr noch. Mit den neuen digitalen Möglichkeiten sollen die Menschen erzogen werden. 

Bild: dpa

In der grossen Halle des Bürgeramtes von Rongcheng steht der Spruch des Revolutionärs und Staatsgründers Mao Tsetung «Dem Volke dienen» vorne in goldenen Zeichen auf einer Marmorwand. Hier lassen sich Bürger an einem Schalter die Bescheinigungen über ihre «gesellschaftliche Vertrauenswürdigkeit» ausdrucken.

Bild: dpa

Lu Qunying (rechts), Krankenhausangestellte, am Schalter des Sozialkredit-Systems im Bürgeramt von Rongcheng. Sie beurteilt das System positiv. «Es ermutigt, Gutes zu tun», sagt sie. «Wir brauchen Vorschriften oder ein System, um die Menschen zu überwachen.» Gerade weil China noch nicht so weit entwickelt sei. Überhaupt: «Die Stadt ist jetzt sauberer.»

Bild: dpa

Vor dem Bürgeramt von Rongcheng sind auf grossen Postern die Porträts von «Modellbürgern» ausgestellt.

Bild: dpa

He Junning, Direktor der Sozialkreditbehörde, erklärt das System, mit dem Bürger für besonders verantwortungsbewusstes Verhalten mit Punkten belohnt werden - oder auch Punktabzug bekommen, wenn sie gegen Vorschriften verstossen. Sein Sozialkreditamt hat acht Mitarbeiter.

Bild: dpa

Das Bürgeramt von Rongcheng. Junning meint zur Aufgabe seines Amtes: «Wir beschäftigen uns mit der Prüfung und Genehmigung der Informationen für die Kreditpunkte, die uns lokale Stellen liefern.»

Bild: dpa

Ju Junfang, Vizedirektorin des Sozialkredit-Systems, vermittelt Freiwilligenarbeit an Bürger von Rongcheng, die Pluspunkte für ihr soziales Führungszeugnis brauchen.Sie meint: «Viele Leute kommen zu uns und leisten Freiwilligenarbeit - hohe Beamte wie einfache Leute.»

Bild: dpa

Dorfbewohner stehen auf der Strasse. Sie wissen von dem neuen Sozialkredit-System noch nichts.

Bild: dpa

Bauer Mu Linming (rechts) hingegen ist begeistert: «Es zeigt, wer gut ist und wer nicht.»

Bild: dpa

«Unser Dorf war immer gut», sagt der frühere Bauarbeiter. «Aber nach Einführung des Systems ist es noch besser geworden.»

Bild: dpa

Frau Xi findet das System gut: «Es zügelt die Menschen, so dass sich ihr Benehmen verbessert.» Ihren eigenen Punktestand kennt sie nicht. Sie hat aber gehört, dass der Chef ihres Unternehmens viele Punkte hat. «Ich vermute, dass er Grosses leistet.»

Bild: dpa