Künstliche Intelligenz missbraucht Betrüger klonen Stimme der Tochter und erpressen Mutter

«Mama, ich habe Mist gebaut»: In den USA nutzten fortschrittliche Telefonbetrüger künstliche Intelligenz, um mit dem Klonen von Stimmen Lösegeld zu erpressen.

Deep-Fake-Videos, Phishing, Virtual Kidnapping: Der rasante Fortschritt bei der Künstlichen Intelligenz eröffnet auch Kriminellen immer neue Möglichkeiten.

Ein besonders perfider Fall gibt nun in den USA zu reden, wo im Genre Telefonbetrug offenbar eine neue Dimension erreicht worden ist. Wie die «New York Post» berichtet, nutzten dort Betrüger künstliche Intelligenz, um die Stimme eines 15-jährigen Mädchens zu klonen und Lösegeldforderungen an ihre Mutter zu stellen.

Künstliche Intelligenz«Ich finde es spannend, aber es macht auch Angst»

«Mama, ich habe Mist gebaut»

Wie Jennifer DeStefano aus Arizona der Zeitung berichtet, habe sie einen Anruf mit unterdrückter Rufnummer erhalten. Wie üblich wollte sie diesen nicht annehmen, tat es aber doch, weil ihre Tochter in den Skiferien war und sie sich sorgte.

Es meldete sich tatsächlich die Tochter, die «Mama» sagte, schluchzte und um Hilfe flehte. DeStefano fragte, was passiert sei. «Mama, ich habe Mist gebaut.» Es meldet sich schliesslich eine Männerstimme, die ihrer vermeintlichen Tochter befahl, sie solle den Kopf zurücklegen und sich hinlegen.

Der Mann drohte, ihr etwas anzutun, und forderte zunächst ein Lösegeld von einer Million Dollar. Als DeStefano sagte, sie habe das Geld nicht, senkte der Betrüger den Betrag kurzerhand auf 50'000 Dollar.

Der Betrug flog alsbald auf, als eine befreundete Mutter bestätigte, dass ihre Tochter auf ihrem Skiausflug sei — wohlbehalten und in Sicherheit.

Die Stimme war von einer KI-Simulation generiert und nach Angaben DeStefanos täuschend echt. Der Anrufer konnte bislang nicht ermittelt werden.

Drei Sekunden Original-Stimme ausreichend

Die Technologie zum Klonen von Stimmen hat sich inzwischen so weit entwickelt, dass der Tonfall und die Art und Weise, wie jemand spricht, aus den kürzesten Tonfetzen nachgebildet werden können. Bei einer ausreichend grossen Stichprobe kann eine Künstliche Intelligenz also sowohl den Tonfall als auch die Emotionen einer Person imitieren.

«Am Anfang brauchte man dazu eine grössere Menge an Proben», sagt Subbarao Kambhampati, Informatikprofessor und KI-Experte an der Arizona State University der «New York Post». «Jetzt gibt es Möglichkeiten, dies mit nur drei Sekunden Ihrer Stimme zu tun. Drei Sekunden. Und mit diesen drei Sekunden kann man annähernd so klingen wie Sie selbst.»

Parkbussen vom RoboterKann mich künstliche Intelligenz auch in der Schweiz büssen?

Rohmaterial im Überfluss

Und dank sozialer Medien ist es ein leichtes, solche Stimmfetzen aufzufinden. «Wenn Sie sie Ihre Daten öffentlich machen, lassen Sie zu, dass Sie von solchen Leuten betrogen werden», sagte Dan Mayo, der stellvertretende Special Agent des FBI-Büros in Phoenix, zu dem Fall.

«Sie werden nach öffentlichen Profilen suchen, die so viele Informationen wie möglich über Sie enthalten, und wenn sie diese in die Finger bekommen, werden sie Sie ausforschen». Um zu verhindern, dass man betrogen wird, rät Mayo, dem Betrüger Fragen über den ‹Entführten› zu stellen, die der Betrüger nicht kennen kann.

Ausserdem rät er dazu, schon im Vorhinein auf merkwürdige Umstände zu achten, etwa wenn der Anrufer von einer unbekannten Vorwahl oder einer internationalen Nummer oder mit unterdrückter Nummer anruft.

«Ich habe Angst, dass künstliche Intelligenz zu stark wird»

KI entwickelt sich rasant und wird immer mehr Teil unseres Alltags. blue News wollte von Zürcher*innen wissen, welche Erwartungen sie an die Software haben und ob ihnen die Technik auch manchmal Angst macht.

05.04.2023