Bösartige KI Lassen sich auch Röntgenbilder hacken?

dj

21.11.2018

Mammographie-Bilder könnten von Cyberkriminellen manipuliert werden, befürchten Schweizer Forscher (Symbolfoto).
Mammographie-Bilder könnten von Cyberkriminellen manipuliert werden, befürchten Schweizer Forscher (Symbolfoto).
iStock

Eine Studie von Zürcher Forschern beschreibt ein erschreckendes Szenario: Bilder von radiologischen Untersuchungen wie Mammographien könnten von Hackern manipuliert werden.

In der Zukunft könnten Cyberkriminelle versuchen, radiologische Bilder so zu verändern, dass selbst Fachärzte zu Fehldiagnosen verleitet würden. Dies geht aus einer Studie hervor, die von Forschern des UniversitätsSpital Zürich (USZ) und der ETH Zürich geschrieben wurde.

Konkret geht um den Einsatz von Künstlicher Intelligenz, der in der Medizin allgemein und der Radiologie im Speziellen immer weiter verbreitet ist. Machine-Learning-Programme können hier etwa lernen, die Strukturen von Krebszellen in Röntgenbildern zu erkennen und so Ärzte unterstützen. Doch Künstliche Intelligenz könnte zumindest theoretisch auch dazu genutzt werden, radiologische Bilder bösartig zu manipulieren und so Fehldiagnosen zu erzeugen.

Selbst Fachärzte wurden getäuscht

Für die Studie haben die Forscher die Bilder von 680 echten Mammographien verwendet — knapp die Hälfte zeigte Anzeichen für Krebs, die andere Hälfte waren Aufnahmen von gesunden Patientinnen. Nun wurden die Bilder einer KI-Software gegeben, die Krebszellen aus Aufnahmen wegretouschieren oder umgekehrt Krebszellen in eigentlich unverdächtige Bilder einbauen kann.

Die Ergebnisse wurden danach Radiologen vorgelegt, die bestimmen sollten, ob die Bilder echt sind und ob sie einen Krebs zeigen. Bei niedriger Auflösung war die Manipulation grösstenteils nicht erkennbar und führte die Ärzte dadurch zu falschen Diagnosen. Bei höheren Auflösungen sind allerdings Bildartefakte sichtbar, die einem Facharzt verdächtig vorkommen würden.

Da die Vernetzung in Spitälern immer weiter zunimmt, könnten Hacker mit Hilfe von solcher KI-Software im grossen Stile radiologische Bilder manipulieren und so Chaos erzeugen. Noch ist ein entsprechender Angriff aufgrund der erwähnten Einschränkungen eher theoretisch. Laut Dr. Anton S. Becker vom USZ, dem Erstautor der Studie, sollte die Medizinwelt aber bereits jetzt ein Bewusstsein für die Möglichkeit solcher Attacken entwickeln und entsprechende Anpassungen an Hard- und Software vornehmen.

Passwort-Tipps: Diese Fehler lieber Hacker besonders

Zurück zur Startseite