Studie zweifeltWie intelligent ist Künstliche Intelligenz wirklich?
dj
12.3.2019
Künstliche Intelligenz ist inzwischen fast überall im Einsatz. Doch wie klug ist sie wirklich oder wird hier vielleicht geschummelt?
Quasi jedes Smartphones und jeder Online-Dienst bietet inzwischen Künstliche Intelligenz-Features an. Und wenn Google Fotos ein Bild richtig erkennt oder Amazon Alexa eine Frage korrekt beantwortet, ist das durchaus beeindruckend.
Doch für Aussenstehende ist meistens nicht zu erkennen, warum eine Künstliche Intelligenz zu einen bestimmten Ergebnis kommt. Hat sie eine Situation wirklich intelligent wie ein Mensch analysiert und wurde hier einfach geschummelt?
Damit befasst sich nun eine im Magazin «Nature Communication» veröffentlichte Studie von Wissenschaftlern der Technischen Universität Berlin, des Fraunhofer Heinrich-Hertz-Instituts und der Singapore University of Technology and Design. Sie betrachtet nicht die Ergebnisse eines KI-Systems, sondern dessen Entscheidungsfindung.
So clever wie ein Pferd?
Die Forscher vergleichen ihre Ergebnisse mit dem Klugen Hans. Hans war ein Orlow-Traber im Besitz des preussischen Lehrers Wilhelm von Osten. Dieser tourte in den ersten Jahren des 20. Jahrhundert durch Deutschland und demonstrierte die vermeintlichen Mathematikkenntnisse des Pferdes. Es beantworte per Hufklopfen arithmetische Aufgaben, fast immer richtig. Als «Berlin’s Wonderful Horse» schaffte es Hans sogar in die «New York Times»
Doch der Hengst konnte nicht wirklich rechnen, wie 1904 eine Kommission der Preussischen Akademie der Wissenschaften herausfand. Stattdessen erkannte der Kluge Hans die Körpersprache des Fragestellers, die unbewusst die richtigen Antworten verriet.
Der Kluge Hans des 21. Jahrhunderts
Laut den Forschern wird eine Art Kluger Hans-Strategie auch von vielerlei Künstlichen-Intelligenz-Systemen eingesetzt. Sie nehmen nicht den direkten Weg zur Lösung einer Aufgabe sondern betrachten stattdessen den Kontext.
Als ein Beispiel führen die Wissenschaftler die automatische Erkennung eines Schiffes auf Bilder an. Menschen erkennen ein Schiff etwa an seinem Mast — bei einem Segelschiff — oder an einem Steuerhaus bei motorisierten Schiffen.
Eine KI mit Kluger Hans-Strategie nimmt dagegen einfach die Präsenz von Wasser als Anzeichen dafür, dass es sich bei einem abgebildeten Objekt um ein Schiff handeln muss. Das führt zu einen hohen Erfolgsquote, denn Schiffe auf Land oder Häuser im Meer sind eher unüblich. Die KI ist aber genau genommen nicht in der Lage, das Objekt Schiff wirklich zu erkennen.
Problematisch bei vielen Einsätzen
Geht es um automatische Bilderkennung etwa für Fotodienste, ist dieser Prozess völlig ausreichend, denn das Ergebnis zählt. Bei anderen Anwendungen, bei denen es darauf ankommt, dass die KI auch wirklich das kann, was sie verspricht, ist es problematischer.
«Insbesondere in der medizinischen Diagnostik oder in sicherheitskritischen Systemen dürfen wir keine KI-Algorithmen mit unsicheren Problemlösungsstrategien oder sonstige KI-Schummel-Kandidaten einführen», so Prof. Klaus Robert Müller von der TU Berlin. Er schätzt, dass knapp die Hälfte der im Einsatz befindlichen KI-Systeme eine Kluger Hans-Strategie verwenden.
Evakuierungsaktion bei der Seilbahn Lungern-Turren in Lungern im Kanton Obwalden: Wegen einer technischen Panne mussten rund 27 Personen mit dem Helikopter gerettet werden.
Bild: KEYSTONE
Zu zweit durch dick und dünn – und durch heiss und eiskalt: Dieses Liebespaar sprang am Valentinstag in Hamburg ins kalte Wasser.
Bild: Georg Wendt/dpa
Fasnächtliche und farbenfrohe Puppen zieren das Dorf Seelisberg im Kanton Uri über die Fasnachtstage. Die Fasnacht 2021 ist im Kanton Uri aufgrund der Corona-Ppandemie praktisch verboten, es duerfen maximal nur 5 Personen unterwegs sein, aber als einer der wenigen Kantone ist in Uri das Spielen von Musikinstrumenten erlaubt. (13.02.2021)
Bild: KEYSTONE/Urs Flueeler
Die Pandabären-Geschwister Paule (r) und Pit (l) spielen in ihrem Gehege im Zoo Berlin im Schnee. (13.02.2021)
Bild: Kira Hofmann/dpa-Zentralbild/dpa
Halb Euroopa friert. Diese Heidschnucken in Braunschweig jedoch lassen sich von den frostigen Temperaturen nicht beeindrucken. (13.02.2021)
Bild: Stefan Jaitner/dpa
Sahara-Sand färbt Schnee und Himmel orange im Skigebiet Anzère in der Schweiz.
Bild: Keystone/Laurent Gillieron
Menschen drängen sich in der Einkaufsstrasse Via del Corso in Rom nachdem die Corona-Massnahmen gelockert wurden.
Bild: Cecilia Fabiano/dpa
Irgendwo dort versteckt sich die A7: Nahe Hannover herrscht dichtes Schneetreiben auf der Autobahn.
Bild: Julian Stratenschulte/dpa
Eine Replik der Saffa-Schnecke fotografiert vor der Schweizer Nationalbank während einer Jubiläumsaktion organisiert von Bern Welcome, zu 50 Jahren Frauenstimm- und -wahlrecht. (06.02.2021)
Bild: Anthony Anex/Keystone
Ein Porträt von Elisabeth Vischer-Alioth wartet darauf, an eine Hauswand geklebt zu werden, während der Vorbereitungen zur Ausstellung «Hommage 2021: Porträts von mutigen Frauen in der Berner Altstadt». (06.02.2021)
Bild: Anthony Anex/Keystone
Abgeschirmte Speisekuppel. So geht es auch. Im israelischen Jerusalem speisen Restaurantbesucher abgeschirmt von anderen Gästen in einer Kuppel. Israel plant trotz anhaltend hoher Infektionszahlen erste Lockerungen einleiten. (06.02.2021)
Bild: Muammar Awad/XinHua/dpa
Ein überfluteter Platz beim Flussufer in Saint-Ursanne. Der Fluss Doubs trat nach starken Regenfällen über die Ufer. (31.1.2021)
Bild: Keystone
Während einer Demonstration gegen die Inhaftierung von Kremlkritiker Nawalny führen russische Polizisten einen Mann ab. (31.1.2021)
Bild: Aleksander Khitrov/AP/dpa
Imposante Kulisse: In Los Angeles können sich die Menschen unter anderem auf dem Parkplatz des Dodger Stadium gegen Corona impfen lassen. (31.1.2021)
Bild: Damian Dovarganes/AP/dpa
Mehr als zwei Kilometer durch den eiskalten Bodensee: Der Extremschwimmer Paul Bieber hat mit seinem Versuch den deutschen Rekord im Distanz-Eisschwimmen gebrochen. Der 37-Jährige schwamm bei unter fünf Grad Wassertemperatur 2210 Meter weit. 43,03 Minuten brauchte er dafür. (30.1.2021)
Bild: Felix Kästle/dpa
Gleich zwei Mal binnen 48 Stunden gab es in Raron im Kanton Wallis infolge der Schlechtwettersituation in den letzten Tagen Felsstürze. (30.1.2021)
Bild: KEYSTONE/Laurent Gillieron
Vor einem pittoresken Wolkenhimmel zeigt Max Ross auf einer Slackline im Hillcrest Park im kalifornischen Fullerton sein Können. (30.1.2021)
Bild: Mark Rightmire/The Orange County Register/dpa
Ein internationales Forscherteam hat auf Madagaskar eine neue Chamäleonart entdeckt, bei der das Männchen lediglich 13,5 Millimeter lang ist. Obwohl das männliche Tier das kleinste unter rund 11‘050 Reptilienarten ist, verfügt es in Relation zur Körpergrösse über die die grössten Genitalien. Der Grund: Eine erfolgreiche Paarung mit den bedeutend grösseren Weibchen wäre sonst nicht möglich. (28.1.2021)
Bild: Frank Glaw/SNSB-ZSM/dpa
Und dann hatte Hamburg eine Mülldeponie mehr: Im Stadtteil Norderstedt der Hansestadt türmt sich in einem Gewerbegebiet bis zu sechs Meter Müll wie Bauschutt, Teerpappe, Dämmstoffe, Asbest und anderes. Der Unternehmer, der dort bestimmte Stoffe nur zwischenlagern durfte, ist verschwunden. Die Staatsanwaltschaft sucht nun nach ihm. (27.1.2021)
Bild: Christian Charisius/dpa
«Minor Canyon»: Schwere Regenfälle haben im kalifornischen Monterey County zu Schlammlawinen, Überschwemmungen und zu dieser beeindruckenden Mini-Schlucht geführt. (28.1.2021)
Bild: Noah Berger/AP/dpa
Gedenken: Die New Yorker Verkehrsbetriebe ehren 136 Mitarbeiter, die am Coronavirus gestorben sind, mit einer digitalen Gedenkstätte an 107 U-Bahn-Stationen – wie hier in der Moynihan Train Hall im New Yorker Stadtteil Manhattan. (29.1.2021)
Bild: John Minchillo/AP/dpa
Schlange an der Notaufnahme: Rettungssanitäter warten vor dem Santa Maria Krankenhaus in Lissabon, um Covid-19-Patienten zu übergeben. Portugal gehört momentan zu den Ländern mit den weltweit höchsten Neuinfektionszahlen im Verhältnis zur Einwohnerzahl. (28.1.2021)
Bild: Armando Franca/AP/dpa
Feuer an der Tankstelle: Die deutsche Rastanlage Hunsrück Ost an der Autobahn A61 ist einer nur knapp einer Katastrophe entgangen, nachdem hier ein Kleintransporter beim Betanken in Vollbrand geriet. Erst die Feuerwehr konnte das Feuer löschen – zuvor hatte der Kassier allerdings richtig reagiert und per Notschalter die ganze Tankanlage ausser Betrieb genommen. (28.1.2021)
Bild: Keystone
Strand ohne Leben: Ein Bademeister arbeitet am leeren Strand von Palma auf Mallorca. Derzeit gibt es Corona-bedingt kaum Touristen auf der Ferieninsel. (28.1.2021)
Bild: Mar Granel Palou/dpa
Da kann man auch grosse Augen machen: Auf einer österreichischen Landstrasse ist eine Waldohreule mit einem Auto zusammengestossen. Der Vogel überstand den Crash mit dem Bruch eines Flügels und wird derzeit auf einer Greifvogelstation aufgepäppelt. (28.1.2021)
Bild: APA/Keystone
Phantompatienten: An der Universität Leipzig warten Dummys mit einem Metallkopf, in den künstliche Gebisse hineingeschraubt werden können, auf Zahnmedizinstudenten. (28.1.2021)
Bild: Jan Woitas/dpa-Zentralbild/dpa
Winston hat das Coronavirus besiegt: Der Gorilla erholt sich im Zoo von San Diego nach einer umfangreichen medikamentösen Behandlung von einem schweren Verlauf seiner Corona-Infektion. Bei dem 48-jährigen Silberrücken Winston waren im Zuge der Infektion eine Lungenentzündung und Herzprobleme aufgetreten. Er wurde daraufhin mit einer Antikörper-Therapie, Herzmedikamenten und Antibiotika behandelt. (26.1.2021)
Bild: Ken Bohn/San Diego Zoo Global/dpa
Auf glühenden Kohlen: Ein Mann produziert im Gaza-Streifen beim dort grössten Produzenten Holzkohle. Als bestes und teuerstes Holz für diesen Zweck gilt das von Zitrusbäumen, aber auch das von Olivenbäumen wird gerne verwendet. (26.1.2021)
Bild: Keystone
Von Ruhe auf einer Parkbank kann hier nicht die Rede sein: Möwen und Tauben schwirren und fliegen um eine Frau in Tokio umher. (26.1.2021)
Bild: Eugene Hoshiko/AP/dpa
Schnack beim Snack: Fischer Willy Rivas scherzt im peruanischen Lima mit einem Freund beim Essen in der Fischerbucht in Chorrillos. (26.1.2021)
Bild: Rodrigo Abd/AP/dpa
Banger Blick zum Horizont: Ein freiwilliger Helfer benutzt sein Walkie-Talkie, während er den Vulkan Mount Merapi während einer Eruption überwacht. Der Vulkan, der als einer der gefährlichsten der Welt gilt, ist erneut ausgebrochen und spukte mehrere Stunden glühende Asche und Gestein. (27.1.2021)
Bild: Slamet Riyadi/AP/dpa
Stausee verkommt zu «fliessenden Müllhalde: Ein Mann geht an Tonnen von Müll vorbei, die am Fusse des Wasserkraftwerks am Potpecko-Stausee in Serbien schwimmen. Vor allem Plastikabfälle gelangen durch Nebenflüsse in den Stausee und sammeln sich hier an. Eine serbische Zeitung schrieb bereits von einer «fliessenden Müllhalde». (26.1.2021)
Bild: Darko Vojinovic/AP/dpa
Dickschädeltest: Stirn an Stirn messen zwei Rinder im deutschen Naturschutzgebiet Boberger Niederung ihre Kräfte. (25.1.2021)
Bild: Daniel Bockwoldt/dpa
Nasskaltes Ende: Zwischen Frauenfeld und Matzingen ist eine 33-jährige Wagenlenkerin bei Glatteis von der Strasse abgekommen und im Murgkanal gelandet. Die Frau wurde mit leichten Verletzungen ins Spital gebracht. (26.1.2021)
Bild: Kapo TG
Opfer der Zerstörungswut: Ein Mann räumt in einem Fast-Food-Restaurant in Rotterdam auf. Die Niederlande sind erneut von sogenannten Corona-Krawallen erfasst worden. Hunderte gewaltbereite Jugendliche hatten nach Polizeiangaben in mehreren Städten randaliert und dabei auch die Polizei angegriffen. (25.1.2021)
Bild: Peter Dejong/AP/dpa
Auf den Hund gekommen: Vierbeiner der Indian Railway Protection Force zeigen anlässlich des indischen Nationalfeiertags ihre Kunststückchen.
Bild: KEYSTONE
Galionsfigur mit Kettensäge: Im ungarischen Szilvásvárad streckt sich ein Feuerwehrmann auf dem Dach eines Zugs, um einen Ast abzusägen, der unter der Schneelast heruntergebrochen ist und die Bahnstrecke blockiert. (25.1.2021)
Bild: Keystone
Und sie tun es immer noch: In Rio De Janeiro tummeln sich grosse Menschenmengen auf engem Raum am Strand von Ipanema in Rio de Janeiro. Und das obwohl Brasilien nach wie vor sehr hohe Corona-Fallzahlen hat.
Bild: Bruna Prado/AP/dpa
Himmlische Hilfe: Feuerwehrfrau Tegan Rayner von der Belair Brigade CFS freut sich über den Regen, während sie nach Löscharbeiten der Buschbrände in Cherry Gardens in der Nähe von Adelaide, Australien, steht. (25.1.2021)
Bild: Brenton Edwards/ADELAIDE ADVERTISER/AAP/dpa
Winterfest: Stammrosen sind im Rosenpark Dräger in Steinfurth, Deutschland, mit Folie kältesicher verpackt. (25.1.2021)
So bastelst du mit KI deine ganz persönliche Weihnachtskarte
Dank KI kann inzwischen jeder noch viel kreativer sein, wenn es um Grusskarten geht. Wir zeigen dir am Beispiel einer persönlichen Weihnachtskarte wie du dabei vorgehst.
13.12.2024
Online-Elternabend: «Sharenting – Umgang mit Kinderbildern im Netz»
«Sharenting» steht für das Phänomen, wenn Eltern, Erziehungsberechtigte oder auch Grosseltern Fotos ihrer Kinder online stellen und teilen. Unter der Leitung von Claudia Lässer diskutierten Expert*innen und Eltern über das Thema.
20.11.2024
Elternabend bei blue Zoom: Die Folgen von Sharenting für die Kinder
Das Teilen von Kinderfotos im Internet birgt Gefahren. Am Online-Elternabend auf blue Zoom und im blue Zoom Livestream am 19. November, 20 Uhr, sprechen Medienexperten und Eltern über Datenmissbrauch, Mobbing und andere Risiken.
08.11.2024
So bastelst du mit KI deine ganz persönliche Weihnachtskarte
Online-Elternabend: «Sharenting – Umgang mit Kinderbildern im Netz»
Elternabend bei blue Zoom: Die Folgen von Sharenting für die Kinder