Wissen Studie: Skepsis gegenüber medizinischen KI-Ratschlägen

Künstliche Intelligenz (KI) spielt eine immer grössere Rolle in der Medizin. Glauben Menschen aber, dass ein medizinischer Ratschlag von einem Chatbot stammt, kommt Skepsis auf, so das Ergebnis einer Studie, über die im Fachblatt «Nature Medicine» berichtet wird.

Vor allem Verlässlichkeit und Empathie der KI-Ratschläge werden negativ bewertet. Deutsche Wissenschaftler untersuchten die Reaktion von Menschen auf KI-generierte medizinische Ratschläge. «Uns interessierte nicht die technische Kompetenz der KI, sondern allein die Frage, wie der KI-Output wahrgenommen wird», sagt Moritz Reis von der Julius-Maximilians-Universität.

Dafür teilte die Forschungsgruppe mehr als 2000 Studienteilnehmer in drei Gruppen ein, die im Rahmen des Experiments identische medizinische Ratschläge erhielten. Die erste Gruppe bekam gesagt, dass die Empfehlungen von einem Arzt oder einer Ärztin stammten. Bei der zweiten wurde ein KI-basierter Chatbot als Urheber genannt und die dritte Gruppe ging davon aus, dass die Ratschläge zwar von einem Chatbot stammten, aber nochmal von Arzt oder Ärztin überprüft wurden.

Menschen sind voreingenommen

Die Probanden bewerteten die Empfehlungen auf Verlässlichkeit, Verständlichkeit und Empathie. Sobald sie vermuteten, dass eine KI beteiligt war, nahmen sie die Ratschläge als weniger empathisch und verlässlich wahr. Dies galt auch für die Gruppe, die glaubte, dass ein Arzt oder eine Ärztin die KI-Empfehlungen überprüft hatte. Entsprechend waren sie weniger bereit, diesen Empfehlungen zu folgen.

«Der Effekt der Voreingenommenheit gegen KI ist zwar nicht riesig, aber statistisch signifikant», kommentiert Reis. «Jeder Mensch kann Patient sein und solche Tools nutzen. Daher können auch kleinere Effekte gesellschaftlich grosse Relevanz entwickeln.»

Erklärungsansätze für KI-Skepsis

Die KI-Skepsis erklärt sich der Kognitionspsychologe teilweise mit Stereotypen: «Viele glauben, eine Maschine könne nicht empathisch sein.» Bei der Verständlichkeit bewerteten alle drei Gruppen die Ratschläge jedoch gleich. «Empathie wird wahrscheinlich als menschliche Eigenschaft gesehen, während Verständlichkeit als technische Kompetenz gilt», so Reis. Für die Forschungsgruppe ist die festgestellte KI-Skepsis wichtig, da Künstliche Intelligenz in der Medizin eine immer wichtigere Rolle spiele. Tatsächlich gibt es zahlreiche Veröffentlichung über neue KI-Anwendungsmöglichkeiten.