Informationstechnologie Chat-GPT verbreitet Fake-News erfolgreich

Chat-GPT hat ein Talent für die Erstellung überzeugender Falschinformationen. In einer Studie der Universität Zürich (UZH) hatten Teilnehmende bei von Chat-GPT generierten Tweets mehr Mühe, Fake-News zu erkennen, als bei jenen, die von Menschen verfasst wurden.

Gleichzeitig verstanden die Teilnehmerinnen und Teilnehmer aber von Chat-GPT produzierte Tweets besser, wie die am Mittwochabend im Fachblatt «Science Advances» publizierte Studie zeigt. Unterscheiden welche Tweets von Chat-GPT und welche von Menschen verfasst wurden, konnten die Studienteilnehmerinnen und -teilnehmer nicht zuverlässig. «GPT-3 ist ein zweischneidiges Schwert», schrieben die Forscherinnen und Forscher in der Studie.

Die Wissenschaftlerinnen und Wissenschaftler der Universität Zürich liessen für die Studie 697 Teilnehmerinnen und Teilnehmern im Alter von 26 bis 76 raten, ob ein Tweet von einem realen Twitter-Nutzer oder von Chat-GPT-3 verfasst wurde. Zudem wurden die Teilnehmenden gefragt, ob die Tweets der Wahrheit entsprechen oder nicht. Die Themenfelder der Tweets beinhalteten unter anderem die Coronapandemie und die Sicherheit von Impfstoffen, den Klimawandel und homöopathische Behandlungen für Krebs.

Chancen und Risiken

Dabei erkannten die Teilnehmenden von Menschen verfasste Fehlinformationen mit einer Wahrscheinlichkeit von 92 Prozent, von Chat-GPT erstellte mit einer Wahrscheinlichkeit von 89 Prozent. Zudem dauerte es bei von Menschen verfassten Tweets im Schnitt länger, bis die Teilnehmenden feststellten, ob ein Tweet korrekt war oder nicht. Das zeigt laut der Studie, dass GPT-3 «effizienter» informiert als Menschen.

Diese Resultate deuten darauf hin, dass von GPT-3 erstellte (aber von geschulten Menschen bewertete) Informationskampagnen etwa in Krisensituationen effektiver wären, wie die UZH in einer Mitteilung zur Studie schrieb. Die Erkenntnisse zeigen demnach aber auch Risiken. Die Forschenden plädieren deshalb in der UZH-Mitteilung für strenge, evidenzbasierte und ethisch fundierte Vorschriften, um der potenziellen Bedrohung durch diese Technologien zu begegnen.

https://doi.org/10.1126/sciadv.adh1850