Swisscom Nachhaltigskeitsblog Maschinen bleiben Maschinen, solange sie keine menschliche Identität haben

Künstliche Intelligenz wird immer gescheiter – bald gescheiter als die Menschheit? Zwei Experten über das Szenario der Singularität

Die Anwendungsbereiche von Künstlicher Intelligenz (KI) werden von Jahr zu Jahr vielfältiger. Haben Sie beispielsweise kürzlich einen Kundendienst online via Chat kontaktiert? Dann ist es gut möglich, dass Sie es am anderen Ende der Leitung nicht mit einer Person zu tun hatten, sondern mit einem Bot – einem automatischen Kommunikationsprogramm, welches auf Basis eines Algorithmus mit jedem Kundenkontakt die entsprechenden Fragen und Probleme besser verstehen lernt und autonom immer bessere Lösungen bereitstellen kann.

Singularität

Alexa und Siri, die Servicestimmen von Amazon und Apple, basieren ebenfalls auf KI und verbessern sich mit jeder menschlichen Interaktion selber. Wo geht diese Entwicklung hin? Kümmern sich bald Maschinen um all unsere Bedürfnisse – oder nimmt KI dereinst überhand und wendet sich gar gegen uns Menschen?

Zukunftstheorien im Zusammenhang mit Künstlicher Intelligenz werden unter dem Begriff der Singularität zusammengefasst, einer Hypothese, die besagt, dass KI unkontrollierbares technologisches Wachstum auslösen wird, welches zu Veränderungen der menschlichen Zivilisation führt. Actionreich beschrieben wird dieses Szenario im Film «Terminator 3», wenn ein allumfassendes Computerprogramm namens Skynet plötzlich die Kontrolle über die Waffensysteme der Armee übernimmt und sich mit einem Atomschlag gegen die Menschheit richtet.

Niemand stirbt

Von solchen Horrorszenarien aus Hollywood sollte man sich aber nicht beunruhigen lassen, dafür steht unsere Forschung und Entwicklung noch in den Kinderschuhen. Und wir dürfen nie vergessen: Technologien werden von Menschen entwickelt. Wir bestimmen selbst, in welche Richtung wir KI und Co. entwickeln und wie wir sie einsetzen wollen. Es muss unterschieden werden, wo Künstliche Intelligenz ein Bedürfnis deckt, einfach nice to have ist und wo sie von A bis Z fehlerfrei funktionieren muss.

Wenn fünf Prozent der Kunden von einem KI-basierten Chatbot nicht zufriedenstellend bedient werden können, stirbt niemand. Höchstens ärgert man sich über sein ungelöstes Problem und versucht es nochmals. «Wenn wir aber die gleiche Fehlerquote fürs Strafrecht oder selbstfahrende Autos übernehmen, haben wir ein Problem», sagt Ranga Yogeshwar. Der deutsche Physiker und Wissenschaftsjournalist spielt darauf an, dass fünf Prozent fälschlicherweise ins Gefängnis geworfene beziehungsweise von einem selbstfahrenden Fahrzeug überfahrene Menschen natürlich keineswegs in unserem Sinne sein können.

Ethik der Maschinen

Solche Überlegungen führen schnell zur Frage nach ethischen Grundsätzen. Solche haben Menschen – aber Maschinen? Für Peter G. Kirchschläger von der Universität Luzern ist klar, dass Maschinen wie selbstfahrende Autos zwar ethische Grundsätze befolgen können, sprich so programmiert werden können, dass sie auf dem effizientesten Weg von A nach B keine Menschen überfahren, um schneller ans Ziel zu gelangen. «Aber Maschinen werden nie fähig sein, von sich aus ethische Werte zu entwickeln, wie wir Menschen dies tun», sagt der Professor für Theologische Ethik.

Für Yogeshwar hat KI vor allem viel mit unserem Menschsein zu tun, mit unserer Identität, die uns von den Maschinen unterscheidet. «So wie sich Aristoteles über den Unterschied von Mensch und Tier Gedanken gemacht hat, stellt sich diese Frage heute zwischen Mensch und Maschine», so der Moderator des Wissensmagazins «Quarks». Er geht davon aus, dass Maschinen in naher Zukunft ein völlig normaler Teil unseres Lebens sein werden und plädiert dafür, sie überall zu nutzen, wo es für uns Sinn ergibt und uns Menschen hilft. Und es passiert: Erst kürzlich haben es Forscher der ETH Lausanne möglich gemacht, dass eine querschnittgelähmte Person dank neuster Technologie wieder gehen konnte.

Widersprüche 

Doch schon heute gibt es auch in diesem Bereich negative Beispiele technologischer Entwicklungen, denken wir an Kriegsmaschinen wie bewaffnete, autonom tötende Killerdrohnen im Auftrag von Armeen. Fairerweise muss dabei angemerkt werden, dass diese Drohnen ihren Job nur erfüllen, weil sie von Menschen dafür gebaut und programmiert wurden. Es stecken also menschliche ethische Grundsätze dahinter, wenn auch verwerfliche.

Frei von solchen Widersprüchen sind auch die Tech-Giganten der Wirtschaft nicht. Ethikprofessor Kirchschläger: «Facebook-Chef Mark Zuckerberg hat sich für mehr Privatsphäre alle anderen Häuser rund um sein Anwesen gekauft» – sein Unternehmen wiederum nimmt es bekanntlich weniger genau mit der Privatsphäre der Daten seiner Nutzer. Und Ranga Yogeshwar würde sich nicht wundern, wenn Google bald ins Geschäft der Krankenversicherungen einstiege. Schliesslich suchen wir alle zuerst im Internet nach möglichen Diagnosen, wenn uns etwas plagt. Dr. Google hat vielleicht jetzt schon mehr Daten über unseren Gesundheitszustand als unser Hausarzt.

Trotzdem sind wir noch Jahrzehnte von einer möglichen technologischen Singularität entfernt. Nach wie vor ist es der Mensch, der die Technologie um sich herum gestaltet. Solange Maschinen über keine eigene Identität mit einem eigenen Wertesystem verfügen, sind sie keine Menschen.

Über den Nachhaltigkeitsblog

Hier erhalten Sie von Swisscom-Mitarbeitenden und Experten aktuelle Tipps für einen nachhaltigen Lebensstil und für einen kompetenten Umgang mit neuen Medien. Wir porträtieren Unternehmen und Technologien, die innovative Lösungen bieten für die gesellschaftlichen und ökologischen Herausforderungen unserer Zeit. Abonnieren Sie jetzt unseren Newsletter und bleiben Sie informiert. Das Bluewin-Portal ist eine Unternehmenseinheit der Swisscom (Schweiz) AG.