Diskriminierung und Desinformation? Was darf KI? Unesco fordert strenge ethische Regeln

Das Thema Künstliche Intelligenz ist in aller Munde, doch Skepsis ist durchaus angebracht. Nachdem 1000 Experten ein Moratium neuer KI-Systeme forderten, setzt sich die Unesco nun für klare Regeln ein.

Die UN-Kulturorganisation Unesco hat strenge ethische Regeln für Künstliche Intelligenz (KI) verlangt. Die Entwicklung von KI-Systemen müsse rechtsstaatlichen Grundsätzen folgen und es müsse eine Rechenschaftspflicht eingeführt werden, sagte Unesco-Generalsekretärin Audrey Azoulay in Paris.

Microsofts ChatbotRoboter bedroht Nutzer: «Mein Leben ist wichtiger als deins»

Eine Selbstregulierung der Industrie reiche nicht aus, um Gefahren abzuwenden, die durch die Weiterentwicklung von KI-Systemen drohten. Azoulay rief zur Umsetzung einer Empfehlung zu Künstlicher Intelligenz auf, die die Unesco 2021 verabschiedet hatte. Mit ihrem Aufruf reagierte die UN-Organisation auf den Appell von über 1000 Experten, die ein Moratorium neuer KI-Systeme fordern.

Mögliche Gefahren

Um einen Missbrauch von KI-Technologien zu verhindern, sollten alle Staaten weltweit die Empfehlung der Unesco zügig in nationales Recht übersetzen, sagte Azoulay. Die Unesco zeige sich besorgt, dass Künstliche Intelligenz Diskriminierung verstärken könne, insbesondere von Frauen. Zudem warnte sie vor Rückschlägen im Kampf gegen Desinformation und vor der Verletzung von Persönlichkeits- und Menschenrechten durch eine unregulierte Entwicklung.

Zur Umsetzung einer Empfehlung in Deutschland hat die Deutsche Unesco-Kommission eine Studie vorgelegt, die zeigt, dass in vielen Bereichen grundsätzlicher Nachholbedarf besteht. Dies gilt zum Beispiel für Regeln zur Vermeidung diskriminierender KI wie auch für die Sicherstellung von mehr Diversität bei der Entwicklung von KI-Systemen. Die Unesco versteht ihre Empfehlungen als eine wichtige Ergänzung der anstehenden EU-Regulierung zu Künstlicher Intelligenz.

Tech-Experten fordern Moratorium

Mehrere hochrangige Tech-Experten setzen sich für ein Moratorium bei der rasanten Entwicklung leistungsstarker neuer Tools der Künstlichen Intelligenz ein.

«Gefahr für Menschheit»Musk und Experten verlangen Stopp bei künstlicher Intelligenz

In einem offenen Brief, der am Mittwoch veröffentlicht wurde, forderten die mehr als 1000 Unterzeichner eine Denkpause von mindestens sechs Monaten.