Informationstechnologie EU setzt Regeln für den Umgang mit KI in Kraft

In der Europäischen Union werden am Sonntag neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft gesetzt. Nach dem KI-Gesetz der EU (AI Act) sind KI-Systeme verboten, die «unannehmbare Risiken» für Sicherheit, Gesundheit oder Grundrechte darstellen.

Keystone-SDA

01.02.2025, 13:45

SDA

So untersagt die EU den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring werden etwa die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.

Lange Liste

Nicht erlaubt sind weiterhin manipulative KI-Systeme, die betrügerische Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug, das Kinder zu einem gefährlichen Verhalten verleitet.

Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte «Robo-Calls», die zum Betrug älterer Menschen eingesetzt werden können.

Die Gesichtserkennung im öffentlichen Raum soll ebenfalls grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

Stichtag 2. Februar

Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Massnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Mass an «KI-Kompetenz» verfügen.

Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die Präsidentin der Europäischen Zentralbank, Christine Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. «Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten.» Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, schrieben von der Leyen und Lagarde.