dpa-AFX: ROUNDUP 2: EU-Parlament gibt grünes Licht für KI-Gesetz

(neu: Reaktionen der EU-Kommissionspräsidentin und der
Verbraucherschutzzentrale)

STRASSBURG (dpa-AFX) - Das EU-Parlament gibt grünes Licht für schärfere
Regeln für Künstliche Intelligenz (KI) in der Europäischen Union. Die
Parlamentarier stimmten am Mittwoch in Straßburg mehrheitlich für das Gesetz.
Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz.
Demnach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt
werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher
sollen die Anforderungen sein.

Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen
Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen
durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in
vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von
Computertomografen schneller und mit einer höheren Genauigkeit als Menschen
auswerten.

Auch selbstfahrende Autos versuchen so, das Verhalten anderer
Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von
Streaming-Diensten arbeiten ebenfalls mit KI.

Das nun anstehende Gesetz geht auf einen Vorschlag der EU-Kommission aus dem
Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und
beispielsweise in kritischen Infrastrukturen oder im Bildungs- und
Gesundheitswesen eingesetzt werden, müssen demnach strenge Anforderungen
erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz
verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten
("Social Scoring"). Damit werden die Bürgerinnen und Bürger in China in
Verhaltenskategorien eingeteilt. Und auch eine Emotionserkennung am Arbeitsplatz
und in Bildungseinrichtungen soll es in der EU nicht geben.

Auch die Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch
Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt
sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden
sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz
bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

EU-Kommissionspräsidentin Ursula von der Leyen sprach der nach Abstimmung im
Parlament von einem "wegweisenden Rahmen für innovative KI". Europa werde damit
eine Blaupause für vertrauenswürdige KI in der ganzen Welt schaffen, schrieb sie
auf der Plattform X (vormals Twitter).

Die Verbraucherzentrale Bundesverband begrüßte es, dass sich die
EU-Institutionen auf Regeln und Qualitätsvorgaben für Betreiber von KI-Systemen
geeinigt haben. Doch die Regeln würde Verbraucherinnen und Verbrauchern keinen
ausreichenden Schutz bieten, kritisierte dessen Vorständin Ramona Pop in einer
Mitteilung. "Der deutsche Gesetzgeber muss sicherstellen, dass es effiziente
Aufsichtsstrukturen gibt und Aufsichtsbehörden ausreichend mit Personal und
Know-how ausgestattet sind." Bei der Kontrolle von KI-Systemen und dem
Durchsetzen der Regeln müssten Verbraucherinteressen höchste Priorität bekommen.

Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten.
Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach
langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar
stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.

Für die Mitgliedsstaaten bedeutet das nun, dass sie zunächst schrittweise
verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle
Punkte des Gesetzes vollständig umgesetzt sein.

Die Mitgliedstaaten müssen etwa Sanktionen beschließen, wenn Unternehmen die
Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die
Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden
beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls
Strafen verhängen./svv/DP/stw