EU-Rat: Erste globale KI-Verordnung

Der Rat der Europäischen Union hat das bahnbrechende Gesetz zur Künstlichen Intelligenz (KI) offiziell verabschiedet und damit den ersten globalen Standard für die Regulierung von KI gesetzt. Diese bahnbrechende Gesetzgebung verfolgt einen „risikobasierten“ Ansatz und legt strengere Regeln für KI-Systeme fest, die ein höheres Risiko für die Gesellschaft darstellen.

Die KI-Gesetz zielt darauf ab, die Entwicklung und Einführung von sicheren und vertrauenswürdigen KI-Systemen im gesamten EU-Binnenmarkt sowohl im privaten als auch im öffentlichen Sektor zu fördern. Er soll den Schutz der Grundrechte der EU-Bürgerinnen und -Bürger gewährleisten und gleichzeitig Investitionen und Innovationen in KI-Technologien fördern. Das Gesetz gilt nur für Bereiche, die unter EU-Recht fallen, und enthält Ausnahmen für Systeme, die ausschließlich für militärische, verteidigungspolitische und Forschungszwecke verwendet werden.

„Dieses bahnbrechende Gesetz ist eine Antwort auf eine globale technologische Herausforderung und schafft gleichzeitig Chancen für unsere Gesellschaften und Volkswirtschaften. Mit dem KI-Gesetz unterstreicht Europa die Bedeutung von Vertrauen, Transparenz und Verantwortlichkeit im Umgang mit neuen Technologien“, sagte Mathieu Michel, belgischer Staatssekretär für Digitalisierung.

Hochriskante und verbotene KI-Praktiken

Das KI-Gesetz klassifiziert KI-Systeme auf der Grundlage ihrer Risikostufen. Für Systeme mit begrenztem Risiko gelten minimale Transparenzpflichten, während KI-Systeme mit hohem Risiko strenge Anforderungen erfüllen müssen, um Zugang zum EU-Markt zu erhalten. KI-Anwendungen wie kognitive Verhaltensmanipulation und Social Scoring sind aufgrund ihrer inakzeptablen Risikostufen verboten. Darüber hinaus verbietet das Gesetz den Einsatz von KI in der vorausschauenden Polizeiarbeit, die auf der Erstellung von Profilen basiert, und in Systemen, die Personen anhand biometrischer Daten nach Ethnie, Religion oder sexueller Orientierung kategorisieren.

Allzweck-KI-Modelle

Die Gesetzgebung befasst sich auch mit KI-Modellen für allgemeine Zwecke (GPAI). Für Modelle, die keine systemischen Risiken darstellen, gelten nur begrenzte Anforderungen, die vor allem die Transparenz betreffen. GPAI-Modelle mit systemischen Risiken müssen jedoch strengere Standards erfüllen.

Neue Governance-Struktur

Um eine wirksame Durchsetzung zu gewährleisten, sieht das AI-Gesetz mehrere Gremien vor:

• Ein KI-Büro innerhalb der Kommission zur Durchsetzung der Regeln in der gesamten EU
• Ein wissenschaftliches Gremium unabhängiger Experten zur Unterstützung der Durchsetzungsmaßnahmen
• Ein AI Board, das sich aus Vertretern der Mitgliedsstaaten zusammensetzt und die Kommission und die Mitgliedsstaaten bei der einheitlichen Anwendung des Gesetzes berät
• Ein Beratungsforum für Interessengruppen, das dem AI-Vorstand und der Kommission technisches Fachwissen zur Verfügung stellt

Sanktionen und Einhaltung

Das Gesetz sieht Geldbußen für Verstöße vor, die als Prozentsatz des Gesamtjahresumsatzes des Unternehmens oder eines vorher festgelegten Betrags berechnet werden, je nachdem, welcher Betrag höher ist. KMU und Start-ups müssen mit proportionalen Bußgeldern rechnen.

Transparenz und Schutz der Grundrechte

KI-Systeme mit hohem Risiko, die in öffentlichen Diensten eingesetzt werden, müssen vor ihrem Einsatz einer Folgenabschätzung für die Grundrechte unterzogen werden. Die Verordnung schreibt mehr Transparenz bei der Entwicklung und Nutzung von KI-Systemen mit hohem Risiko vor. Öffentliche Stellen, die risikoreiche KI-Systeme und Emotionserkennungssysteme einsetzen, müssen diese in der EU-Datenbank registrieren und die Bürgerinnen und Bürger informieren, wenn sie mit solchen Systemen in Berührung kommen.

Förderung der Innovation

Das KI-Gesetz fördert einen innovationsfreundlichen Rechtsrahmen, der evidenzbasiertes regulatorisches Lernen begünstigt. Es enthält Bestimmungen für KI-Sandkästen, in denen innovative KI-Systeme unter kontrollierten, realen Bedingungen getestet und validiert werden können.

Nächste Schritte

Der Rechtsakt wird in den kommenden Tagen von den Präsidenten des Europäischen Parlaments und des Rates unterzeichnet und im Amtsblatt der EU veröffentlicht. Er wird 20 Tage nach der Veröffentlichung in Kraft treten und seine Bestimmungen werden mit einigen Ausnahmen zwei Jahre später anwendbar sein.

Hintergrund

Das KI-Gesetz ist ein wichtiger Bestandteil der EU-Strategie zur Förderung einer sicheren, legalen und die Grundrechte achtenden KI. Der Vorschlag wurde von Kommissar Thierry Breton im April 2021 vorgelegt, Brando Benifei und Dragoş Tudorache waren die Berichterstatter des Europäischen Parlaments. Eine vorläufige Einigung wurde am 8. Dezember 2023 erzielt.