Der Europarat hat mit der Verabschiedung des ersten internationalen rechtsverbindlichen Vertrags, der sicherstellen soll, dass Systeme der künstlichen Intelligenz (KI) die Menschenrechte respektieren, die Rechtsstaatlichkeit wahren und demokratische Standards unterstützen, einen wichtigen Schritt getan. Dieser bahnbrechende Vertrag, der auch Ländern außerhalb Europas offensteht, schafft einen umfassenden Rechtsrahmen, der den gesamten Lebenszyklus von KI-Systemen abdeckt, potenzielle Risiken abdeckt und gleichzeitig verantwortungsvolle Innovationen fördert.
Über die KI-Rahmenkonvention
Das Rahmenübereinkommen über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit, das vom Ministerkomitee des Europarats auf seinem jährlichen Ministertreffen in Straßburg angenommen wurde, soll die Risiken von KI-Technologien mindern. Der Vertrag fördert einen risikobasierten Ansatz für die Entwicklung, den Einsatz und die Stilllegung von KI und betont die Notwendigkeit, alle nachteiligen Folgen zu berücksichtigen.
Marija Pejčinović, Generalsekretärin des Europarats, hob die Bedeutung des Vertrags hervor: „Dieser globale Vertrag stellt sicher, dass KI die Menschenrechte respektiert. Er entspricht dem Bedürfnis nach einem internationalen Rechtsstandard, der von Staaten auf allen Kontinenten, die dieselben Werte teilen, unterstützt wird, um die Vorteile der KI zu nutzen und gleichzeitig die Risiken zu mindern. Wir wollen sicherstellen, dass bei der Nutzung von KI die Menschenrechte, die Rechtsstaatlichkeit und die Demokratie geachtet werden. „Gemeinsame Entwicklung und breiter Geltungsbereich
Das Übereinkommen ist das Ergebnis zweijähriger Arbeit des Ausschusses für künstliche Intelligenz (CAI), an der 46 Mitgliedsstaaten des Europarats, die Europäische Union und 11 Nichtmitgliedsstaaten beteiligt waren, darunter Argentinien, Australien, Costa Rica, der Heilige Stuhl, Israel, Japan, Kanada, Mexiko, Peru, die Vereinigten Staaten und Uruguay. Auch der Privatsektor, die Zivilgesellschaft und die Wissenschaft haben sich an den Bemühungen beteiligt.
Der Vertrag gilt für KI-Systeme, die sowohl im öffentlichen als auch im privaten Sektor eingesetzt werden. Er bietet den Vertragsparteien, die den privaten Sektor regulieren, zwei Möglichkeiten zur Einhaltung des Abkommens: direkte Verpflichtungen gemäß den Bestimmungen des Abkommens oder alternative Maßnahmen, die die internationalen Menschenrechte, die Demokratie und die Rechtsstaatlichkeit achten. Diese Flexibilität trägt der Vielfalt der Rechtssysteme auf der ganzen Welt Rechnung.
Transparenz und Rechenschaftspflicht
Die Konvention legt spezifische Transparenz- und Aufsichtsanforderungen fest, die auf dem Kontext und dem Risiko basieren, einschließlich der Identifizierung von KI-generierten Inhalten. Die Vertragsparteien müssen Schritte unternehmen, um potenzielle Risiken zu bewerten und zu mindern, einschließlich der Erwägung von Moratorien, Verboten oder anderen geeigneten Maßnahmen für KI-Nutzungen, die mit Menschenrechtsstandards unvereinbar sind.
Der Vertrag verlangt Rechenschaft über negative Auswirkungen und stellt sicher, dass KI-Systeme das Recht auf Gleichheit, Nichtdiskriminierung und Privatsphäre achten. Er verlangt außerdem, dass Opfer von Menschenrechtsverletzungen im Zusammenhang mit KI-Systemen Zugang zu Rechtsmitteln und Verfahrensgarantien, wie z. B. Benachrichtigung, haben, wenn sie mit KI-Systemen interagieren.
Um die demokratischen Prozesse zu schützen, müssen die Vertragsparteienverhindern, dass KI die demokratischen Institutionen untergräbt, einschließlich der Wahrung der Unabhängigkeit der Justiz und des Zugangs zur Justiz. Obwohl nationale Sicherheitsaktivitäten von den Bestimmungen des Vertrags ausgenommen sind, müssen sie dennoch das Völkerrecht und demokratische Prozesse respektieren.
Umsetzung und Zukunft
Um eine wirksame Umsetzung sicherzustellen, sieht der Vertrag einen Follow-up-Mechanismus durch eine Konferenz der Vertragsparteien vor. Jede Vertragspartei muss außerdem ein unabhängiges Aufsichtsgremium einrichten, das die Einhaltung des Abkommens überwacht, die Öffentlichkeit sensibilisiert, informierte Debatten fördert und Konsultationen zwischen verschiedenen Interessengruppen über den Einsatz von KI-Technologien durchführt.
Der Rahmenvertrag wird am 5. September in Vilnius, Litauen, während einer Konferenz der Justizminister/innen zur Unterzeichnung aufgelegt. Dieser Vertrag ist ein wichtiger Schritt auf dem Weg zu weltweit harmonisierten KI-Vorschriften, die ein Gleichgewicht zwischen Innovation und dem Schutz der Grundrechte herstellen.
Quellen: 133. Sitzung des Ministerkomitees
