Gesetz über künstliche Intelligenz – Artificial Intelligence Act

Gesetzentwürfe:

Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union
Kompromisstext (konsolidierte Fassung 11.5.2023)
Antrag der Fraktion CDU/CSU – Unklarheiten im AI-Act beseitigen: BT Drs. 20/7583

Die Europäische Kommission hat am 21. April 2021 einen Entwurf für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz vorgelegt. Ziel der Kommission ist es, einen einheitlichen Rechtsrahmen für vertrauenswürdige KI zu schaffen und dabei die KI-Systeme in Risikostufen zu klassifizieren, die je nach Anwendung in Bezug auf Sicherheit und Transparenz weiteren Regulierungen unterliegen. Eine genaue Darstellung des Verordnungsentwurfs finden Sie bei Engelhard/Schiemann, KriPoZ 2022, 444 ff.

Ein unannehmbares Risiko ergibt sich für KI Systeme, wenn sie für Menschen eine Bedrohung darstellen können. Diese Systeme werden verboten und können nur ausnahmsweise zulässig sein. Dazu gehören z.B. kognitive Verhaltensmanipulationen von Menschen (bspw. Spielzeug, das sprachgesteuert ist und gefährdende Verhaltensweisen fördern kann), Klassifizierungen von Menschen durch Soziales Scoring oder biometrische Echtzeit-Identifizierungssysteme, wie die Gesichtserkennung.

Hochrisiko-Systeme bilden die Gruppe, die für die Grundrechte, die Gesundheit oder die Sicherheit gefährdend sein können und werden vor Inverkehrbringen und während ihres Verwendungszyklus bewertet. Sie werden in zwei Kategorien eingeteilt:

I. Systeme, die in Produkten verwendet werden, die unter Produktsicherheitsvorschriften der Europäischen Union fallen (bspw. Fahrzeuge, medizinische Geräte, Luftfahrt) und

II. Systeme, die zwingend in einer EU-Datenbank registriert werden müssen, wenn sie in einer der acht Bereiche fallen:

„Biometrische Identifizierung und Kategorisierung natürlicher Personen:

a) KI-Systeme, die bestimmungsgemäß für die biometrische Echtzeit- Fernidentifizierung und nachträgliche biometrische Fernidentifizierung natürlicher Personen verwendet werden sollen;
Verwaltung und Betrieb kritischer Infrastrukturen:

a) KI-Systeme, die bestimmungsgemäß als Sicherheitskomponenten in der Verwaltung und im Betrieb des Straßenverkehrs sowie in der Wasser-, Gas-, Wärme- und Stromversorgung verwendet werden sollen;
Allgemeine und berufliche Bildung:

a) KI-Systeme, die bestimmungsgemäß für Entscheidungen über den Zugang oder die Zuweisung natürlicher Personen zu Einrichtungen der allgemeinen und beruflichen Bildung verwendet werden sollen;

b) KI-Systeme, die bestimmungsgemäß für die Bewertung von Schülern in Einrichtungen der allgemeinen und beruflichen Bildung und für die Bewertung der Teilnehmer an üblicherweise für die Zulassung zu Bildungseinrichtungen erforderlichen Tests verwendet werden sollen;
Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit:

a) KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere für die Bekanntmachung freier Stellen, das Sichten oder Filtern von Bewerbungen und das Bewerten von Bewerbern in Vorstellungsgesprächen oder Tests;

b) KI-Systeme, die bestimmungsgemäß für Entscheidungen über Beförderungen und über Kündigungen von Arbeitsvertragsverhältnissen, für die Aufgabenzuweisung sowie für die Überwachung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden sollen;
Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen:

a) KI-Systeme, die bestimmungsgemäß von Behörden oder im Namen von Behörden verwendet werden sollen, um zu beurteilen, ob natürliche Personen Anspruch auf öffentliche Unterstützungsleistungen und -dienste haben und ob solche Leistungen und Dienste zu gewähren, einzuschränken, zu widerrufen oder zurückzufordern sind;

b) KI-Systeme, die bestimmungsgemäß für die Kreditwürdigkeitsprüfung und Kreditpunktebewertung natürlicher Personen verwendet werden sollen, mit Ausnahme von KI-Systemen, die von Kleinanbietern für den Eigengebrauch in Betrieb genommen werden;

c) KI-Systeme, die bestimmungsgemäß für die Entsendung oder Priorisierung des Einsatzes von Not- und Rettungsdiensten, einschließlich Feuerwehr und medizinischer Nothilfe, verwendet werden sollen;

Strafverfolgung:

a) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden für individuelle Risikobewertungen natürlicher Personen verwendet werden sollen, um das Risiko abzuschätzen, dass eine natürliche Person Straftaten begeht oder erneut begeht oder dass eine Person zum Opfer möglicher Straftaten wird;

b) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden als Lügendetektoren und ähnliche Instrumente oder zur Ermittlung des emotionalen Zustands einer natürlichen Person verwendet werden sollen;

c) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden zur Aufdeckung von Deepfakes gemäß Artikel 52 Absatz 3 verwendet werden sollen;

d) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden zur Bewertung der Verlässlichkeit von Beweismitteln im Zuge der Ermittlung oder Verfolgung von Straftaten verwendet werden sollen;

e) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden zur Vorhersage des Auftretens oder erneuten Auftretens einer tatsächlichen oder potenziellen Straftat auf der Grundlage des Profils natürlicher Personen gemäß Artikel3 Absatz4 der Richtlinie (EU)2016/680 oder zur Bewertung von Persönlichkeitsmerkmalen und Eigenschaften oder vergangenen kriminellen Verhaltens natürlicher Personen oder von Gruppen verwendet werden sollen;

f) KI-Systeme, die bestimmungsgemäß von Strafverfolgungsbehörden zur Erstellung von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU)2016/680 im Zuge der Aufdeckung, Ermittlung oder Verfolgung von Straftaten verwendet werden sollen;

g) KI-Systeme, die bestimmungsgemäß zur Kriminalanalyse natürlicher Personen eingesetzt werden sollen und es den Strafverfolgungsbehörden ermöglichen, große komplexe verknüpfte und unverknüpfte Datensätze aus verschiedenen Datenquellen oder in verschiedenen Datenformaten zu durchsuchen, um unbekannte Muster zu erkennen oder verdeckte Beziehungen in den Daten aufzudecken;
Migration, Asyl und Grenzkontrolle:

a) KI-Systeme, die bestimmungsgemäß von zuständigen Behörden als Lügendetektoren und ähnliche Instrumente oder zur Ermittlung des emotionalen Zustands einer natürlichen Person verwendet werden sollen;

b) KI-Systeme, die bestimmungsgemäß von zuständigen Behörden zur Bewertung eines Risikos verwendet werden sollen, einschließlich eines Sicherheitsrisikos, eines Risikos der irregulären Einwanderung oder eines Gesundheitsrisikos, das von einer natürlichen Person ausgeht, die in das Hoheitsgebiet eines Mitgliedstaats einzureisen beabsichtigt oder eingereist ist;

c) KI-Systeme, die bestimmungsgemäß von zuständigen Behörden zur Überprüfung der Echtheit von Reisedokumenten und Nachweisunterlagen natürlicher Personen und zur Erkennung unechter Dokumente durch Prüfung ihrer Sicherheitsmerkmale verwendet werden sollen;

d) KI-Systeme, die bestimmungsgemäß zuständige Behörden bei der Prüfung von Asyl- und Visumanträgen sowie Aufenthaltstiteln und damit verbundenen Beschwerden im Hinblick auf die Feststellung der Berechtigung der den Antrag stellenden natürlichen Personen unterstützen sollen;

8. Rechtspflege und demokratische Prozesse:

a) KI-Systeme, die bestimmungsgemäß Justizbehörden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte unterstützen sollen.“

Generative Foundation-Modelle müssen bestimmte Transparenzanforderungen erfüllen. So muss bspw. die Gestaltung der KI verhindern, dass illegale Inhalte erzeugt werden können. Bei einem lediglich begrenzten Risiko müssen lediglich minimale Transparenzanforderungen erfüllt werden, die den Nutzer in die Lage versetzen, selbst entscheiden zu können, ob er die KI weiter verwenden möchte.

Am 14. Juni 2023 haben die Abgeordneten über die Vorlage abgestimmt und den Kompromisstext angenommen. In der Folge beginnen die Gespräche mit den EU-Mitgliedstaaten über die endgültige Fassung des Gesetzes.

Schreiben Sie einen Kommentar Antworten abbrechen