Künstliche Intelligenz (KI) soll mit dem neuen KI-Gesetz erstmals reguliert werden. Das Gesetz will verstärkt gegen die Überwachung von Personen mit KI vorgehen und die Grundrechte der Menschen wahren. Der Datenschutz soll gewährleistet werden.
Am 14. Juni 2023 hat das Europäische Parlament den AI-Act zur Regulierung von Künstlicher Intelligenz beschlossen. Frühestens 2026 soll das neue Gesetz in Kraft treten.
Bessere Bedingungen für Entwicklung und Nutzung Künstlicher Intelligenz
In vielen Bereichen des täglichen Lebens, aber auch in der Wirtschaft kann Künstliche Intelligenz verschiedene Vorteile und Erleichterungen bringen. Solche Vorteile bestehen beispielsweise in:
- effizienterer Fertigung
- sicherem und sauberem Verkehr
- kostengünstigerer und nachhaltigerer Energieversorgung
- besserer Gesundheitsfürsorge
Bereits 2021 hat die EU-Kommission einen ersten Rechtsrahmen vorgeschlagen. KI-Systeme sollen nach den Risiken für den Nutzer analysiert und eingestuft werden. Abhängig von der Risikostufe soll die Regulierung mehr oder weniger stark erfolgen.
Der AI-Act teilt nun die KI-Systeme in vier verschiedene Risikostufen ein. Neben KI-Systemen mit geringem oder begrenztem Risiko gibt es Hochrisiko-Systeme und Systeme mit unannehmbarem Risiko. Der AI-Act verbietet Systeme mit unannehmbarem Risiko.
Einteilung von Hochrisiko-Systemen
Hochrisiko-Systeme stellen Risiken für Gesundheit, Sicherheit und Grundrechte natürlicher Personen dar. Sie werden in zwei verschiedene Kategorien eingeteilt:
In der Produktion verwendete KI-Systeme unterliegen den Produktsicherheitsvorschriften der EU. Dazu gehören Fahrzeuge, Luftfahrt, Aufzüge, medizinische Geräte und Spielzeug.
In einer EU-Datenbank müssen Hochrisiko-Systeme aus acht verschiedenen Bereichen registriert werden:
- allgemeine und berufliche Bildung
- Verwaltung und Betrieb kritischer Infrastrukturen
- biometrische Identifizierung und Kategorisierung natürlicher Personen
- Strafverfolgung
- Verwaltung von Asyl, Migration und Grenzkontrollen
- Beschäftigung und Verwaltung von Arbeitnehmern und Zugang zur Selbstständigkeit
- Unterstützung von Auslegung und Anwendung von Gesetzen
- Inanspruchnahme privater und öffentlicher Dienste
Zusätzliche Transparenzanforderungen für Generative KI
Das Gesetz sieht zusätzliche Transparenzanforderungen für Generative KI vor, zu der Chatbots wie ChatGPT gehören. Bei den Inhalten muss offengelegt werden, dass sie über KI generiert wurden. Das Modell muss so gestaltet werden, dass die Erzeugung rechtswidriger Inhalte verhindert wird.
Urheberrechtlich geschützte Daten, die als Training genutzt wurden, müssen in zusammengefasster Form veröffentlicht werden.
KI-Systeme mit unannehmbarem Risiko
Ein unannehmbares Risiko besteht bei Systemen von Künstlicher Intelligenz, die eine Bedrohung für die Menschheit darstellen. Verboten werden Systeme
- zur kognitiven Verhaltensmanipulation von Personen oder gefährdeten Gruppen
- zur Klassifizierung von Menschen aufgrund persönlicher Merkmale, Verhalten oder sozioökonomischem Status
- zur biometrischen Echtzeit-Fernidentifizierung
Tipp: In Ausnahmefällen wie der Strafverfolgung können verschiedene Systeme nach gerichtlicher Genehmigung zugelassen werden. Ein Beispiel dafür ist eine nachträgliche biometrische Fernidentifizierung, wenn die Identifizierung mit erheblicher Verzögerung erfolgt.
Anwendbarkeit von AI-Act ab 2026
Der AI-Act ist das weltweit erste Gesetz zur Regulierung von Künstlicher Intelligenz. Er soll für alle Mitgliedsstaaten der EU verbindlich sein. Nun können Verhandlungen mit den einzelnen Mitgliedsstaaten erfolgen.
Wird noch vor der Europawahl im kommenden Jahre eine Einigung erzielt, kann das Gesetz frühestens 2026 in Kraft treten. Eine Übergangsfrist von bis zu zwei Jahren ist vorgesehen. Ein Problem besteht darin, dass sich die KI ständig weiterentwickelt. Bis zum Inkrafttreten des Gesetzes sind daher weitere Regelungen erforderlich.