Regulierung der Zukunft : Das neue EU-KI-Gesetz (AI Act)
Am 13.06.2024 hat die Europäische Union mit der Verordnung (EU) 2024/1689, auch bekannt als „AI Act“, einen einheitlichen Rechtsrahmen für künstliche Intelligenz (KI) geschaffen. Diese Verordnung zielt darauf ab, die Entwicklung und die Nutzung von KI-Systemen europaweit zu regulieren, um sowohl Innovation als auch Sicherheit zu fördern.
Der AI Act legt großen Wert auf den Schutz von Grundrechten, Demokratie und der öffentlichen Gesundheit und verfolgt mehrere zentrale Ziele. Erstens sollen KI-Systeme in der EU sicher und transparent gestaltet werden, um das Vertrauen der Öffentlichkeit in diese Technologie zu stärken. Zweitens dient das Gesetz dem Schutz vor potenziellen Risiken, die von KI-Systemen ausgehen können, wie Diskriminierung, Datenmissbrauch oder Gefährdung der öffentlichen Sicherheit. Drittens zielt die Verordnung darauf ab, die Wettbewerbsfähigkeit Europas im Bereich der KI zu steigern, indem ein einheitlicher Rechtsrahmen geschaffen wird, der Unternehmen Klarheit bietet.
Was regelt das Gesetz konkret?
Der AI Act unterscheidet zwischen vier Risikoklassen, in die KI-Systeme je nach ihrem Anwendungsbereich eingeordnet werden:
- Unannehmbare Risiken: KI-Systeme, die als besonders schädlich eingestuft werden, sind verboten. Dazu gehören Anwendungen wie Social Scoring, bei dem Personen auf Basis ihres Verhaltens oder ihrer Eigenschaften bewertet werden, oder KI-Systeme, die Menschen manipulieren oder ausbeuten.
- Hohes Risiko: KI-Systeme, die in kritischen Bereichen wie Gesundheit, Verkehr, Bildung oder Strafverfolgung eingesetzt werden, unterliegen strengen Anforderungen. Diese Systeme müssen sicher, diskriminierungsfrei und zuverlässig sein. Dazu zählen beispielsweise medizinische Diagnoseprogramme, KI-basierte Einstellungstools oder autonome Fahrzeuge.
- Begrenztes Risiko: Systeme mit moderaten Risiken, wie etwa Chatbots, unterliegen Transparenzanforderungen. Nutzer müssen darauf hingewiesen werden, dass sie mit einer KI interagieren.
- Minimales Risiko: Für KI-Systeme wie automatische Rechtschreibkorrekturen oder Musikempfehlungsdienste gelten keine besonderen Vorschriften.
Was ist bereits in Kraft getreten?
Zum 01.01.2025 traten die ersten Regelungen des AI Acts in Kraft. Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass ihre Produkte transparent und sicher sind. Dazu gehört beispielsweise die Pflicht, KI-basierte Anwendungen als solche zu kennzeichnen. Wenn ein Nutzer mit einem Chatbot interagiert oder ein Deepfake-Video betrachtet, muss dies klar und deutlich gemacht werden.
Ein weiterer Schwerpunkt liegt auf der Datenqualität. KI-Systeme dürfen nur mit hochwertigen, repräsentativen Daten trainiert werden, um Verzerrungen und Diskriminierung zu vermeiden. Unternehmen sind verpflichtet, nachzuweisen, dass ihre KI Produkte den ethischen und technischen Standards entsprechen, die in der Verordnung festgelegt wurden.
Der nächste Meilenstein
Ab dem 02.02.2025 tritt eine weitere zentrale Bestimmung in Kraft. Unternehmen, die KI-Systeme entwickeln, betreiben oder nutzen, müssen sicherstellen, dass ihre Mitarbeitenden im Umgang mit dieser Technologie geschult sind. Dies gilt nicht nur für technische Fachkräfte, sondern für alle Mitarbeitenden, die in irgendeiner Weise mit KI-Systemen arbeiten.
Diese Schulungen sollen grundlegendes Wissen über die Funktionsweise von KI, ihre Anwendungsbereiche und die damit verbundenen ethischen und rechtlichen Herausforderungen vermitteln. Ziel ist es, einen verantwortungsvollen Umgang mit KI zu fördern und sicherzustellen, dass Mitarbeitende potenzielle Risiken erkennen und minimieren können
Unternehmen sind verpflichtet, die durchgeführten Schulungen zu dokumentieren und regelmäßig zu aktualisieren. Bei Verstößen drohen Bußgelder und andere Sanktionen.
Langfristige Entwicklungen und zukünftige Anforderungen
Neben den bereits in Kraft getretenen und bevorstehenden Regelungen plant die EU weitere Maßnahmen. Zu den langfristigen Zielen gehört die Einführung eines EU-weiten Zertifizierungssystems für KI-Systeme. Dieses soll gewährleisten, dass alle KI-Produkte, die in der EU eingesetzt werden, den hohen Standards des AI Acts entsprechen.
Darüber hinaus wird erwartet, dass die Verordnung kontinuierlich an neue technologische Entwicklungen angepasst wird. Themen wie Generative KI (z. B. Text- oder Bildgeneratoren) könnten in Zukunft stärker reguliert werden, da sie neue ethische und rechtliche Fragen aufwerfen.
Die Auswirkungen auf Unternehmen
Die neuen Regelungen werden erhebliche Auswirkungen auf Unternehmen haben. Die Anforderungen an Transparenz, Datenqualität und Schulungen bedeuten für viele Unternehmen einen erheblichen Mehraufwand. Insbesondere kleine und mittelständische Unternehmen könnten mit den neuen Vorschriften kämpfen, da sie möglicherweise nicht über die notwendigen Ressourcen verfügen, um die Anforderungen zu erfüllen.
Unternehmen, die KI in sensiblen Bereichen wie Gesundheitswesen, Strafverfolgung oder Bildung einsetzen, müssen sicherstellen, dass ihre Systeme umfassend geprüft und zertifiziert sind. Dies könnte zusätzliche Kosten und längere Entwicklungszeiten zur Folge haben. Gleichzeitig könnten Unternehmen, die die neuen Standards erfüllen, einen Wettbewerbsvorteil erlangen, da sie das Vertrauen der Verbraucher gewinnen.
Besonders betroffen sind Prozesse, in denen KI-Systeme Entscheidungen treffen oder Daten analysieren. Dazu gehören beispielsweise:
Rekrutierung und Personalauswahl:
KI-Tools, die bei der Vorauswahl von Bewerbern eingesetzt werden, müssen sicherstellen, dass sie nicht diskriminieren.
Medizinische Diagnostik:
KISysteme, die in der Medizin eingesetzt werden, müssen höchste Genauigkeits- und Sicherheitsstandards erfüllen.
Autonomes Fahren:
Hersteller autonomer Fahrzeuge müssen umfassende Tests und Zertifizierungen durchführen, um die Sicherheit zu gewährleisten. Kundenservice: KI-basierte Chatbots und virtuelle Assistenten müssen Nutzer klar über ihre Natur informieren.
Was sollten Unternehmen jetzt tun?
Für Unternehmen ist es entscheidend, die neuen Anforderungen frühzeitig zu verstehen und umzusetzen. Dazu gehört eine gründliche Analyse bestehender KI-Systeme, die Entwicklung von Schulungsprogrammen und die Zusammenarbeit mit Experten. Eine proaktive Herangehensweise wird nicht nur helfen, rechtliche Risiken zu minimieren, sondern auch, die Wettbewerbsfähigkeit zu sichern.
Fazit
Der AI Act ist ein wegweisendes Gesetz, das die Entwicklung und Nutzung von Künstlicher Intelligenz in der EU nachhaltig verändern wird. Unternehmen stehen vor der Herausforderung, sich an die neuen Vorschriften anzupassen, während die EU ihren Weg in eine regulierte und dennoch innovative KI-Zukunft ebnet. Die nächsten Jahre werden zeigen, wie effektiv der AI Act umgesetzt wird und welche Auswirkungen er auf die technologische Landschaft Europas haben wird.
Janette Rosenberg