Trendthema #4: Künstliche Intelligenz am Arbeitsplatz – Diskriminierungsrisiken und rechtliche Fallstricke
Künstliche Intelligenz verändert die Arbeitswelt – doch gerade im Personalbereich lauern rechtliche Risiken: Diskriminierung durch Algorithmen und intransparente Entscheidungen können teuer werden. Arbeitgeber sollten Technik und Recht zusammendenken, um DSGVO- und AGG-konform zu handeln.
Künstliche Intelligenz revolutioniert die Arbeitswelt – von der Personalauswahl über die Leistungsbewertung bis hin zur Entgeltabrechnung. Doch mit den neuen Möglichkeiten wachsen auch die Risiken: Algorithmen können diskriminieren, Datenschutz wird zur Herausforderung und arbeitsrechtliche Grundsätze geraten unter Druck. Was müssen Arbeitgeber beachten, wenn sie KI-Systeme einsetzen? Und wie lassen sich rechtliche Fallstricke vermeiden?
Wichtig zu wissen:
Der Einsatz von KI im Personalbereich ist nicht nur eine technische, sondern vor allem eine rechtliche Frage. Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierung – auch durch automatisierte Prozesse. Wenn eine KI bestimmte Personengruppen systematisch benachteiligt, drohen Entschädigungsansprüche.
Hinzu kommen datenschutzrechtliche Vorgaben: Die DSGVO verlangt Transparenz bei automatisierten Entscheidungen (Art. 22 DSGVO) und räumt Betroffenen ein Widerspruchsrecht ein.
Automatisierte Vorauswahl – wo liegt das Problem?
KI-Systeme analysieren Lebensläufe, Sprachmuster und Verhaltensdaten. Dabei reproduzieren sie häufig bestehende Vorurteile – etwa zu Alter, Geschlecht, Herkunft oder Bildungswegen. Schon die algorithmische Bewertung einer „Lücke im Lebenslauf“ kann mittelbar diskriminierend sein. Auch das Kollateralschaden-Risiko bei sensiblen Merkmalen ist hoch – insbesondere, wenn die Entscheidung nicht dokumentiert oder nachvollziehbar ist.
Wichtig: Die Vorschriften des AGG (§§ 1, 7 AGG) gelten unabhängig davon, ob eine Diskriminierung durch Menschen oder Maschinen erfolgt. Arbeitgeber können sich nicht hinter der Technik verstecken.
Praxistipp
Was Arbeitgeber tun dürfen – und sollten:
- Systeme evaluieren: Wer KI einsetzt, muss die zugrunde liegende Logik und Kriterien kennen.
- Menschliches Korrektiv einbauen: KI darf niemals allein entscheiden – ein Review durch Personalverantwortliche ist zwingend.
- DSGVO-Compliance sicherstellen: Bewerber sind umfassend über Art, Zweck und Folgen der Datenverarbeitung zu informieren.
Fazit: |
Weitere Beiträge zum Thema: