Wenn Algorithmen Muster fortschreiben
Ein mittelständisches Technologieunternehmen führt ein mittels Künstlicher Intelligenz (KI) gestütztes Bewerber-Scoring ein. Ziel ist es, den Auswahlprozess zu beschleunigen, die Vorauswahl objektiver zu gestalten und den Mitarbeitenden zu finden, der vermeintlich am besten zum Unternehmen passt. Nach wenigen Monaten zeigt sich jedoch ein irritierendes Muster: Bewerbungen von Frauen werden signifikant seltener als „passend“ ein gestuft. Eine interne Analyse zeigt, dass die KI mit historischen Personaldaten trainiert wurde. Konkret wurden Daten aus Jahren verwendet, in denen technische Positionen überwiegend mit Männern besetzt wurden. Die Software hatte diese Strukturen als vermeintliche Erfolgsmerkmale interpretiert und zur Grundlage ihrer Entscheidungen genommen. Was also zunächst als Fortschritt in der Personalarbeit gedacht ist, kann sich schnell zum rechtlichen und reputativen Risiko entwickeln. Die Bewertungen wirken objektiv, sind es aber nicht. Der Fall macht deutlich: KI ist nie ganz neutral. Sie bildet gesellschaftliche Muster ab, hängt ganz maßgeblich von den Inhalten ab, mit denen sie trainiert wird, und sie kann bestehende Ungleichheiten und Pflichtwidrigkeiten unbemerkt verstärken. Je stärker sie in Entscheidungen über Beschäftigung, Karriere oder Kündigung eingebunden wird, desto relevanter werden klare rechtliche Vorgaben, Verantwortung und Kontrolle. Mit Blick auf den großen Nutzen, den KI auch im Personalwesen bereits jetzt hat und noch weiter haben wird, stellt sich nicht mehr die Frage, ob sie dort eingesetzt wird, sondern unter welchen rechtlichen Voraussetzungen dies verantwortbar erfolgen kann und wie Unternehmen KI-Systeme im HR- Bereich rechtssicher und fair gestalten können.
Leitplanken für verantwortungsvolle KI – Spielregeln für Hochrisikosysteme gemäß KI-Verordnung
Mit der EU-Verordnung über Künstliche Intelligenz (KI VO) hat der europäische Gesetzgeber einen einheitlichen Rechtsrahmen geschaffen, der den Einsatz von KI in sensiblen Bereichen reguliert. HR-Anwendungen gehören zu den sogenannten Hochrisiko-KI-Systemen (Art. 6 Abs. 2 i. V. m. Anhang III Nr. 4 AI KI-VO). Für solche KI-Systeme gelten künftig weitreichende Pflichten. Unternehmen müssen im Rahmen eines Risikomanagements nachweisen, dass sie mögliche Beeinträchtigungen (zum Beispiel Diskriminierungen oder fehlerhafte Bewertungen) identifizieren, bewerten und minimieren. Zudem ist erforderlich, dass die für das Training verwendeten Daten repräsentativ, aktuell und frei von Verzerrungen sind. KI darf sich nicht auf historische Ungleichheiten stützen, sondern muss neutral und überprüfbar funktionieren.
Darüber hinaus ist eine umfassende Dokumentation und Nachvollziehbarkeit der Systeme vorgeschrieben. Entscheidungen müssen erklärbar und überprüfbar bleiben, auch für Personen, die selbst keine technische Expertise besitzen. Schließlich ist stets eine menschliche Aufsicht sicherzustellen.
Die KI-VO erlegt damit nicht nur Herstellern bestimmte KI-bezogene Pflichten auf, sondern zieht auch für Unternehmen, die Hochrisiko-KI-Systeme einsetzen, Grenzen. Sie müssen technische Sorgfalt mit rechtlicher Verantwortung verbinden und gegenüber Behörden und betroffenen jederzeit belegen können, dass ihre Systeme fair, sicher und rechtskonform betrieben werden. Im Fal le von Verstößen drohen erhebliche Bußgelder.
Datenschutzrecht: Menschliche Entscheidung als Grundprinzip
Im Übrigen setzt nicht nur die KI-VO, sondern auch die Datenschutzgrundverordnung (DSGVO) automatisierten Entscheidungen Grenzen. Nach Art. 22 Abs. 1 DSGVO darf niemand einer ausschließlich automatisierten Entscheidung unterworfen werden, die erhebliche Auswirkungen auf die betroffene Person hat. Dies wäre jedoch der Fall, wenn ein Bewerbungsverfahren vollständig von einer KI gesteuert würde. Zulässig ist ein solcher Einsatz nur in engen Ausnahmefällen. Eine solche Konstellation liegt etwa vor, wenn die betroffene Person ausdrücklich in die Verarbeitung einwilligt oder wenn die automatisierte Entscheidung für einen Vertragsabschluss erforderlich ist. Selbst dann verlangt die DSGVO zusätzliche Schutzmechanismen – insbesondere das Recht, die Entscheidung durch einen Menschen überprüfen zu lassen und gegebenenfalls anzufechten. KI darf also Entscheidungen vorbereiten, sie aber nicht selbst treffen. Außerdem ist gemäß Art. 35 DSGVO die Durchführung einer Datenschutz-Folgenabschätzung verpflichtend, wenn durch eine Verarbeitung ein hohes Risiko für die Rechte und Freiheiten der betroffenen Person besteht. Dies ist bei KI-gestützten HR-Systemen regelmäßig der Fall.
Gleichbehandlung und Mitbestimmung
Hinzu kommen arbeitsrechtliche Vorgaben, die beim KI-Einsatz im Personalbereich zu beachten sind. So verpflichtet das Allgemeine Gleichbehandlungsgesetz (AGG) Arbeitgeber, Diskriminierungen zu verhindern (§§ 1, 7 AGG). Eine sogenannte mittelbare Benachteiligung (§ 3 Abs. 2 AGG) kann bereits dann vorliegen, wenn ein scheinbar neutrales Verfahren in seiner Wirkung bestimmte Gruppen benachteiligt. Unternehmen müssen dann nachweisen, dass kein Verstoß gegen die Bestimmungen zum Schutz vor Benachteiligung vorgelegen hat (§ 22 AGG), ein Nachweis, der in der Praxis meist nicht gelingt. In mitbestimmten Betrieben wird zudem der Betriebsrat vor dem Einsatz von KI-gestützten HR-Anwendungen regelmäßig zu beteiligen sein (insbesondere nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz), der genau prüfen wird, ob und inwieweit der Einsatz der KI neben dem Nutzen für das Unternehmen auch zu Risiken für die Mitarbeitenden führen kann, etwa im Umgang mit den personenbezogenen Daten der Mitarbeitenden. Hier gilt es nicht zuletzt, den Betriebsrat davon zu überzeugen, dass Vereinfachung und Beschleunigung von Arbeitsprozessen nicht zwangsläufig zum Wegfall von Arbeitsplätzen führen.
Wie aber lassen sich rechtliche Anforderungen einerseits und ethische Standards andererseits im Alltag umsetzen?
Ein erster Schritt besteht darin, sich einen klaren Überblick über den aktuellen und geplanten Einsatz von KI im Personalwesen zu verschaffen. Entsprechende Risiken sollten evaluiert, auf dieser Basis einzelne KI-Systeme priorisiert und die Ressourcen gezielt eingesetzt werden.
Ebenso wichtig ist die Frage der Verantwortlichkeiten. KI-Systeme dürfen nicht als „anonyme“ Werkzeuge laufen, sondern brauchen feste Ansprechpartner. Neben dem HR-Bereich sollten die Bereiche Datenschutz, IT, Recht und eine ausdrücklich benannte Aufsichtsperson als Bindeglied zwischen den Abteilungen eingebunden sein.
Ein weiterer Schwerpunkt liegt auf Fairness und Qualität. Dazu gehört, dass Trainingsdaten zum KI- Einsatz regelmäßig überprüft und Ergebnisdaten ausgewertet werden.
Ethische Leitlinien
Gesetze definieren Mindeststandards. Vertrauen entsteht jedoch erst durch Verantwortung, die auch gelebt wird. Die EU-Kommission fordert in ihren „Ethikleitlinien für vertrauenswürdige KI“ drei Grundpfeiler, die während des gesamten Lebenszyklus eines Systems gelten sollen: Rechtmäßigkeit, ethische Vertretbarkeit und Robustheit. Aus dem Prinzip des ethischen Einsatzes von KI ergeben sich mit Blick auf das Personalwesen fünf Handlungsfelder: Diskriminierungsfreiheit und Fairness, Transparenz und Erklärbarkeit, Verantwortlichkeit und Kontrolle, Datenschutz und Sicherheit sowie Verlässlichkeit und Schutz vor Schäden. Diese Prinzipien werden durch die Empfehlungen des Deutschen Ethikrats konkretisiert. Er mahnt unter anderem an, KI als Unterstützung und nicht als Ersatz für menschliche Entscheidungen einzusetzen, Verantwortungsdiffusion zu vermeiden und Kontrolloptionen beim Menschen zu belassen. Solche Vorgaben sind zwar rechtlich nicht bindend, entwickeln sich aber zum „Stand der Technik“, an dem sich Unternehmen orientieren sollten.
Daneben sollten Unternehmen ihre Lieferanten von KI-Tools prüfen und kritisch hinterfragen. Wer externe Systeme einkauft, muss sich deren Funktionsweise er klären lassen, Audit-Rechte vertraglich absichern und klare Zusagen zur Einhaltung von Rechts- und Ethikstandards verlangen (so weit möglich). Ergänzend empfiehlt es sich, Richtlinien für die zulässige (und unzulässige) Nutzung von KI im Unternehmen zu verabschieden, die den gesetzlichen Rahmen konkretisieren. Im Übrigen sollten die Mitarbeiter im Umgang mit KI geschult, ein grundlegendes technisches Verständnis vermittelt und Chancen sowie Risiken erläutert werden.
So entsteht ein ganzheitlicher Rahmen, der sowohl rechtliche Konformität als auch ethische Verantwortung sichert und die Akzeptanz in der Belegschaft stärkt. Die Qualität der Personalarbeit wird sich mit KI zweifellos verbessern lassen – insbesondere bei der Auswertung großer Datenmengen, der Effizienz von Auswahlprozessen und der Objektivierung von Entscheidungen. Gleichzeitig bleibt klar: Persönliche Eindrücke, Empathie und Kontextverständnis werden im Personalbereich weiterhin von entscheidender Bedeutung sein. Denn KI kann Entscheidungen vorbereiten, sie allerdings nicht ersetzen.
