Laut Digitalverband Bitkom nutzen 21 Prozent der Unternehmen künstliche Intelligenz in der Personalabteilung. Bei der Vorauswahl von Bewerbern bewertet schlaue Software Lebensläufe und intelligente Chatbots führen Eingangsinterviews. Mittels Big-Data-gestützter People Analytics lassen sich sehr große Datenmengen aus verschiedenen Quellen von Social Media bis zu internen Datenbanken analysieren, um etwa die Eignung von Bewerbern zu prognostizieren. Das beschleunigt nicht nur den Recruitingprozess. Im besten Fall schaffen Unternehmen eine sich permanent selbst optimierende Faktenbasis für strategische Personalentscheidungen.
Der Nutzen hängt dabei ganz wesentlich von der Masse und Qualität der Trainingsdaten für die intelligenten Systeme ab sowie von dem Wissen: Welche Daten können die Entscheidungsfindung wie bestmöglich unterstützen? Die Krux dabei: Werden Algorithmen verwendet, die mit Hilfe künstlicher neuronaler Netze maschinell lernen und eigenständig Zusammenhänge herstellen, lässt sich deren Verhalten weder genau vorhersagen noch nachvollziehen, sondern nur mit einer gewissen Wahrscheinlichkeit.
KI-Verordnung der EU-Kommission schafft mehr Rechtssicherheit
Das erschwert es auch zu beurteilen, ob eine KI-Lösung die gesetzlichen Anforderungen erfüllt. Laut Bitkom fordern 54 Prozent der Unternehmen Hilfe bei der rechtlichen und ethischen Beurteilung des KI-Einsatzes. Ein erster Schritt zu mehr Rechtssicherheit ist der Entwurf einer KI-Verordnung der EU-Kommission: Dieser stuft Anwendungen im Personalmanagement in die Kategorie „hohes Risiko“ ein und macht Vorgaben zu Datenqualität, Dokumentation und Transparenz, menschliche Aufsicht, Genauigkeit sowie Robustheit gegenüber Hacker-Angriffen. Zusammen mit den Anforderungen im Datenschutz und Arbeitsrecht lassen sich daraus fünf wichtige Handlungsfelder für Unternehmen ableiten, um künftig Haftungsrisiken zu minimieren:
1. Schon in der Planungsphase Transparenz schaffen
Für welchen Zweck werden welche Daten für die KI erhoben? Und welche Fehlschlüsse sind möglich? Personaler müssen sich mit den Technikern austauschen und fundierte Informationen über Funktionsweise und Training der verwendeten Algorithmen besorgen, um nicht gegen das Allgemeine Gleichbehandlungsgesetz (AGG) zu verstoßen. Beispielsweise besteht die Gefahr, dass ein Algorithmus Frauen diskriminiert, die aufgrund der Pflege von Angehörigen oder Kindererziehung mehr Lücken im Lebenslauf haben als Männer. Um Klagen auf Schadensersatz vorzubeugen, müssen Minderheiten in den Trainings-Datensätzen ausreichend repräsentiert sein. Und es ist darauf zu achten, dass die Beschriftung der Daten nicht rassistisch oder sexistisch ist.
2. Risiken im Datenschutz analysieren
Grundsätzlich lassen sich datenschutzrechtliche Risiken durch technische Maßnahmen wie die Anonymisierung oder Pseudonymisierung personenbezogener Daten eindämmen. Doch bei Big-Data-Analysen ist es sehr schwer, den Personenbezug zu kappen, so dass eine Datenschutz-Folgeabschätzung nach Art. 35 Datenschutzgrundverordnung (DSGVO) ratsam ist.
Lässt sich der Personenbezug nicht verhindern, sind Fragen zu klären wie: Liegt eine Einwilligung vor, die die Verwendung der Daten für die KI abdeckt? Sind Umfang und Zweck der Datenanalysen so transparent und verständlich wie möglich abgebildet und gestaltet? Stellen die technischen Voreinstellungen des Algorithmus mittels Privacy by Design and Default sicher, dass nur die personenbezogenen Daten verarbeitet werden, die unbedingt notwendig sind, um Bewerber zu rekrutieren? Werden Letztere über die automatisierte Entscheidungsfindung, deren Logik, Tragweite und Ziele informiert?
3. Betriebsrat einbinden
KI-Lösungen im HR-Management zählen zu den technischen Einrichtungen, mit denen sich das Verhalten oder die Leistung von Bewerbern überwachen lässt. In Unternehmen mit Betriebsrat greift deshalb das Beteiligungsrecht gemäß § 87 Abs. 1 Nr. 6 BetrVG. Zudem stärkt das am 18.06.21 in Kraft getretene Betriebsrätemodernisierungsgesetz die Mitbestimmungsrechte: Beispielsweise kann der Betriebsrat nach § 80 Abs. 3 BetrVG zu Fragen des Einsatzes von KI einen Sachverständigen beauftragen, wofür der Arbeitgeber die Kosten trägt. Der Einwand, dass der Betriebsrat selbst über die notwendigen Kenntnisse verfügt, oder die Einbindung eines teuren Sachverständigen nicht gerechtfertigt ist, zählt nicht.
4. Auf Betriebsvereinbarung hinarbeiten
Schon bei der Planung intelligenter System sollten Personaler auf den Abschluss einer Betriebsverereinbarung bzw. deren Anpassung hinarbeiten, um Voraussetzungen, Entscheidungskriterien und Folgen des KI-Einsatzes im Betrieb zu regeln. So lassen sich nicht nur Mitbestimmungs- und sonstige Arbeitnehmerrechte wahren, sondern zugleich auch die Datenverarbeitung im Beschäftigtenkontext gemäß Art. 88 Abs. 1 DSGVO legitimieren.
5. Letzte Instanz bleibt der Mensch
Auch der intelligente digitale Kollege macht Fehler wie der Mensch. Deshalb setzt der Gesetzgeber ausschließlich automatisierten Entscheidungen in Art. 22 DSGVO Grenzen. Im Unterschied zu menschlicher Diskriminierung kann KI infolge eines fehlerhaften Designs strukturell diskriminieren. Schon aus ethischen Gründen sollte der digitale Kollege fortlaufend unter menschlicher Aufsicht stehen. Im Idealfall verhilft KI den Menschen zu objektiveren Entscheidungen.
Jetzt ist die Zeit, um zu handeln: HR-Manager sollten die KI-Verordnung der EU-Kommission und das Betriebsrätemoderisierungsgesetz zum Anlass nehmen, Chancen und Risiken künstlicher Intelligenz im Personalmanagemen abzuwägen, die rechtlichen Rahmenbedingungen zu analysieren und zusammen mit den Technikern in den Prozessen abzubilden.
