Unternehmen, die KI im HR-Bereich einsetzen, haben gegenüber betroffenen Arbeitnehmer:innen eine Erläuterungspflicht. In diesem Beitrag erläutert der Fachanwalt Mag. Sebastian Müller die Details.

KI-Anwendungen im HR-Bereich werden nach der neuen KI-Verordnung der EU (auch AI Act genannt; 2024/1689) häufig als Hochrisiko-KI-Systeme eingeordnet. Betreiben Arbeitgeber:innen solche Hochrisiko-KI-Systeme, müssen sie eine Reihe von Verpflichtungen einhalten. Dazu gehört auch die Pflicht, eine Entscheidungsfindung, bei der ein Hochrisiko-KI-System eine Rolle gespielt hat, den betroffenen Arbeitnehmer:innen auf Verlangen im Einzelfall zu erläutern (Art 86 KI-Verordnung). 

Diese Verpflichtung gilt zwar - wie die meisten Bestimmungen der KI-Verordnung – erst ab 02.08.2026. Dennoch ist es ratsam, sich bereits jetzt näher damit auseinanderzusetzen. Es ist nämlich absehbar, dass das Recht auf Erläuterung in Zukunft eine zentrale Rolle spielen wird. Arbeitnehmer:innen und Stellenbewerber:innen haben ein reges Interesse, zu verstehen, wie sie von KI betroffen sind. So verwundert es nicht, dass das Recht auf Erläuterung auch der erste Aspekt der KI-Verordnung ist, mit dem sich nun der Europäische Gerichtshof in einem anhängigen Verfahren auseinandersetzt (C-806/24).

Hochrisiko-KI im HR-Bereich

Als Hochrisiko-KI-Systeme gelten etwa solche, die bei der Auswahl und Einstellung von Bewerber:innen verwendet werden (z.B. gezieltes Schalten von Stellenanzeigen, Sichtung, Filterung und Bewertung von Bewerbungen). Zum anderen fallen auch KI-Systeme, die im Zusammenhang mit Beförderungen und Kündigungen oder der Zuweisung von Arbeitsaufgaben eingesetzt werden, häufig unter die Kategorie der Hochrisiko-KI. Dasselbe gilt für KI-Systeme, mit denen Arbeitnehmer:innen beobachtet und bewertet werden.

Wann besteht eine Erläuterungspflicht?

Eine Pflicht zur Erläuterung der Entscheidung und der Rolle des KI-Systems besteht nur dann, wenn der/die Arbeitnehmer:in danach verlangt. Überdies muss die KI-gestützte Entscheidung rechtliche Auswirkungen für die Arbeitnehmer:innen haben oder sie in ähnlicher Art erheblich beeinträchtigen (z.B. Ablehnung einer Bewerbung/Beförderung, eines Urlaubsantrags etc). Nicht erforderlich ist aber, dass die Entscheidung von der KI allein getroffen worden ist. 

Wie stark Arbeitnehmer:innen von der Entscheidung negativ betroffen sein müssen, ist in der Rechtsprechung derzeit noch nicht geklärt. Unabhängig davon, welche Leitlinien sich konkret zur Erläuterungspflicht nach Art 86 KI-Verordnung herauskristallisieren werden, ist zu beachten, dass sich Informations-, Auskunfts- oder Erläuterungspflichten gegenüber Arbeitnehmer:innen und deren Vertreter:innen (Betriebsrat) auch noch aus anderen Rechtsgrundlagen ergeben können (insbesondere aus der Datenschutz-Grundverordnung oder dem Arbeitsverfassungsgesetz).

Was genau muss erläutert werden?

Nach dem Wortlaut der KI-Verordnung muss eine klare und aussagekräftige Erläuterung zur Rolle des KI‑Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung gegeben werden. Welche Informationen genau angegeben werden müssen, kann aber immer nur im Einzelfall gesagt werden. Das gilt insbesondere dann, wenn Betriebs- und Geschäftsgeheimnisse gegen die Offenlegungspflicht abgewogen werden müssen. 

Zusammengefasst müssen wohl in den meisten Fällen Informationen zu folgenden Umständen mitgeteilt werden:

• Welche Daten wurden verwendet?
• Wie wurden die verwendeten Daten gewichtet? Haben spezielle Daten für die Entscheidung den Ausschlag gegeben? Unter Umständen auch: Welche abweichenden Daten hätten zu einem anderen Ergebnis geführt?
• Welche Auswirkungen hat die getroffene Entscheidung?
• Wie lässt sich die technische Funktionsweise des KI-Systems in ihren wesentlichen Zügen beschreiben?
• Welche Rolle spielten menschliche Akteure bei der Entscheidungsfindung?

Tiefgehende technische Details wie etwa der Quellcode oder die konkrete Ausgestaltung der verwendeten Algorithmen müssen wohl eher nicht offengelegt werden. Jedoch gilt auch hier, dass die Rechtsprechung abzuwarten bleibt – mit der Frage, ob Algorithmen und Quellcodes offengelegt werden müssen, befasst sich nämlich gerade der Europäische Gerichtshof.

Fazit

Die KI-Verordnung vermittelt von der Verwendung von KI-Systemen Betroffenen relativ umfassende Rechte, insbesondere, wenn es sich um Hochrisiko-KI-Systeme handelt. Daher haben auch Arbeitnehmer:innen vielfältige Rechte, die sie unter Umständen gegenüber ihren Arbeitgeber:innen geltend machen können. Dazu gehört auch das Recht auf Erläuterung der Entscheidungsfindung im Einzelfall, wenn die Arbeitnehmer:innen von einer KI-gestützten Entscheidung (potenziell) negativ betroffen sind. Dieses Recht gilt ab 02.08.2026. Die Abklärung grundlegender Fragen in diesem Zusammenhang macht sich daher bezahlt. Anderenfalls könnten zeit- und ressourcenintensive Konflikte mit Arbeitnehmer:innen und Betriebsrat drohen oder gar eine Beschwerde bei der zuständigen Behörde.

Autor: Mag. Sebastian Müller ist Rechtsanwalt und seit 2020 in der Practice Group Labour and Employment bei Schönherr Rechtsanwälte GmbH tätig. Er ist auf Arbeitsrecht spezialisiert.

Seminartipp! KI arbeitsrechtlich sicher einsetzen