Eine Herausforderung für Arbeitgeber

(Übersetzt von DeepL)

Künstliche Intelligenz (KI) kann für das Personalmanagement einer Bank oder eines Finanzdienstleisters sehr wertvoll sein. Arbeitgeber können sie einsetzen, um verschiedene Aufgaben zu automatisieren, z. B. das Sortieren von Bewerbungen, die Leistungsbewertung, das Aussprechen von Abmahnungen oder sogar Entlassungen. Diese Praktiken werfen verschiedene rechtliche Fragen auf : Inwieweit darf sich ein Arbeitgeber bei solchen Aufgaben auf KI verlassen ? Können Angestellte den Einsatz von KI in Bezug auf sie anfechten bzw. können sie Erklärungen zu den von der KI verwendeten Kriterien erhalten ?

In der Schweiz gibt es keine Regelungen, die speziell auf KI abzielen. Dessen ungeachtet können Entscheidungen, die mithilfe von KI oder sogar ausschließlich von KI getroffen werden, als automatisierte Einzelentscheidungen (AE) im Sinne von Art. 21 DSG bezeichnet werden. Eine AE liegt vor, wenn drei kumulative Bedingungen erfüllt sind : (1) die Entscheidung ist individuell, (2) sie wird ohne tatsächliche menschliche Intervention getroffen und (3) sie hat rechtliche Auswirkungen oder beeinträchtigt die betroffene Person in erheblichem Maße.

Banken und Finanzdienstleister müssen zunächst beurteilen, ob die von ihnen verwendeten automatisierten Prozesse die Kriterien für eine AE erfüllen. Das bedeutet, dass der Arbeitgeber feststellen muss, ob die automatisierte Entscheidung ohne nennenswerte menschliche Eingriffe getroffen wurde und ob sie spürbare Auswirkungen auf den Arbeitnehmer hat. Beispielsweise ist die Ablehnung einer Bewerbung durch einen Algorithmus oder die Festlegung der Höhe eines Bonus auf der Grundlage von Leistungskriterien eine DIA, wenn diese Entscheidungen nicht wesentlich von einem Menschen überprüft werden.

Wenn die vom Arbeitgeber verwendeten Prozesse als AE eingestuft werden, muss der Arbeitgeber die Arbeitnehmer oder Bewerber darüber informieren (Art. 21 Abs. 1 DSG). Diese Information muss klar, prägnant und leicht zugänglich sein. Auf Verlangen des Arbeitnehmers muss der Arbeitgeber ihn auch über die der Entscheidung zugrunde liegende Logik informieren, d. h. er muss ihm die Kriterien erläutern, auf denen die Entscheidung beruht (Art. 25 Abs. 2 Bst. f DSG).

Arbeitnehmer oder Bewerber haben grundsätzlich das Recht, ihren Standpunkt darzulegen und zu verlangen, dass die AE von einem Menschen überprüft wird (Art. 21 Abs. 2 DSG). Dies bedeutet, dass der Arbeitgeber Verfahren einrichten muss, die eine menschliche Intervention ermöglichen, wenn dies gewünscht wird. Darüber hinaus ist eine Datenschutz-Folgenabschätzung (DSFA) erforderlich, wenn die AE ein hohes Risiko für die betroffenen Personen darstellt (Art. 22 DSG). Diese Analyse muss die Risiken und die Maßnahmen zu deren Minderung bewerten (vgl. das Merkblatt des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten vom August 2023).

Die Nichteinhaltung der gesetzlichen Verpflichtungen im Zusammenhang mit den AE kann verschiedene Konsequenzen nach sich ziehen. Die verantwortliche Person in der Personalabteilung könnte strafrechtlich verurteilt werden, wenn sie es absichtlich unterlässt, einen Mitarbeiter ordnungsgemäß über die Verwendung einer AE zu informieren (Art. 60 Abs. 1 DSG). Darüber hinaus können Verwaltungsmaßnahmen die Aussetzung der Datenverarbeitung oder die Löschung von Daten, die unter Verletzung gesetzlicher Pflichten erhoben wurden, umfassen (Art. 51 DSG).

Auf EU-Ebene kennt die DSGVO die gleiche Definition von AE wie das Schweizer Recht. Sie ist jedoch strenger als das DSG, da sie grundsätzlich alle AE verbietet, außer unter drei alternativen Bedingungen : (1) wenn die DIA für die Erfüllung eines Vertrags erforderlich ist, (2) wenn sie gesetzlich zulässig ist oder (3) wenn die betroffene Person ausdrücklich eingewilligt hat (Art. 22 Abs. 1 und 2 DSGVO). Wenn die AE rechtmäßig ist, muss der Arbeitgeber den Arbeitnehmer insbesondere darüber informieren, dass er Gegenstand einer AE ist, und einen Prozess zur Überprüfung der Entscheidungen einrichten (human-in-the-loop, Art. 22 Abs. 3 DSGVO). Bei einem Verstoß gegen diese Regeln kann die Aufsichtsbehörde eine erhebliche Verwaltungsstrafe e verhängen (Art. 83 DSGVO).

Darüber hinaus stuft die Verordnung über künstliche Intelligenz (KI-VO) zwei KI-Systeme (KIS, vgl. cdbf.ch/1382/) im Personalwesen als Hochrisikosysteme ein (vgl. cdbf.ch/1359/). Dabei handelt es sich um (1) KIS, die Bewerbungen analysieren, filtern und bewerten, und (2) AIS, die Personalaufgaben wie Beförderung, Entlassung, Zuweisung von Aufgaben oder Überwachung und Bewertung der Leistung und des Verhaltens von Mitarbeitern durchführen (Anhang III Ziff. 4 KI-VO). Die ratio legis für diese Einstufung als SIA mit hohem Risiko ergibt sich aus dem Risiko der Diskriminierung aufgrund des Geschlechts, des Alters, der Rasse oder der sexuellen Orientierung (Erw. 57 KI-VO). Wenn der Arbeitgeber einen dieser Hochrisiko-ASIs einsetzt, muss er insbesondere die betroffenen Arbeitnehmer oder ihre Vertreter darüber informieren (Art. 26 Ziff. 7 KI-VO).

Zusammenfassend lässt sich sagen, dass der Einsatz von KI als AE angesehen werden kann, wenn er der Entscheidungsfindung dient – und nicht als bloße Entscheidungshilfe – mit erheblichen Auswirkungen für die betroffene Person. Innerhalb der EU wird die AE zusätzlich zu den vorgesehenen Datenschutzregelungen gelten.

Für eine ausführlichere Analyse dieser Themenbereiche vgl. Hirsch Célian, Droit du travail et intelligence artificielle : défis des décisions automatisées pour les employeurs, in : Dunand Jean-Philippe et al. (édit.), La protection des données dans les relations de travail à la lumière de la nouvelle loi fédérale sur la protection des données, Zurich 2024.