Wie wirkt sich die vorgeschlagene Richtlinie auf die Banken aus ?

(Übersetzt von DeepL)

Am 28. September 2022 veröffentlichte die Europäische Kommission ihren Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über die außervertragliche Haftung an den Bereich der künstlichen Intelligenz (P-DIA). Er sieht Regeln vor, die den Zugang zu Beweismitteln über hochriskante Systeme der künstlichen Intelligenz (KI) erleichtern sollen, damit Kläger in der Lage sind, die verschiedenen Voraussetzungen für einen außervertraglichen Zivilanspruch nach ihrem nationalen Recht zu beweisen. Könnte dieser Vorschlag erhebliche Auswirkungen auf Finanzinstitute haben, die KI-Systeme einsetzen ?

Der Vorschlag ändert nichts an den nationalen Vorschriften über die Beweislast und den Grad der Wahrscheinlichkeit, das Verschulden und den Kausalzusammenhang oder die Arten des ersetzbaren Schadens. Dieser Kommentar ist eine Fortsetzung des Kommentars zum Entwurf einer europäischen KI-Verordnung (E-RIA) (kommentiert in cdbf.ch/1181). Ziel ist es, diesen Vorschlag kurz vorzustellen und seine potenziellen Auswirkungen im Bereich der Finanzdienstleistungen, insbesondere im Bereich des Credit Scoring, sowie seine mögliche extraterritoriale Reichweite zu analysieren.

Art. 3 E-DIA sieht vor, dass nationale Gerichte auf Antrag des Geschädigten die Möglichkeit hätten, – gegenüber einem Anbieter (vgl. Art. 3 Abs. 2 E-DIA) eines hochriskanten KI-Systems, gegenüber jeder Person, die den Pflichten des Anbieters nach Art. 24 oder 28 E-DIA unterliegt, oder gegenüber einem Nutzer (vgl. Art. 3 Abs. 4 E-DIA) – die Offenlegung von Beweismitteln oder deren Aufbewahrung anzuordnen. Das Eingreifen des Richters wäre nur subsidiär, da die gerichtliche Anordnung nur erteilt würde, wenn der Beklagte den ursprünglichen Antrag des Klägers auf Offenlegung abgelehnt hat. Dieser Vorschlag führt daher eine Verpflichtung der Beklagten zur Offenlegung oder zumindest eine erhöhte Mitwirkungspflicht ein. Davon abgesehen sollte eine Plausibilitätsprüfung einer Schadenersatzklage durchgeführt werden, bevor die Offenlegung der relevanten Beweismittel angeordnet wird. Weigert sich der Beklagte, der richterlichen Anordnung nachzukommen, geht der Vorschlag von einer Verletzung der Sorgfaltspflicht nach Art. 4 Abs. 2 oder 3 E-DIA aus, die mit den angeforderten Beweismitteln bewiesen werden sollte.

Art. 4 E-DIA sieht eine widerlegbare Vermutung des Kausalzusammenhangs zwischen dem Verschulden des Beklagten und dem vom KI-System erzeugten Ergebnis oder der Unfähigkeit des KI-Systems, ein Ergebnis zu erzeugen, vor. Diese Vermutung führt jedoch nicht zu einer objektiven Haftung des KI-Systems. Diese Entscheidung wird den Mitgliedstaaten überlassen. Im Hinblick auf Art. 4 Abs. 1 lit. a E-DIA müsste der Kläger nachweisen, dass das Fehlverhalten des Beklagten auf eine Verletzung der Sorgfaltspflicht zurückzuführen ist. Dazu müsste der Kläger – gemäß Art. 4 Abs. 2 und 3 E-IDR – eine Verletzung einer Pflicht nachweisen, die im Entwurf der europäischen KI-Verordnung aufgeführt ist (vgl. notabene Art. 10 Abs. 2 bis 4, 13, 14, 15 und 16 E-IDR für Anbieter und Art. 29 E-IDR für Nutzer). Die in Art. 4 Abs. 1 E-RIA vorgesehene Vermutung würde nicht gelten, wenn der Beklagte nachweisen kann, dass der Kläger vernünftigerweise Zugang zu ausreichendem Fachwissen und Beweismitteln hat, um den Kausalzusammenhang zu beweisen.

Hinsichtlich der verwendeten Definitionen und der Pflichten, die bei Nichteinhaltung zu einer Vermutung des Kausalzusammenhangs führen, verweist der Richtlinienvorschlag auf den Entwurf der EU-Verordnung über KI. Somit besteht eine Kohärenz in der von der Europäischen Kommission vorgeschlagenen gesetzlichen Regelung.

Aber wie sieht es mit den Finanzdienstleistungen aus ? Zur Erinnerung : Der Entwurf der EU-Verordnung über KI soll nur für das Kreditscoring gelten (siehe cdbf.ch/1181), vorbehaltlich einer Ausweitung des Anwendungsbereichs durch eine Änderung von Anhang 3 des Entwurfs. Dieser Richtlinienvorschlag könnte theoretisch auch für die Kreditvergabe gelten, sofern ein KI-System für das Kreditscoring verwendet wird. Mehrere Fragen bleiben offen, da dieser Vorschlag auf außervertragliche Haftungsansprüche abzielt. Es sind zwei Szenarien denkbar. Wenn der Kredit aufgrund einer diskriminierenden Verzerrung des KI-Systems zu weniger günstigen Bedingungen gewährt wird, wäre diese Situation Teil einer vertraglichen Beziehung, was die Anwendung des Vorschlags im Hinblick auf Art. 1 Abs. 1 E-DIA ausschließen würde. Wenn hingegen der Kredit aufgrund eines von einem KI-System erzeugten Ergebnisses nicht gewährt wird und die Person aufgrund dieses Ergebnisses einen Schaden erleidet, könnte die Richtlinie anwendbar sein. Denn diese Situation wäre Teil eines außervertraglichen Verhältnisses, da zwischen den Parteien kein Vertragsverhältnis zustande kommt. In diesem Zusammenhang ist die Frage des Schadens von grundlegender Bedeutung. In der Schweiz ist der Begriff des Schadens restriktiv. Wie das nationale Recht einiger EU-Mitgliedstaaten erkennt auch das Schweizer Recht den Verlust einer Chance nicht als ersatzfähigen Schaden an (vgl. BGE 133 III 462). Darüber hinaus ersetzt das Schweizer Recht einen rein wirtschaftlichen Schaden nur dann, wenn eine Verhaltensnorm, die das Vermögen des Geschädigten schützen soll, vom Beklagten verletzt wurde.

Schließlich sieht der Vorschlag keine extraterritoriale Wirkung im eigentlichen Sinne vor, anders als der Entwurf der EU-Verordnung über KI. Dennoch könnte dieser Richtlinienvorschlag über die Art. 132 und 133 IPRG bei grenzüberschreitenden Zivilklagen Anwendung finden.

Der Vorschlag ermöglicht somit einen leichteren Zugang zu Beweismitteln und sieht eine Kausalitätsvermutung vor. Die Frage des Zugangs zu den Beweismitteln eines KI-Systems ist von entscheidender Bedeutung, damit Kläger und Beklagte unter gleichen Bedingungen kämpfen können. Dieser Vorschlag sollte jedoch – unserer Meinung nach – im Finanzdienstleistungssektor nur einen sehr begrenzten Anwendungsbereich haben.