Wer ist ein Anbieter („Provider“) ?

(Übersetzt von DeepL)

Die europäische Verordnung über künstliche Intelligenz (KI-VO) sieht spezifische Verpflichtungen für die verschiedenen Akteure vor, die an den verschiedenen Phasen der Entwicklung, des Betriebs und der Nutzung eines von der KI-VO erfassten Werkzeugs beteiligt sind.

Die beiden wichtigsten „Rollen“ im Hinblick auf diese Verpflichtungen sind die des „Anbieters“ („provider“) und des „Betreibers“ („deployer“). Es ist daher wichtig, die Rolle jedes Unternehmens in Bezug auf die von ihm verwendeten oder entwickelten KI-Systeme (KIS) oder Modelle für künstliche Intelligenz für allgemeine Zwecke (GPAIM) zu bestimmen (zu den Begriffen KIS und GPAIM siehe Caballero Cuevas, cdbf.ch/1382), da diese Rolle die gemäß der KI-VO geltenden Verpflichtungen bestimmt. Der vorliegende Kommentar befasst sich mit dem Begriff des Anbieters im Sinne der KI-VO.

1. Wer gilt als Anbieter ?

Der Anbieter ist definiert als „eine natürliche oder juristische Person, eine Behörde, eine Agentur oder jede andere Stelle, die ein KI-System oder ein KI-Modell für den allgemeinen Gebrauch entwickelt oder entwickeln lässt und dieses in Verkehr bringt oder das KI-System in Betrieb nimmt, und zwar unter ihrem eigenen Namen oder ihrer eigenen Marke, entgeltlich oder unentgeltlich“ (Artikel 3 Absatz 3 KI-VO).

Die Bestandteile dieser Definition haben mehrere Auswirkungen :

• Inverkehrbringen : Dies betrifft nur den Markt der Europäischen Union (EU) und bezeichnet die erstmalige Bereitstellung eines KIS oder eines GPAIM auf diesem Markt.
• Inbetriebnahme : Auch sie betrifft nur die EU. Gemeint ist hier die erstmalige Bereitstellung eines KIS für eine erste Nutzung direkt an einen Betreiber oder zur eigenen Nutzung durch den Anbieter. Das zweite Kriterium gilt nicht für GPAIM, da diese Modelle nur als Vorstufe eines KIS angesehen werden.
• Auf die EU gerichtete Tätigkeiten : Die Tätigkeiten müssen bewusst auf die EU ausgerichtet sein. Ein bloßer „unbeabsichtigter Überlauf“ auf den EU-Markt reicht nicht aus (vgl. Fischer, cdbf.ch/1397).
• Entgeltlichkeit oder Unentgeltlichkeit : Es spielt keine Rolle, ob die KIS entgeltlich oder unentgeltlich angeboten wird.

Die Definition des Begriffs « Anbieter » zielt somit in erster Linie auf IT-Dienstleister ab, die einen KIS oder ein GPAIM bereitstellen. Schweizer Finanzinstitute sollten grundsätzlich nicht betroffen sein.

Allerdings gibt es ein alternatives Szenario, in dem ein Unternehmen als « Anbieter » qualifiziert werden kann. Ein Unternehmen kann nämlich dann als « Anbieter » im Sinne der KI-VO gelten, wenn eine der folgenden alternativen Bedingungen erfüllt ist :

• Es bringt seinen Namen oder seine Marke auf einem risikoreichen KIS an, der bereits auf dem EU-Markt ist ;
• es ändert einen solchen risikoreichen KIS wesentlich (der weiterhin „risikoreich” bleibt) ; oder
• es ändert oder nutzt einen KIS auf dem EU-Markt entgegen seiner Zweckbestimmung, sodass er zu einem risikoreichen SIA wird (vgl. Artikel 25 Absatz 1 KI-VO).

Der Fall (iii) lässt sich anhand der Verwendung eines Chatbots für allgemeine Zwecke für eine risikoreiche Anwendung veranschaulichen, beispielsweise wenn eine Schweizer Bank ein solches Tool verwendet, um die Bonität einer in der Europäischen Union ansässigen natürlichen Person zu bewerten, und ihr die Ergebnisse mitteilt.

Territorial gesehen gelten nur Unternehmen, die ein KIS in der EU in Verkehr bringen oder in Betrieb nehmen, als « Anbieter » im Sinne der KI-VO. Die KI-VO kann jedoch auch für Anbieter außerhalb der EU gelten, insbesondere wenn das Ergebnis ihres SIA absichtlich in der EU verwendet wird (vgl. Fischer, cdbf.ch/1397). Diese Bestimmung soll Umgehungen verhindern und bewirkt eine Ausweitung der formalen Definition des Begriffs « Anbieter » (der grundsätzlich auf das Inverkehrbringen oder die Inbetriebnahme in der EU ausgerichtet ist). In den oben genannten Fällen (i) bis (iii) kann das Unternehmen, das das KIS wiederverwendet (auch außerhalb der EU), als „Lieferant” der KI-VO unterliegen, selbst wenn kein Inverkehrbringen oder keine Inbetriebnahme in der EU vorliegt. In diesen Fällen reicht es aus, dass das Ergebnis des Systems innerhalb der EU verwendet wird.

2. Was sind die konkreten Folgen der Rolle als Anbieter ?

Die Pflichten der Anbieter im Zusammenhang mit risikoreichen KIS werden in einem separaten Kommentar behandelt (siehe Caballero Cuevas, cdbf.ch/1406).

Für andere SIA lassen sich die wichtigsten Pflichten der Anbieter wie folgt zusammenfassen :

Pflichten im Zusammenhang mit SIA (Art. 50 KI-VO)

• Information : Personen müssen darüber informiert werden, dass sie mit einem KIS interagieren, sofern dies für einen informierten Nutzer nicht offensichtlich ist.
• Kennzeichnung : Text-, Ton-, Video- und Bildinhalte, die von einem KIS generiert oder verändert werden, müssen mit einer maschinenlesbaren Kennzeichnung versehen sein, die auf den Einsatz von KI hinweist. Diese Kennzeichnung, die bei Bildern einfacher ist (z. B. Wasserzeichen), ist bei Texten noch unklar. Eine Ausnahme bilden Bearbeitungswerkzeuge ohne wesentliche Veränderungen, von denen Dienste wie DeepL profitieren könnten.

Verpflichtungen im Zusammenhang mit GPAIM (Art. 53 KI-VO)

• Technische Dokumentation : Eine detaillierte technische Dokumentation des Modells muss geführt und regelmässig für die Aufsichtsbehörden aktualisiert werden. Eine vereinfachte Dokumentation muss auch den Nutzern des GPAIM zur Verfügung gestellt werden.
• Vertreter in der EU : Wenn der Anbieter seinen Sitz ausserhalb der EU hat, muss ein in der EU ansässiger gesetzlicher Vertreter benannt werden.
• Urheberrecht : Es müssen interne Regeln eingeführt werden, um das EU-Urheberrecht einzuhalten, einschliesslich der Vorschriften zum Text- und Daten-Scraping (TDM) und zum Recht auf Vergessenwerden. Das EU-Urheberrecht gilt für das Training von GPAIM, die in der EU angeboten werden, einschließlich solcher, die außerhalb der EU entwickelt wurden. Diese Regel soll verhindern, dass Modelle, die nach weniger strengen Regeln trainiert wurden, anschließend in Europa vermarktet werden.
• Trainingsdaten : Eine zusammenfassende, öffentlich zugängliche Darstellung der für das Training des Modells verwendeten Inhalte muss bereitgestellt werden.

Die KI-VO befreit Anbieter von GPAIM von den ersten drei Verpflichtungen, sofern ihr Modell unter einer freien und offenen (Open Source) Lizenz veröffentlicht wird. Diese Lizenz muss die Einsicht, Nutzung, Änderung und Verbreitung des Modells sowie die Veröffentlichung der Parameter, insbesondere der Gewichte, der Architektur und der Nutzungsinformationen, ermöglichen. Die beiden letzten Verpflichtungen bleiben hingegen bestehen.

Zusätzliche Anforderungen gelten für Anbieter von GPAIM, die „systemische Risiken” (Art. 55 KI-VO) aufweisen, d. h. sehr leistungsfähige Modelle, die insbesondere anhand der mobilisierten Rechenleistung bewertet werden. Große Sprachmodelle (LLM) wie GPT-4 von OpenAI könnten darunter fallen, die genauen Kriterien müssen jedoch noch präzisiert werden. Die KI-VO lässt die Tür für andere Modelle offen. Die betroffenen Anbieter müssen die mit ihrem Modell verbundenen Risiken bewerten, Maßnahmen zu deren Bewältigung ergreifen, schwerwiegende Vorfälle den Behörden melden und die Sicherheit des Systems gewährleisten.

3. Was sind die konkreten Folgen für Schweizer Unternehmen ?

Die meisten Schweizer Unternehmen können davon ausgehen, dass sie nicht als Anbieter im Sinne der KI-VO gelten, solange sie kein KIS auf dem EU-Markt in Verkehr bringen oder innerhalb der EU in Betrieb nehmen (siehe Fischer, cdbf.ch/1397). Wenn sie jedoch einen KIS in einer Weise ändern oder verwenden, die seinem ursprünglichen Zweck zuwiderläuft, sodass er zu einem risikoreichen KIS wird (vgl. Art. 25 Abs. 1 KI-VO) und das Ergebnis innerhalb der EU verwendet wird, könnten sie unserer Ansicht nach als « Anbieter » eingestuft werden und müssten dann die oben genannten Verpflichtungen erfüllen. Die Führung eines Verzeichnisses der verwendeten KIS könnte ein Ansatz sein, um dieses regulatorische Risiko zu bewältigen.