Qui est un fournisseur (« provider ») ?

Le Règlement européen sur l’intelligence artificielle (RIA) prévoit des obligations spécifiques pour les différents acteurs intervenant aux diverses étapes du développement, de l’exploitation et de l’utilisation d’un outil visé par le RIA.

Les deux « rôles » les plus déterminants au regard de ces obligations sont ceux de « fournisseur » (« provider ») et de « déployeur » (« deployer  »). Il est donc important de déterminer le rôle que joue chaque entreprise vis-à-vis des systèmes d’intelligence artificielle (SIA) ou des modèles d’IA à usage général (GPAIM) (sur les notions de SIA et de GPAIM, cf. Caballero Cuevas, cdbf.ch/1382) qu’elle utilise ou développe, car ce rôle conditionne les obligations applicables en vertu du RIA. Le présent commentaire porte sur la notion de fournisseur au sens du RIA.

1. Qui est considéré comme un fournisseur ?

Le fournisseur est défini comme « une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA ou un modèle d’IA à usage général et le met sur le marché ou met le système d’IA en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit  » (article 3 al. 3 RIA).

Les éléments constitutifs de cette définition ont plusieurs implications :

• Mise sur le marché : Elle ne concerne que le marché de l’Union européenne (UE) et désigne la première mise à disposition d’un SIA ou d’un GPAIM sur ce marché.
• Mise en service : Elle ne concerne également que l’UE. Ce qui est visé ici est la fourniture initiale d’un SIA pour une première utilisation directement à un déployeur ou pour une utilisation propre par le fournisseur. Ce deuxième critère ne s’applique pas aux GPAIM, car ces modèles ne sont considérés que comme une étape préliminaire d’un SIA.
• Activités dirigées vers l’UE : Les activités doivent avoir été intentionnellement dirigées vers l’UE. Un simple « débordement non intentionnel » sur le marché de l’UE n’est pas suffisant (cf. Fischer, cdbf.ch/1397).
• Caractère onéreux ou gratuit : Le fait que le SIA soit proposé à titre onéreux ou gratuit n’a pas d’importance.

La définition de « fournisseur » vise donc avant tout des prestataires de services en matière IT qui sont à l’origine d’un SIA ou d’un GPAIM. Les établissements financiers suisses ne devraient en principe pas être concernés.

Cela étant dit, il existe un scénario alternatif dans lequel une entreprise peut être qualifiée de « fournisseur ». En effet, une entreprise peut devenir un « fournisseur » au sens du RIA si une des conditions alternatives suivantes est réalisée :

• elle met son nom ou sa marque sur un SIA à haut risque qui est déjà sur le marché de l’UE ;
• elle modifie substantiellement un tel SIA à haut risque (qui reste « à haut risque ») ; ou
• elle modifie ou utilise un SIA sur le marché de l’UE contrairement à sa destination de manière à ce qu’il devienne un SIA à haut risque (cf. article 25 al. 1 RIA).

L’hypothèse (iii) peut être illustrée par le cas de l’utilisation d’un chatbot à usage général pour une application à haut risque, par exemple si une banque suisse recourt à un tel outil pour établir la note de crédit d’une personne physique domiciliée dans l’Union européenne et lui en communique les résultats.

Sur le plan territorial, seules les entités qui mettent un SIA sur le marché ou en service dans l’UE sont considérées comme des « fournisseurs » au sens du RIA. Toutefois, le RIA peut aussi s’appliquer à des fournisseurs hors UE, en particulier lorsque le résultat de leur SIA est intentionnellement utilisé dans l’UE (cf. Fischer, cdbf.ch/1397). Cette disposition vise à prévenir les contournements et a pour effet d’étendre la définition formelle du fournisseur (focalisée en principe sur la notion de mise sur le marché ou mise en service dans l’UE). Dans les hypothèses (i) à (iii) ci-dessus, c’est l’entreprise qui réutilise le SIA (y compris hors UE), qui peut être soumise au RIA en qualité de « fournisseur », même en l’absence de mise sur le marché ou de mise en service dans l’UE. Il suffit dans ces cas que le résultat du système soit utilisé au sein de l’UE.

2. Quelles sont les conséquences concrètes du rôle de fournisseur  ?

Les obligations à charge des fournisseurs en lien avec les SIA à haut risque font l’objet d’un commentaire séparé (cf. Caballero Cuevas, cdbf.ch/1406).

S’agissant des autres SIA, les principales obligations des fournisseurs peuvent être résumées comme suit :

Obligations en lien avec des SIA (art. 50 RIA)

• Information : Les personnes doivent être informées qu’elles interagissent avec un SIA, à moins que cela ne soit évident du point de vue d’un utilisateur avisé.
• Labelling : Les contenus textuels, sonores, vidéo et visuels générés ou modifiés par un SIA doivent porter un marquage lisible par machine signalant l’intervention de l’IA. Ce marquage, plus simple pour les images (ex. filigrane), reste incertain pour les textes. Une exception existe pour les outils d’édition sans modification substantielle, dont pourraient bénéficier des services comme DeepL.

Obligations en lien avec des GPAIM (art. 53 RIA)

• Documentation technique : Une documentation technique détaillée du modèle doit être tenue et régulièrement mise à jour à l’attention des autorités de surveillance. Une documentation simplifiée doit également être mise à disposition des utilisateurs du GPAIM.
• Représentant dans l’UE : Un représentant légal établi dans l’UE doit être désigné lorsque le fournisseur est situé en dehors de l’UE.
• Droits d’auteur : Des règles internes doivent être introduites pour respecter le droit d’auteur de l’UE, y compris la réglementation sur l’exploration de textes et de données (TDM) et le droit de retrait. Le droit d’auteur de l’UE s’applique à l’entraînement des GPAIM proposés dans l’UE, y compris ceux développés hors UE. Cette règle vise à éviter que des modèles entraînés selon des règles plus souples soient ensuite commercialisés en Europe.
• Données d’entraînement : Une présentation sommaire, accessible au public, des contenus utilisés pour l’entraînement du modèle doit être fournie.

Le RIA exonère les fournisseurs de GPAIM des trois premières obligations à condition que leur modèle soit publié sous une licence libre et ouverte (open source). Cette licence doit permettre de consulter, utiliser, modifier et distribuer le modèle, et rendre publics les paramètres, notamment les poids, l’architecture et les informations d’utilisation. En revanche, les deux dernières obligations restent applicables.

Des exigences supplémentaires s’appliquent aux fournisseurs de GPAIM qui présentent des « risques systémiques » (art. 55 RIA), c’est-à-dire des modèles très puissants, évalués notamment selon la puissance de calcul mobilisée. Des grands modèles de langage (LLM) tels que GPT-4 d’OpenAI pourraient en faire partie, mais les critères exacts restent à préciser. Le RIA laisse la porte ouverte à d’autres modèles. Les fournisseurs concernés doivent évaluer les risques liés à leur modèle, mettre en place des mesures pour y répondre, signaler les incidents graves aux autorités et garantir la sécurité du système.

3. Quelles sont les conséquences concrètes pour les entreprises suisses  ?

La majorité des entreprises suisses peuvent considérer qu’elles n’assument pas le rôle de fournisseur au sens du RIA, tant qu’elles ne mettent pas un SIA sur le marché de l’UE, ni ne le mettent en service au sein de l’UE (cf. Fischer, cdbf.ch/1397). En revanche, si elles modifient ou utilisent un SIA d’une manière contraire à sa destination initiale, de sorte qu’il devienne un SIA à haut risque (cf. art. 25 al. 1 RIA) et que le résultat soit utilisé au sein de l’UE, elles pourraient alors, selon nous, se voir attribuer le rôle de « fournisseur » et devraient alors se conformer aux obligations susmentionnées qui en découlent. La tenue d’un inventaire des SIA utilisés pourrait être une approche pour gérer ce risque règlementaire.