La chaîne multi-modèles est une structure juridique, pas seulement une architecture

Lorsque l'on construit une chaîne de repli de modèles d'IA, on ne prend pas une décision purement technique. On prend une série de décisions juridiques, une par modèle de la chaîne, que la politique de confidentialité ne divulgue probablement pas, que l'annexe de l'accord de traitement des données ne répertorie pas et auxquelles les utilisateurs n'ont pas consenti.

L'architecture paraît propre : si le modèle principal est indisponible ou saturé, la requête bascule vers le modèle secondaire, puis vers le modèle tertiaire. La structure juridique, elle, est tout autre : les mêmes données d'utilisateur sont transférées à trois entités juridiques distinctes, chacune régie par une loi nationale différente, chacune opérant sous une politique de conservation des données différente, chacune soumise à un régime différent de demandes d'accès gouvernementales.

Personne dans le secteur de l'IA n'en parle.

La chaîne de sous-traitants

Au titre de l'article 28 du RGPD, le responsable du traitement doit recourir à des sous-traitants dans le cadre d'un contrat contraignant (article 28, paragraphe 3) couvrant l'objet et la durée, la nature et la finalité, le type de données à caractère personnel, les catégories de personnes concernées, ainsi que les obligations et les droits du responsable du traitement. Un sous-traitant ne peut recruter un autre sous-traitant (sous-traitant ultérieur) qu'avec l'autorisation écrite préalable du responsable du traitement (article 28, paragraphe 2), et doit lui imposer par contrat les mêmes obligations de protection des données, tout en demeurant pleinement responsable envers le responsable du traitement (article 28, paragraphe 4). Lorsque la chaîne comprend trois fournisseurs de modèles, chacun est un sous-traitant ou un sous-traitant ultérieur que la chaîne doit encadrer par un tel contrat.Sources : RGPD Article 28

La plupart des entreprises qui s'appuient sur des API d'IA n'ont qu'un seul accord de traitement des données : avec le fournisseur qu'elles utilisent principalement. Les fournisseurs de repli, soit ne figurent pas du tout sur la liste des sous-traitants, soit y sont mentionnés sans qu'un accord de traitement des données contraignant ne soit en place. Lorsqu'une requête bascule vers le modèle secondaire, le transfert de données est, sur le plan technique, non autorisé au regard du RGPD.

Ce n'est pas théorique. Des autorités de protection des données ont prononcé des amendes substantielles pour avoir divulgué des données à caractère personnel à des destinataires sans base valable, ou pour les avoir transférées sans garanties adéquates — l'amende de 65 millions de NOK infligée par la Norvège à Grindr pour avoir partagé des données avec des partenaires publicitaires sans consentement valable, et l'amende de 290 millions d'EUR infligée par l'autorité néerlandaise de protection des données à Uber pour avoir transféré les données de chauffeurs vers les États-Unis sans garanties adéquates au titre de l'article 44. Le fait que le transfert ait été automatisé et que le responsable du traitement n'en ait pas eu connaissance n'écarte pas la responsabilité. Cela pourrait l'aggraver.Sources : Décision Grindr · Décision Uber

Le problème de la juridiction

La résidence des données et la juridiction applicable ne sont pas une même chose. Un fournisseur de modèles peut exploiter des serveurs à Francfort tout en restant soumis aux lois de son pays d'immatriculation. Cette distinction prend une importance aiguë lorsque la chaîne comprend des fournisseurs immatriculés dans des pays dotés de lois d'accès aux données à portée extraterritoriale.

L'article 7 de la loi chinoise sur le renseignement national (2017, modifiée en 2018) dispose que toutes les organisations et tous les citoyens doivent « soutenir, assister et coopérer avec les efforts de renseignement national conformément à la loi » — une obligation de coopération large, bien que tempérée par ce critère du « conformément à la loi » et par les protections de l'article 8. La loi chinoise sur la protection des informations personnelles (PIPL) ajoute son propre régime de transfert vers l'étranger (articles 38 et 39). Les deux s'appliquent aux entreprises immatriculées en Chine, quel que soit le lieu d'implantation de leurs serveurs.Sources : Loi sur le renseignement national

Il n'existe aucune décision d'adéquation UE-Chine. Un transfert de données à caractère personnel d'un utilisateur européen vers un fournisseur d'IA chinois — y compris via une API vers un fournisseur dont les serveurs peuvent se trouver en Europe mais dont l'entité mère est chinoise — doit reposer sur un outil de transfert du chapitre V du RGPD, en pratique des clauses contractuelles types étayées par une analyse d'impact du transfert et, le cas échéant, des mesures supplémentaires nécessaires (le consentement explicite au titre de l'article 49 ne constituant qu'une exception étroite). Contrairement aux transferts UE-États-Unis, l'adéquation de ces garanties pour la Chine n'a pas été tranchée par la CJUE comme elle l'a été dans l'arrêt Schrems II, laissant aux exportateurs le soin d'évaluer eux-mêmes le droit chinois de la surveillance — y compris la loi sur le renseignement national.Sources : Schrems II (C-311/18) · Recommandations 01/2020 du CEPD

Lorsque la chaîne comprend des fournisseurs relevant de plusieurs juridictions, chaque bascule de modèle constitue potentiellement un transfert transfrontalier. L'utilisateur a consenti à utiliser la plateforme. Il n'a pas consenti à chacun des transferts pris individuellement.

La cascade de conservation

Chaque fournisseur de la chaîne dispose de sa propre politique de conservation des données. Même si tous trois affirment ne pas entraîner leurs modèles sur les données d'API, les durées de conservation à des fins de journalisation, de surveillance des abus et d'exploitation de l'infrastructure diffèrent. Une requête qui bascule vers le modèle tertiaire peut être conservée pendant une durée différente, sous une politique différente, par rapport à une requête traitée par le modèle principal.

Le problème pratique est que cela ne peut pas être audité. On peut lire la politique de confidentialité. On ne peut pas inspecter l'infrastructure de conservation réelle. Lorsqu'un utilisateur exerce son droit à l'effacement au titre de l'article 17 du RGPD, on peut supprimer les données de ses propres systèmes et adresser des demandes de suppression à chaque fournisseur. On ne peut pas vérifier que ces suppressions ont bien été exécutées. On ne peut pas produire de preuve de conformité.Sources : RGPD Article 17

Le déficit d'information

Les articles 13, paragraphe 1, point e), et 14, paragraphe 1, point e), du RGPD imposent aux responsables du traitement d'informer les personnes concernées, au moment de la collecte, des destinataires — ou au moins des catégories de destinataires — de leurs données à caractère personnel. Une liste de sous-traitants qui nomme le fournisseur de modèles principal mais pas les fournisseurs de repli est incomplète. Lorsqu'un repli est déclenché, des données ont été transférées à un sous-traitant non divulgué dans l'information sur la confidentialité.Sources : Article 13 · Article 14

Cela importe surtout lorsque le repli est silencieux : l'utilisateur envoie une requête, le modèle principal est indisponible, la requête est réacheminée vers le modèle secondaire, et l'utilisateur reçoit une réponse sans aucune indication qu'un fournisseur différent a traité ses données. L'attente raisonnable qu'il avait au moment de la soumission n'a pas été satisfaite.

À quoi ressemble l'architecture de conformité minimale viable

La solution n'est pas de supprimer les chaînes de repli. L'ingénierie de la fiabilité a des raisons légitimes d'y recourir. La solution consiste à traiter la structure juridique de la chaîne avec la même rigueur que sa structure technique.

Cela signifie : un accord de traitement des données signé avec chaque fournisseur de la chaîne avant tout traitement de données. Une liste de sous-traitants qui reflète la chaîne réelle, y compris les replis. Une information sur la confidentialité qui divulgue l'ensemble des sous-traitants potentiels, ou à tout le moins les catégories de sous-traitants par juridiction. Un mécanisme de journalisation qui enregistre quel fournisseur a traité chaque requête, afin que les demandes d'effacement puissent être dirigées avec exactitude. Une analyse d'impact du transfert pour tout fournisseur soumis à des lois d'accès gouvernemental à portée extraterritoriale.

Rien de tout cela n'est techniquement complexe. La complexité est organisationnelle : il faut traiter la couche de sélection des modèles comme une interface juridique, et non comme une simple décision d'infrastructure.

Le déficit qui compte

L'industrie de l'IA a investi massivement pour expliquer ce que font les modèles. Elle n'a presque rien investi pour documenter où vont les données lorsque les modèles sont chaînés. Le premier point est un problème de transparence des modèles. Le second est un problème de gouvernance des données, et c'est celui qui se manifestera en premier dans le cadre de l'application de la réglementation.

La chaîne qui traite les données est une structure juridique. Elle devrait être conçue comme telle.