Modèles d’IA ouverts : comment les données mémorisées se transmettent d’un modèle à ses dérivés

Installer un modèle d’intelligence artificielle ouvert, c’est hériter de ce qu’il a mémorisé. Y compris de fragments issus d’un corpus que vous n’avez jamais téléchargé. La Commission nationale de l’informatique et des libertés (CNIL) a mis en ligne une nouvelle version de Genmod le 26 août 2026. Ce démonstrateur reconstitue la lignée des modèles d’intelligence artificielle (IA) publiés en source ouverte sur la plateforme Hugging Face. Pour un modèle donné, il affiche l’ensemble des modèles dont il provient et ceux auxquels il a contribué.

Depuis l’optimisation de son moteur de recherche, une requête sans limite de profondeur prend une vingtaine de secondes en moyenne. Le gain n’est pas cosmétique : il rend praticable une question qui ne l’était pas. De quoi dérive le modèle que vous vous apprêtez à utiliser, et à qui s’adresser si vos données s’y trouvent. Aucune obligation nouvelle ne naît de cette publication : la CNIL présente un démonstrateur, pas un registre officiel des modèles.

Un modèle peut restituer des fragments de ce qu’il a lu pendant son entraînement

Un modèle n’est pas une copie de son corpus. Ses paramètres encodent des régularités statistiques, pas des fichiers rangés dans une base. Écrire qu’un modèle « contient » ses données d’entraînement est inexact.

Certains fragments survivent pourtant à cette compression. Les données rares, atypiques ou très répétées sont celles qui se laissent le plus facilement restituer, quand la requête est bien formulée. C’est ce phénomène que la CNIL désigne par la mémorisation, et c’est lui — pas un stockage — qui fait entrer un modèle dans le champ du règlement général sur la protection des données (RGPD). La traçabilité des lignées est présentée par l’autorité comme un moyen d’en étudier les conséquences.

Le Comité européen de la protection des données (CEPD) a fixé la règle d’appréciation dans son avis 28/2024, adopté le 18 décembre 2024. Un modèle entraîné sur des données personnelles n’est pas anonyme par principe. L’anonymat se démontre au cas par cas : il suppose qu’il soit très improbable d’identifier une personne à partir du modèle, ou d’en extraire ses données par des requêtes.

La démonstration reste ouverte à celui qui exploite le modèle. La CNIL admet qu’un responsable de traitement puisse établir, tests à l’appui, qu’aucune donnée personnelle ne peut être extraite ni déduite. Rien ne dit à l’avance de quel côté tombe un modèle donné. C’est une appréciation, pas une catégorie.

Chaque réentraînement transmet au modèle suivant ce que le précédent avait mémorisé

Personne ne repart de zéro. Affiner un modèle, l’adapter à une langue ou à un métier, c’est partir des poids existants et les déplacer. L’opération ajoute des données ; elle n’efface pas ce qui était déjà encodé.

Le maillon invisible est là : ce que le parent avait mémorisé se retrouve dans l’enfant. La donnée voyage avec le modèle, pas avec le jeu d’entraînement. Un auteur peut hériter d’un corpus qu’il n’a jamais téléchargé.

Le laboratoire d’innovation numérique de la CNIL (LINC) décrit le mécanisme par une image : « Au fur et à mesure qu’un modèle est repris et de nouveau entraîné, les données du jeu peuvent ruisseler dans les modèles descendants. »

Ce ruissellement se joue sur une plateforme de très grande taille. Fin 2025, Hugging Face hébergeait environ deux millions de modèles et un demi-million de jeux de données publiés. Une lignée compte alors plusieurs générations et de nombreuses branches. D’où la logique de l’outil, qui remonte dans les deux sens : les ascendants d’un modèle, puis les descendants auxquels il a servi de base.

L’ascendance d’un modèle ne tient qu’à ce que son auteur a déclaré

L’arbre n’est pas une observation technique des modèles. Il est reconstruit à partir des métadonnées publiées par les auteurs eux-mêmes, au premier rang desquelles le champ qui indique le modèle de base. Ce champ se renseigne à la main, et rien n’impose techniquement de le remplir.

La conséquence porte sur la façon de lire un résultat. Une lignée affichée est un plancher : les filiations qu’elle montre existent, celles qu’elle ne montre pas ne sont pas exclues. Un arbre vide peut signaler un modèle entraîné de zéro. Il peut tout aussi bien signaler une déclaration manquante. Aucun des deux cas ne se distingue de l’autre dans l’outil, et un arbre sans ascendant ne vaut donc pas certificat d’origine.

La fraîcheur, elle, est datée. La CNIL a automatisé l’actualisation hebdomadaire du graphe à partir des dépôts publics de Hugging Face, et l’application affiche désormais la date de mise à jour des données. Un modèle publié entre deux reconstructions n’apparaît pas encore. L’horodatage visible dans l’application est le premier élément à regarder avant d’interpréter un arbre.

Genmod remonte l’arbre dans les deux sens, en une vingtaine de secondes

Le démonstrateur a été développé par le service de l’intelligence artificielle de la CNIL avec son laboratoire d’innovation numérique, et mis à disposition une première fois le 18 décembre 2025. La version publiée le 26 août 2026 ne change pas sa finalité : elle en change la maniabilité.

La CNIL annonce les évolutions suivantes :

• un moteur de recherche optimisé, qui ramène à une vingtaine de secondes en moyenne une recherche sans limite de profondeur ;
• l’affichage de la progression d’une recherche et, lorsqu’il peut être estimé, du temps restant ;
• le traitement de plusieurs recherches simultanées, avec la position dans la file d’attente et le nombre de recherches en cours ;
• une interface disponible en français et en anglais ;
• un classement des résultats par nombre de téléchargements.

La vingtaine de secondes mérite d’être rapportée à l’échelle du problème. Remonter une lignée sans limite de profondeur, sur une plateforme qui héberge des millions de dépôts, revient à parcourir un graphe dont chaque nœud peut ouvrir plusieurs branches. C’est un coût de calcul, pas un détail d’ergonomie : au-delà d’un certain temps de réponse, personne ne remonte l’arbre, et la traçabilité reste théorique.

Le geste est à la portée de qui télécharge un modèle. Vous entrez son nom dans le démonstrateur. Vous lisez ses ascendants, pour savoir de quoi dérive ce que vous vous apprêtez à installer. Vous confrontez ensuite cette lignée au résumé des contenus d’entraînement publié par le fournisseur au titre de l’article 53 de l’AI Act, le règlement européen sur l’intelligence artificielle.

Pour la personne concernée, la lignée dit à qui adresser sa demande

L’expérimentation qui a donné naissance à l’outil partait d’une situation précise. Une personne constate qu’un modèle publié en source ouverte restitue des données la concernant. Elle veut s’y opposer, y accéder ou en obtenir l’effacement. Encore faut-il savoir à qui écrire.

Le scénario décrit par le LINC se déroule en trois temps. La personne part du modèle où elle a constaté la restitution. Elle identifie, dans la même généalogie, les autres modèles susceptibles d’avoir mémorisé les mêmes données. Elle adresse ensuite ses demandes aux auteurs de ces modèles. Sans généalogie, elle n’aurait pu s’adresser qu’au seul modèle où elle a vu ses données apparaître — exercer ses droits sur ses données personnelles suppose de savoir qui les détient.

La voie existe ; son issue n’est pas acquise. Le RGPD permet de refuser une demande manifestement infondée ou excessive. Il dispense aussi le responsable de traitement qui n’est pas en mesure d’identifier la personne d’obtenir des informations supplémentaires pour y parvenir. Un modèle de langue n’est pas un fichier client : rien n’y garantit qu’une personne soit identifiable au sens du règlement.

Côté information des personnes, la CNIL a publié ses recommandations le 7 février 2025. Elles admettent, pour les modèles à usage général, une information globale par catégories de sources plutôt qu’une description exhaustive du corpus. C’est un aménagement au regard de la difficulté pratique, pas une dispense d’informer lorsqu’un modèle a pu mémoriser des données.

Réutiliser un modèle ouvert fait entrer dans la chaîne de responsabilité RGPD

Télécharger un modèle ouvert n’est pas acheter un produit fini. Celui qui le déploie pour son propre compte — une entreprise, une association, un service public — devient responsable de traitement pour cet usage. Le statut ne dépend ni de la taille de la structure, ni du fait qu’elle n’a entraîné aucun modèle.

L’avis 28/2024 du CEPD ajoute un maillon en amont. Lorsqu’un modèle a été entraîné à partir de données traitées illicitement, cette illicéité peut affecter la licéité de l’utilisation ultérieure du modèle par un autre responsable de traitement. L’exception est expressément prévue : elle ne joue que si le modèle est effectivement anonyme, au sens exigeant rappelé plus haut.

« Peut affecter » n’est pas « affecte ». L’avis ne produit aucun verdict automatique, et il revient aux autorités de contrôle d’apprécier chaque situation. Ce qu’il installe est une exposition : un réutilisateur ne peut plus considérer que l’origine des données d’entraînement ne le regarde pas.

C’est cette exposition qui donne à la généalogie une utilité qui dépasse l’expérimentation. Pour une organisation qui intègre, modifie ou redistribue des modèles tiers, l’arbre des ascendants dit de quels modèles antérieurs elle hérite, donc quels entraînements elle n’a pas conduits mais dont elle peut avoir à répondre. La presse spécialisée y a vu, dès la première mise en ligne de l’outil, le chaînon manquant de la conformité. La CNIL, elle, s’en tient au statut de démonstrateur, et aucune obligation de traçabilité ne découle de sa publication.

Le statut de fournisseur AI Act se déclenche au-delà d’un tiers du calcul initial

Le second texte ne s’accroche pas au même endroit. Le RGPD suit le traitement de données personnelles, quel que soit le rôle technique de celui qui l’opère. L’AI Act suit un rôle — fournisseur, fournisseur en aval, déployeur — et, pour requalifier celui qui modifie un modèle existant, un seuil de calcul.

Les obligations de l’article 53 pèsent sur les fournisseurs de modèles d’IA à usage général depuis le 2 août 2025. Elles sont au nombre de quatre :

• tenir une documentation technique du modèle ;
• informer les fournisseurs en aval qui l’intègrent ;
• se doter d’une politique de respect du droit d’auteur ;
• publier un résumé suffisamment détaillé des contenus d’entraînement.

Celui qui affine un modèle ne devient fournisseur que si le calcul mobilisé par sa modification dépasse un tiers de celui de l’entraînement initial. Ce tiers est un critère indicatif, issu des orientations de la Commission européenne, et non un seuil inscrit dans le règlement. Au-delà, les obligations ne portent que sur la modification apportée.

La publication sous licence libre et ouverte allège la charge sans la supprimer. L’exemption dispense des deux premières obligations, celles de documentation prévues à l’article 53(1)(a) et (b). Elle laisse subsister la politique de droit d’auteur et le résumé public des contenus d’entraînement. Elle ne joue pas pour les modèles présentant un risque systémique. Ce résumé public est, côté AI Act, la seule pièce qui documente ce qui est entré dans le modèle — donc la seule à confronter à l’arbre généalogique.

Rester sous le seuil de l’AI Act ne met à l’abri de rien du côté RGPD. Les deux régimes se cumulent, comme se cumulent plus largement les obligations imposées aux acteurs du numérique dans l’UE.

La CNIL n’a pas encore arrêté sa position sur l’exercice des droits

Le LINC a annoncé un projet de recherche courant jusqu’en octobre 2025, sauf nécessité de le poursuivre. L’accès aux données était limité au service de l’intelligence artificielle de la CNIL et à un chercheur du médialab de Sciences Po, et le laboratoire s’est engagé à supprimer les données traitées à la fin du projet. Ni la clôture effective ni la suppression effective n’ont été rendues publiques. Le démonstrateur, lui, continue d’être maintenu et mis à jour.

Ce qu’il établit est étroit et solide : remonter la lignée d’un modèle publié en source ouverte est faisable, en une vingtaine de secondes, à partir de déclarations d’auteurs. Ce qu’il n’établit pas est tout aussi net. Il ne dit pas si un modèle a réellement mémorisé les données d’une personne. Il ne dit pas si une demande d’effacement est fondée, ni ce qu’un auteur de modèle est tenu d’y répondre.

La CNIL en tire de la matière pour arrêter sa position sur la façon dont les droits pourraient s’exercer sur un modèle. Elle ne l’a pas arrêtée, et aucun droit nouveau ne naît de cet outil. En attendant cette position, deux documents sont consultables aujourd’hui pour tout modèle que vous envisagez d’utiliser : son arbre d’ascendants dans le démonstrateur, et le résumé de ses contenus d’entraînement publié au titre de l’article 53.

Questions fréquentes

Qu’appelle-t-on la généalogie d’un modèle d’IA ?

C’est la chaîne des modèles dont un modèle dérive, et de ceux qu’il a servi à construire. Le démonstrateur Genmod de la CNIL, dont une nouvelle version a été mise en ligne le 26 août 2026, affiche cet arbre pour les modèles publiés en source ouverte sur Hugging Face. Il le reconstitue à partir des métadonnées déclarées par les auteurs, notamment le champ indiquant le modèle de base.

L’outil de la CNIL crée-t-il une obligation de traçabilité pour les auteurs de modèles ?

Non. Aucun texte nouveau ne découle de cette publication : il s’agit d’un démonstrateur issu d’une expérimentation, destiné à éclairer la position de l’autorité sur la façon dont les droits des personnes pourraient s’exercer. Les obligations applicables restent celles du RGPD et de l’AI Act.

Un arbre sans ascendant prouve-t-il qu’un modèle n’a pas de modèle parent ?

Non. La généalogie est reconstruite à partir de métadonnées déclaratives, et rien n’oblige techniquement un auteur à renseigner son modèle de base. Un lien absent peut n’être que la trace d’une déclaration manquante. L’arbre donne un plancher de filiation, pas un inventaire.

Peut-on être responsable au titre du RGPD sans être fournisseur au sens de l’AI Act ?

Oui, et c’est la situation la plus courante. L’AI Act attache ses obligations à un rôle et, pour la requalification d’un modificateur en fournisseur, à un seuil de calcul indicatif d’un tiers de l’entraînement initial. Le RGPD s’attache au traitement de données personnelles : celui qui déploie un modèle tiers pour son propre compte en répond, quel que soit son statut au regard de l’AI Act.

Comment vérifier de quoi dérive un modèle avant de l’utiliser ?

Le nom du modèle se saisit dans le démonstrateur Genmod, qui affiche ses ascendants et ses descendants. La base est reconstruite chaque semaine à partir des dépôts publics et l’application indique la date de sa dernière mise à jour. Cette lignée se confronte ensuite au résumé des contenus d’entraînement que le fournisseur publie au titre de l’article 53 de l’AI Act. Les deux lectures ne se remplacent pas : l’une dit d’où vient le modèle, l’autre ce qui est entré dedans.