IA : la CNIL met à jour son outil de traçabilité des modèles publiés en source ouverte

La CNIL publie une nouvelle version de son démonstrateur permettant d’explorer la généalogie des modèles d’IA publiés en source ouverte. Cette mise à jour améliore notamment les performances de l’outil, son ergonomie et automatise l’actualisation des données. Une version en anglais est désormais disponible.

Les modèles d’IA publiés en source ouverte peuvent être téléchargés, modifiés, spécialisés à l’aide de nouvelles données ou combinés avec d’autres modèles, avant d’être à nouveau mis à disposition. Un même modèle (par exemple, Kimi K3, Mistral Medium, LLaMa etc.) peut ainsi être à l’origine de nombreux modèles dérivés.

Le démonstrateur Genmod développé par le service IA de la CNIL en collaboration avec le Laboratoire d’innovation numérique de la CNIL (LINC), initialement publié en novembre 2025, permet d’explorer ces liens et de retrouver les ascendants d’un modèle (les modèles dont il provient) ainsi que ses descendants (les modèles auxquels il a contribué).

Cette traçabilité est notamment utile pour étudier les conséquences de la mémorisation de données d’entraînement par les modèles d’IA. Il s’agit d’identifier, à partir d’un modèle ayant mémorisé des données personnelles, les autres modèles de sa « généalogie » susceptibles d’avoir également conservé ces informations. Cela permet notamment d’étudier les conditions d’exercice des droits prévus par le RGPD.

Une nouvelle version plus rapide et plus simple à utiliser

Cette nouvelle version apporte plusieurs améliorations au démonstrateur.

Une interface disponible en français et en anglais

L’ensemble de l’application est désormais utilisable dans les deux langues, via un bouton en haut à droite de la fenêtre.

Le moteur d’exploration du graphe a été optimisé afin de fortement réduire le temps nécessaire aux recherches les plus étendues. Ainsi, une recherche sans limite de profondeur prend une vingtaine de secondes en moyenne.