9 min de lecture - Provenance des modèles d’IA ouverts : séparer la généalogie de l’exécution

Une fiche descriptive, un nom de famille et une licence ne disent pas ce qui a réellement fonctionné en production, sous quelle politique ni avec quels outils. À l’inverse, une trace d’exécution renseigne peu sur les données, modèles de base et modifications qui ont produit les poids.

Deux annonces publiées à un jour d’intervalle rendent cette distinction très concrète. Le 26 août 2026, la CNIL a publié une nouvelle version du démonstrateur Genmod, qui explore les ascendants et descendants des modèles à poids ouverts sur Hugging Face. La mise à jour automatise une actualisation hebdomadaire des données, accélère l’exploration des graphes et ajoute une interface anglaise. Le 25 août, la Linux Foundation a annoncé l’accueil de TRACE, une spécification ouverte pour produire des traces d’exécution attestées par le matériel pour les charges de travail d’IA.

Ces projets répondent à des questions différentes. Genmod explore l’origine possible d’un modèle et ses dérivés. TRACE décrit des preuves relatives à une exécution précise. Les réunir dans un seul champ générique de « provenance de l’IA » donne l’apparence d’un dossier complet sans bien répondre à l’une ou l’autre question.

Un mot recouvre deux problèmes de preuve

La provenance d’un modèle se résume souvent au nom du fournisseur et à un identifiant. Cela peut suffire pour un premier prototype. Le dossier devient fragile dès qu’une équipe télécharge des poids, modifie un tokenizer, applique un adaptateur, fusionne des checkpoints, convertit le format de quantification ou republie le résultat sous un nom interne.

Le premier problème concerne la généalogie. Quel artefact exact l’équipe a-t-elle reçu ? Quels modèles de base, jeux de données et changements déclarés se trouvent en amont ? Quelle licence et quelles conditions d’usage s’appliquaient à la révision récupérée ? Si un élément source change, quels dérivés internes doivent être réexaminés ?

Le second concerne l’exécution. Quel condensat de modèle a vraiment été utilisé ? Dans quel environnement, sous quelle version de politique, avec quelle classe de données et quels outils externes ? Un déploiement peut garder le même nom de modèle tout en changeant chacun de ces faits.

Les responsables et les événements diffèrent. L’équipe modèle tient la généalogie ; les équipes plateforme et sécurité produisent les preuves d’exécution. Les relecteurs peuvent avoir besoin des deux dossiers sans devoir les reconstituer à partir d’une présentation.

Consigner la généalogie avant l’approbation

La CNIL décrit des modèles à poids ouverts que l’on peut télécharger, modifier, affiner, combiner puis republier. Son démonstrateur Genmod utilise des données publiques de Hugging Face pour parcourir les ascendants et descendants d’un modèle. L’ espace CNIL en ligne présente le projet comme une version bêta et une expérimentation de médiation et de transparence.

Il s’agit d’un bon outil d’exploration, pas d’un remplacement pour l’inventaire de votre organisation. Les métadonnées publiques changent, certains liens disparaissent et un affinage interne peut ne jamais être publié. Créez le dossier dès l’entrée de l’artefact dans le processus de livraison.

Ne remplacez pas un champ inconnu par une hypothèse. « Non déclaré par l’éditeur » aide davantage qu’une déduction plausible, car le relecteur voit ce qui reste à étudier. Conservez des copies ou des références durables lorsque les licences et contrats l’autorisent.

Le dossier rend visible un checkpoint remplacé, un adaptateur réentraîné ou une source de données modifiée. Notre guide sur les contrôles de mise à niveau des dépendances en production applique le même principe aux paquets logiciels : le changement de version ouvre une revue, il ne la clôt pas.

Consigner ce qui s’est passé pendant l’exécution

TRACE suit une autre voie. Sa documentation actuelle définit un « Trust Record » qui peut relier l’identifiant et le condensat des poids à une mesure de l’environnement d’exécution, au condensat d’une politique, à une classe de données et à la trace des appels d’outils. Les niveaux supérieurs utilisent une attestation matérielle afin qu’un vérificateur ne dépende pas d’un journal écrit par l’opérateur.

La spécification se trouve en aperçu développeur, en version 0.2. Ce statut compte. TRACE peut servir de référence de conception et faire l’objet d’une évaluation contrôlée. Il ne justifie pas de déclarer un système existant conforme ou prêt à traiter des données sensibles.

Une petite équipe peut commencer par un schéma d’exécution indépendant d’un fournisseur avant de choisir une technologie d’attestation :

Ce registre ne doit pas devenir une seconde base de prompts, de données personnelles ou de secrets. Conservez des identifiants, classifications, condensats et événements bien délimités. Ne pointez vers une preuve protégée que lorsqu’un audit ou une enquête l’exige, avec des règles d’accès et de conservation propres à ce système.

Quatre changements qui rouvrent la décision

Une nouvelle révision rouvre l’examen généalogique et le lien au runtime. Un changement d’environnement concerne d’abord l’exécution. Un affinage crée un artefact à évaluer. L’ajout d’un outil modifie les actions possibles, même si le condensat du modèle reste identique.

Préférez une table d’événements à un questionnaire annuel :

« Vérifier l’impact » signifie qu’un responsable nommé décide si le dossier change et consigne sa raison. Ce n’est pas une exemption automatique.

Commencer par un usage, pas par une plateforme

Choisissez une charge qui compte, puis nommez le responsable de l’artefact. Consignez révision, condensats, généalogie déclarée, source de la licence et décision d’évaluation. Reliez le condensat déployé à la version, à la politique, à la classe de données et aux outils autorisés.

Demandez ensuite à une personne extérieure à la construction de retrouver l’origine des poids et l’exécution de cette version. Les liens manquants et les noms ambigus forment le carnet de travail. Comparez les produits spécialisés après cet exercice : une grande plateforme ne corrige ni une propriété floue ni un modèle non figé. Pour revoir l’architecture et l’exploitation, rattachez ce travail aux décisions d’intégration de l’IA et d’ingénierie sur mesure.

Là où les outils actuels s’arrêtent

L’outil de la CNIL explore les métadonnées publiques de Hugging Face. Il ne prouve ni leur exhaustivité, ni la présence de données personnelles, ni le respect d’une obligation juridique. La CNIL présente ce travail comme une expérimentation sur la traçabilité et l’exercice possible des droits.

TRACE documente aussi des limites importantes. Sa page dédiée précise qu’un condensat de politique prouve quelle politique était active, pas si elle était adaptée. Une trace d’appels d’outils ne révèle pas le raisonnement interne du modèle et ne prouve pas le chemin exact des données entre les appels. Un opérateur privilégié peut falsifier les dossiers logiciels de niveau 0. L’attestation matérielle ne supprime pas les risques de canaux auxiliaires, de révocation de clés ou de rejeu.

La conclusion honnête tient moins du badge de conformité que du dossier de preuve. Métadonnées généalogiques, traces d’exécution signées, évaluations et approbations humaines restent des éléments distincts. Chacun réduit une part de l’incertitude dans son propre périmètre. Aucun ne doit emprunter la certitude des autres.

Questions pour la prochaine revue de modèle

1. Pouvez-vous identifier les poids exacts en production sans dépendre du nom affiché par le modèle ?
2. Quels champs généalogiques viennent de l’éditeur et lesquels avez-vous vérifiés ?
3. Quel événement rouvre la revue après un affinage ou un changement de modèle ?
4. Une personne indépendante peut-elle relier une exécution au modèle, à la politique et aux outils autorisés ?
5. Quelles preuves contiennent des données personnelles ou des secrets, et quelles règles gouvernent leur accès et leur suppression ?
6. Où le dossier indique-t-il l’incertitude au lieu de la masquer ?

Si les réponses résident dans la mémoire de plusieurs personnes, commencez par le registre.

Sources et limites

• La mise à jour de Genmod publiée par la CNIL le 26 août 2026 décrit le graphe généalogique, l’actualisation hebdomadaire des données publiques, les changements de recherche et la finalité expérimentale.
• L’espace CNIL sur Hugging Face décrit la bêta, les métadonnées publiques et l’usage prévu.
• L’ annonce de la Linux Foundation du 25 août 2026 consigne l’accueil de TRACE et le périmètre déclaré du projet.
• La documentation de TRACE v0.2 fournit les champs, le statut d’aperçu développeur et le modèle de vérification décrits ici.
• Les limites connues de TRACE précisent ce que ses dossiers n’établissent pas et les contrôles qui restent nécessaires.

Genmod dépend des données publiques de Hugging Face et TRACE v0.2 reste un aperçu développeur. Vérifiez leur documentation avant toute décision de production. Cet article n’est ni un avis juridique, ni une analyse d’impact, une certification ou la recommandation d’un produit.

Séparer la provenance et l'exécution

La CNIL facilite l’examen des arbres généalogiques. TRACE propose de rendre les faits d’une exécution vérifiables. Ces dossiers ne doivent pas être confondus.

Consignez l’origine de l’artefact et ce qu’a fait le système déployé. Reliez les deux dossiers par des condensats et des responsables, puis gardez leurs affirmations et leurs limites séparées.