PANAME, quatre organismes publics pour un instrument de mesure
La Commission nationale de l'informatique et des libertés a annoncé un partenariat autour d'un projet nommé PANAME, pour Privacy Auditing of AI Models. Quatre organismes publics français, la CNIL, l'ANSSI, le PEReN et le projet IPoP piloté par Inria, travaillent ensemble depuis dix-huit mois au développement d'une bibliothèque logicielle « disponible toute ou partie en source ouverte, destinée à unifier la façon dont la confidentialité des modèles est testée ».
Le motif de ce chantier ne vient pas de la CNIL elle-même : l'autorité rapporte un avis adopté en décembre 2024 par le Comité européen de la protection des données (CEPD). Cet avis rappelle que « le RGPD s'applique, dans de nombreux cas, aux modèles d'IA entraînés sur des données personnelles, en raison de leurs capacités de mémorisation », et précise « qu'il est très souvent nécessaire de démontrer dans une analyse qu'un modèle résiste à des attaques portant sur la confidentialité des données pour conclure à son caractère anonyme, condition permettant de le sortir du champ d'application du RGPD ».
Trois nuances de cette phrase comptent pour un professionnel : « très souvent » et non « toujours », « dans une analyse », ce qui situe l'exigence dans un document plutôt que dans une propriété abstraite du modèle, et « démontrer », qui n'est pas « affirmer ». Le CEPD ne crée pas une obligation de test au sens du règlement. Il indique ce qu'il attend d'une démonstration d'anonymat lorsqu'elle est produite.
Qui fait quoi dans le projet PANAME
La répartition des rôles annoncée par la CNIL est précise et donne la mesure du montage institutionnel.
| Organisme | Rôle dans PANAME |
|---|---|
| PEReN | Développement principal de la bibliothèque logicielle |
| ANSSI | Expertise cyber, notamment sur les scénarios d'attaques sur les systèmes informatiques |
| Projet IPoP (piloté par Inria) | Direction scientifique du projet |
| CNIL | Pilotage du projet et cadrage juridique |
Les quatre organismes ont par ailleurs lancé conjointement un appel à manifestation d'intérêt pour la phase de test. Il a été ouvert du 26 février 2026 au 28 mars 2026 et il est aujourd'hui clos. Aucune échéance nouvelle n'a été publiée depuis.
Pourquoi un modèle ne se vérifie pas comme un fichier
Le règlement général sur la protection des données, dans son considérant 26, pose depuis 2016 que l'anonymat s'apprécie au regard d'un état de la technique et non d'une propriété figée : « Pour établir si des moyens sont raisonnablement susceptibles d'être utilisés pour identifier une personne physique, il convient de prendre en considération l'ensemble des facteurs objectifs, tels que le coût de l'identification et le temps nécessaire à celle-ci, en tenant compte des technologies disponibles au moment du traitement et de l'évolution de celles-ci. » Le même considérant vise les données rendues anonymes « de telle manière que la personne concernée ne soit pas ou plus identifiable ».
Sur un jeu de données, une personne compétente peut ouvrir le fichier, compter les lignes, croiser les colonnes pour évaluer le risque de réidentification. Sur un modèle d'IA, c'est-à-dire un ensemble de paramètres numériques, cette lecture directe n'existe pas. La seule méthode connue pour savoir si un modèle a retenu des données personnelles consiste à l'interroger et à observer ce qu'il restitue, autrement dit à l'attaquer. C'est précisément la famille de méthodes que les pages officielles associent à PANAME : tests d'extraction de données d'entraînement et tests de réidentification. Il s'agit d'une famille de méthodes annoncée, pas d'un protocole publié à ce jour.
Ce que cela change pour une clause contractuelle d'anonymat
Un fournisseur de modèle écrit souvent, dans sa documentation ou son contrat, que son modèle est anonyme. Cette affirmation est aujourd'hui difficile à contredire autrement que par une autre affirmation, faute d'instrument partagé. L'existence annoncée d'une bibliothèque ouverte, lisible par les deux parties d'un contrat, ne rend pas cette clause fausse. Elle la déplace d'un registre à un autre.
| Avant un instrument public de mesure | Après un instrument public de mesure |
|---|---|
| La clause d'anonymat se discute entre deux parties sans moyen partagé de trancher | La clause devient une affirmation à laquelle on peut opposer un résultat, obtenu par une méthode lisible par les deux parties |
| Le débat porte sur la confiance envers le fournisseur | Le débat porte sur l'examen d'un protocole |
| L'anonymat est présenté comme un état stable | L'anonymat est daté : vrai au regard des moyens connus à un moment, réexaminable quand ces moyens évoluent |
Cette évolution ne provient pas d'un texte nouveau. Le considérant 26 orientait déjà la lecture dans ce sens en 2016 en visant les personnes qui ne sont « pas ou plus » identifiables. Ce qui manquait, selon les organismes à l'origine de PANAME, c'était l'instrument permettant de vérifier concrètement cette identifiabilité sur un modèle plutôt que sur un fichier.
Genmod, l'outil de traçabilité déjà disponible, mais distinct de PANAME
Il ne faut pas confondre PANAME, qui n'est pas publié, avec Genmod, un autre outil de la CNIL qui, lui, existe déjà. Genmod est un démonstrateur développé par le service IA de la CNIL en collaboration avec le Laboratoire d'innovation numérique de la CNIL (LINC). Initialement publié en novembre 2025, il a reçu une nouvelle version le 26 août 2026. Son objet diffère de celui de PANAME : Genmod permet d'explorer la généalogie des modèles d'IA publiés en source ouverte, c'est-à-dire de retrouver les modèles dont un modèle dérive (ses ascendants) et ceux qu'il a contribué à produire (ses descendants).
Cette traçabilité sert un objectif proche de celui de PANAME sans s'y substituer : à partir d'un modèle ayant mémorisé des données personnelles, identifier les autres modèles de sa généalogie susceptibles d'avoir également conservé ces informations, ce qui éclaire les conditions d'exercice des droits prévus par le RGPD. La nouvelle version apporte une interface bilingue français-anglais, un moteur de recherche optimisé (une recherche sans limite de profondeur prend une vingtaine de secondes en moyenne), une actualisation hebdomadaire automatisée à partir des données publiques disponibles sur HuggingFace, et un affichage homogène sur les principaux navigateurs. Genmod cartographie des liens entre modèles ; PANAME, une fois publiée, testerait la résistance d'un modèle donné aux attaques de confidentialité. Les deux outils sont complémentaires mais répondent à des questions différentes.
Anonymisation et pseudonymisation, deux notions que le RGPD ne confond pas
Le débat ouvert par PANAME porte sur l'anonymisation au sens strict, celle qui fait sortir un traitement du champ du RGPD. Il existe une notion voisine mais distincte que les entreprises rencontrent plus souvent dans leurs usages d'IA au quotidien : la pseudonymisation, définie à l'article 4-5 du RGPD, qui consiste à remplacer des données identifiantes par un jeton, de façon réversible. Certaines plateformes d'accès à des modèles tiers appliquent ce principe avant l'envoi des requêtes vers les modèles externes, puis rétablissent les données d'origine au retour. Ce procédé étant réversible par construction, il relève de la pseudonymisation, non de l'anonymisation, et ne dispense pas d'apprécier par ailleurs si les modèles sollicités eux-mêmes remplissent le critère d'identifiabilité que PANAME cherche à mesurer.
Ce que l'on ne sait pas encore
Deux zones d'ombre bornent ce qui précède. La date de publication de la bibliothèque PANAME n'est indiquée sur aucune des pages officielles consultées, ni celle de la CNIL ni celle de l'ANSSI. Le protocole précis de test, sa sensibilité, les seuils retenus pour conclure au caractère anonyme ou non d'un modèle ne sont pas non plus publiés : les pages officielles évoquent une famille de méthodes, extraction de données d'entraînement et réidentification, pas un protocole arrêté. L'appel à manifestation d'intérêt pour la phase de test est clos depuis le 28 mars 2026, sans qu'aucune échéance nouvelle ne pèse sur les entreprises à ce jour.
Questions fréquentes
PANAME rend-il un modèle d'IA conforme au RGPD ?
Non. PANAME est un instrument de mesure annoncé par quatre organismes publics pour tester si un modèle a retenu des données d'entraînement. Le critère juridique de l'anonymat, l'identifiabilité de la personne, reste posé par le règlement lui-même, pas par cet outil. Un résultat de test éclaire une analyse, il ne la remplace pas.
Quand la bibliothèque PANAME sera-t-elle disponible ?
Aucune date n'a été communiquée par la CNIL ni par l'ANSSI sur leurs pages officielles. L'appel à manifestation d'intérêt pour la phase de test a été ouvert du 26 février au 28 mars 2026 et est aujourd'hui clos, sans calendrier de publication annoncé depuis.
Quelle différence entre Genmod et PANAME ?
Genmod, déjà disponible et mis à jour le 26 août 2026, cartographie les liens de parenté entre modèles d'IA publiés en source ouverte. PANAME, non publiée à ce jour, viserait à tester directement si un modèle donné a mémorisé des données personnelles au moyen d'attaques de confidentialité. Les deux outils sont complémentaires mais répondent à des questions différentes.
Que doit vérifier une entreprise qui utilise des modèles tiers dès aujourd'hui ?
En l'absence d'instrument public opérationnel, la question à poser à un fournisseur reste technique avant d'être juridique : sur quoi repose l'affirmation d'anonymat présentée dans la documentation ou le contrat, et à quelle date a-t-elle été établie. Les deux réponses figurent rarement au même endroit.