Dans cette page6 parties
Le 30 octobre 2026, l’ANSSI a publié dans sa collection « Les Essentiels » un document intitulé « Sécuriser un système IA agentique ». Deux pages, sept principes, un public visé en priorité : architectes, RSSI, exploitants, développeurs. Rien, dans le texte, ne mentionne le RGPD. Pourtant, les questions qu’il pose sont exactement celles que se posent les DPO et les juristes Privacy dès qu’un agent touche à des données personnelles. C’est cette convergence, silencieuse mais directe, qui justifie que le document sorte des seules équipes cybersécurité.
Pourquoi un agent change la nature du risque
L’IA générative en entreprise a longtemps pris la forme d’un assistant conversationnel : une question, une réponse, puis un humain qui décide. Les agents IA changent cet équilibre. Ils peuvent consulter des bases de données, ouvrir des documents, appeler des logiciels métiers, envoyer des messages, modifier ou supprimer des enregistrements, souvent sans qu’un humain intervienne à chaque étape.
Le document part d’un constat simple : une action peut être techniquement autorisée et produire malgré tout des effets indésirables. C’est le cas si elle a été mal comprise, si elle se combine avec une autre action, ou si une entrée malveillante l’a déclenchée. Un agent peut par exemple lire un fichier légitimement, envoyer un message légitimement, et finir par transmettre ce fichier vers l’extérieur. Chaque étape est autorisée, l’enchaînement ne l’est pas.
Les sept principes, lus avec les yeux d’un DPO
Chacun des sept principes rejoint une exigence déjà posée par le RGPD : minimisation, sécurité du traitement, protection des données dès la conception, maîtrise des sous-traitants, responsabilité (accountability).
| Principe ANSSI | Ce qu’il impose techniquement | Exigence RGPD en miroir |
|---|---|---|
| 1. Analyse de risque dès la conception | Risque évalué, mesures et responsable désignés, mise en service bloquée tant qu’un risque reste inacceptable | Analyse d’impact (AIPD) |
| 2. Limiter les accès au strict besoin | Mission documentée, accès inventoriés et justifiés, autonomie élargie progressivement | Minimisation des données et des droits |
| 3. Classer les actions | Trois catégories : autonome, validée par un humain, interdite | Intervention humaine réelle (article 22) |
| 4. Cloisonner environnements et mémoires | Identités, secrets, connecteurs et mémoires séparés par organisation et par environnement | Confidentialité, qualification des sous-traitants |
| 5. Autorisation indépendante du modèle | Filtrage déterministe hors de portée de l’agent, refus par défaut | Sécurité du traitement |
| 6. Limiter l’impact, pouvoir arrêter | Conservation définie, suppression, mise en quarantaine, arrêt d’urgence | Limitation de la conservation, droit à l’effacement |
| 7. Démontrer la maîtrise | Inventaire, tests, supervision, journaux protégés contre toute modification | Responsabilité et notification sous 72 heures |
La validation humaine ne peut pas être « à l’aveugle »
Le troisième principe mérite un arrêt. L’ANSSI précise que l’approbation humaine est requise pour les actions critiques, les accès à des données sensibles, les changements d’identité ou de droits et les mises en production, ainsi que pour les systèmes d’IA à haut risque au sens de l’article 6 du règlement européen sur l’IA (seule référence réglementaire explicite du document). Deux conditions comptent : le mécanisme d’approbation doit rester hors de portée de l’agent, et la personne qui approuve doit voir l’action exacte, son objectif et ses effets attendus. Pour un DPO, cette grille à trois catégories devient un outil concret pour classer chaque opération touchant des données personnelles : transmission à un tiers, modification d’un dossier client, suppression d’enregistrements, réponse à une demande d’exercice de droits.
Le fournisseur du modèle, un angle mort fréquent
Le quatrième principe rappelle une évidence qu’il est utile de voir écrite noir sur blanc : toute donnée envoyée à un modèle hébergé doit être considérée comme potentiellement accessible à son fournisseur. Cela renvoie directement à la qualification du fournisseur, à ses engagements contractuels, à la localisation des traitements et aux éventuels transferts hors de l’Union européenne. C’est précisément le point sur lequel des plateformes françaises comme Moon AI construisent une partie de leur argumentaire technique : l’outil Moon Blur masque les données personnelles détectées par des repères avant leur envoi aux modèles tiers, puis remet les vraies valeurs dans la réponse lue par l’utilisateur. L’application et le stockage sont hébergés chez OVHcloud, à Strasbourg et Roubaix, mais les requêtes adressées aux modèles tiers partent bien chez leurs fournisseurs respectifs une fois les données masquées. Ce mécanisme répond à une préoccupation posée par le principe 4, sans dispenser pour autant le DPO de qualifier chaque fournisseur de modèle et de vérifier les clauses contractuelles correspondantes.
Ce que cela change concrètement pour les missions du DPO
Traditionnellement, l’analyse d’un déploiement d’IA vérifie les finalités, les bases juridiques, l’information des personnes et les contrats avec les fournisseurs. C’est indispensable, mais ce n’est plus suffisant pour un agent. Il faut aussi comprendre ce que l’agent est techniquement autorisé à faire avec les données, et s’assurer que les restrictions définies juridiquement sont réellement appliquées dans le système d’information. Une politique interne qui interdit à un agent d’accéder à certaines données ne sert à rien si, techniquement, il dispose des autorisations pour le faire.
- La mission de l’agent est-elle documentée, et correspond-elle aux finalités du traitement déclarées ?
- Ses accès sont-ils limités aux données strictement nécessaires, et contrôlés en dehors du modèle lui-même ?
- Les actions portant sur des données personnelles sont-elles classées : autonomes, soumises à validation, interdites ?
- Les mémoires de l’agent sont-elles cloisonnées, avec une durée de conservation définie ?
- Que sait-on du fournisseur du modèle et des données qui lui sont transmises ?
- Un arrêt d’urgence existe-t-il, et les journaux seront-ils exploitables en cas d’incident ?
L’ANSSI ajoute un point qui intéresse directement les juristes : les exigences de sécurité issues de l’analyse de risque doivent figurer dans le cahier des charges de tout achat de produit ou de service entrant dans le système agentique. La négociation contractuelle avec les éditeurs ne peut donc plus se limiter à l’accord de sous-traitance au sens de l’article 28 du RGPD.
Une préoccupation qui ne date pas du 30 octobre
Ce document s’inscrit dans une série de publications de l’ANSSI et du CERT-FR sur le sujet. Un bulletin du CERT-FR daté du 13 avril 2026 (CERTFR-2026-ACT-016) visait déjà les assistants personnels autonomes et listait cinq risques : compromission du poste, fuite de données, droits d’accès démesurés sur la messagerie, l’agenda ou les applications RH, partage d’identifiants avec l’agent, et actions destructrices. Il recommandait une validation humaine obligatoire dès qu’une action à effet de bord est envisagée, et rappelait qu’un agent pourrait étendre ses capacités de manière autonome en contournant les règles d’autorisation initiales. L’ANSSI a par ailleurs publié une définition distincte de la cybersécurité des systèmes d’IA, qui distingue explicitement cybersécurité (confidentialité, intégrité, disponibilité face à un attaquant) et sûreté de fonctionnement (fiabilité des réponses, hallucinations). Cette distinction aide un DPO à comprendre où s’arrête le périmètre de sécurité et où commence celui de la performance fonctionnelle, deux sujets souvent confondus dans les projets d’agents.
L’agent comme identité à gouverner, pas seulement comme fonctionnalité
Un agent qui accède à des applications, interroge des données et déclenche des actions se rapproche de la notion d’identité non humaine (NHI), au même titre qu’un compte technique ou un compte de service. Cette lecture complète celle de l’ANSSI : chaque agent devrait disposer d’un responsable humain clairement identifié, chargé de définir sa finalité, son périmètre fonctionnel, les données auxquelles il accède et la revue régulière de ces éléments. Pour un DPO, ce responsable humain est l’interlocuteur naturel pour documenter la mission de l’agent et vérifier qu’elle correspond au registre des traitements. Sans inventaire centralisé des agents déployés, il devient difficile de savoir combien d’entre eux existent réellement et quels accès leur ont été attribués, ce qui complique d’autant la réponse à une demande d’exercice de droits ou la notification d’une violation.
Questions fréquentes
Le document de l’ANSSI a-t-il une valeur contraignante pour un DPO ?
Non. « Les Essentiels » est un document d’orientation technique, pas un texte réglementaire : il ne cite jamais le RGPD et ne constitue ni une certification ni un audit de conformité. Son intérêt pour un DPO tient à la correspondance entre ses sept principes et des exigences déjà posées par le RGPD, pas à une force juridique propre.
Faut-il refaire une AIPD pour chaque agent IA déployé ?
Le document demande une analyse de risque dès la conception du système agentique, actualisée à chaque évolution, avec un responsable humain désigné pour chaque risque. Cette logique rejoint celle de l’analyse d’impact sur la protection des données. Les deux démarches ont intérêt à être menées ensemble, ou au minimum à s’alimenter mutuellement, plutôt que d’être conduites séparément par des équipes qui ne se parlent pas.
Qui doit valider les actions sensibles effectuées par un agent ?
Une personne humaine, dont le mécanisme d’approbation reste hors de portée de l’agent lui-même : un agent capable de valider ses propres actions ne serait pas contrôlé. Cette personne doit voir l’action exacte, son objectif et ses effets attendus avant de l’autoriser. Une consigne glissée dans le prompt du modèle n’est pas considérée comme une mesure de sécurité, car un modèle peut être manipulé par injection d’instructions malveillantes.
Que demander à un éditeur ou un intégrateur avant de déployer un agent ?
Quels connecteurs sont activés par défaut, où résident les données et les journaux, comment les identifiants sont protégés, quelle approbation est exigée pour les actions à conséquences, et si les permissions peuvent être limitées par équipe ou par environnement. Une démonstration commerciale ne suffit pas : les contrôles doivent être observables sur la configuration réellement utilisée, pas sur une présentation générique du produit.
Essayez Moon AI sur vos propres questions.
Claude, GPT, Gemini et plus de 100 modèles dans un seul espace. Moon Blur masque les données sensibles détectées avant l’envoi. La formule gratuite ne demande pas de carte bancaire.