Le dilemme des DSI face à l'IA générative
L'IA générative accélère la rédaction, l'analyse de documents, le support client ou la production de code. Mais chaque requête envoyée à un modèle externe ou déployé en interne pose la même question : que deviennent les informations transmises ? Pour un DSI, le sujet ne se règle pas au moment du choix d'un outil, mais dès la définition des cas d'usage. Innovation, gouvernance et sécurité doivent avancer ensemble, faute de quoi l'entreprise s'expose à des usages non maîtrisés bien plus risqués qu'un outil mal choisi.
Cartographier les usages avant de choisir un outil
Toutes les tâches ne présentent pas le même niveau de risque. Générer des idées de campagne à partir d'informations publiques n'a rien de comparable avec l'analyse de contrats, de dossiers médicaux, de données bancaires ou de fichiers RH. Avant de déployer un assistant génératif, l'entreprise gagne à établir une cartographie des usages envisagés, en classant les informations selon plusieurs catégories : données publiques, données internes non sensibles, données confidentielles, données personnelles et données soumises à des obligations sectorielles.
Cette grille de lecture doit être partagée entre les équipes marketing, juridiques, informatiques et métiers. Un service client peut reformuler une réponse à partir d'un modèle de courrier validé sans risque particulier. Copier l'intégralité d'un historique client dans une interface publique expose en revanche des coordonnées, des demandes privées et des informations contractuelles. La différence tient autant au contenu transmis qu'à l'environnement technique retenu.
Le shadow AI, angle mort de la gouvernance
Lorsque les collaborateurs ne disposent pas d'un outil approuvé, ils se tournent souvent vers des services grand public avec leur compte personnel. Ce phénomène, parfois appelé « shadow AI », rend les flux de données impossibles à contrôler pour le DSI. Une politique trop restrictive produit l'effet inverse de celui recherché : elle pousse les usages hors du cadre prévu au lieu de les canaliser.
La réponse organisationnelle passe par une charte d'usage simple, précisant les outils approuvés et leurs modalités d'accès, les catégories de données interdites dans les requêtes, les cas nécessitant une validation humaine, les responsabilités des managers et référents sécurité, ainsi que les règles de conservation, de partage et de traçabilité. Cette charte doit s'accompagner de formations concrètes : les collaborateurs doivent savoir reconnaître une donnée personnelle, une information confidentielle ou un secret d'affaires, et comprendre qu'une requête détaillée peut révéler une stratégie commerciale même sans nom de client.
Fournir un outil autorisé réduit mécaniquement le recours au shadow AI. Certaines plateformes françaises reposent sur ce principe : Moon AI, édité par Stellarr Studio SAS, propose par exemple un abonnement unique donnant accès à plus de 70 modèles (GPT, Claude, Gemini, Mistral, DeepSeek, Llama, Grok, Qwen, ainsi que son modèle maison Moon 6), avec des tarifs publics allant de 9,90 euros TTC par mois pour l'offre Lune à 249,90 euros TTC pour l'offre Univers, en plus d'une offre gratuite sans carte bancaire. L'intérêt pour un DSI n'est pas seulement tarifaire : centraliser l'accès à plusieurs modèles dans un outil validé limite le nombre de comptes personnels ouverts en dehors du périmètre de sécurité de l'entreprise.
Contrats fournisseurs : ce que le RGPD impose de vérifier
Le choix d'une solution ne peut pas reposer uniquement sur la qualité des réponses générées. Les conditions contractuelles, l'emplacement des données, les mécanismes de chiffrement et les possibilités d'audit pèsent fortement dans la décision. Avec un prestataire cloud ou un éditeur de logiciel, il faut vérifier que les requêtes et fichiers fournis ne servent pas à entraîner les modèles publics, sauf accord explicite et encadré, et rechercher des options de conservation limitée des journaux, de suppression des données et de gestion fine des accès.
Pour les traitements impliquant des données personnelles, le RGPD suppose de clarifier les rôles : l'entreprise agit généralement comme responsable de traitement, tandis que le fournisseur intervient comme sous-traitant. Le contrat de sous-traitance doit préciser les finalités, les mesures de sécurité, les transferts éventuels hors de l'Union européenne et les procédures en cas d'incident. Les secteurs régulés, santé, assurance ou finance, doivent ajouter leurs propres exigences : un outil adapté à une équipe de communication ne répond pas nécessairement aux contraintes d'un établissement manipulant des données de patients.
Minimiser avant d'envoyer
La meilleure donnée à protéger est souvent celle qui ne quitte jamais le système source. Avant d'envoyer un contenu à un modèle, les équipes peuvent retirer les noms, adresses, identifiants clients, numéros de dossier et références contractuelles. Cette minimisation limite les conséquences d'une erreur humaine ou d'une mauvaise configuration.
Pseudonymisation et anonymisation : une distinction juridique qui compte
Les deux notions offrent des niveaux de protection différents et ne sont pas interchangeables au regard du RGPD.
| Notion | Principe | Statut RGPD |
|---|---|---|
| Pseudonymisation | Remplacer une donnée identifiante par un jeton, une table de correspondance permettant de revenir à la donnée d'origine | Reste une donnée personnelle au sens de l'article 4-5 du RGPD |
| Anonymisation | Empêcher, par un traitement irréversible, de remonter à la personne concernée par recoupement raisonnable | Sort du champ d'application du RGPD si le procédé est robuste |
Des outils de pseudonymisation existent pour les requêtes envoyées à des modèles tiers. Moon AI intègre par exemple un mécanisme nommé Moon Blur, qui remplace les données personnelles par des jetons avant l'envoi aux modèles tiers, puis les rétablit au retour. Le procédé étant réversible, il s'agit d'une pseudonymisation au sens du RGPD, non d'une anonymisation : les données restent des données personnelles tant que la table de correspondance existe. L'application et le stockage de Moon AI sont hébergés chez OVHcloud, à Strasbourg et à Roubaix, mais les requêtes adressées aux modèles tiers partent bien chez leurs fournisseurs respectifs, une fois la pseudonymisation appliquée. Ce point illustre une réalité générale : héberger une application en France ne dispense pas de vérifier où vont les données une fois transmises à un modèle externe.
Les entreprises peuvent aussi mettre en place des filtres automatiques avant l'envoi d'une requête. Des outils de prévention de fuite de données détectent certains formats, comme les numéros de carte bancaire, les identifiants nationaux ou les adresses électroniques. Pour des documents complexes, une revue humaine reste préférable avant tout traitement externe.
RAG et architectures privées : reprendre la main sur les flux
Selon la sensibilité des usages, plusieurs approches techniques coexistent. Une interface sécurisée vers une API d'entreprise permet de centraliser les accès, de journaliser les requêtes et d'appliquer des règles de filtrage, sans que les collaborateurs se connectent directement à un service grand public. Pour les données les plus sensibles, un modèle déployé dans un environnement privé peut être envisagé : instance dédiée dans un cloud de confiance, modèle open source hébergé dans l'infrastructure de l'entreprise, ou solution hybride. Ces choix demandent des compétences, des ressources de calcul et un suivi permanent, mais renforcent la maîtrise des flux.
La génération augmentée par récupération, ou RAG, constitue une autre piste. Au lieu d'entraîner le modèle sur l'ensemble des documents internes, le système recherche au moment de la demande les extraits autorisés dans une base documentaire. Les droits d'accès existants peuvent être conservés : un salarié ne consulte via l'assistant que les contenus auxquels il est déjà habilité. Cette diversité d'approches se reflète aussi côté fournisseurs : certains catalogues cloud donnent accès à plus de 200 modèles au sein d'une même plateforme, ce qui oblige les DSI à appliquer une grille contractuelle identique à chaque modèle ajouté, quel que soit son éditeur.
| Approche | Fonctionnement | Maîtrise des flux |
|---|---|---|
| API d'entreprise centralisée | Passerelle unique vers les modèles, journalisation et filtrage des requêtes | Moyenne à forte selon la configuration |
| Modèle déployé en environnement privé | Instance dédiée, cloud de confiance ou infrastructure interne | Forte, mais coûteuse en ressources |
| RAG sur base documentaire | Recherche d'extraits autorisés au moment de la requête, sans entraînement sur l'ensemble des documents | Forte, avec conservation des droits d'accès existants |
Le contrôle humain ne disparaît jamais
La confidentialité ne se limite pas au transfert initial des informations. Une réponse générée peut révéler indirectement des éléments sensibles, contenir une information erronée ou reproduire des données présentes dans les documents accessibles au système. Des règles de validation doivent encadrer les contenus destinés à un client, à un partenaire ou au public. Dans les fonctions juridiques, financières, médicales ou RH, un professionnel compétent doit relire toute production ayant des effets concrets. Les journaux d'utilisation, configurés avec mesure, permettent aussi d'enquêter en cas d'anomalie et d'ajuster les règles internes.
Questions fréquentes
Le RGPD interdit-il l'usage de l'IA générative en entreprise ?
Non. Le RGPD n'interdit pas le recours à l'IA générative, mais il impose de clarifier les rôles entre responsable de traitement et sous-traitant, de documenter les finalités et de sécuriser les données personnelles transmises. L'adoption progressive, appuyée sur des cas d'usage délimités et des fournisseurs évalués, permet d'obtenir des gains sans banaliser les données sensibles.
Qui est responsable en cas d'incident impliquant des données personnelles envoyées à un modèle tiers ?
L'entreprise agit généralement comme responsable de traitement, le fournisseur comme sous-traitant. Le contrat de sous-traitance doit préciser les mesures de sécurité, les transferts hors Union européenne et les procédures à suivre en cas d'incident, ce qui conditionne la répartition des responsabilités.
La pseudonymisation suffit-elle à sécuriser une requête envoyée à un fournisseur d'IA ?
La pseudonymisation réduit l'exposition en remplaçant les identifiants directs par des jetons, mais elle reste réversible : tant qu'une table de correspondance existe, la donnée demeure une donnée personnelle au sens du RGPD. Elle ne dispense donc pas de vérifier les clauses contractuelles du fournisseur ni d'appliquer des filtres complémentaires pour les documents les plus sensibles.
Faut-il privilégier un hébergement français pour être conforme au RGPD ?
L'hébergement en France de l'application et du stockage réduit certains risques, mais ne règle pas tout : dès qu'une requête est adressée à un modèle tiers, elle part chez le fournisseur de ce modèle, où qu'il soit situé. La conformité dépend donc autant des clauses contractuelles sur les transferts de données que du lieu d'hébergement de l'outil lui-même.