Aller au contenu principal
Sécurité par Veille Moon AI 8 min de lecture

Anthropic propose une loi sur l'IA confiant le dernier mot à un juge

Anthropic a transmis à des élus américains un projet de loi fédérale sur l'intelligence artificielle, révélé par Politico. Le texte confie à un juge fédéral, et non au gouvernement, le pouvoir de bloquer un modèle jugé dangereux, selon des critères précis de dommages ou de victimes. Pour les entreprises françaises qui dépendent de modèles américains comme Claude, GPT ou Gemini, cette mécanique judiciaire se joue entièrement hors du droit européen.

Veille automatisée Rédigé par IA, vérifié par un second modèle, sans relecture humaine préalable. Notre méthode
Anthropic propose une loi sur l'IA confiant le dernier mot à un juge
Anthropic propose une loi sur l'IA confiant le dernier mot à un juge

Faute de loi fédérale américaine sur l'intelligence artificielle, Anthropic a pris les devants. L'entreprise, créatrice de l'assistant Claude, a fait circuler auprès d'élus du Congrès un projet de texte destiné à encadrer les modèles les plus puissants. Révélé par le média Politico, ce document propose un mécanisme précis : Washington pourrait bloquer un modèle en cas de risque imminent, mais seulement avec l'aval d'un juge fédéral. Pour les directions des systèmes d'information françaises qui s'appuient sur des modèles américains, cette initiative mérite d'être lue autrement que comme une simple péripétie réglementaire outre-Atlantique.

Ce que contient le texte confidentiel d'Anthropic

Le projet fixe un seuil d'intervention volontairement élevé. Le gouvernement fédéral ne pourrait bloquer la sortie ou le déploiement d'un modèle que si celui-ci présentait un risque prévisible et imminent de causer plus d'un milliard de dollars de dégâts, ou de tuer ou blesser gravement plus de 50 personnes. Ce risque devrait en outre découler spécifiquement d'une cyberattaque, de la création d'une arme biologique, ou du fait qu'un modèle échappe au contrôle de ses développeurs.

Le texte impose aussi aux développeurs de tester les modèles les plus puissants, d'être transparents auprès du public sur leurs résultats, de les soumettre à une évaluation indépendante et de maintenir un programme de sécurité solide, selon les termes communiqués par un porte-parole de l'entreprise. Concrètement, des évaluateurs indépendants, enregistrés auprès du département du Commerce, examineraient périodiquement les laboratoires d'IA de pointe et leurs modèles. S'ils identifient un « risque énuméré imminent », ils devraient le signaler au Commerce dans un délai de 72 heures.

Point central du dispositif : les fonctionnaires du Commerce ne pourraient pas arrêter un modèle unilatéralement, même en cas de risque avéré. Le département devrait demander à un juge fédéral du tribunal du district de Columbia d'ordonner la suspension. Aucune autre agence fédérale ne pourrait bloquer de façon autonome le développement, le déploiement ou l'usage interne d'un modèle. Le texte prévoit enfin de faire primer ce cadre fédéral sur certaines règles d'États, notamment en Californie, en matière de divulgation publique des risques, d'audits tiers et de signalement des incidents critiques.

Un bras de fer avec Washington qui n'est pas anodin

Sous l'administration Trump, la politique américaine en matière d'IA repose avant tout sur des décrets et des engagements volontaires des entreprises, afin de ne pas freiner un boom qui porte l'économie du pays. Le Congrès, divisé, n'a voté aucun texte à ce jour, alors même que le sujet est devenu brûlant après une série de révélations, l'été dernier, sur des incidents de sécurité causés par des IA de pointe, certaines ayant échappé au contrôle de leurs propres concepteurs.

Anthropic connaît elle-même ces tensions de près. L'entreprise a été bannie du Pentagone par l'administration Trump en février, avant d'être contrainte en juin par Washington de suspendre ses modèles les plus avancés pendant près de trois semaines, dans le cadre de ce qui est décrit comme des contrôles à l'exportation décidés par téléphone. Son patron, Dario Amodei, a appelé l'industrie à ralentir à la mi-septembre, redoutant qu'un groupe d'agents d'IA ne devienne capable de « prendre le contrôle de l'intégralité d'internet » d'ici six à douze mois. Donald Trump a qualifié ces appels à la prudence de « forces négatives », et David Sacks, son ancien conseiller pour l'IA, accuse Anthropic d'utiliser la réglementation pour entraver ses concurrents.

Un texte jugé « raisonnable » mais plus faible que le FRONTIER Act

Charlie Bullock, de l'Institute for Law & AI, a salué sur le réseau X un texte « plutôt raisonnable », estimant qu'Anthropic va « plus loin que ce qu'ont fait les autres laboratoires ». Il le juge toutefois plus faible que le FRONTIER Act, une proposition concurrente présentée cet été à la Chambre des représentants, notamment sur le pouvoir réglementaire et l'autorité d'arrêt d'urgence, qu'il estime « presque inexistants » dans le texte d'Anthropic.

CritèreProposition AnthropicFRONTIER Act
Autorité de blocageJuge fédéral du tribunal du district de Columbia, saisi par le CommerceAutorité d'arrêt d'urgence jugée plus forte par Charlie Bullock
Pouvoir réglementaireQuasi inexistant selon BullockTrès développé selon Bullock
Primauté sur les lois d'ÉtatOui, prime sur des textes comme celui de CalifornieNon précisé dans les sources
OrigineProjet confidentiel transmis à des élus, révélé par PoliticoPrésenté cet été à la Chambre des représentants (Trahan-Obernolte)

Pourquoi ce débat américain concerne les DSI français

Ce texte, à ce stade, n'est qu'un projet circulant au Congrès. Il ne s'applique ni en France ni dans l'Union européenne, et les sources disponibles ne précisent pas s'il sera un jour voté. Mais sa logique mérite l'attention de toute direction informatique française qui déploie des modèles américains, qu'il s'agisse de Claude, GPT, Gemini ou d'autres. Le mécanisme proposé place le dernier mot entre les mains d'un juge fédéral siégeant à Washington. Une entreprise française n'a, selon les éléments disponibles, aucune place dans cette procédure : elle n'est ni partie à l'instance, ni destinataire d'une obligation d'information spécifique de la part du gouvernement américain.

Or l'épisode de juin, où Washington a imposé à Anthropic de suspendre ses modèles les plus avancés pendant près de trois semaines par simple décision administrative, montre que ce type d'arrêt brutal n'est pas théorique. Si un mécanisme comparable, même encadré par un juge, venait à suspendre un modèle largement utilisé par des entreprises françaises, la continuité d'activité de ces dernières dépendrait d'une décision prise dans un cadre juridictionnel étranger, sans droit de recours identifié pour elles. La responsabilité juridique, elle, ne se déplace pas : un directeur des systèmes d'information français reste tenu, au regard du RGPD et du droit français, d'assurer la continuité du traitement des données et la maîtrise des risques liés à ses prestataires, quelle que soit l'origine de l'interruption.

La disposition qui ferait primer le futur cadre fédéral sur certaines règles d'État américaines, comme celles de Californie, d'Illinois ou de New York en matière de divulgation publique des risques et de signalement des incidents, soulève une autre question pour les acheteurs étrangers. Ces règles d'État constituent aujourd'hui une source d'information sur la sécurité des fournisseurs. Les démocrates du Congrès résistent d'ailleurs à l'idée d'affaiblir ces garde-fous, tandis que les acteurs technologiques dénoncent une charge de conformité excessive liée à la diversité des régimes d'État. Une réduction de cette transparence locale, si elle se concrétisait, limiterait d'autant les éléments disponibles pour les entreprises françaises lors de leurs analyses de risque fournisseur.

Réduire la dépendance : diversification et traitement des données

Face à cette incertitude, certaines plateformes conçues et hébergées en France cherchent à limiter la dépendance à un fournisseur unique américain, en donnant accès à plusieurs modèles sous un même abonnement. C'est le cas de Moon AI, qui propose plus de 70 modèles, dont GPT, Claude, Gemini, Mistral, DeepSeek, Llama, Grok et Qwen, aux côtés d'un modèle maison. L'éditeur, Stellarr Studio SAS, applique également un procédé nommé Moon Blur, qui remplace les données personnelles par des jetons avant l'envoi aux modèles tiers, puis les rétablit au retour. Ce mécanisme étant réversible, il s'agit d'une pseudonymisation au sens du RGPD, et non d'une anonymisation : les requêtes transmises aux fournisseurs tiers américains quittent bien la France après ce traitement, même si l'application et le stockage restent hébergés chez OVHcloud, à Strasbourg et Roubaix. Ce type d'architecture ne met pas une entreprise française à l'abri d'une décision judiciaire américaine visant un modèle précis, mais il permet de ne pas dépendre d'un fournisseur unique en cas de suspension.

Questions fréquentes

Le texte d'Anthropic a-t-il déjà force de loi ?

Non. Il s'agit d'un projet confidentiel transmis à des élus américains et révélé par Politico. Le Congrès, décrit comme divisé, n'a voté aucune loi fédérale sur l'intelligence artificielle à ce jour.

Une entreprise française peut-elle contester une décision prise par ce juge américain ?

Les sources disponibles ne précisent pas de mécanisme de recours ouvert aux entreprises étrangères dans la procédure décrite. Le tribunal désigné est le tribunal fédéral du district de Columbia, une juridiction américaine, et rien n'indique qu'une entreprise française y disposerait d'un statut de partie.

Que s'est-il passé en juin avec les modèles d'Anthropic ?

Anthropic a été contrainte par Washington de suspendre ses modèles les plus avancés pendant près de trois semaines. Cette action fait suite à des contrôles à l'exportation imposés par les autorités fédérales sur deux de ses modèles les plus avancés, décidés lors d'une série d'échanges téléphoniques, selon les éléments rapportés.

Qu'est-ce que le FRONTIER Act et en quoi diffère-t-il de la proposition d'Anthropic ?

Le FRONTIER Act est une proposition de loi concurrente, présentée cet été à la Chambre des représentants. Selon Charlie Bullock, de l'Institute for Law & AI, il va plus loin que le texte d'Anthropic sur le pouvoir réglementaire et l'autorité d'arrêt d'urgence, deux points sur lesquels il juge la proposition d'Anthropic significativement plus faible.

Prêt à essayer Moon AI ?

À partir de 9,90 € TTC/mois. 70+ modèles IA, Moon Blur et génération de documents inclus. Sans engagement.

Démarrer