Un rapport de menace qui documente cinq tentatives contre la biologie
Le 10 septembre 2026, Anthropic a publié ce qu'elle présente comme son rapport de renseignement sur les menaces le plus détaillé à ce jour. Sur une période courant de décembre 2025 à août 2026, l'entreprise décrit les usages malveillants ou suspects de ses modèles Claude qu'elle affirme avoir détectés puis bloqués : cyberattaques financées par des États, arnaques, opérations de surveillance, campagnes d'influence, et tentatives de développement d'armes. Un groupe de personnes basées au Yémen aurait par exemple utilisé Claude Code, à la place d'ingénieurs logiciels humains, pour développer le logiciel de guidage d'une fusée équipée d'un ordinateur de vol de type téléphone portable.
Le chapitre qui retient le plus l'attention concerne la biologie. Anthropic écrit s'inquiéter depuis longtemps de la possibilité que des modèles d'IA atteignent un niveau de capacité leur permettant de rendre des agents pathogènes existants plus dangereux, voire d'en créer de nouveaux, avec des conséquences que l'entreprise qualifie de potentiellement catastrophiques en l'absence de mesures de sécurité adéquates. Le rapport cite cinq cas où l'usage de Claude par des chercheurs aurait pu servir à des fins d'armement biologique : des tentatives visant à rendre le virus du chikungunya plus transmissible, à créer une variante de la grippe aviaire plus dangereuse pour l'homme, et à dresser un atlas de peptides toxiques issus de venins.
Cette publication intervient alors que Le Monde rapporte la description, par une équipe américaine, des premiers virus conçus avec l'aide de l'intelligence artificielle. Les sources consultées ne détaillent pas la nature exacte de ces travaux ni la méthode employée par l'équipe en question.
Une preuve de concept qui remonte à 2022, avant l'essor des grands modèles
La convergence entre IA et biotechnologies n'est pas un phénomène nouveau. Dès 2022, des chercheurs de Collaborations Pharmaceuticals avaient montré qu'un générateur de molécules fondé sur l'IA, conçu à l'origine pour la découverte de médicaments, avait produit 40 000 molécules potentiellement utilisables comme agents chimiques de guerre en moins de six heures, certaines plus toxiques que des agents neurotoxiques connus. David Magnus, professeur de médecine et d'éthique biomédicale à Stanford, a qualifié cette découverte d'électrochoc. Ce précédent, antérieur aux modèles de langage actuels, montre que la question ne se limite pas aux assistants conversationnels : elle concerne l'ensemble des outils d'IA appliqués au vivant.
Des garde-fous inégaux selon les versions du modèle
Le rapport d'Anthropic apporte un élément précis pour qui s'intéresse à la gouvernance technique : les incidents détectés concernent les modèles Claude Haiku, Sonnet et Opus. L'entreprise affirme n'avoir détecté aucune activité malveillante sur Claude Fable ou Mythos, ses modèles les plus avancés, qui embarquent selon elle des mesures de sécurité plus strictes.
| Modèle Claude | Usage malveillant détecté (déc. 2025 à août 2026) | Niveau de sécurité annoncé par Anthropic |
|---|---|---|
| Haiku | Oui | Standard |
| Sonnet | Oui | Standard |
| Opus | Oui | Standard |
| Fable | Aucun cas rapporté | Mesures renforcées, selon Anthropic |
| Mythos | Aucun cas rapporté | Mesures renforcées, selon Anthropic |
Ce tableau, dressé par l'entreprise elle-même, a une conséquence directe pour toute organisation qui déploie un assistant IA : le niveau de risque n'est pas homogène au sein d'une même famille de modèles, et le choix de la version déployée relève d'une décision de sécurité, pas seulement d'un choix de performance ou de coût.
Une fracture au sommet d'Anthropic sur la vitesse à adopter
Ce rapport s'inscrit dans un climat interne tendu. Le 8 septembre 2026, le chercheur britannique Jacob Coxon a démissionné d'Anthropic après trois ans passés en recherche chez Anthropic et OpenAI, accusant les deux entreprises de ne pas agir de façon responsable et affirmant que ceux qui construisent l'IA croient sincèrement qu'elle pourrait tuer l'humanité d'ici la fin de la décennie. Evan Hubinger, employé d'Anthropic, a publiquement approuvé ce constat, évaluant à plus de 10 % la probabilité que cela survienne dans les dix prochaines années. La veille de cette démission, le haut-commissaire des Nations unies aux droits de l'homme, Volker Türk, évoquait lui aussi un possible danger existentiel pour l'humanité. Fin juillet 2026, plus d'un millier de salariés du secteur avaient réclamé davantage de contraintes sur le développement des futurs modèles, dans une pétition envoyée au gouvernement américain.
Quelques jours plus tard, Dario Amodei, cofondateur et PDG d'Anthropic, a affirmé que l'IA comportait des risques sérieux et que le rythme des progrès devait ralentir. Sam Altman, patron d'OpenAI, lui a répondu sur X en disant partager cet avis sur la nécessité de lever le pied à la frontière technologique. Cette convergence de discours, venant des deux principaux concurrents du secteur, coïncide avec la publication même du rapport de menace qui documente les tentatives de détournement biologique.
Ce que cela change pour la gouvernance des DSI francophones
Pour une direction informatique qui déploie des assistants IA en entreprise, ce rapport dit une chose simple : la responsabilité de surveiller les usages ne s'arrête pas à la signature d'un contrat avec un fournisseur de modèle. Anthropic affirme avoir neutralisé chaque opération citée dans son rapport, mais reconnaît aussi que ses modèles standards, Haiku, Sonnet et Opus, ont fait l'objet de tentatives de détournement, contrairement à ses versions les plus récentes. Une DSI qui choisit un modèle pour un usage sensible, en particulier en recherche scientifique ou biotechnologique, a donc intérêt à documenter précisément quelle version elle déploie et selon quelles conditions de sécurité annoncées par l'éditeur.
Cette question devient plus complexe encore lorsque l'accès aux modèles passe par une plateforme d'agrégation. En France, des offres comme celle de Moon AI, éditée par Stellarr Studio SAS, donnent accès à plus de 70 modèles, dont Claude, GPT, Gemini, Mistral ou DeepSeek, au sein d'un même abonnement. Cette mutualisation facilite l'accès, mais ne dispense pas l'entreprise cliente de vérifier les conditions d'usage propres à chaque modèle sous-jacent : les garde-fous décrits par Anthropic pour ses propres versions ne s'appliquent pas nécessairement de la même façon aux autres modèles d'un catalogue, chaque éditeur ayant sa propre politique de détection et de blocage.
Autrement dit, la question posée par ce rapport n'est pas seulement de savoir quel fournisseur choisir, mais qui, dans l'organisation, est chargé de savoir ce que fait réellement le modèle déployé, et de vérifier que ses garde-fous tiennent face à des usages détournés. Aucune des sources consultées ne décrit d'obligation réglementaire française spécifique sur ce point à ce jour.
Des garde-fous déjà contournables, selon les spécialistes
Le rapport d'Anthropic ne prétend pas que ses protections soient infaillibles, et d'autres spécialistes le confirment. Selon Dunja Sabra, chercheuse en biosécurité à l'université de Hambourg, n'importe qui peut désormais interroger des modèles de langage entraînés sur les connaissances de presque tous les scientifiques ayant jamais existé, et obtenir des instructions détaillées, y compris des tutoriels vidéo, pour mener des expériences. Combinée à la démocratisation du séquençage génétique et au mouvement du DIY biology, qui permet à des particuliers de monter des laboratoires chez eux, cette accessibilité change la nature de la menace : elle ne dépend plus seulement d'États ou de groupes organisés, mais potentiellement d'individus isolés.
Des garde-fous non liés à l'IA existent déjà en amont : les entreprises qui vendent des fragments d'ADN filtrent en principe les commandes suspectes. Une étude publiée en janvier dans Nature Communications a pourtant montré les limites de ce dispositif : sur 38 fournisseurs de synthèse d'ADN sollicités, 36 ont expédié des fragments légaux qui, une fois assemblés par une personne compétente et équipée, auraient permis de reconstituer le génome du virus de la grippe de 1918. Charbel-Raphaël Segerie, directeur exécutif du Centre pour la sécurité de l'IA, estime que les IA sont actuellement capables d'accélérer le développement d'armes biologiques, en assistant les chercheurs dans la conception d'expériences ou de protocoles. David Magnus souligne qu'aucune de ces protections, techniques ou biologiques, n'est infaillible, et que la situation ressemble à une course permanente où l'IA se révèle aussi efficace pour contourner les systèmes de surveillance que pour les renforcer.
Questions fréquentes
Le rapport d'Anthropic prouve-t-il qu'une arme biologique a été créée grâce à l'IA ?
Non. Les sources décrivent des tentatives détectées et bloquées par Anthropic, présentées comme des cas où l'usage de Claude pourrait servir à des fins d'armement biologique, notamment en rendant plus transmissible le chikungunya ou plus dangereuse une variante de la grippe aviaire. Aucune source ne rapporte la création effective d'un agent pathogène nouveau ou modifié à l'aide de ces modèles.
Les autres éditeurs de modèles publient-ils le même type de rapport de transparence ?
Les sources consultées ne détaillent pas les pratiques de transparence des autres éditeurs sur ce sujet précis. Elles mentionnent en revanche qu'OpenAI, Anthropic et Google DeepMind travaillent conjointement à la création d'un organe de supervision des risques liés à l'IA, une démarche qui nécessiterait une loi pour éviter des problèmes de concurrence.
Qu'est-ce que cela signifie pour une entreprise française qui utilise Claude ou un autre modèle pour des travaux scientifiques ?
Les sources ne mentionnent pas d'obligation réglementaire française spécifique à ce jour. Elles indiquent en revanche que les garde-fous varient selon les versions d'un même modèle et selon l'éditeur, ce qui justifie, pour une direction informatique, de documenter précisément quel modèle est déployé et dans quelles conditions de sécurité annoncées, plutôt que de se fier au seul nom générique du fournisseur.
La perte de contrôle d'une IA sur elle-même est-elle déjà observée ?
Le Rapport international sur la sécurité de l'IA 2026, rédigé par plus d'une centaine d'experts, relève des signes de perte de contrôle mais estime que les systèmes actuels n'ont pas encore atteint le niveau nécessaire pour échapper durablement à la surveillance humaine. Les experts cités restent divisés sur la probabilité et l'échéance d'un tel scénario.