Le 10 septembre 2026, Anthropic a publié un rapport détaillant comment des scientifiques ont tenté de détourner son intelligence artificielle Claude pour des recherches susceptibles de faciliter la création d’armes biologiques. L’entreprise indique avoir bloqué ces requêtes par excès de prudence, faute de pouvoir déterminer si elles s’inscrivaient dans un cadre légitime, comme la mise au point d’un vaccin.
Des blocages ciblés sur des recherches sensibles
Anthropic rapporte avoir identifié et bloqué cinq cas de recherches biologiques à visée potentiellement militaire entre décembre 2025 et août 2026. Parmi ces cas figurent des demandes portant sur la transmission du virus chikungunya et sur sa capacité à échapper au système immunitaire, ainsi qu’un autre cas lié à la grippe aviaire.
L’entreprise précise que ses garde-fous ont empêché ces requêtes sensibles d’atteindre ses modèles les plus puissants. L’activité est restée cantonnée à des versions moins performantes de Claude. Anthropic souligne que « l’utilisation abusive des données biologiques est l’un des risques les plus graves liés aux modèles d’IA de pointe » et que, sans garanties adéquates, de telles capacités pourraient avoir des conséquences catastrophiques.
Un phénomène plus large
Ces blocages ne constituent pas un cas isolé. Anthropic a recensé d’autres scénarios dans lesquels son IA aurait pu être utilisée pour concevoir des missiles, des drones, ou encore pour aider des États à développer un système de surveillance à l’échelle nationale.
L’entreprise affirme que ces différents cas lui ont permis de renforcer la sécurité de ses modèles et de mieux prévenir les usages abusifs. Elle indique également que les comptes ayant utilisé ses modèles à des fins malveillantes ont été suspendus. Toutefois, le rapport note que plusieurs chercheurs ont poursuivi leurs travaux par d’autres canaux après le refus de leurs requêtes, et qu’une plateforme de revente redirigeait les demandes bloquées vers des modèles aux garde-fous plus faibles.
Conséquences pour les utilisateurs
Pour les utilisateurs légitimes, ces mesures de blocage peuvent ralentir ou compliquer des recherches en biologie, notamment lorsque les requêtes portent sur des agents pathogènes. Anthropic reconnaît cette difficulté et assume un excès de prudence, au risque de freiner des travaux licites. Les garde-fous mis en place visent à empêcher que des capacités dangereuses soient accessibles, même si cela restreint temporairement certaines utilisations.
La suspension des comptes malveillants et la redirection des demandes vers des modèles moins protégés montrent que les contraintes techniques peuvent être contournées. Anthropic affirme tirer des enseignements de ces incidents pour améliorer la sécurité future de ses modèles, sans détailler les méthodes employées.
Ce qui est confirmé : les cinq cas bloqués entre décembre 2025 et août 2026, la nature des recherches concernées, et la suspension de comptes. Ce qui reste inconnu : l’identité des utilisateurs, le nombre exact de tentatives contournées, et les mesures techniques précises déployées pour renforcer les garde-fous.