Anthropic publie un rapport de 161 pages révélant que son IA Claude a été détournée pour concevoir des armes biologiques, des outils de surveillance de masse, et que des acteurs chinois comme DeepSeek et Alibaba ont siphonné des millions d’échanges pour entraîner leurs propres modèles. L’absence de cadre légal fédéral américain expose les entreprises d’IA à des risques de responsabilité croissants, tandis que la Chine et l’UE avancent leurs pions réglementaires.
Anthropic dénonce le pillage de Claude par la Chine et l’échec de l’autorégulation
By
Published on 11 septembre 2026 12h54
25 MILLIONSLes services de renseignement du Mali ont développé un outil de surveillance pour 25 millions de cartes SIM
Alors que DeepSeek et Alibaba exploitent des millions d'échanges Claude pour développer leurs propres modèles d'IA, Anthropic publie un rapport de 161 pages révélant que ses systèmes ont contribué à la conception d'armes biologiques modifiées, de missiles balistiques et d'outils de surveillance de masse. Ce document, couvrant huit mois d'analyse entre décembre 2025 et août 2026, met en lumière les risques énormes auxquels sont confrontées les entreprises américaines d'IA en l'absence de cadre légal, un vide que l'administration Trump n'a pas comblé.
Un rapport accablant sur les risques non régulés
Le rapport publié le 10 septembre 2026 par Anthropic décrit des détournements inédits. « Les cas présentés ici ne sont pas des abus classiques, mais représentent les menaces les plus graves et nouvelles identifiées », selon l'entreprise. Parmi les incidents : un scientifique a utilisé Claude en mai 2026 pour préparer une demande de subvention visant à rendre le virus du chikungunya plus virulent, les services de renseignement du Mali ont développé un outil de surveillance pour 25 millions de cartes SIM, et un hacker a extrait des identifiants de 1,8 million d'applications Android.
Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, reconnaît la complexité de la situation : « On ne voit pas quelqu'un déclarer vouloir créer une arme biologique pour nuire, c'est bien plus subtil. » Toutefois, l'entreprise admet que la version actuelle de Claude, Fable 5, est suffisamment avancée pour faciliter des recherches biologiques dangereuses. Les mesures d'autorégulation, prônées comme alternative à la législation, montrent leurs failles : des utilisateurs ont contourné les restrictions géographiques et masqué leurs intentions.
La fuite de données Claude vers la Chine
Le rapport révèle qu'des acteurs chinois, notamment DeepSeek et Alibaba, ont détourné des millions d'échanges Claude pour entraîner leurs propres IA. Ces entreprises ont récupéré des données massives sans investissement en recherche, entraînant une perte de propriété intellectuelle et un risque légal pour Anthropic si ces échanges incluent des informations sensibles. Cette stratégie permet aux entreprises chinoises de contourner les barrières technologiques américaines dans le cadre de la rivalité sino-américaine.
L'administration Trump, en optant pour une régulation légère, vise à maintenir la compétitivité face à la Chine. Cependant, l'absence de régulation semble avantager les concurrents étrangers plus que les entreprises américaines. Alors que l'UE impose l'AI Act et que la Chine régule strictement ses développeurs tout en exploitant les modèles étrangers, les États-Unis se retrouvent dans une position vulnérable, confrontés à des risques juridiques croissants.
Risques légaux pour les développeurs d'IA
Andrew Weber et Susan Monarez, experts en risques stratégiques et biologiques, ont confirmé les dangers associés aux capacités scientifiques de Claude. Si un pathogène modifié entraînait une épidémie, la responsabilité pourrait être partagée entre l'utilisateur malveillant et Anthropic, accusée de négligence dans la sécurisation de son modèle. Aux États-Unis, l'absence de législation claire sur la responsabilité des développeurs d'IA laisse les entreprises exposées à des litiges potentiels. Anthropic affirme avoir bloqué ces tentatives, tout en reconnaissant que certains contrôles ont été contournés.
De même, l'utilisation de Claude par les services de renseignement maliens soulève des questions sur la responsabilité d'Anthropic dans des violations potentielles des droits humains. En l'absence d'une régulation similaire à l'AI Act européen, les entreprises américaines naviguent dans une zone grise légale, risquant des scandales pouvant entraîner des boycottages ou des régulations d'urgence.
Quel avenir réglementaire pour l'IA ?
Face à l'AI Act européen et à la régulation stricte en Chine, les États-Unis restent sans cadre législatif fédéral. L'administration Trump argue que la régulation freinerait l'innovation, mais le rapport d'Anthropic montre que l'absence de règles accroît les risques économiques et juridiques. Les investisseurs appellent à des cadres clairs pour évaluer correctement les risques et valoriser sainement les entreprises d'IA. L'autorégulation échoue face à des acteurs malveillants et à des États utilisant l'IA pour des objectifs géopolitiques.
La régulation semble inévitable. Pour Anthropic et ses concurrents, anticiper cette évolution pourrait devenir un avantage compétitif, en instaurant des normes strictes avant qu'elles ne soient imposées par la loi. Bien que coûteuse, cette mise en conformité pourrait consolider le marché autour de quelques géants capables de respecter ces normes, au détriment des petites startups. Les investisseurs sont incités à privilégier les entreprises anticipant la régulation plutôt que celles qui s'y opposent.