San Francisco — L’essor de l’intelligence artificielle générative s’accompagne d’une multiplication des usages détournés des modèles les plus performants. Dans un nouveau rapport consacré à la détection et à la neutralisation des abus, l’entreprise américaine Anthropic affirme avoir identifié plusieurs opérations dans lesquelles son modèle d’intelligence artificielle Claude aurait été utilisé à des fins malveillantes entre décembre 2025 et août 2026.
Selon l’entreprise, les opérations documentées impliquent différents profils d’acteurs, allant de groupes étatiques présumés à des cybercriminels et des réseaux engagés dans des campagnes de désinformation. Les activités observées couvriraient des domaines particulièrement sensibles, notamment les cyberattaques, l’espionnage, la manipulation de l’information, la surveillance, le développement d’armes conventionnelles et certaines recherches biologiques à double usage.
Une automatisation croissante des activités malveillantes
L’un des principaux enseignements du rapport est la capacité croissante de certains acteurs à intégrer l’intelligence artificielle dans leurs opérations. Claude aurait notamment été utilisé pour automatiser des tâches qui, auparavant, nécessitaient davantage d’intervention humaine.
Anthropic cite ainsi le cas d’un groupe d’espionnage russophone que l’entreprise affirme être lié à Midnight Blizzard. Selon son analyse, ce groupe aurait utilisé l’intelligence artificielle pour automatiser une partie importante de ses opérations et aurait ciblé plus de vingt organisations gouvernementales et diplomatiques en Ukraine et en Europe.
Des fabricants de drones militaires auraient également figuré parmi les cibles de cette opération. Le recours à l’IA aurait permis aux opérateurs de gagner en rapidité et en efficacité dans différentes étapes de leurs activités, illustrant les nouvelles possibilités offertes par les modèles génératifs aux groupes spécialisés dans le renseignement et les cyberopérations.
Cybercriminalité et vols massifs de données
Le rapport d’Anthropic évoque également plusieurs activités attribuées à des groupes affiliés à ShinyHunters, connus pour des opérations de cybercriminalité impliquant notamment le vol de grandes quantités de données.
Selon l’entreprise, Claude aurait été utilisé dans des opérations combinant extraction massive d’informations et tentatives d’extorsion. Ce type de pratique illustre l’un des risques majeurs liés à la démocratisation des outils d’intelligence artificielle : permettre à des acteurs malveillants d’accélérer certaines étapes d’attaques informatiques complexes.
Anthropic mentionne également une opération d’espionnage sinophone basée à Changsha, en Chine, dans laquelle l’IA aurait contribué au développement d’exploits de type « zero-day ». Ces vulnérabilités, lorsqu’elles sont inconnues des éditeurs ou des responsables de sécurité au moment de leur exploitation, peuvent représenter une menace particulièrement importante pour les systèmes informatiques ciblés.
L’IA au service de la manipulation de l’information
L’autre volet préoccupant du rapport concerne les opérations d’influence. Anthropic indique avoir démantelé neuf opérations d’influence impliquant différents pays ou régions, notamment la Russie, l’Iran, la Türkiye, le Golfe, l’Asie du Sud et l’Afrique.
Parmi les cas cités figure une opération de propagande favorable à la Russie, basée à Bangui, en République centrafricaine. L’entreprise affirme que cette opération était liée au groupe Wagner et que ses contenus étaient diffusés notamment par Radio Lengo Songo.
Le rapport fait également état d’une plateforme commerciale consacrée à la manipulation électorale en Malaisie. Une autre opération aurait cherché à promouvoir des positions favorables à la Ligue Awami auprès de populations rurales au Bangladesh.
Ces exemples mettent en évidence une nouvelle dimension de l'utilisation de l'IA : la capacité à produire, adapter et diffuser rapidement des contenus destinés à influencer différents publics. Pour les chercheurs et les spécialistes de la cybersécurité, cette évolution pourrait rendre plus difficile l'identification des campagnes coordonnées de désinformation.
La surveillance au cœur des préoccupations
Anthropic décrit par ailleurs plusieurs opérations de surveillance dans lesquelles Claude aurait été utilisé.
L'entreprise évoque notamment une plateforme nationale d'interception au Mali, qui contrôlerait environ 25 millions de cartes SIM. Elle mentionne également des opérations chinoises visant différentes communautés à travers l'Asie, notamment les populations ouïghoures et tibétaines, les membres du Falun Gong ainsi que certaines communautés catholiques.
Ces révélations soulèvent des questions importantes sur l'utilisation des technologies d'intelligence artificielle dans le domaine de la surveillance. Alors que les États disposent déjà de moyens considérables pour collecter et analyser des données, les capacités de traitement et d'automatisation des modèles d'IA pourraient accroître considérablement l'efficacité de certaines opérations.
Des usages liés au développement d’armes
Le rapport aborde également un domaine particulièrement sensible : l'utilisation de l'intelligence artificielle dans le développement d'armes conventionnelles.
Anthropic affirme avoir déjoué six cas dans lesquels Claude aurait été utilisé dans ce contexte. Parmi eux figure une opération au Yémen impliquant l'essai d'une roquette guidée.
L'entreprise mentionne également un projet russe qui aurait porté sur le développement d'un essaim autonome de drones kamikazes. Une telle technologie pourrait permettre à plusieurs drones de fonctionner de manière coordonnée et autonome, ce qui soulève d'importantes préoccupations concernant l'évolution des conflits armés.
Anthropic souligne ainsi les difficultés auxquelles sont confrontées les entreprises spécialisées dans l'IA lorsqu'elles cherchent à empêcher leurs technologies d'être utilisées à des fins militaires ou criminelles.
Le risque biologique également surveillé
Le rapport s'intéresse enfin aux usages de Claude dans le domaine de la recherche biologique à double usage. Anthropic dit avoir identifié cinq cas dans lesquels son modèle aurait été sollicité pour des activités susceptibles d'avoir à la fois des applications scientifiques légitimes et des implications en matière de sécurité.
Parmi les sujets cités figurent notamment le virus chikungunya et la grippe aviaire. Anthropic précise toutefois ne pas avoir divulgué l'identité des chercheurs concernés.
La notion de « double usage » constitue un enjeu majeur pour l'intelligence artificielle appliquée aux sciences de la vie. Des connaissances développées dans un objectif médical ou scientifique peuvent, dans certaines circonstances, être détournées à des fins dangereuses. Les entreprises technologiques cherchent donc à trouver un équilibre entre l'utilité de leurs modèles pour la recherche et la nécessité d'empêcher certaines utilisations à risque.
La « distillation illicite », nouveau front de bataille
Une autre partie du rapport est consacrée à ce qu'Anthropic appelle la « distillation illicite ». L'entreprise décrit cette pratique comme une extraction clandestine et à grande échelle des capacités de Claude afin d'améliorer ou d'entraîner d'autres modèles d'intelligence artificielle.
Anthropic affirme avoir identifié des campagnes impliquant plusieurs entreprises chinoises de l'IA et de la technologie, parmi lesquelles Alibaba, Moonshot AI, DeepSeek, Zhipu (Z.ai), Xiaomi, SenseTime et MiniMax.
Selon Anthropic, certains laboratoires auraient redirigé, sans que leurs utilisateurs en aient connaissance, des requêtes vers Claude afin d'obtenir des réponses qui auraient ensuite pu servir à entraîner leurs propres modèles.
Ces accusations touchent directement à la question de la concurrence technologique et de la protection des investissements réalisés dans le développement des grands modèles d'IA. Elles montrent également que les entreprises ne doivent pas seulement se protéger contre les cybercriminels classiques, mais aussi contre des formes plus sophistiquées d'exploitation de leurs propres systèmes.
Anthropic renforce ses dispositifs de sécurité
Face à ces différentes menaces, Anthropic indique avoir pris plusieurs mesures. L'entreprise affirme avoir banni les comptes associés aux activités identifiées, renforcé ses systèmes de détection et partagé certaines de ses conclusions avec les autorités compétentes ainsi qu'avec des partenaires du secteur technologique.
La publication de ce rapport traduit une volonté de mieux documenter les nouvelles formes d'abus liées à l'intelligence artificielle. Elle intervient alors que les capacités des modèles génératifs progressent rapidement et que leur utilisation dépasse largement les domaines traditionnels de la rédaction, de la programmation ou de la recherche.
Le principal défi pour l'industrie consiste désormais à empêcher que ces capacités soient transformées en outils au service de la cybercriminalité, de la surveillance abusive, de la manipulation politique ou de la violence, tout en maintenant l'accès aux bénéfices légitimes de l'intelligence artificielle.
Les cas présentés par Anthropic montrent surtout que la question n'est plus de savoir si l'IA peut être utilisée à mauvais escient, mais comment les entreprises, les gouvernements et la communauté internationale peuvent limiter ces abus à mesure que les technologies deviennent plus puissantes.
Pour Anthropic, la surveillance continue des usages, la détection rapide des comportements suspects et la coopération avec les autorités et les autres acteurs du secteur constituent désormais des éléments essentiels de cette bataille. Le rapport rappelle ainsi qu'à mesure que l'intelligence artificielle gagne en puissance, les mécanismes destinés à empêcher son détournement devront eux aussi évoluer.
