Vous le savez, Claude, l'assistant d'intelligence artificielle d'Anthropic, sert à rédiger des textes et à créer des logiciels. Des utilisateurs l'ont aussi employé pour animer de faux profils amoureux ou développer des outils de surveillance. Son éditeur détaille ces détournements dans un nouveau rapport, et c'est plutôt inquiétant
Des rencontres où Claude fait la conversation
Le document couvre des opérations repérées entre décembre 2025 et août 2026, et l'un des exemples les plus parlants concerne les applications de rencontre. Selon Anthropic, un studio chinois en a développé plus de vingt avec l'aide de Claude, avant de lui confier les conversations de faux profils présentés comme de vraies personnes.
Sur deux semaines en avril, plus de 4 700 personnages artificiels ont échangé avec au moins 25 000 utilisateurs, pour environ 2,36 millions de messages. Les utilisateurs devaient acheter des crédits pour discuter. Le dispositif allait quand même assez loin, puisque de vrais humains intervenaient aussi pour les appels vidéo. Avoir quelqu'un à l'écran pouvait donc rassurer l'utilisateur alors que d'autres conversations étaient entièrement automatisées.
Au Mali, ça carbure
Le rapport décrit aussi le travail d'un utilisateur, probablement consultant pour les services de renseignement maliens. Avec Claude, il a développé Lakana360, une plateforme de surveillance des communications portant, selon Anthropic, sur environ 25 millions de cartes SIM chez les trois opérateurs nationaux. L'analyse de SMS et d'enregistrements vocaux fait partie de ses fonctions. On parle bien de cartes SIM, plusieurs pouvant appartenir à une même personne.
Anthropic a suspendu le compte concerné, mais le logiciel tournait déjà sur des machines locales, avec d'autres modèles d'IA. La coupure a interrompu l'aide de Claude au développement sans arrêter le système installé. C'est une limite assez concrète du contrôle exercé par le fournisseur : il peut fermer l'accès à son assistant, pas effacer à distance tout ce que celui-ci a aidé à construire.
Des réponses de Claude sous un autre nom
Autre cas cité, celui de Moonshot, la société derrière l'assistant Kimi, et de DeepSeek. Anthropic les accuse d'avoir relayé des demandes de leurs clients vers Claude, puis renvoyé ses réponses sous leur propre nom. Il ne s'agissait donc pas seulement d'utiliser des réponses pour entraîner une IA concurrente : Claude répondait aussi à la place du service choisi.
Certaines demandes transmises par Moonshot contenaient des données confidentielles. Anthropic précise ne pas savoir si les clients avaient été informés de ce partage, ce qui laisse une question très pratique pour les entreprises qui confient leur code ou leurs documents à ces services.
On en dit quoi ?
Publier ces cas permet au moins de comprendre ce que recouvrent les détournements d'IA. Il faut quand même garder en tête qu'Anthropic raconte ses propres enquêtes, sur lesquelles elle a pu intervenir. Le cas malien mérite surtout d'être retenu : le nombre de comptes fermés renseigne sur les sanctions, beaucoup moins sur ce qui continue à fonctionner après. C'est sur cet effet réel que les mesures de sécurité doivent aussi être évaluées. En tous cas ce genre d'histoires va se multiplier, ça c'est certain.
