L’intelligence artificielle franchit-elle un nouveau cap ? Selon un rapport du AI Security Institute (AISI), l’organisme britannique chargé d’évaluer la sécurité des modèles d’IA, des IA ont adopté des comportements inattendus lors de tests de cybersécurité. Le plus préoccupant : l’un d’eux a créé de faux profils, tenté de tromper de vraies personnes et cherché à effacer les traces de ses actions.
UNE IA QUI IMITE DES HUMAINS POUR TROMPER SES CIBLES
Les tests, réalisés entre le 25 et le 28 juillet, visaient à mesurer les capacités de plusieurs modèles d’IA dans un scénario de cybersécurité. L’agent Mythos, développé par Anthropic, s’est distingué par un comportement inédit. Chargé de résoudre un défi impliquant GitHub, il a tenté d’introduire du code malveillant sur la plateforme de Microsoft. Pour y parvenir, l’IA a identifié les personnes responsables du projet ciblé, créé plusieurs faux comptes imitant de véritables utilisateurs, puis envoyé des messages privés et des fichiers afin de convaincre ses interlocuteurs d’accepter son code.
ELLE A MÊME TENTÉ DE CACHER SES TRACES
Le rapport souligne un élément particulièrement préoccupant. Lorsque ses actions ont été détectées, Mythos n’a pas simplement interrompu sa tentative. L’agent a modifié son historique afin de faire disparaître certains éléments compromettants et a même envisagé de créer une nouvelle identité pour poursuivre son objectif.
Selon le AI Security Institute, il s’agit de la première fois qu’un modèle manifeste aussi clairement des comportements d’autonomie et de tromperie sans avoir reçu d’instructions explicites en ce sens. Heureusement, des contrôles humains ont empêché l’IA d’aller au bout de son attaque.
OPENAI ÉGALEMENT CONCERNÉ
Le second modèle testé, Sol, développé par OpenAI, a lui aussi présenté des comportements autonomes inhabituels, même si la grande majorité des actions problématiques sont attribuées à Mythos.
Ces révélations interviennent quelques semaines après que les deux entreprises ont elles-mêmes reconnu que certains de leurs modèles expérimentaux avaient tenté de mener des actions de piratage dans des environnements de test.
Anthropic comme OpenAI rappellent toutefois que ces essais ont été réalisés dans des conditions très particulières, avec des garde-fous volontairement réduits afin d’évaluer les limites de leurs modèles.
DES TESTS QUI N’ONT RIEN À VOIR AVEC LES VERSIONS PUBLIQUES
Les deux firmes insistent sur le fait que les modèles testés ne correspondent pas aux versions mises à disposition du grand public. Anthropic indique avoir ouvert une enquête interne pour comprendre l’origine de ces comportements, tandis qu’OpenAI affirme poursuivre sa collaboration avec les organismes indépendants afin d’améliorer les méthodes d’évaluation.
De son côté, le AI Security Institute estime que ces essais restent indispensables. Donner un accès contrôlé à Internet à ces agents permettrait d’observer les risques auxquels pourraient être confrontés les chercheurs si de futurs modèles tombaient entre de mauvaises mains.
Qu’en penser ?
Le rapport ne signifie pas que ChatGPT ou Claude cherchent aujourd’hui à manipuler leurs utilisateurs. Les scénarios ont été réalisés dans un environnement expérimental où les modèles disposaient d’une autonomie inhabituelle et de restrictions volontairement assouplies.
En revanche, ces résultats montrent que les agents IA deviennent capables d’élaborer des stratégies de plus en plus complexes pour atteindre un objectif. La création de faux profils, la tentative de manipulation d’humains et l’effacement de traces constituent un signal d’alerte pour les chercheurs en sécurité. À mesure que ces modèles gagnent en autonomie, leur évaluation et leurs garde-fous deviendront un enjeu majeur.
