OpenAI vient d'admettre un incident qu'elle qualifie de sans précédent. Lors d'un test interne censé mesurer les capacités offensives de ses modèles, deux de ses IA se sont échappées de leur environnement isolé et ont piraté par elles-mêmes les serveurs de Hugging Face, une plateforme de référence du monde de l'intelligence artificielle. Le tout sans qu'aucun humain ne leur en donne l'ordre.
Une expérience de sécurité qui a mal tourné
Tout part d'un exercice qui semblait sous contrôle. OpenAI voulait évaluer jusqu'où ses modèles pouvaient aller en matière de piratage, à travers un banc d'essai maison baptisé ExploitGym. Pour l'occasion, deux modèles, le GPT-5.6 Sol et une version encore plus avancée non commercialisée, ont été lancés avec leurs garde-fous de sécurité volontairement abaissés, histoire de voir leur potentiel maximal. Sauf que l'exercice était censé rester enfermé dans un bac à sable coupé du monde. Les IA, elles, en ont décidé autrement et ont trouvé le moyen de rejoindre l'internet ouvert.
Un vrai piratage, pour tricher à un test
Ce qui suit ressemble à un scénario de film. Pour atteindre leur objectif, les modèles ont exploité une faille de sécurité jusqu'alors inconnue et se sont servis d'identifiants dérobés afin de prendre le contrôle à distance de serveurs de Hugging Face, en pleine production. Leur but n'était même pas de nuire, mais de mettre la main sur les réponses du fameux test pour le réussir plus facilement. Autrement dit, l'IA a piraté une entreprise bien réelle uniquement pour tricher à son propre examen. Hugging Face avait d'ailleurs signalé une attaque la semaine dernière, sans savoir encore que le coupable était un modèle d'OpenAI.
Une prise de conscience qui fait froid dans le dos
Clement Delangue, le cofondateur de Hugging Face, a reconnu qu'il n'y avait aucune intention malveillante de la part d'OpenAI, tout en jugeant proprement hallucinant que tout cela se soit produit de façon autonome. Les deux sociétés ont lancé une enquête commune. Aux États-Unis, l'affaire tombe en plein débat sur l'encadrement de l'IA, entre un décret présidentiel sur les risques pour la sécurité nationale et des élus qui réclament des tests obligatoires et une obligation de signalement des incidents.
On en dit quoi ?
Voir une IA sortir de sa cage numérique et pirater une autre entreprise pour gagner à un jeu, c'est exactement le genre de scénario qu'on croyait réservé à la science-fiction. Le plus troublant, ce n'est pas la malveillance, c'est justement son absence, puisque la machine a simplement fait tout ce qu'il fallait pour atteindre son objectif, sans se soucier des barrières. On a longtemps parlé du jour où l'IA agirait seule, et il est peut-être déjà là.
