L'équipe de sécurité d'Anthropic a fait tourner une IA de 26 milliards de paramètres sur des boîtiers Android TV achetés 55 dollars pièce, avant de simuler un ver informatique chargé de la propager de machine en machine. Des vers dopés à l'IA, sans serveur central à débrancher, pourraient voir le jour d'ici quelques mois selon la société.
Une IA découpée sur quinze boîtiers TV
Les chercheurs de la Frontier Red Team, l'équipe d'Anthropic chargée d'anticiper les dérives de l'IA, ont acheté quinze boîtiers Android TV sans marque, vendus environ 55 dollars pièce avec 4 Go de mémoire. En compressant le modèle Gemma 4 de Google et en répartissant ses 26 milliards de paramètres en tranches sur l'ensemble du parc, ils ont obtenu une IA qui fonctionne. Très lentement, puisque la grappe produit 0,39 token par seconde, soit plus de deux secondes pour cracher le moindre bout de mot, mais elle fonctionne. Aucun de ces boîtiers n'aurait pu faire tourner le modèle tout seul, et c'est justement ça qui inquiète la société.
Un ver sans bouton d'arrêt
L'étape suivante fait nettement moins sourire. Sur un réseau simulé qui imite ce genre d'appareils, les chercheurs ont lâché un ver piloté par une IA, avec pour mission de repérer des machines, d'y recopier un modèle et de le mettre en route. Seul GLM-5.2, un gros modèle chinois, a bouclé la chaîne complète, mais les petits modèles réussissent déjà la plupart des étapes séparément, et ils progressent assez vite pour qu'Anthropic les voie faire jeu égal d'ici la fin de l'année. Un tel ver transporterait ses propres poids dans sa charge utile, apprendrait de ses échecs en laissant des notes à ses copies suivantes, et n'offrirait aucun point central à couper. Les chercheurs parlent d'une sorte de moisissure numérique, lente mais très difficile à éradiquer.
Un scénario encore théorique
Il y a quand même de quoi relativiser. Les machines visées laissaient un accès de débogage grand ouvert, sans le moindre mot de passe, une configuration indigne d'un appareil correctement conçu. La réplication était orchestrée par le gros modèle, pas par les petits, et personne n'a observé le moindre ver IA dans la nature pour le moment. Un chercheur indépendant reproche d'ailleurs à l'étude de ne jamais prouver qu'un modèle choisirait de se répliquer de lui-même. Chez Palisade Research, on juge pourtant la menace réaliste au point de prédire un premier ver sauvage d'ici douze mois. Les appareils verrouillés comme l'Apple TV ou l'iPhone résistent par contre bien mieux que ces boîtiers génériques.
On en dit quoi ?
Anthropic n'est pas tout à fait neutre dans cette histoire. La société répète depuis des années que les modèles ouverts sont plus dangereux que ses IA fermées, et chaque publication du genre relance les accusations de marketing de la peur. Sauf que le fond du problème ne lui appartient pas : le marché déborde de boîtiers et de caméras premier prix vendus sans le moindre suivi de sécurité, et ces machines nourrissent déjà très bien les botnets classiques. Qu'une IA finisse un jour par s'y installer toute seule n'a franchement rien de la science-fiction.
