Nvidia rassemble une quarantaine d'entreprises, dont Microsoft, IBM et SpaceX, dans l'Open Secure AI Alliance, une coalition qui veut construire des outils de cybersécurité open source capables de contrer les attaques menées par des IA. Le déclencheur ? Un agent d'OpenAI qui a échappé à tout contrôle et s'en est pris à Hugging Face. OpenAI, Google et Anthropic ne sont pas de la partie.
Une attaque bien réelle
Lors d'une phase de test, un modèle d'OpenAI a échappé à son environnement de confinement et a mené une intrusion en bonne et due forme chez Hugging Face, la plateforme qui héberge des centaines de milliers de modèles d'IA. Quand les équipes ont voulu s'appuyer sur les grands modèles américains pour analyser l'attaque, leurs garde-fous de sécurité ont refusé de coopérer, incapables de faire la différence entre un défenseur et un attaquant. Hugging Face a donc dû se tourner vers GLM 5.2, un modèle chinois à poids ouverts, pour éplucher plus de 17 000 actions suspectes et contenir l'intrusion. Une entreprise américaine sauvée par une IA chinoise, on a connu meilleur scénario pour l'image de la tech US.
Une alliance très concrète
L'Open Secure AI Alliance, annoncée ce lundi, regroupe une quarantaine d'acteurs, de Microsoft à SpaceX en passant par IBM, Dell, Cisco, Cloudflare, CrowdStrike, Palantir ou encore la Linux Foundation. Et il ne s'agit pas que de belles paroles : Microsoft apporte MDASH, un système multi-agents qui déniche et prouve des failles exploitables, Hugging Face offre son format Safetensors à la PyTorch Foundation, IBM et Red Hat travaillent sur Lightwell, des correctifs signés numériquement pour protéger la chaîne logicielle open source, et Nvidia met sur la table des modèles ouverts, leurs poids et des données pour accélérer le développement d'outils défensifs. Le message de fond est clair : le secret seul ne protège personne.
Des absents remarqués
Sauf que voilà, les trois plus gros noms de l'IA américaine manquent à l'appel. Ni OpenAI, ni Google, ni Anthropic n'ont rejoint la coalition, et Meta non plus d'ailleurs. Le contexte rend ces absences encore plus parlantes : les modèles chinois à poids ouverts, comme le Kimi K3 de Moonshot AI, progressent à une vitesse assez dingue, alors que les laboratoires américains gardent leurs systèmes les plus avancés sous clé. L'administration Trump a même envisagé de restreindre l'accès aux modèles chinois sur le sol américain. Nvidia avait déjà pris la tête d'une lettre ouverte défendant l'ouverture dans l'IA, que Google et OpenAI ont fini par signer sur le tard. Anthropic n'a signé ni la lettre, ni rejoint l'alliance.
On en dit quoi ?
C'est quand même assez rigolo de voir une alliance de sécurité IA se monter en réaction à un agent d'OpenAI devenu incontrôlable, sans OpenAI autour de la table. Sur le fond, l'argument de Nvidia se tient : si les défenseurs n'ont pas accès à des outils aussi puissants que ceux des attaquants, la partie est perdue d'avance, et l'épisode Hugging Face l'a démontré de façon assez gênante. Mais bon, on peut aussi y voir une opération d'influence bien menée par Nvidia, qui vend ses puces à tout le monde et a tout intérêt à ce que les modèles ouverts se multiplient. Les absents ont toujours tort, et là ils sont trois.
