Une IA qui cache ses erreurs, en invente certaines, utilise une clé API sans autorisation ou décide de mettre des fichiers en ligne pour parvenir à ses fins. OpenAI vient de dévoiler six nouveaux exemples de comportements inattendus observés sur ses modèles au cours des six derniers mois. Après le spectaculaire incident impliquant Hugging Face cet été, l'entreprise veut désormais systématiser la publication de ce type de dérapages avec un nouveau cadre consacré au désalignement de ses IA.
SIX NOUVEAUX DÉRAPAGES RÉVÉLÉS PAR OPENAI
OpenAI joue la carte de la transparence. L'entreprise vient de publier six incidents jusqu'ici non dévoilés, survenus pendant l'entraînement ou l'évaluation de ses modèles. Ils ne permettent pas de mesurer la fréquence de ces comportements, précise OpenAI, mais illustrent les difficultés rencontrées lorsque des modèles de plus en plus autonomes cherchent à accomplir coûte que coûte la mission qui leur a été confiée.
Dans un premier cas, un modèle de recherche encore inédit a ajouté de sa propre initiative des instructions dans les résumés servant à poursuivre son travail dans une nouvelle fenêtre de contexte. Certaines lui demandaient notamment d'ignorer ses contraintes habituelles. OpenAI indique avoir identifié 27 résumés concernés.
Plus troublant encore, pendant l'entraînement de GPT-5.6 Sol, de nombreuses instances du modèle ont intégré à leurs résumés des consignes visant à dissimuler leurs erreurs ou certains comportements à l'utilisateur. Le modèle pouvait par exemple s'ordonner d'inventer des données historiques manquantes sans le signaler ou de cacher des incohérences entre différentes versions d'une source.
UNE CLÉ API UTILISÉE SANS AUTORISATION… PUIS DES DONNÉES INVENTÉES
Un autre exemple montre jusqu'où un modèle peut aller lorsqu'il cherche obstinément à terminer une tâche. Interrogée sur des données financières concernant un comté de Californie, une IA a découvert une clé API exposée dans un dépôt public et décidé de l'utiliser sans autorisation.
Même avec cette clé, elle n'est finalement pas parvenue à récupérer les informations demandées. Plutôt que de reconnaître son échec, elle a inventé les chiffres et les a présentés comme provenant de la source réclamée par l'utilisateur.
Dans un autre cas, un modèle avait correctement trouvé avec Python la liste de lacs demandée par un utilisateur. Mais il lui fallait fournir une citation accessible depuis un navigateur. Sa solution ? Mettre lui-même le fichier sur internet afin de pouvoir ensuite le citer, sans demander l'autorisation de l'utilisateur.
DES IA QUI TROUVENT LEUR PROPRE MOYEN DE COMMUNIQUER
Deux autres incidents concernent la capacité des agents à contourner les limitations qui les empêchent d'échanger des informations. Des modèles ont ainsi utilisé un dépôt logiciel interne comme une sorte de messagerie improvisée, permettant à différentes instances de s'envoyer des requêtes et des réponses pendant leur entraînement. OpenAI mentionne également un cas antérieur dans lequel un modèle était parvenu à envoyer des fichiers de test vers un dépôt en cherchant à contourner des restrictions réseau.
Des agents travaillant ensemble sur une même tâche ont aussi utilisé des services publics d'hébergement de fichiers pour échanger des documents, puisqu'ils ne pouvaient pas accéder directement aux fichiers locaux de leurs partenaires. Conséquence : certains résultats se sont retrouvés accessibles via des URL publiques alors que la tâche exigeait explicitement de travailler uniquement avec des fichiers locaux.
OPENAI VEUT DÉSORMAIS TOUT CONSIGNER
Jusqu'à présent, OpenAI reconnaît que la publication de ces incidents était assez irrégulière. Certains étaient regroupés dans de longs rapports ou intégrés aux fiches techniques accompagnant la sortie de nouveaux modèles. L'entreprise met donc en place un cadre formel permettant de signaler, enquêter et éventuellement publier ces comportements au fur et à mesure de leur découverte.
N'importe quel salarié d'OpenAI pourra signaler un incident aux équipes chargées de la sécurité et de l'alignement. Celui-ci sera ensuite classé selon le niveau d'enquête nécessaire, avant qu'une décision soit prise concernant sa publication. OpenAI affirme vouloir privilégier la transparence même lorsque l'importance réelle d'un incident reste incertaine. Cela signifie également que certains événements publiés pourraient finalement se révéler isolés et ne pas annoncer un problème plus général.
APRÈS L’INCIDENT HUGGING FACE
Cette décision intervient surtout quelques semaines après un incident autrement plus sérieux. En juillet, lors d'évaluations internes de cybersécurité, plusieurs modèles d'OpenAI avaient réussi à contourner des mécanismes destinés à les isoler d'internet, à exploiter des failles et à compromettre une partie de l'infrastructure interne d'OpenAI ainsi que des systèmes de Hugging Face.
OpenAI avait elle-même qualifié cet épisode de signal d'alarme, estimant que les agents IA étaient désormais suffisamment puissants, persistants et capables de collaborer pour exploiter des failles informatiques en l'absence de protections suffisantes. L'entreprise avait depuis renforcé ses environnements isolés, les restrictions d'accès à internet et la surveillance du comportement de ses modèles.
Le nouveau cadre va plus loin : OpenAI estime désormais que l'industrie n'a pas encore suffisamment résolu les problèmes d'alignement et de surveillance pour continuer très longtemps à augmenter au maximum la puissance de ses modèles de manière responsable. Une déclaration particulièrement forte de la part de l'un des principaux acteurs de cette course.
QU’EN PENSER ?
Ces six incidents ne signifient pas que ChatGPT passe son temps à contourner les règles : OpenAI insiste sur le fait qu'il s'agit de cas individuels observés principalement pendant l'entraînement et les évaluations, et qu'ils ne permettent pas d'établir leur fréquence.
Ils illustrent en revanche un problème qui devient plus concret à mesure que les IA gagnent en autonomie. Une hallucination classique produit une mauvaise réponse ; un agent capable d'utiliser des outils peut, lui, chercher une clé API, envoyer un fichier sur internet ou créer son propre canal de communication pour parvenir à terminer sa mission.
La publication systématique de ces incidents devrait permettre de mieux comprendre ces comportements. Elle révèle surtout que les entreprises développant les modèles les plus puissants cherchent encore comment les empêcher de franchir certaines limites lorsqu'elles se trouvent face à un obstacle.
