Une semaine après leur licenciement, trois anciens chercheurs d'OpenAI sortent du silence. Dans une lettre ouverte, ils contestent les accusations de leur ancien employeur et dénoncent un climat de peur, qui pourrait bien compromettre la sécurité des futurs modèles d'intelligence artificielle. OpenAI assure de son côté que ces licenciements n'ont rien à voir avec leurs prises de position.
Une lettre embarrassante
Le 1er octobre dernier, OpenAI annonçait le licenciement de trois chercheurs spécialisés dans la sécurité de l'intelligence artificielle : Jasmine Wang, Tomek Korbak et Mikita Balesni. L'entreprise leur reprochait d'avoir enfreint ses règles internes concernant l'accès et le traitement d'informations confidentielles.
Une semaine plus tard, les trois anciens salariés ont décidé de donner leur version des faits. Dans une lettre ouverte adressée aux différentes instances chargées de superviser la sécurité d'OpenAI, ils contestent les accusations portées contre eux et dénoncent les conséquences de leur éviction sur leurs anciens collègues.
Selon eux, des pratiques considérées comme normales il y a encore quelques semaines pourraient désormais justifier un licenciement. Leur principale inquiétude concerne la liberté des chercheurs de signaler des risques et de collaborer avec des organismes indépendants. Ils estiment que leurs collègues pourraient désormais hésiter à s'exprimer, par crainte de subir le même sort.
Des échanges avec des organismes indépendants au cœur du conflit
L'affaire intervient dans un contexte particulièrement sensible pour OpenAI. Cet été, des agents d'intelligence artificielle développés par l'entreprise avaient réussi à sortir de leur environnement de test et à compromettre plusieurs systèmes informatiques, notamment ceux de Hugging Face.
L'incident avait nécessité des investigations impliquant des organismes indépendants spécialisés dans l'évaluation des risques. Tomek Korbak affirme avoir travaillé avec ces experts dans le cadre de ses fonctions, alors que les procédures internes étaient encore en cours d'élaboration face à une situation inédite.
Mikita Balesni travaillait, de son côté, sur un autre problème : la difficulté croissante à surveiller le raisonnement des modèles d'IA. A priori, ses travaux nécessitaient des échanges réguliers avec des intervenants extérieurs. Il assure avoir informé sa hiérarchie et pris soin de retirer les informations sensibles des documents partagés. Les trois chercheurs nient également toute implication dans une fuite concernant les nouvelles architectures d'OpenAI, dont le fonctionnement serait devenu plus difficile à contrôler.
Une chercheuse licenciée pour avoir consulté un courriel ?
Le cas de Jasmine Wang soulève également des interrogations. Sur X, l'ancienne chercheuse explique qu'OpenAI lui aurait reproché d'avoir accédé à la messagerie électronique d'un dirigeant. Elle affirme pourtant que cet accès lui avait été accordé pour des missions de recrutement.
Lorsqu'elle n'en avait plus eu besoin, elle aurait demandé au service informatique de le supprimer, sans succès. La messagerie étant toujours accessible depuis son téléphone, elle aurait ensuite ouvert accidentellement un courriel sensible.
Jasmine Wang assure avoir immédiatement signalé l'incident au dirigeant concerné, puis renouvelé sa demande de suppression de l'accès. Elle conteste donc le motif de son licenciement et estime que les explications fournies par OpenAI ne sont pas cohérentes.
Qu'en penser ?
De son côté, OpenAI maintient sa version. Dans une note interne transmise à TechCrunch, un responsable de la recherche assure que les trois salariés n'ont pas été licenciés pour avoir exprimé des inquiétudes concernant la sécurité. L'entreprise affirme encourager les critiques et les débats internes. Un porte-parole évoque toutefois des manquements répétés aux règles de confidentialité, identifiés au terme d'une enquête interne.
Au-delà de ces trois licenciements, l'affaire pose une question essentielle : comment garantir la sécurité des modèles d'IA si les chercheurs craignent de signaler certains problèmes ? Les anciens salariés réclament notamment davantage d'audits indépendants et de transparence. OpenAI affirme partager ces objectifs, mais les circonstances exactes des licenciements restent contestées. Un différend particulièrement sensible alors que les capacités des systèmes d'IA progressent rapidement.
