Concurrents acharnés dans la course à l’intelligence artificielle, OpenAI, Anthropic et Google DeepMind travaillent pourtant ensemble depuis plusieurs semaines sur les risques liés aux modèles les plus avancés. Les trois entreprises réfléchiraient notamment à la création d’un organisme chargé de définir des règles communes et d’évaluer les futures IA.
DES DISCUSSIONS DEPUIS PLUSIEURS SEMAINES
L’appel lancé ce week-end par Dario Amodei n’est finalement pas arrivé de nulle part. Chris Lehane, responsable des affaires publiques mondiales d’OpenAI, a confirmé mardi que son entreprise discutait depuis plusieurs semaines avec Anthropic et Google DeepMind autour de la sécurité de l’intelligence artificielle.
Le dirigeant se trouve actuellement à Washington, où il échange avec des élus américains sur les risques potentiellement catastrophiques associés aux systèmes d’IA les plus avancés.
Ces discussions auraient même commencé avant la publication du texte de Dario Amodei intitulé We Must Pace the Frontier. Le patron d’Anthropic y appelle notamment les principaux laboratoires à ralentir le rythme de développement des IA de pointe, afin de disposer de davantage de temps pour comprendre et maîtriser leurs capacités.
UN ACCORD DE PRINCIPE
Pour une fois, cette proposition a reçu un accueil favorable de plusieurs dirigeants habituellement concurrents. Sam Altman (OpenAI), Demis Hassabis (Google) et Elon Musk (SpaceXAI) ont publiquement soutenu, avec différentes nuances, la nécessité de renforcer les mécanismes de sécurité.
Sam Altman a notamment annoncé qu’OpenAI suivrait Anthropic en donnant à des évaluateurs indépendants un accès approfondi à l’entreprise et à ses modèles, afin qu’ils puissent vérifier le respect des engagements pris en matière de sécurité.
Cette idée pourrait également devenir une obligation légale. OpenAI soutient ainsi une disposition du FRONTIER Act, qui imposerait aux principaux laboratoires développant des modèles de pointe d’accueillir des organismes indépendants chargés de vérifier leurs pratiques.
VERS UN GENDARME DE L’IA CRÉÉ PAR LES GÉANTS DU SECTEUR ?
Selon The Information, OpenAI, Anthropic et Google travaillent parallèlement sur la création d’un organisme commun chargé de définir des standards pour l’industrie de l’IA, notamment en matière de tests et d’audits des modèles. Des représentants des trois entreprises se réuniraient régulièrement depuis juillet.
Demis Hassabis avait déjà proposé cet été la création d’une structure capable d’examiner les modèles les plus avancés et, si certains risques devenaient trop importants, de coordonner un ralentissement de leur développement. Une telle coopération soulève toutefois une question juridique : jusqu’où des concurrents peuvent-ils coordonner leur activité sans enfreindre les règles antitrust ? Dario Amodei propose une exemption gouvernementale très ciblée pour les discussions relatives à la sécurité. Chris Lehane estime pour sa part qu’elle ne serait pas nécessaire.
WASHINGTON BEAUCOUP MOINS ENTHOUSIASTE
L’administration Trump ne partage pas nécessairement cette volonté de ralentir. Le président américain a rejeté l’idée d’un ralentissement coordonné, considérant notamment qu’il pourrait favoriser la Chine dans la course mondiale à l’IA. La question est donc particulièrement délicate : les entreprises cherchent à mettre en place des garde-fous communs tout en continuant à investir massivement et à se livrer une compétition particulièrement intense.
QU’EN PENSER ?
Voir OpenAI, Anthropic et Google accepter de travailler ensemble sur la sécurité constitue déjà un changement notable, tant leurs intérêts commerciaux sont opposés. Mais un accord sur le principe ne signifie pas encore que ces entreprises accepteront réellement de ralentir leurs modèles lorsque la concurrence s’intensifiera.
La création d’un organisme indépendant pourrait apporter davantage de garanties. Toute la question sera cependant de savoir à quel point celui-ci pourra réellement être indépendant s’il est créé et financé par les entreprises qu’il doit surveiller. C’est précisément sur ce point que le débat entre autorégulation du secteur et intervention des pouvoirs publics devrait désormais se concentrer.
