Sam Altman et Dario Amodei se sont exprimés devant le Conseil de sécurité de l'ONU pour demander aux États des règles communes sur la sécurité de l'intelligence artificielle. Une séance organisée par la France, une grande première consacrée aux modèles les plus avancés, et un paradoxe : ce sont les constructeurs eux-mêmes qui viennent réclamer le gendarme. Pendant ce temps, Washington hausse les épaules.
Une grande première à New York
Le Conseil de sécurité avait déjà discuté d'intelligence artificielle à six reprises, mais jamais une séance de haut niveau n'avait été consacrée aux risques des systèmes les plus avancés, capables de s'améliorer seuls ou d'échapper au contrôle humain. C'est la France, qui préside le Conseil ce mois-ci, qui a organisé la réunion du 23 septembre, dirigée par Jean-Noël Barrot en marge de l'Assemblée générale. Et il y avait du beau monde à la tribune : le chercheur Yoshua Bengio, Clément Delangue, le patron français de Hugging Face, Sam Altman en personne, et Dario Amodei, qui est intervenu à distance sur un écran géant.
Mais ils ont demandé quoi exactement ?
Le patron d'OpenAI a plaidé pour des méthodes communes de mesure des capacités des modèles, un signalement rapide des incidents graves et des canaux sécurisés entre gouvernements et laboratoires, en insistant pour que les grandes décisions soient prises par des gouvernements qui rendent des comptes à leurs citoyens. Il a même prévenu que nous pourrions perdre le contrôle du futur au profit de l'IA. Dario Amodei est allé plus loin, avec des accords contre l'utilisation de l'IA pour concevoir des armes biologiques, des systèmes de vérification entre pays et même une limitation de vitesse sur l'auto-amélioration des modèles, inspirée des traités de désarmement de la guerre froide. Anthropic promet d'ailleurs de ralentir autant que nécessaire pour ne mettre sur le marché que des technologies sûres.
Washington n'en veut pas
La réponse américaine n'a pas traîné. Michael Kratsios, conseiller de la Maison-Blanche, a rejeté toute nouvelle structure de gouvernance mondiale et refuse de brider le développement de l'IA, dans la droite ligne d'un Donald Trump qui range les craintes sur l'IA au rayon des canulars. La Chine, par la voix de son ambassadeur Fu Cong, a refusé que les pays soient sommés de choisir un camp et en a profité pour vanter ses modèles open source. Le Britannique Ed Miliband a quand même promis de pousser des principes communs pendant la présidence du G20 par Londres en 2027. Aucun accord écrit n'est sorti de la séance, et personne n'en attendait vraiment un.
On en dit quoi ?
C'est quand même un drôle de spectacle, ces deux patrons qui réclament des limites qu'ils sont les premiers à pouvoir s'imposer tout seuls. Amodei jure de ralentir si besoin, alors que personne n'a jamais levé le pied et que la course aux data centers avance à une vitesse assez dingue. Du coup, tant que Washington parle de canular et que Pékin joue sa propre partition, ces appels à la coordination ressemblent surtout à une assurance morale à peu de frais. Le sujet méritait mieux qu'une séance sans le moindre engagement signé.
