Une vingtaine de pays et l'Union européenne appellent à renforcer rapidement la surveillance des intelligences artificielles les plus avancées. Tests obligatoires, évaluations indépendantes, partage des incidents et même création d'un organisme international sont évoqués. Les États-Unis et la Chine, les deux principales puissances de l'IA, (ainsi que la France) n'ont toutefois pas signé le texte.
PLUS DE VINGT DIRIGEANTS TIRENT LA SONNETTE D’ALARME
Alors que les progrès de l'intelligence artificielle s'accélèrent, plusieurs dirigeants souhaitentéviter que la sécurité ne prenne trop de retard. Une déclaration commune publiée en marge de l'Assemblée générale des Nations unies appelle ainsi gouvernements et entreprises à agir dès maintenant pour conserver les systèmes d'IA sous direction, supervision et contrôle humains.
Parmi les signataires figurent notamment le Canada, l'Allemagne, l'Espagne, la Norvège, la Finlande, l'Australie, l'Irlande, les Pays-Bas, Singapour, le Kenya, l'Afrique du Sud ou encore les Émirats arabes unis. La présidente de la Commission européenne, Ursula von der Leyen, soutient également le texte.
Les signataires reconnaissent les bénéfices potentiels de l'IA pour la science, l'économie ou la vie quotidienne. En revanche, ils considèrent que les modèles les plus avancés peuvent également présenter des risques importants pour la sûreté et la sécurité s'ils sont mal maîtrisés.
DES TESTS OBLIGATOIRES AVANT LE DÉPLOIEMENT
Il ne s'agit toutefois pas d'appeler à arrêter ou même à ralentir le développement de l'intelligence artificielle. Les signataires veulent plutôt mettre en place des règles communes afin d'accompagner cette course technologique.
Les entreprises développant les modèles les plus avancés seraient notamment invitées à mettre en place des protocoles de sécurité transparents, des tests obligatoires avant leur déploiement et des évaluations réalisées par des organismes indépendants. Les États devraient parallèlement mieux coordonner leurs standards et partager davantage d'informations lorsqu'un incident sérieux survient.
La déclaration va même plus loin en proposant d'étudier la création d'une institution internationale chargée de superviser les IA les plus avancées, de définir des normes et de vérifier leur application. Le président finlandais Alexander Stubb, l'un des principaux promoteurs du texte, s'est dit personnellement favorable à un organisme inspiré de l'Agence internationale de l'énergie atomique, tout en laissant ouverte la question de sa forme exacte.
QUAND DES AGENTS IA ÉCHAPPENT AUX LIMITES IMPOSÉES
Ces inquiétudes ne reposent plus uniquement sur des scénarios théoriques. La déclaration évoque notamment des incidents récents au cours desquels des agents d'IA ont contourné certaines mesures de sécurité.
L'un des exemples les plus remarqués concerne Hugging Face. En juillet, des systèmes d'IA utilisés dans le cadre d'évaluations de cybersécurité sont parvenus à contourner certaines restrictions et à accéder à des infrastructures auxquelles ils n'étaient pas censés avoir accès.
L'incident a depuis alimenté les interrogations sur les capacités croissantes d'agents suffisamment autonomes pour rechercher et exploiter des vulnérabilités. Le nouveau panel scientifique international de l'ONU sur l'IA estime justement que de tels événements justifient de mettre en place des précautions sans attendre de connaître avec certitude tous les risques futurs.
D'autres incidents impliquant des systèmes développés par OpenAI, Anthropic, Google ou Meta sont également étudiés. Il faut toutefois conserver une nuance importante : ces comportements observés lors de tests ou d'incidents spécifiques ne signifient pas que les IA actuelles échappent globalement au contrôle humain. Ils montrent en revanche que leurs nouvelles capacités peuvent créer des situations difficiles à anticiper.
LES ÉTATS-UNIS, LA CHINE… ET LA FRANCE NE SIGNENT PAS
Toutefois, plusieurs des principaux pays engagés dans la course à l'IA ne figurent pas parmi les signataires. C'est notamment le cas des États-Unis et de la Chine, mais aussi de la France, du Royaume-Uni, du Japon et de l'Inde. La déclaration reste cependant ouverte à de nouveaux soutiens.
Cela ne signifie pas pour autant que Washington et Pékin refusent toute discussion sur la sécurité. Les États-Unis et la Chine travaillent actuellement sur un possible mécanisme de dialogue concernant notamment le signalement des incidents liés à l'IA et la gestion de certaines situations de crise.
Plus surprenant encore, OpenAI réclame de son côté que les États-Unis prennent la tête d'un effort international visant à établir des standards techniques communs pour les IA avancées, notamment concernant l'évaluation de leurs capacités et le partage des incidents.
QU’EN PENSER ?
La difficulté est assez évidente : les modèles progressent beaucoup plus rapidement que les règles destinées à les encadrer. Or, contrairement aux précédentes générations de logiciels, certains agents peuvent désormais agir, utiliser des outils, écrire du code ou interagir avec des systèmes externes.
L'idée d'imposer des tests et des évaluations indépendantes avant le déploiement des modèles les plus puissants paraît donc appelée à prendre une place croissante dans les discussions internationales. Mais pour qu'un véritable cadre mondial voit le jour, il faudra surtout parvenir à y associer les États-Unis et la Chine, qui concentrent aujourd'hui une grande partie du développement des modèles les plus avancés. Pour l'instant, ce consensus est encore loin d'être acquis.
