Jensen Huang ne croit pas à une disparition de l'humanité provoquée par l'IA d'ici 2030. Le patron de Nvidia défend la poursuite du développement et accuse les dirigeants qui réclament de nouvelles règles de chercher à échapper aux lois existantes. Un discours qui arrange les affaires d'un fabricant de puces dont les clients dépensent des fortunes dans l'IA.
Une certitude à 0 %
Face aux avertissements de chercheurs sur les dangers de l'intelligence artificielle, Jensen Huang répond qu'il y a zéro pour cent de chance que 2030 marque la fin du monde. Dans son entretien télévisé diffusé le 20 septembre, il juge ces scénarios sans fondement scientifique et reproche à leurs auteurs d'effrayer le public. Il soupçonne même des motivations politiques ou une recherche d'attention, tout en reconnaissant ne pas connaître leurs intentions. Ce 0 % exprime donc sa conviction, sans constituer une mesure du risque ni une garantie contre les dégâts plus ordinaires que pourrait causer une IA.
Les lois actuelles suffiraient
Huang défend l'application des règles qui existent déjà sur les intrusions informatiques et la responsabilité des fabricants lorsqu'un produit provoque des dommages. À ses yeux, les laboratoires doivent répondre de leurs logiciels, et leurs appels à une réglementation spécifique cacheraient une volonté de se débarrasser de ces obligations. La dérogation demandée par Anthropic concerne, elle, les règles de concurrence, pour permettre certaines discussions sur la sécurité entre laboratoires. Il considère la sécurité comme un problème d'ingénierie que les entreprises ont intérêt à résoudre elles-mêmes, mais précise qu'accélérer ne doit pas conduire à commercialiser des produits dangereux. Sa confiance porte donc aussi sur la capacité des industriels à se contrôler.
Ses clients veulent temporiser
En face, Dario Amodei, le patron d'Anthropic, demande de ralentir l'amélioration des modèles pour donner davantage de temps aux travaux de sécurité. Son appel a reçu le soutien de Sam Altman et d'Elon Musk, et propose entre autres de faire entrer des évaluateurs indépendants dans les laboratoires. Ces inquiétudes ont été relancées par Jacob Coxon, un ancien chercheur d'Anthropic qui a alerté sur un risque de disparition de l'humanité avant la fin de la décennie. Nvidia fournit les puces nécessaires aux calculs de ces laboratoires et profite de leurs achats de matériel. Un ralentissement pourrait donc toucher directement son activité, ce qui rend son patron assez peu neutre dans cette discussion.
On en dit quoi ?
On peut partager son agacement devant les annonces de fin du monde et trouver sain de demander aux fabricants de répondre des dégâts de leurs produits. Mais accuser ceux qui alertent d'avoir des arrière-pensées, avec un tel intérêt commercial à poursuivre la course, c'est un peu facile. Des contrôles indépendants permettraient au moins de sortir de ce débat où chaque patron assure savoir ce qui est bon pour tout le monde. La sécurité mérite mieux que la confiance accordée à celui qui vend les puces.
