Si certains ne jurent que par l'Intelligence Artificielle, d'autres commencent à vouloir freiner son développement, craignant des débordements.
Besoin d'une pause
Ainsi, Steve Wozniak, Elon Musk (non !) et plus de 1 000 autres personnalités ont signé une lettre ouverte demandant que soit mise en pause, pour une durée de six mois, le développement d'une IA plus puissante que ChatGPT-4. Réunis sous l'égide de Future of Life Institute, ils requièrent une pause qui soit vérifiable et qui concernerait tous les acteurs clés dans le domaine.
Si une telle pause ne peut pas être réalisée rapidement, les gouvernements devraient intervenir et instituer un moratoire, soutient l'institution qui souhaite protéger la vie et s'éloigner des risques extrêmes à grande échelle. Dans ce document de 600 mots, la FLI explique que ce n'est pas l'IA en elle-même dont ils ont peur.
Une perte de contrôle ?
Mais c'est bien cette course sans aucun contrôle pour développer et déployer des intelligences artificielles toujours plus puissantes que personne -pas même leurs créateurs- ne peut comprendre, prédire ou contrôler de manière fiable qui inquiète les signataires. A force de surenchère, la créature pourrait donc échapper aux mains de ses créateurs.
Pour ces derniers, la solution serait de profiter de cette pause pour mettre en place un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés de l'IA qui soient rigoureusement audités et supervisés par des experts externes indépendants. À terme il semble évident de devoir garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable.
