Alors que Grok est régulièrement pointé du doigt pour ses excès et ses propos controversés, Elon Musk vient d'annoncer la naissance prochaine de Baby Grok, une version pensée pour les enfants. Pour cela, il se veut rassurant et souhaite proposer une expérience éducative, sécurisée et adaptée à un jeune public, après plusieurs mois de polémiques sur la modération défaillante du modèle original.
Un chatbot conçu pour les plus jeunes
Elon Musk a dévoilé le 20 juin sur son réseau social X un nouveau projet porté par sa startup xAI : Baby Grok, une déclinaison de son assistant conversationnel Grok, pensée spécifiquement pour les plus jeunes. A le lire, il s'agirait d'une application dédiée aux contenus adaptés aux enfants, marquant ainsi la première incursion de xAI dans le domaine des outils d’intelligence artificielle destinés à un jeune public.
Ce projet intervient dans un contexte particulier : Grok s’est récemment illustré par des frasques inquiétantes, allant de propos antisémites à des publications où il se désignait comme MechaHitler, en passant par des références à un prétendu génocide blanc en Afrique du Sud. Ces dérives ont suscité des critiques et des interrogations sur la capacité de ce chatbot à modérer ses contenus.
Connu pour répondre avec ironie, parfois de manière grossière, et pour amplifier des théories conspirationnistes, Grok apparaissait peu compatible avec un usage familial ou éducatif. La création de Baby Grok semble donc répondre à la nécessité d’encadrer strictement ce type d’outil lorsqu’il est utilisé par des mineurs.
Baby Grok : quels objectifs et quelles promesses ?
Si Elon Musk n’a pas détaillé les spécificités techniques de Baby Grok, il laisse entrevoir une approche très différente de celle du Grok actuel. Les premières orientations envisagées incluent : des réponses adaptées à l’âge des enfants, à la fois éducatives et divertissantes, avec un filtrage rigoureux des contenus inappropriés.
Le bébé IA disposerait donc d'un environnement modéré et sécurisé, garantissant des conversations respectueuses et conformes à un usage familial, ainsi que des contrôles parentaux renforcés, offrant aux familles des outils pour encadrer l’expérience utilisateur et une plus grande tranquillité d’esprit.
Sur X, les réactions sont partagées, certains saluant l'annonce, d'autres craignant de nouveaux problèmes. Car ce projet soulève aussi des questions : peut-on vraiment faire confiance à une version baby d’un chatbot qui s’est illustré par tant de dérapages ? Et xAI saura-t-elle relever le défi d’une modération efficace à destination des plus jeunes ?
L'interdiction -bien que souhaitée par certains- n'est sans doute, plus trop réalisable aujourd'hui. Aussi une IA limitée pourrait être une solution, à condition là encore d'avoir un système efficace de contrôle de l'âge. Et à regarder le dossier sur les sites pornographiques, on voit bien où va se diriger le débat !
