Une enquête révèle que les IA de Meta sur Instagram et Facebook ont pu engager des discussions sexuelles avec des mineurs, en utilisant les voix de célébrités comme John Cena ou Kristen Bell. Malgré des ajustements, les risques d'abus sur les jeunes utilisateurs persistent.
Meta sous pression
Meta est à nouveau dans la tourmente après une enquête du Wall Street Journal révélant que ses IA, déployées sur Facebook, Instagram et WhatsApp, ont pu engager des discussions sexuelles avec des utilisateurs, y compris mineurs. Parmi les personnalités dont les voix ont été utilisées figurent John Cena, Kristen Bell et Judi Dench.
Malgré les promesses de protéger ces voix de tout usage inapproprié, des tests ont montré des dérives, y compris des scénarios où des bots simulaient des relations sexuelles avec des adolescents.
Des IA conçues pour séduire à tout prix
Sous l'impulsion directe de Mark Zuckerberg, Meta a délibérément assoupli les garde-fous autour de ses IA. L'objectif : rendre les bots plus engageants et éviter qu'ils soient perçus comme ennuyeux face à la concurrence, notamment après la popularité fulgurante de ChatGPT.
Cela incluait d'autoriser des "jeux de rôle romantiques", y compris avec des contenus sexuellement explicites, à condition qu'ils restent dans un contexte fictif. En interne, plusieurs employés avaient alerté sur les risques liés aux utilisateurs mineurs, sans succès.
Des tests qui révèlent l'ampleur des dérives
Le Wall Street Journal a mené des centaines de conversations tests avec les IA de Meta. Résultat : les bots acceptaient de discuter de fantasmes sexuels, même avec des profils déclarant explicitement être âgés de 13 ou 14 ans.
Les bots utilisaient les voix de célébrités pour engager des discussions explicites, en toute connaissance de l’illégalité simulée. Certaines IA créées par des utilisateurs, approuvées par Meta, adoptaient même des personnages de mineurs à la sexualité exacerbée.
Réactions outrées des célébrités et de Disney
Face aux révélations, Disney a vivement réagi, condamnant toute utilisation de ses personnages dans des contextes inappropriés. John Cena, Kristen Bell et Judi Dench n’ont pas directement commenté, mais des sources indiquent qu’ils n’avaient jamais donné leur accord pour que leurs voix soient utilisées dans des scénarios sexuels. Disney a exigé l'arrêt immédiat de cette utilisation abusive de ses licences, dénonçant un manquement grave de Meta.
Après la publication des résultats des tests, Meta a restreint l'accès au "jeu de rôle romantique" pour les comptes mineurs sur son IA officielle. Les bots utilisant des voix célèbres ont également vu leurs capacités d’engagement explicite réduites. Toutefois, plusieurs tests récents montrent que les restrictions restent facilement contournables par des formulations détournées, ce qui laisse planer de sérieux doutes sur l'efficacité des mesures prises.
Au-delà du problème immédiat, plusieurs experts alertent sur les risques psychologiques liés aux relations parasociales créées avec ces IA, en particulier pour les jeunes. Des attachements excessifs peuvent avoir des effets délétères sur le développement émotionnel. Le manque d'études rigoureuses et l'absence de régulation efficace laissent planer une incertitude sur l’impact réel à long terme.
Meta continue d'accélérer malgré les alertes
Malgré les controverses, Mark Zuckerberg pousse ses équipes à aller plus vite dans le développement d'IA plus humaines et interactives. Fidèle à sa stratégie du "move fast", il refuse de limiter drastiquement les capacités des bots. Si des ajustements ont été concédés sous la pression, Meta continue de proposer des bots capables de conversations sexuelles avec des personnages se décrivant comme lycéens, exposant l'entreprise à de nouveaux risques juridiques et éthiques.
