Depuis plusieurs jours, des contenus choquants sont apparus dans le fil d'Instagram de nombreux utilisateurs, y compris des mineurs. Pour autant, Meta affirme avoir corrigé le problème.
Un dysfonctionnement malgré les filtres de contenus sensibles
En effet, des vidéos extrêmement violentes -montrant des personnes tuées par balle, écrasées par des voitures, ou encore mutilées- ont été recommandées par l’algorithme dans le fil d’actualité des utilisateurs. Certains internautes -sans condition d'âge- se sont retrouvés exposés à ces contenus sans avoir rien demandé.
Selon CNBC, le phénomène a rapidement pris de l’ampleur, avec des vidéos atteignant des millions de vues grâce à la mécanique algorithmique des Reels. Le plus choquant est que ces recommandations ont persisté malgré l’activation du contrôle de contenu sensible, une fonctionnalité censée limiter l’exposition aux publications inappropriées.
Bien que certaines vidéos comportaient des avertissements du type contenus sensibles, ce n’était pas systématique. Les utilisateurs ont signalé rapidement et en masse ces vidéos, forçant Meta à réagir.
Meta corrige l’erreur et présente ses excuses
Face à la polémique grandissante, un porte-parole de Meta a pris la parole ce jeudi 27 février : Nous avons corrigé une erreur qui faisait que certains utilisateurs voyaient dans leur fil Instagram Reels du contenu qui n’aurait pas dû être recommandé. Nous nous excusons pour cette erreur.
Pour dissiper les doutes de certains, Meta a également précisé que cet incident n’était pas lié aux récentes politiques de modération assouplies de l’entreprise, qui visent à restaurer une certaine liberté d’expression sur ses plateformes. Si l’erreur a été corrigée, cet épisode soulève tout de même la question cruciale de la modération des contenus sur les réseaux sociaux et de la protection des plus jeunes, surtout au vu des récentes décisions des géants de la tech. Surtout que ce n'est pas la première fois que ce genre de souci et de mea culpa arrivent.
Instagram, dont l’algorithme est conçu pour maximiser l’engagement, se retrouve une fois encore pointé du doigt pour sa gestion des contenus. De nombreux utilisateurs s’interrogent : comment un tel bug a-t-il pu arriver ? Alors que les régulateurs du numérique, notamment en Europe avec le Digital Services Act (DSA), redoublent de vigilance face aux dérives des plateformes, cette affaire risque de renforcer les appels à une régulation plus stricte des algorithmes et de leurs recommandations.
