Amnesty International France passe à l'offensive contre TikTok. L'ONG saisit l'Arcom, le régulateur français, accusant l'algorithme de la plateforme d'enfermer les mineurs dans une spirale de contenus dangereux. En cause : une amplification de vidéos liées au suicide et à l'automutilation, en violation du DSA européen.
Une enquête qui simule l'enfer algorithmique
Pour étayer sa plainte, Amnesty a mené ses propres tests. L'ONG a créé plusieurs faux comptes d'adolescents de 13 ans. En se contentant de visionner à deux reprises des contenus liés au mal-être ou à la tristesse, sans liker ni commenter, les enquêteurs ont vu le fil Pour toi se transformer radicalement. Selon le rapport, il n'a fallu que 15 à 20 minutes pour que les flux soient saturés de vidéos sur la santé mentale, dont beaucoup de contenus tristes et dépressifs. Plus grave, des vidéos évoquant explicitement des pensées suicidaires sont apparues en moins de 45 minutes sur certains des comptes.
Le Digital Services Act (DSA) en ligne de mire
Amnesty International estime que TikTok ne respecte pas ses obligations fixées par le Digital Services Act (DSA) européen. L'ONG pointe spécifiquement les articles 34 et 35, sur l'identification et l'atténuation des risques systémiques, et l'article 28, sur la protection des mineurs. En saisissant l'Arcom, qui agit comme coordinateur du DSA en France, l'association espère forcer la plateforme à revoir son modèle. Cette plainte vient s'ajouter à une enquête déjà ouverte par la Commission européenne en février 2024, qui visait aussi TikTok pour des manquements présumés à la protection des mineurs.
TikTok se défend de toute manipulation
Contacté, TikTok a balayé les conclusions de l'enquête. Selon un porte-parole, cette expérience aurait été conçue pour aboutir à un résultat prédéterminé et ne refléterait pas l'utilisation réelle de la plateforme. Le réseau social assure proposer une expérience sûre et adaptée à l'âge et rappelle que neuf vidéos sur dix enfreignant ses règles seraient supprimées avant même d'être visionnées. Une défense classique qui peine quand même à convaincre face à la multiplication des témoignages et des études sur l'impact de ces algorithmes.
Dépression, anorexie, TikTok toujours sous le feu des critiques
On en dit quoi ?
L'initiative d'Amnesty a le mérite de mettre la pression sur l'Arcom, qui dispose désormais des outils du DSA pour agir. Le problème de fond reste entier : le modèle économique de TikTok repose sur la captation maximale de l'attention. Si les contenus les plus anxiogènes sont aussi les plus engageants pour un public vulnérable, l'algorithme les poussera, quelles que soient les mesures de sécurité affichées en façade. La défense de TikTok, qui consiste à dire que l'enquête est biaisée parce qu'elle a cherché ces contenus, est un peu faible : c'est précisément ce que fait un adolescent en mal-être. Reste à voir si l'Arcom osera utiliser la puissance de feu du DSA, dont les sanctions peuvent aller jusqu'à 6% du chiffre d'affaires mondial de la plateforme.
