C'est une mesure qui risque de faire beaucoup de bruit. Pour protéger les adolescents, OpenAI a annoncé hier la création d'une version "sécurisée" de ChatGPT. Et pour s'assurer que seuls les adultes accèdent à la version non-filtrée, l'entreprise envisage de demander une vérification d'identité, y compris via une pièce d'identité.
"La sécurité avant la vie privée"
Cette annonce, faite par le PDG Sam Altman, est une réponse directe à la pression croissante des régulateurs et à plusieurs plaintes accusant le chatbot d'être dangereux pour les mineurs, nous vous en parlions d’ailleurs hier. Altman assume un changement de philosophie radical : pour les adolescents, OpenAI fera désormais passer "la sécurité avant la vie privée et la liberté".
Concrètement, l'entreprise va donc lancer une version dédiée de ChatGPT pour les moins de 18 ans, qui bloquera automatiquement les contenus inappropriés. Pour distinguer les utilisateurs, OpenAI développe un système de prédiction de l'âge basé sur les conversations.
Une pièce d'identité en cas de doute
C'est là que la mesure devient controversée. Si le système a un doute sur l'âge d'un utilisateur, il basculera par défaut sur la version "ado", plus restrictive. Pour débloquer la version adulte, il faudra alors prouver son âge, et Sam Altman a confirmé que cela pourrait passer par l'envoi d'une pièce d'identité.
Le PDG reconnaît qu'il s'agit d'un "compromis sur la vie privée pour les adultes", mais le juge nécessaire.
Des contrôles parentaux renforcés
En parallèle, on vous le rappelle, de nouveaux outils de contrôle parental seront déployés d'ici la fin du mois. Les parents pourront lier leur compte à celui de leur adolescent pour définir des heures de coupure, désactiver certaines fonctions comme l'historique, et même être alertés si l'IA détecte une situation de "détresse aiguë". En cas d'urgence, OpenAI n'exclut pas de contacter les forces de l'ordre.
On en dit quoi ?
C'est une réponse forte d'OpenAI à une crise de confiance majeure. L'entreprise est acculée et doit montrer qu'elle prend le problème de la sécurité des mineurs au sérieux.
La vérification d'identité est par contre une ligne rouge pour beaucoup. L'idée de devoir envoyer sa carte d'identité à une entreprise américaine pour utiliser un service en ligne est un cauchemar en termes de confidentialité des données. C'est une mesure techniquement et socialement très complexe à mettre en place, et qui risque de se heurter à une forte résistance des utilisateurs et des régulateurs, en particulier en Europe. Et vous, seriez-vous prêt à donner une copie de votre pièce d'identité à OpenAI pour utiliser ChatGPT sans restrictions ?
