Accusé d’avoir poussé un adolescent au suicide, OpenAI annonce de nouvelles barrières pour les mineurs, comme l’avaient fait TikTok ou Meta avant lui. Mais il ne remet pas en cause le design même de son chatbot, accusé de créer une dépendance émotionnelle.
Comme Facebook, Instagram et TikTok avant lui, ChatGPT est aujourd’hui au centre du débat sur la protection des mineurs en ligne. Son créateur, OpenAI, vient d’annoncer de nouvelles mesures pour ses 700 millions d’utilisateurs hebdomadaires : en plus d’un contrôle parental présenté il y a quelques semaines, l’entreprise va désormais vérifier l’âge des utilisateurs et proposer à ceux identifiés comme mineurs une expérience légèrement différente.
Ce ChatGPT « spécial ado » intervient alors que trois familles poursuivent des acteurs de l’IA : l’une vise OpenAI, les deux autres CharacterAI. Elles accusent leurs chatbots d’avoir assisté et encouragé le suicide de leurs enfants. Plus largement, des parents inquiets alertent sur l’impact de ces technologies sur la santé mentale des jeunes. Ils ont été entendus au Congrès américain mardi 16 septembre, le jour même des annonces d’OpenAI.
Deviner l’âge en analysant les conversations
Concrètement, l’entreprise s’engage à mettre au point un système de vérification d’âge à partir de l’analyse des conversations des utilisateurs. Elle n’en dit pour le moment rien de plus. En cas de doute, l’utilisateur sera considéré comme ayant moins de 18 ans. Dans certains pays et dans certains cas, une carte d’identité pourra être demandée, explique OpenAI dans un communiqué sans préciser lesquels.
Dans la version « ado » de ChatGPT, l’utilisateur ne pourra pas discuter de suicide ou de mutilation avec le chatbot, ni engager une forme de séduction, même en prétendant écrire une œuvre de fiction à ce sujet (chose qui est possible pour un adulte). Et si OpenAI détecte un comportement dangereux, il pourra prévenir les parents grâce à un système de contrôle parental, voire les autorités en cas d’urgence.
« Nous savons que cela constitue une atteinte à la vie privée des adultes, mais nous pensons que c’est un compromis acceptable », a déclaré la société dans un post de blog. « Je ne m’attends pas à ce que tout le monde soit d’accord avec ces compromis, mais compte tenu du conflit, il est important d’expliquer notre prise de décision », a ajouté Sam Altman sur X. Car en parallèle de ces restrictions, ChatGPT a depuis quelques mois assoupli certaines règles d’utilisation, afin de permettre aux utilisateurs adultes un maximum de liberté.
Newsletter
Tech & IA
Chaque jour à 13h, l’essentiel de l’actualité tech.
