latribune.fr
Un robot humanoïde Tiangong, développé par le Beijing Innovation Center of Humanoid Robotics Co, déplace une orange lors d’une démonstration organisée dans les locaux de l’entreprise, dans le cadre d’une visite médiatique du Beijing Robotics Industrial...
REUTERS/Tingshu Wang/Photo d’archive
Dans les métros de Shenzhen ou les cafés de Shanghai, une génération entière délaisse les interactions sociales classiques pour s’épancher auprès d’avatars numériques. Ces applications de compagnons IA, qui promettent écoute, réconfort et compliments sur mesure, s’appuient sur des modèles de langage capables de mimer une personnalité, une mémoire et une forme de fidélité émotionnelle. Cet essor massif de l’« IA compagne » répond directement à la solitude urbaine et au stress social croissant en Chine. Mais pour Pékin, cette technologie représente un angle mort psychologique dangereux et, surtout, un risque majeur de perte de contrôle idéologique sur l’espace le plus privé des citoyens : leurs émotions.
Le texte dévoilé par la CAC samedi 27 décembre 2025 vise spécifiquement ce que les autorités nomment les « services d’interaction anthropomorphique ». Ce terme désigne des systèmes d’IA simulant des traits de caractère, des modes de pensée ou des styles de communication propres aux humains. Que l’interface passe par le texte, l’audio, la vidéo ou des avatars animés, dès qu’une machine simule une personnalité ou une conscience apparente, elle entre dans le champ d’application de la nouvelle norme. Les chatbots compagnons, les personnages virtuels persistants, ainsi que les assistants vocaux dotés d’une mémoire relationnelle sont ainsi concernés.
Pour le régulateur, ces services sont désormais classés comme des infrastructures sensibles. À ce titre, ils doivent rester prévisibles, contrôlables et impérativement « orientés vers le bien-être des utilisateurs et la stabilité sociale ». Et pour les entreprises, le changement est total. Elles sont désormais rendues responsables de l’ensemble du cycle de vie de leurs produits, depuis la conception initiale des modèles jusqu’aux mises à jour quotidiennes. Elles sont obligées de documenter avec une précision chirurgicale leurs fonctions, les jeux de données clés utilisés pour l’entraînement, les scénarios d’usage prévus et l’intégralité de leurs mécanismes de sécurité interne.
Le déploiement de ces technologies ne sera plus un long fleuve tranquille pour les géants de la tech. Passé un seuil d’utilisateurs, ou dès lors qu’un service a un impact social jugé significatif, les fournisseurs devront impérativement soumettre une évaluation de sécurité approfondie auprès des autorités du cyberespace avant tout déploiement à large échelle. Cette évaluation porte sur quatre piliers critiques : l’architecture profonde des algorithmes, la gouvernance des données massives, les dispositifs de protection de la vie privée et les mécanismes de gestion des risques en temps réel.
Ces nouvelles contraintes viennent s’ajouter aux cadres juridiques déjà en place concernant les contenus en ligne et les services d’IA générative. Ces derniers imposent déjà des systèmes internes de modération, des équipes de supervision humaine permanentes et des procédures de retrait rapide des contenus jugés illégaux. En cas de manquements répétés ou jugés graves par la CAC, les autorités disposent d’un arsenal de sanctions hautement dissuasives : imposition de rectifications techniques immédiates, limitation drastique des fonctionnalités, suspension temporaire des services, voire retrait pur et simple des licences d’exploitation. Pour une application de compagnon virtuel, une telle mesure équivaut à une disparition instantanée du marché.
Chaque jour à 13h, l’essentiel de l’actualité tech.
L’une des principales innovations de ce texte réside dans la gestion explicite des risques psychologiques liés à l’attachement homme-machine. Les plateformes devront désormais être techniquement capables de détecter les « états émotionnels extrêmes », la dépendance ou l’usage compulsif de leurs services par les utilisateurs. Pour remédier à ces phénomènes d’addiction numérique, elles devront déclencher des contre-mesures automatisées et graduées : messages d’avertissement, recommandations de faire une pause, ou limitations strictes du temps de connexion quotidien. Dans les cas les plus préoccupants, une interruption totale du service pourra être imposée par l’algorithme lui-même, assortie d’un renvoi systématique de l’utilisateur vers des services d’aide ou de conseil.
Le volet concernant les mineurs est particulièrement verrouillé. Les services qui leur sont destinés devront intégrer des garde-fous spécifiques, comportant des modes adaptés à l’âge, un consentement parental obligatoire et des plafonds de durée d’utilisation. Le filtrage des contenus sera renforcé pour empêcher que les systèmes n’encouragent, même involontairement, des comportements autodestructeurs ou des décisions préjudiciables, notamment dans les domaines sensibles de la finance, du médical ou de la psychologie. Le régulateur veut éviter que l’IA ne devienne un prescripteur de comportements à risque auprès d’un public vulnérable.
La CAC exige en outre que l’illusion d’une relation « réelle » soit régulièrement et explicitement brisée par le système. Les utilisateurs doivent être informés sans ambiguïté qu’ils interagissent avec une machine. Cette notification doit intervenir lors de la première connexion, puis à intervalles répétés durant l’utilisation. Cette mesure vise à réduire la confusion affective et la projection d’attentes humaines sur un simple programme informatique.
Le message politique est ici fondamental : l’IA ne doit en aucun cas se substituer au lien humain traditionnel, pilier de la société, ni devenir un canal d’influence dont l’État ne maîtriserait ni le ton, ni les effets sur la psyché des citoyens. En imposant ces rappels à l’ordre, Pékin s’assure que la frontière entre le virtuel et le réel reste hermétique, empêchant l’émergence d’une dépendance émotionnelle qui pourrait échapper au contrôle social.
Le projet de règles réaffirme avec force les interdictions structurantes du droit chinois du numérique. Les IA anthropomorphiques ne doivent générer aucun contenu jugé dangereux pour la sécurité nationale, ni porter atteinte à l’honneur et aux intérêts de l’État ou à l’unité ethnique du pays. La diffusion de rumeurs, de contenus violents, obscènes ou liés à des activités illégales comme les jeux d’argent ou les pratiques religieuses non autorisées est strictement proscrite par le nouveau cadre.
Le texte rappelle que ces services doivent « refléter les valeurs socialistes fondamentales ». Cette exigence place les entreprises en première ligne de la conformité idéologique permanente. Les agents conversationnels ont l’interdiction formelle d’usurper l’identité de proches, de responsables publics ou de professions réglementées comme les médecins ou les avocats. Cette mesure vise autant à contrer la menace des deepfakes qu’à empêcher l’émergence de faux conseillers virtuels qui pourraient distiller une parole non homologuée. En creux, Pékin cherche à neutraliser le risque qu’un robot, en se présentant comme un ami intime ou une figure d’autorité, ne devienne un vecteur de contestation ou de cynisme politique au détour d’une conversation privée et non modérée.
Sur la scène internationale, la Chine et l’Union européenne revendiquent toutes deux une approche de l’IA « fondée sur les risques », mais leurs trajectoires idéologiques divergent radicalement. Dans l’IA Act adopté en 2024, Bruxelles a classé certains systèmes à « risque inacceptable », les interdisant purement et simplement. C’est le cas de la notation sociale de masse ou de la reconnaissance émotionnelle sur le lieu de travail et à l’école. L’objectif européen est de protéger l’autonomie individuelle et les droits fondamentaux face à la puissance des acteurs technologiques.
À l’inverse, Pékin ne cherche pas à protéger l’individu du système, mais à canaliser l’IA pour qu’elle serve explicitement les objectifs de stabilité sociale et d’unité politique de l’État. En Chine, la détection des émotions par l’IA n’est pas perçue comme une atteinte à la dignité humaine, mais comme un instrument indispensable à encadrer pour surveiller la dépendance, la détresse et prévenir les signaux de désordre social.
Dans cette logique, l’IA « humanisée » n’est pas bannie ; elle est réorientée pour devenir une sentinelle proactive du système. Elle est chargée de repérer les comportements « anormaux » tout en restant strictement dans le périmètre des valeurs officielles. Pour les leaders du secteur comme Baidu, Tencent ou ByteDance, le défi de demain sera aussi technologique que politique : concevoir des compagnons virtuels assez convaincants pour rester attractifs commercialement, mais suffisamment bridés pour ne jamais déborder du cadre de fer fixé par le Parti-État.
(Avec Reuters)
latribune.fr
