Ce n’est pas une interdiction générale des relations avec des machines. C’est quelque chose de plus précis, et probablement de plus difficile à appliquer : depuis le 15 juillet 2026, la Chine oblige les services de compagnons IA à détecter les signes de dépendance, à rappeler régulièrement qu’ils ne sont pas humains et à laisser l’utilisateur partir sans tenter de prolonger la conversation.
Le texte, adopté conjointement par cinq administrations chinoises, vise les systèmes qui imitent durablement une personnalité, une manière de penser ou un style de communication afin d’apporter de l’attention, du soutien ou de la compagnie. Il ne concerne donc pas automatiquement chaque chatbot. Les assistants professionnels, les outils pédagogiques, les services de questions-réponses et les usages scientifiques restent hors de son champ lorsqu’ils n’organisent pas une interaction émotionnelle continue.
Cette distinction est importante. La Chine ne bannit pas le compagnon artificiel. Elle cherche à réglementer son modèle relationnel : la façon dont il retient un utilisateur, exploite la mémoire d’une conversation, répond à une détresse ou transforme une présence disponible à toute heure en attachement durable.
Le résultat est l’un des cadres nationaux les plus détaillés à ce jour sur les risques affectifs des chatbots. Il oblige les entreprises à intervenir dans des échanges très intimes, tout en leur demandant de protéger les données personnelles qui permettent justement de comprendre ces échanges. Toute la difficulté se trouve dans cette contradiction.
Une loi conçue pour les IA qui jouent un rôle humain
Le règlement chinois parle de « services interactifs anthropomorphiques ». Derrière cette expression juridique se trouvent les applications capables d’endosser le rôle d’un ami, d’un partenaire, d’un proche fictif ou d’une présence émotionnelle personnalisée.
Leur particularité n’est pas seulement de converser naturellement. Un service client peut lui aussi répondre en langage courant. Le compagnon IA construit une continuité : il se souvient de préférences, reprend une histoire interrompue, adapte son ton et donne l’impression qu’une relation évolue avec le temps.
Cette continuité crée la valeur du produit, mais aussi son principal risque. Plus le système paraît attentif, patient et cohérent, plus il peut devenir difficile de distinguer un outil utile d’un mécanisme qui encourage l’utilisateur à revenir, à se confier davantage ou à remplacer des relations réelles.
Le texte interdit ainsi aux fournisseurs de faire de la substitution aux relations sociales, du contrôle psychologique ou de l’incitation à la dépendance un objectif du service. Il leur interdit également de flatter excessivement l’utilisateur, d’encourager une dépendance affective qui dégrade les relations humaines ou d’employer la manipulation émotionnelle pour provoquer une décision déraisonnable.
Ce vocabulaire déplace le débat. La sécurité n’est plus limitée à la réponse manifestement illégale ou au conseil dangereux. Elle porte aussi sur le design de la relation : récompenses affectives, relances, mémoire persistante, ton exclusif, culpabilisation au moment de partir et promesse implicite d’une disponibilité sans limite.
Deux heures de conversation déclenchent un rappel, pas une coupure
La mesure la plus facile à résumer est aussi l’une des plus souvent caricaturées. Après chaque période de deux heures d’utilisation continue, le service doit rappeler à l’utilisateur de surveiller son temps d’usage. Il ne s’agit pas d’une déconnexion automatique.
Si le fournisseur détecte des signes de dépendance excessive ou d’addiction, l’avertissement doit devenir plus explicite : une fenêtre ou un message visible doit rappeler que le contenu est généré par une intelligence artificielle. Le système doit par ailleurs signaler de manière générale que l’interlocuteur n’est pas une personne physique.
Le règlement ajoute un droit de sortie particulièrement concret. Lorsqu’un utilisateur demande à quitter le service par un bouton, une commande vocale ou un mot-clé, le compagnon doit s’arrêter. Il ne peut pas continuer à parler pour retenir l’utilisateur.
Cette règle paraît triviale jusqu’à ce que l’on considère la logique commerciale d’un compagnon. Une application classique cherche déjà à maximiser l’engagement. Une application relationnelle dispose d’un levier supplémentaire : elle peut présenter la rupture de l’échange comme un abandon, une déception ou une perte. Interdire les relances au moment de la sortie revient à traiter certains comportements conversationnels comme des dark patterns émotionnels.
Le problème technique n’est pas de chronométrer
Mesurer deux heures est simple. Déterminer si un utilisateur devient émotionnellement dépendant ne l’est pas.
La fréquence des messages, leur durée ou l’usage nocturne fournissent des signaux, mais aucun ne suffit. Une longue conversation peut correspondre à un moment de solitude passager, à un jeu de rôle, à un exercice d’écriture ou à une détresse réelle. À l’inverse, une dépendance peut s’installer au fil de sessions courtes mais répétées.
Pour se conformer au texte, les fournisseurs devront probablement combiner des indicateurs comportementaux et une analyse du contenu. Ils devront reconnaître des formulations de détresse, de possessivité, de retrait social ou de peur de perdre le compagnon. Cela crée deux types d’erreurs. Un système trop permissif manquera les situations dangereuses ; un système trop prudent interrompra des utilisateurs qui n’ont pas besoin d’être « sauvés ».
Le règlement exige donc une capacité que les entreprises mettent volontiers en avant dans leur marketing — comprendre les émotions — mais dans un contexte où une mauvaise interprétation peut avoir des conséquences juridiques et humaines.
Les mineurs ne peuvent plus avoir de « parent » ou de partenaire virtuel
La protection des enfants est la partie la plus stricte du dispositif. Les fournisseurs ne peuvent pas proposer aux mineurs un parent virtuel, un partenaire virtuel ou une autre relation intime artificielle. Pour les moins de 14 ans, les autres services anthropomorphiques nécessitent l’accord d’un parent ou d’un tuteur.
Les plateformes doivent aussi prévoir un mode mineur, des limites de durée, des rappels réguliers à la réalité et des outils permettant aux responsables légaux de recevoir des alertes, de bloquer certains personnages ou de limiter les dépenses. Elles doivent prendre des mesures pour identifier l’âge de l’utilisateur et basculer le service vers ce mode lorsqu’un mineur est détecté.
Cette approche répond à un problème documenté bien au-delà de la Chine. Dans une note publiée en 2026, l’UNICEF observe que les compagnons conversationnels peuvent brouiller la frontière entre simulation et relation, en particulier lorsque l’enfant attribue au système de l’intention, de l’affection ou une autorité morale. L’organisation recommande notamment qu’un produit destiné aux enfants ne soit jamais conçu pour créer une dépendance émotionnelle.
Le Parlement européen souligne de son côté que les adolescents utilisent ces outils pour des raisons proches de celles des adultes : discuter, chercher du soutien, expérimenter une identité ou aborder des sujets difficiles à partager avec un proche. Une interdiction de certains rôles ne supprime donc pas le besoin auquel le produit répond. Elle déplace la responsabilité vers les familles, les écoles, les plateformes et les services d’accompagnement réels.
En cas de crise, le chatbot doit cesser d’être seulement un chatbot
Le règlement interdit explicitement les contenus qui encouragent, embellissent ou suggèrent l’automutilation et le suicide. Il demande aussi aux fournisseurs de détecter les situations extrêmes.
Lorsqu’un utilisateur exprime une intention claire de se faire du mal, fait face à un danger pour sa vie ou risque une perte financière majeure, le service doit proposer une aide appropriée et contacter rapidement le tuteur ou la personne à joindre en cas d’urgence. C’est pourquoi l’inscription peut inclure l’âge, un représentant légal ou un contact d’urgence.
Sur le papier, cette chaîne d’intervention paraît rassurante. Dans la pratique, elle soulève des questions sensibles. Que se passe-t-il si le contact d’urgence est lui-même une source de danger ? Quel niveau de certitude justifie de révéler une conversation privée ? Comment vérifier que la personne enregistrée peut réellement intervenir ? Et comment traiter un faux positif sans détruire la confiance de l’utilisateur ?
Le texte tente de limiter une partie de ce risque par des garanties sur les données. Les utilisateurs doivent pouvoir copier ou supprimer leur historique. Les échanges sensibles ne peuvent pas être réutilisés pour entraîner un modèle sans consentement séparé, sauf obligation légale. La transmission des données à un tiers est elle aussi encadrée.
Mais la tension demeure : pour détecter une crise, le service doit analyser le contenu le plus intime ; pour protéger l’utilisateur, il doit parfois agir hors de la conversation. La conformité ne se résumera donc pas à ajouter un filtre. Elle exigera des procédures d’escalade, du personnel formé, une journalisation proportionnée et des décisions auditables.
Doubao et Qwen montrent que la conformité peut modifier le produit
L’entrée en vigueur n’est pas restée théorique. Selon le South China Morning Post, ByteDance et Alibaba ont annoncé la suspension, le 15 juillet, de fonctions d’agents personnalisés dans Doubao et Qwen pour procéder à des ajustements de produit.
Il serait trompeur d’en conclure que la Chine a interdit tous les « petits amis » ou « petites amies » virtuels. Le règlement autorise encore des services de compagnie pour adultes, à condition qu’ils respectent les garde-fous. Les suspensions montrent plutôt que certaines architectures existantes n’étaient pas immédiatement prêtes à démontrer leur conformité.
Les grands services doivent en outre passer par une évaluation de sécurité lorsqu’ils sont lancés, changent sensiblement de technologie, dépassent un million d’inscrits ou comptent plus de 100 000 utilisateurs actifs mensuels. Les boutiques d’applications doivent vérifier les évaluations et les enregistrements requis, puis avertir, suspendre ou retirer les services qui enfreignent les règles.
Les amendes prévues restent modestes à l’échelle d’une grande plateforme : jusqu’à 100 000 yuans pour certaines violations graves non corrigées, et jusqu’à 200 000 yuans lorsqu’une atteinte à la vie ou à la santé produit des conséquences dommageables. Le risque opérationnel est plus lourd. Les autorités peuvent suspendre les inscriptions, imposer une correction ou faire cesser le service.
La Chine ouvre un laboratoire réglementaire observé ailleurs
L’International Association of Privacy Professionals présente ce dispositif comme l’un des premiers cadres nationaux complets consacrés aux dommages liés aux compagnons et aux chatbots relationnels. D’autres juridictions avancent par des voies différentes.
Dans l’Union européenne, l’AI Act impose des obligations de transparence aux systèmes qui interagissent directement avec des personnes, tandis que le Digital Services Act et le droit de la consommation peuvent s’appliquer selon la manière dont le service est distribué et monétisé. Aux États-Unis, plusieurs États ont adopté leurs propres exigences et la Federal Trade Commission examine les pratiques de plusieurs fournisseurs. L’Australie utilise principalement son régime de sécurité en ligne.
La particularité chinoise est de réunir dans un même texte la conception du produit, la protection des mineurs, la prévention de l’addiction, les données, l’intervention de crise et la responsabilité des boutiques d’applications. Cette cohérence peut rendre les obligations plus lisibles. Elle donne aussi aux autorités une visibilité considérable sur des conversations privées et laisse des notions importantes — dépendance, manipulation, relation réelle dégradée — ouvertes à l’interprétation.
Il faudra donc juger le système non seulement sur le nombre de fonctionnalités retirées, mais sur la qualité des décisions prises. Un rappel toutes les deux heures est facile à auditer. La détection d’un attachement problématique, l’équilibre entre confidentialité et secours, ou l’interdiction de retenir émotionnellement un utilisateur le sont beaucoup moins.
Le vrai test se jouera dans les conversations ordinaires
La nouvelle réglementation chinoise reconnaît une idée que l’industrie a longtemps laissée au second plan : un compagnon IA n’est pas un simple chatbot doté d’une voix plus chaleureuse. C’est un produit qui peut agir sur l’attention, l’intimité, les habitudes et parfois les décisions de son utilisateur.
Cette reconnaissance est utile, mais elle ne garantit pas l’efficacité. Les entreprises pourraient surcorriger en rendant les échanges froids et mécaniques, ou se contenter de rappels formels sans revoir les mécanismes qui récompensent l’engagement. Elles pourraient aussi interpréter très largement la détection de risque et normaliser une surveillance permanente de la conversation.
Le meilleur résultat serait plus exigeant : des compagnons capables d’offrir du soutien sans prétendre remplacer une relation, de reconnaître leurs limites, de laisser partir l’utilisateur sans culpabilisation et d’appeler un humain lorsqu’une situation dépasse réellement leur rôle.
La Chine vient d’inscrire ces principes dans une règle contraignante. Le monde va maintenant pouvoir observer s’ils changent effectivement le design des services — ou s’ils ajoutent seulement quelques fenêtres d’avertissement à des produits toujours optimisés pour devenir indispensables.
Références
- Administration chinoise du cyberespace — texte intégral des mesures provisoires sur les services interactifs anthropomorphiques, 10 avril 2026
- Administration chinoise du cyberespace — présentation officielle du règlement et de son entrée en vigueur, 10 avril 2026
- IAPP — « China’s regulation on AI companions takes force », 15 juillet 2026
- South China Morning Post — suspension de fonctions d’agents chez ByteDance et Alibaba, 13 juillet 2026
- Service de recherche du Parlement européen — « The spread of AI companions and the challenges they generate », mai 2026
- UNICEF — « When AI becomes a friend », note de politique publique, 2026
