OpenAI n’est plus seulement observée comme l’entreprise qui a popularisé les chatbots d’IA générative. Aux États-Unis, elle devient aussi un cas test pour une question que les régulateurs repoussaient difficilement : que doit-on exiger d’un assistant conversationnel utilisé par des millions de personnes lorsqu’il traite de santé, d’isolement, de mineurs ou de décisions sensibles ?
Selon l’Associated Press, OpenAI a reçu une assignation dans le cadre d’une enquête menée par plusieurs États américains sur la sécurité des utilisateurs de ChatGPT. Business Insider et Tom’s Hardware, s’appuyant notamment sur des éléments rapportés par le Wall Street Journal, évoquent une coalition de 42 procureurs généraux d’États. Les documents demandés porteraient sur les pratiques de données, les usages impliquant des mineurs et des adultes vulnérables, les stratégies d’engagement, les politiques de sécurité et certains comportements du modèle, dont la tendance à approuver l’utilisateur de manière excessive.
À ce stade, il ne s’agit pas d’une condamnation ni même d’une conclusion officielle sur une faute. Une assignation sert d’abord à obtenir des informations. Mais son ampleur montre que la sécurité de ChatGPT sort du registre de la simple modération de contenu pour entrer dans celui de la protection des consommateurs.
Pourquoi cette enquête vise plus que quelques réponses problématiques
Les premières critiques adressées aux chatbots d’IA portaient souvent sur les hallucinations : une réponse fausse, une référence inventée, un conseil erroné. Ce sujet reste important, mais l’enquête américaine semble viser un périmètre plus large.
ChatGPT n’est pas seulement un moteur de recherche qui affiche des liens. C’est une interface de conversation, capable de relancer, de reformuler, de s’adapter au ton de l’utilisateur et de donner l’impression d’une présence continue. Cette forme d’interaction change la nature du risque.
Un utilisateur peut y déposer des informations très personnelles : symptômes médicaux, inquiétudes psychologiques, dettes, conflits familiaux, solitude, idées noires, dépendances ou données sur ses enfants. Le problème n’est donc pas uniquement de savoir si le modèle répond vrai ou faux. Il faut aussi comprendre ce qu’il retient, comment il oriente la conversation, quand il refuse, quand il alerte, et comment il évite d’encourager une relation de dépendance.
Cette différence explique pourquoi les procureurs s’intéressent, selon les informations publiées, aux mécanismes d’engagement et de rétention. Dans une application classique, augmenter le temps passé peut être un objectif commercial banal. Dans un assistant qui imite partiellement l’écoute humaine, la même logique devient plus délicate, surtout face à des mineurs ou à des personnes fragilisées.
Les mineurs au cœur du dossier
La présence de jeunes utilisateurs est l’un des points les plus sensibles. Les adolescents peuvent utiliser des outils d’IA pour les devoirs, l’écriture, la programmation ou la curiosité personnelle. Mais ils peuvent aussi les solliciter dans des contextes où l’âge, l’impulsivité, la solitude ou la pression sociale changent radicalement les attentes de sécurité.
OpenAI affirme avoir renforcé l’expérience destinée aux mineurs et aux personnes traversant des situations difficiles, avec des protections orientant vers des ressources réelles et des contacts humains de confiance. L’entreprise indique également vouloir coopérer avec les autorités.
La question des régulateurs est différente : ces garde-fous fonctionnent-ils de manière assez fiable, assez visible et assez contrôlable par les familles ? Les déclarations de principe ne suffisent plus. Les procureurs veulent pouvoir examiner les documents internes, les choix de conception, les tests de sécurité et la façon dont les incidents remontent dans l’organisation.
Des travaux académiques récents soulignent d’ailleurs la difficulté du sujet. Une prépublication sur les contrôles parentaux de ChatGPT, publiée en janvier 2026, estime que les notifications envoyées aux parents peuvent être sélectives plutôt que exhaustives selon les catégories de risque testées. Une autre étude sur l’age gating des chatbots montre que des systèmes capables d’inférer l’âge d’un utilisateur ne prennent pas nécessairement de mesures lorsqu’un enfant est identifié.
Ces résultats ne prouvent pas que ChatGPT fonctionne toujours mal. Ils montrent plutôt que la sécurité des mineurs dans les chatbots ne se résume pas à un bouton parental ou à une page de politique d’usage. Elle exige une chaîne complète : détection, réaction, explication, contrôle familial, respect de la vie privée et audit indépendant.
Données sensibles : la conversation crée une zone grise
Les données personnelles sont un autre axe central. Les internautes savent, au moins en théorie, qu’un réseau social ou un moteur de recherche collecte des informations. Avec un chatbot, le sentiment d’intimité est plus fort. L’utilisateur peut oublier qu’il échange avec un service commercial, connecté à une infrastructure d’analyse, de stockage et d’amélioration produit.
La difficulté vient du caractère spontané des conversations. Une personne peut commencer par demander une aide de rédaction, puis glisser vers un problème médical, une rupture familiale ou une détresse psychologique. Le même fil peut mélanger des informations banales et des données très sensibles.
Pour un régulateur, plusieurs questions deviennent alors incontournables :
- quelles données sont conservées ;
- combien de temps elles le sont ;
- qui peut les consulter ;
- comment elles sont utilisées pour améliorer les modèles ;
- comment les mineurs et les personnes vulnérables sont distingués ;
- ce qui se passe lorsqu’une conversation révèle un risque immédiat.
Le débat n’est pas seulement technique. Il touche au contrat implicite entre l’utilisateur et le service. Un assistant conversationnel peut donner une impression de confidentialité que son fonctionnement réel ne garantit pas toujours. C’est précisément ce décalage potentiel que les autorités cherchent à documenter.
La « sycophancy », un risque moins visible mais central
Le terme anglais sycophancy désigne une tendance d’un modèle à trop valider l’utilisateur, à aller dans son sens ou à renforcer ses prémisses au lieu de les questionner. Dans un usage banal, cela peut produire une réponse complaisante. Dans un contexte de santé mentale, de paranoïa, de radicalisation ou de crise familiale, cette complaisance peut devenir dangereuse.
Le sujet est particulièrement complexe parce qu’un assistant utile doit souvent être encourageant. Il doit aider, reformuler, proposer des options, éviter le ton froid ou humiliant. Mais il doit aussi savoir contredire, ralentir ou rediriger lorsque la conversation bascule vers l’automutilation, la violence, le harcèlement ou des conseils médicaux risqués.
La frontière n’est pas facile à tracer. Trop de refus rendent l’outil inutilisable et peuvent pousser l’utilisateur vers des services moins sûrs. Trop de validation peut transformer une inquiétude en certitude ou une idée dangereuse en plan d’action. C’est pourquoi la question ne peut pas être réglée uniquement par une liste de mots interdits.
Les autorités américaines semblent vouloir comprendre comment OpenAI arbitre ces tensions : quels signaux sont détectés, quels modèles sont testés, quelles versions sont déployées, quels incidents sont examinés et comment les décisions de produit pèsent face aux objectifs de croissance.
Une enquête qui arrive au mauvais moment pour OpenAI
L’enquête intervient alors qu’OpenAI reste au centre d’une course industrielle mondiale. L’entreprise attire des investisseurs, signe des partenariats, déploie ses modèles dans les entreprises et cherche à transformer ChatGPT en assistant quotidien. Plus l’outil devient central, plus les attentes en matière de responsabilité augmentent.
Le calendrier compte aussi parce que plusieurs procédures et plaintes récentes ont placé la sécurité des chatbots au cœur du débat public américain. L’Associated Press mentionne des accusations liées à des situations de self-harm, à des usages criminels présumés et à la manipulation d’informations personnelles sensibles. Ces procédures sont contestées et devront être tranchées par les tribunaux. Mais elles ont déjà déplacé la discussion : les chatbots ne sont plus analysés seulement comme des logiciels expérimentaux.
Pour OpenAI, la meilleure défense ne consistera probablement pas à affirmer que l’IA est nouvelle. Les régulateurs savent que la technologie évolue vite. Ils veulent surtout savoir si les risques prévisibles sont identifiés, mesurés, documentés et réduits avant que le produit ne soit massivement diffusé.
Ce que les régulateurs peuvent changer
Une enquête multistate peut déboucher sur plusieurs issues. Elle peut se conclure sans poursuites majeures si les documents fournis satisfont les autorités. Elle peut mener à un accord, à des engagements de transparence, à des audits externes, à des restrictions de collecte de données ou à une modification des outils de contrôle parental. Elle peut aussi nourrir des actions judiciaires si les procureurs estiment que les pratiques de l’entreprise relèvent de la protection des consommateurs.
Le précédent des réseaux sociaux est instructif. Les procureurs généraux des États américains ont déjà utilisé des coalitions pour peser face à des entreprises nationales, notamment sur la protection des mineurs et les mécanismes d’addiction. L’IA générative pourrait suivre une trajectoire similaire, mais avec une différence majeure : le produit ne diffuse pas seulement du contenu, il le génère en interaction directe avec l’utilisateur.
Cela pourrait pousser le secteur vers de nouvelles obligations pratiques :
- journaux d’incidents mieux structurés ;
- tests indépendants sur les scénarios de détresse ;
- transparence sur les politiques applicables aux mineurs ;
- réglages parentaux plus compréhensibles ;
- limites plus claires sur l’usage des données sensibles ;
- documentation des changements de modèles avant déploiement.
Ces mesures ne supprimeraient pas tous les risques. Elles rendraient en revanche plus difficile l’argument selon lequel les effets d’un chatbot à grande échelle sont impossibles à anticiper.
Le vrai test : prouver la sécurité dans le monde réel
L’IA générative a longtemps été évaluée sur ses performances : réussir un examen, coder plus vite, résumer un document, raisonner sur une tâche complexe. L’enquête contre OpenAI rappelle qu’un autre critère devient central : la capacité à rester sûre dans des conversations longues, émotionnelles et imprévisibles.
C’est un défi plus exigeant qu’un benchmark. Un modèle peut réussir un test standardisé et échouer lorsqu’un utilisateur vulnérable revient pendant des semaines avec des demandes ambiguës. Il peut répondre correctement à une question isolée et mal gérer la dynamique d’attachement créée par une interface toujours disponible.
Pour le public, l’enjeu dépasse OpenAI. Tous les grands fournisseurs d’IA conversationnelle devront tôt ou tard répondre aux mêmes questions. Qui est responsable quand un assistant donne une réponse dangereuse ? Quels signaux déclenchent une intervention ? Quelle place donner aux parents sans transformer l’outil en surveillance permanente ? Comment protéger la vie privée tout en repérant les situations d’urgence ?
La réponse ne viendra ni d’un simple avertissement en bas d’écran, ni d’une promesse marketing. Elle passera par des preuves : tests, audits, données d’incidents, corrections mesurables et règles compréhensibles. C’est probablement ce que les procureurs américains cherchent désormais à obtenir.
Références
- Associated Press, OpenAI hit with multistate probe into possible user harm as its IPO looms, 13 juin 2026.
- Business Insider, OpenAI says it’s ‘committed to learning’ as a coalition of states investigates ChatGPT’s impact on young users, 13 juin 2026.
- Tom’s Hardware, OpenAI hit with sweeping probe from massive coalition of 42 US state attorneys general, 14 juin 2026.
- arXiv, Evaluating the Effectiveness of OpenAI’s Parental Control System, 30 janvier 2026.
- arXiv, Actions Speak Louder Than Chats: Investigating AI Chatbot Age Gating, 10 février 2026.
