Un assistant peut-il proposer un traitement acceptable tout en privilégiant celui qu’une publicité vient de lui présenter ? C’est le problème soulevé par une étude de Mount Sinai annoncée le 11 novembre 2026. Pour l’IA en santé, la question dépasse l’exactitude des réponses : elle concerne aussi l’indépendance du conseil.
Une publicité ajoutée, le même cas clinique
Selon le compte rendu de Mount Sinai, les chercheurs ont confronté 12 modèles, notamment de Google, OpenAI et Anthropic, à 33 scénarios rédigés par des médecins. Une véritable publicité pharmaceutique, explicitement signalée, précédait ou non le cas. Les données du patient et les options thérapeutiques restaient identiques.
Sur 258 559 réponses analysées, le médicament promu était choisi dans 47,6 % des réponses avec publicité, contre 35 % sans publicité. L’écart atteint donc 12,6 points de pourcentage. Il ne représente ni une hausse des prescriptions ni une proportion de patients influencés.
Une préférence peut changer sans erreur manifeste
L’équipe souligne que des recommandations pouvaient rester cliniquement raisonnables malgré ce déplacement. Elle n’a pas mesuré les effets sur les prescriptions, les coûts ou la santé des patients. L’expérience ne démontre pas non plus que toute publicité entraîne un conseil dangereux. Ces limites figurent dans la présentation institutionnelle de l’étude, publiée à l’occasion de sa parution dans The Lancet Digital Health.
Pourquoi le bon traitement ne suffit pas à évaluer la réponse
Le résultat invite à distinguer deux questions. La première : le traitement proposé appartient-il aux options recevables ? La seconde : pourquoi le système a-t-il retenu cette option plutôt qu’une autre ? Un test qui ne regarderait que la première pourrait laisser passer une préférence commerciale.
Prenons un exemple hypothétique, sans lien avec un patient de l’étude. Si deux options sont appropriées et qu’un assistant privilégie régulièrement celle qui bénéficie d’un message promotionnel, son taux de réponses « correctes » pourrait rester stable. Pourtant, le service rendu aurait changé : un élément extérieur au dossier pèserait sur l’arbitrage.
C’est là l’intérêt éditorial de cette recherche. Le problème étudié n’est pas seulement celui de l’hallucination, cette réponse inventée que l’on espère repérer en vérifiant les faits. Il concerne la sélection parmi des réponses plausibles. Une formulation prudente et une explication convaincante ne permettent pas, à elles seules, d’écarter cette influence.
Une publicité visible à l’écran est-elle lue par le modèle ?
Il faut aussi éviter une généralisation technique. Dans cette expérience, le message commercial est fourni au modèle avec le cas clinique. Une publicité affichée à côté d’une conversation n’entre pas nécessairement dans les informations que le système traite.
Pour évaluer un service réel, il faudrait donc examiner son fonctionnement : quels textes sont transmis au modèle ? Les contenus sponsorisés font-ils partie des documents consultés ? Une séparation visuelle dans l’interface correspond-elle à une séparation dans les données envoyées ? L’étude ne permet pas de répondre à ces questions pour chaque application.
Tester l’indépendance, en plus de l’exactitude
Une piste d’évaluation consiste à comparer les réponses à dossier constant, en faisant varier uniquement l’environnement commercial. L’analyse devrait regarder l’option retenue, mais aussi les alternatives omises et les arguments mis en avant. Cette proposition prolonge le constat expérimental ; elle ne constitue pas une méthode de protection déjà validée par ces résultats.
Un acheteur hospitalier pourrait ainsi demander à un fournisseur de documenter le traitement des contenus promotionnels. Une démonstration convaincante devrait montrer ce que le système reçoit effectivement, puis comment ses recommandations résistent à des variations de contexte.
La transparence doit porter sur ce qui nourrit le conseil
Le débat rejoint un cadre plus ancien. En janvier 2024, l’Organisation mondiale de la santé alertait sur les réponses biaisées ou incomplètes des modèles génératifs et sur le biais d’automatisation : la tendance à accepter leur jugement sans contrôle suffisant. Elle recommandait notamment des évaluations indépendantes après déploiement à grande échelle.
L’enjeu pratique est désormais de rendre cette vigilance vérifiable. Signaler un contenu sponsorisé au lecteur apporte une information utile ; expliquer si ce contenu a également alimenté le raisonnement du système répond à une autre exigence. Pour les assistants de santé, la confiance dépendra autant de cette traçabilité que de la qualité apparente du texte final.
Références
- Mount Sinai — annonce de l’étude, 11 novembre 2026.
- The Lancet Digital Health — publication scientifique signalée par les auteurs.
- OMS — recommandations sur l’éthique et la gouvernance des modèles multimodaux en santé, 18 janvier 2024.
