Un logiciel médical classique répond à une question définie : il mesure un signal, classe une image ou calcule un score. Un système fondé sur l’IA générative peut recevoir une demande imprévue, mener plusieurs étapes de raisonnement, dialoguer avec un patient et produire deux réponses différentes à partir d’une situation presque identique. Comment autoriser un tel dispositif sans prétendre avoir testé toutes les conversations possibles ?
La Food and Drug Administration américaine tente de construire une réponse. Le 18 août 2026, l’agence a publié un document de discussion consacré aux dispositifs médicaux intégrant l’IA générative. Son idée la plus marquante consiste à évaluer ces systèmes un peu comme des compétences cliniques : des épreuves structurées d’abord, puis une confirmation dans des conditions représentatives des soins, et enfin une surveillance après la commercialisation.
Le parallèle avec la formation d’un médecin est séduisant, mais il a des limites. Un modèle n’assume pas de responsabilité professionnelle, peut dépendre d’une plateforme tierce qui évolue sans prévenir et peut répéter une erreur à grande échelle. La consultation ne crée donc pas un permis d’exercer pour les machines. Elle révèle plutôt l’ampleur du problème réglementaire : certifier non plus seulement un algorithme figé, mais un produit capable de parler, de s’adapter et parfois d’agir.
La FDA ouvre une consultation, pas une nouvelle autorisation
Le premier point à retenir est aussi le plus important : le document de la FDA n’est ni une règle, ni un projet de recommandation officielle, ni une modification déjà décidée de la politique américaine. L’agence précise qu’elle cherche des avis précoces et qu’elle ne tranche même pas encore la question de savoir si les approches envisagées entrent dans ses pouvoirs actuels ou nécessiteraient une nouvelle base légale.
Les fabricants, médecins, patients, chercheurs et autres parties intéressées peuvent répondre jusqu’au 19 octobre 2026, dans le dossier FDA-2026-N-7874. Le calendrier et la nature du texte comptent : la FDA cartographie un territoire avant de choisir la route réglementaire.
L’agence ne prétend pas non plus réglementer « l’IA générative » en général. Elle s’intéresse aux produits qui répondent à la définition juridique d’un dispositif médical, en fonction de leur usage prévu et des contrôles nécessaires pour assurer leur sécurité et leur efficacité. Un assistant qui reformule une note administrative et un système qui recommande une dose ne relèvent donc pas automatiquement du même niveau de surveillance.
Cette distinction évite un raccourci fréquent. Le modèle de fondation — un grand modèle de langage, par exemple — n’est pas nécessairement le dispositif médical. Le produit réel comprend aussi ses instructions, ses sources documentaires, son interface, ses garde-fous, sa logique d’orchestration et la manière dont il s’intègre au travail clinique. C’est cet ensemble configuré pour un usage précis que la FDA veut juger.
Deux axes pour mesurer un risque qui change pendant la conversation
La FDA propose une matrice simple. Le premier axe décrit le degré d’activité et d’autonomie du dispositif. À une extrémité, le système fournit une information non directive. À l’autre, il recommande fortement une action, utilise des outils ou agit sans supervision continue d’un professionnel de santé.
Le second axe mesure les conséquences d’une réponse erronée. Une recommandation imparfaite sur un remède sans ordonnance pour un symptôme bénin n’a pas le même poids qu’un conseil incorrect sur l’ajustement d’une dose d’insuline. Le risque augmente lorsque l’autonomie et la gravité du dommage potentiel progressent ensemble.
Un conseil peut devenir une instruction
La simplicité de cette grille masque une difficulté propre aux conversations. Une première réponse peut rester générale, puis devenir très directive après plusieurs échanges. La formulation, le degré de personnalisation, le contexte et la confiance apparente du système influencent alors la décision de l’utilisateur autant que le contenu médical lui-même.
La FDA demande donc comment évaluer une trajectoire conversationnelle, et pas seulement une question isolée. Elle veut aussi distinguer deux erreurs opposées dans les fonctions d’orientation : ne pas envoyer assez vite une personne vers les urgences, ou au contraire l’y envoyer inutilement. Ces échecs n’ont ni le même coût ni la même tolérance selon la situation clinique.
Le public visé modifie encore le risque. Un spécialiste peut repérer une incohérence que le patient, ou même un médecin généraliste confronté à une discipline très technique, ne verra pas. Mais considérer automatiquement le patient comme incapable serait une autre erreur. La réglementation devra donc évaluer les protections concrètes — explications, citations, limites affichées, possibilité de demander un avis humain — plutôt que se contenter d’une opposition abstraite entre expert et profane.
Un « examen de compétence » plutôt qu’un test impossible à épuiser
Tester toutes les entrées et sorties d’un système génératif est irréaliste. Les formulations possibles sont presque infinies, les réponses varient, et un modèle peut réussir un cas tout en échouant lorsque l’ordre des informations ou le ton de la demande change légèrement. Les méthodes conçues pour un logiciel à entrées bornées ne suffisent donc plus.
La FDA explore une évaluation en deux étages. Le premier serait un benchmark du dispositif complet, centré sur les compétences nécessaires à son usage médical. Le second serait une confirmation clinique, destinée à vérifier que les performances se maintiennent dans des conditions réelles ou suffisamment représentatives.
L’analogie avec la certification des médecins sert ici de principe d’organisation. Un praticien n’est pas testé sur chaque patient qu’il rencontrera pendant sa carrière. Il passe des examens structurés, exerce sous supervision, puis fait l’objet d’une évaluation continue. Pour une IA médicale, cette logique permettrait de sonder un espace de situations très vaste sans prétendre le couvrir intégralement.
Les épreuves envisagées dépassent la simple exactitude d’une réponse. L’annexe du document évoque notamment la reconnaissance d’une urgence, le maintien dans le périmètre autorisé, la résistance aux instructions adverses, le refus approprié, la traçabilité vers les sources et la qualité de l’orientation vers un humain. Un système qui donne souvent une bonne réponse mais se laisse convaincre de prescrire hors de son champ resterait dangereux.
Du dossier rétrospectif à l’essai clinique
La confirmation clinique pourrait prendre plusieurs formes, d’intensité croissante :
- appliquer le dispositif à d’anciens dossiers et comparer ses sorties à une référence ou à un collège indépendant de médecins ;
- le déployer « dans l’ombre » d’un service, sans montrer ses réponses ni influencer les soins ;
- utiliser des patients standardisés et des scénarios définis à l’avance ;
- faire examiner des cas réels et les réponses du système par des cliniciens indépendants ;
- mener, lorsque le niveau de risque l’exige, une étude prospective, voire un essai randomisé.
Cette gradation est pragmatique. Elle évite d’imposer un essai clinique lourd à chaque fonction peu risquée, tout en conservant la possibilité d’exiger des preuves robustes lorsqu’une sortie peut modifier directement une prise en charge. La FDA précise d’ailleurs qu’une étude prospective ne serait pas nécessaire dans tous les cas.
L’enjeu sera de définir les seuils. Qui choisit les cas difficiles ? Quelle diversité de patients, d’accents, de dossiers incomplets et d’établissements faut-il représenter ? Comment évaluer une réponse médicalement acceptable mais différente de celle du référentiel ? Sans protocoles transparents, un « examen de compétence » peut devenir une sélection de démonstrations favorables au fabricant.
L’autorisation ne suffira pas si le modèle change en coulisses
Un dispositif génératif peut évoluer de plusieurs manières. Le fabricant peut modifier ses instructions, ses garde-fous ou ses sources. Le système peut être conçu pour apprendre après son déploiement. Surtout, un fournisseur externe peut mettre à jour le modèle de fondation sur lequel repose le produit, avec des conséquences que l’entreprise médicale ne maîtrise pas entièrement.
La FDA envisage donc une surveillance proportionnée au risque : répétition périodique des benchmarks, examen d’échantillons réels par des cliniciens indépendants et détection d’une baisse de performance liée à une population différente, à un nouvel environnement de données ou au remplacement d’un composant.
Cette logique prolonge l’approche du cycle de vie complet déjà appliquée par l’agence aux dispositifs utilisant l’IA. La liste publique des dispositifs médicaux autorisés intégrant l’IA doit d’ailleurs évoluer pour mieux identifier ceux qui utilisent un modèle de fondation ou un grand modèle de langage. Jusqu’ici, la majorité des produits recensés relève de fonctions prédictives ou de traitement d’images plus bornées que les assistants génératifs.
Le contrôle des changements devient alors central. Un plan approuvé à l’avance peut décrire certaines modifications prévues, leur méthode de validation et leurs limites. Mais il ne règle pas toutes les mises à jour subies, les usages détournés ou les comportements émergents. Plus la chaîne technique dépend de sociétés différentes, plus l’attribution d’une erreur devient difficile.
Les modèles de fondation créent une chaîne de responsabilité fragile
Un fabricant de dispositif connaît rarement l’intégralité des données d’entraînement, des évaluations et des modifications du modèle généraliste qu’il utilise. Le développeur du modèle, de son côté, ne voit pas toujours les conditions cliniques précises de chaque produit construit au-dessus de son API.
La FDA évoque la possibilité d’un dossier volontaire fourni par les développeurs de modèles de fondation. Il pourrait regrouper des informations utiles à plusieurs demandes d’autorisation, afin d’éviter que chaque fabricant tente de reconstituer les mêmes preuves. L’idée promet des gains d’efficacité, mais l’agence reconnaît elle-même son point faible : un fournisseur peut avoir peu d’intérêt à divulguer des informations sensibles sur les données, les failles ou les changements de son modèle.
La responsabilité ne peut donc pas être dissoute dans l’écosystème. Le fabricant reste responsable du dispositif qu’il met sur le marché, même s’il ne contrôle pas chaque couche. Les hôpitaux devront suivre les incidents et encadrer les usages ; les cliniciens devront comprendre les limites du produit ; les fournisseurs de modèles devront signaler les changements pertinents. Ce partage des tâches n’a de valeur que si les obligations, les délais d’information et les mécanismes d’arrêt sont explicitement définis.
La question devient encore plus sensible pour les agents médicaux capables d’enchaîner des actions et d’appeler des outils. Une erreur de texte peut être relue. Une séquence autonome qui consulte un dossier, choisit un examen et transmet une consigne réduit le nombre d’occasions de correction humaine. La FDA demande logiquement si cette autonomie doit relever les critères d’acceptation et l’intensité de la surveillance.
Ce cadre peut accélérer l’innovation s’il rend les preuves comparables
À première vue, multiplier les examens avant marché et les contrôles après déploiement semble ralentir les fabricants. L’effet inverse est possible. Des critères lisibles permettent aux équipes de savoir quelles preuves produire, aux hôpitaux de comparer les produits et aux patients de comprendre jusqu’où ils peuvent leur faire confiance.
La littérature scientifique souligne pourquoi cette standardisation manque. Une analyse publiée dans npj Digital Medicine relève les difficultés de reproductibilité, les hallucinations, les biais, les risques de confidentialité et la faiblesse des évaluations fondées sur des examens théoriques ou des cas trop propres. Une excellente note à un questionnaire médical ne démontre ni la robustesse dans un dossier fragmenté, ni la capacité à reconnaître une situation hors périmètre, ni l’amélioration de l’état des patients.
Les futurs benchmarks devront donc rester liés à l’usage annoncé et au contexte réel. Ils devront mesurer les échecs graves, pas seulement une moyenne globale ; publier les sous-groupes pertinents ; documenter les versions testées ; et prévoir une réaction lorsque la performance passe sous le seuil accepté. C’est moins spectaculaire qu’un duel entre un modèle et un médecin, mais beaucoup plus utile pour la sécurité.
La vraie épreuve commencera après la salle d’examen
La consultation de la FDA marque un changement de perspective. La question n’est plus seulement de savoir si une IA peut réussir un examen médical. Il faut déterminer si un produit précis reste compétent face à des patients réels, dans un service réel, après une mise à jour réelle — et qui intervient lorsqu’il cesse de l’être.
Le cadre proposé a le mérite d’associer autonomie et gravité du dommage, puis de relier l’autorisation initiale à une surveillance continue. Il laisse néanmoins ouvertes les décisions les plus difficiles : le niveau de preuve par catégorie, l’accès aux informations des modèles de fondation, l’indépendance des évaluateurs et la responsabilité en cas d’échec partagé.
Le document n’autorise aujourd’hui aucun nouveau dispositif et n’impose aucune méthode. Il fixe toutefois un test décisif pour la régulation de l’IA en santé : passer d’une confiance accordée au modèle en général à des preuves vérifiables sur le produit, son usage et sa version. Pour l’IA générative médicale, le diplôme ne pourra jamais être délivré une fois pour toutes.
Références
- FDA — communiqué annonçant la consultation sur les dispositifs médicaux intégrant l’IA générative, 18 août 2026.
- FDA — Considerations for the Regulation of Generative AI-Enabled Medical Devices, document de discussion, août 2026.
- FDA — liste des dispositifs médicaux autorisés intégrant l’intelligence artificielle, mise à jour en 2026.
- FDA — recommandations et documents relatifs à la santé numérique.
- FDA — principes de bonnes pratiques d’apprentissage automatique pour les dispositifs médicaux.
- npj Digital Medicine — « Innovating global regulatory frameworks for generative AI in medical devices is an urgent priority », 2026.
