Vous regardez une courte vidéo : une voiture rouge s’approche d’un carrefour, puis heurte un piéton. Le lendemain, vous lisez un résumé de la scène. Il semble cohérent, sauf sur un point : le panneau routier mentionné n’est pas celui que vous avez vu. Lorsque l’on vous interroge ensuite sur la vidéo, vous risquez de reprendre la version du texte plutôt que votre propre souvenir.
C’est le résultat central d’une étude mise en ligne le 23 septembre 2026 par Mattea Sim, Yael Eiger et Tadayoshi Kohno. Elle relie deux questions souvent traitées séparément : la fiabilité des résumés produits par l’intelligence artificielle et la façon dont une information trompeuse, lue après coup, influence la mémoire humaine. Le constat mérite l’attention de tous ceux qui utilisent l’IA pour condenser une vidéo, un témoignage ou un dossier sensible. Il demande aussi de bien distinguer les erreurs observées spontanément et l’erreur introduite volontairement pour l’expérience.
Vingt résumés, vingt textes comportant des erreurs
Les chercheurs ont d’abord demandé à ChatGPT et à Gemini de résumer deux vidéos animées de 25 secondes, montrant le même accident avec une variation : à l’intersection figure soit un panneau « stop », soit un panneau « cédez le passage ». Ils ont produit 20 résumés au total, au printemps 2026, puis comparé chacun à une liste de 19 détails essentiels établie à partir des vidéos.
Tous les textes analysés contenaient des erreurs : de 7 à 21 dans des résumés d’environ 305 mots en moyenne. Le défaut le plus fréquent n’était pas une invention spectaculaire, mais une omission. En moyenne, 51,6 % des détails jugés centraux manquaient. Dans 19 résumés sur 20, la collision entre la voiture et le piéton, pourtant au cœur de la scène, n’était même pas mentionnée.
Ces chiffres décrivent précisément ce petit corpus et le protocole employé. Ils ne permettent pas d’affirmer qu’un résumé IA quelconque omettra la moitié des faits importants. En revanche, ils montrent pourquoi une prose fluide ne suffit pas à établir qu’un compte rendu est fidèle à sa source : un texte peut sembler complet tout en évacuant l’événement principal.
Une seconde expérience pour mesurer l’effet sur le souvenir
La partie décisive de l’étude porte sur des personnes. Après avoir regardé l’une des deux vidéos, les participants revenaient 24 à 48 heures plus tard pour lire un résumé généré par ChatGPT. Le texte décrivait le bon panneau pour certains et l’autre panneau pour les autres. Cette différence avait été contrôlée par l’équipe de recherche afin d’isoler son effet. Les participants devaient ensuite répondre à des questions sur ce qu’ils avaient vu, en se fondant explicitement sur leur souvenir de la vidéo.
Au total, 331 personnes ont terminé les deux étapes ; 328 ont été retenues dans l’analyse après les contrôles d’attention. Parmi celles qui avaient lu un résumé fidèle sur le panneau, 83,6 % ont répondu correctement. Après lecture d’un résumé trompeur, cette proportion tombait à 44,8 %. L’écart atteint 38,8 points de pourcentage. Il ne s’agit pas d’un test où l’IA aurait spontanément inventé exactement cette erreur dans chaque cas : les chercheurs ont construit les deux versions du résumé pour comparer leurs effets.
Autre résultat : présenter le même texte comme rédigé par une IA ou par une personne ne changeait pas significativement la réponse à la question centrale. Dans ce protocole, la familiarité déclarée avec les outils d’IA et la confiance accordée à ces outils ne protégeaient pas non plus clairement contre l’information trompeuse.
Pourquoi une seule phrase peut peser autant
Les psychologues connaissent depuis longtemps l’« effet de désinformation » : une information reçue après un événement peut interférer avec le souvenir que l’on en garde. Le résumé IA donne à ce mécanisme un nouveau terrain. Il condense une scène, choisit ce qui semble important et présente le tout dans un récit ordonné. Si un détail faux s’y glisse, le lecteur peut le retrouver plus tard comme s’il appartenait à la scène initiale.
La recherche ne prétend pas que les modèles possèdent un pouvoir particulier de manipulation de la mémoire. Le fait que l’étiquette « rédigé par une IA » n’ait pas modifié l’effet va plutôt dans l’autre sens : c’est l’information trompeuse dans le résumé qui compte ici. La nouveauté tient à la facilité avec laquelle des systèmes automatisés peuvent produire et diffuser de tels récits dans des processus ordinaires, même sans intention de tromper.
L’enjeu devient concret lorsqu’un résumé sert de première porte d’entrée vers une longue vidéo ou un dossier. Dans une enquête interne, une procédure administrative ou l’examen d’un incident filmé, une personne chargée de vérifier le texte peut avoir déjà lu la version erronée au moment où elle retourne à la source. Le contrôle humain reste nécessaire, mais cette étude suggère qu’il ne faut pas le concevoir comme un simple coup d’œil final sur un récit déjà rédigé.
Ce que l’expérience ne permet pas de conclure
Les auteurs reconnaissent plusieurs limites. Leur analyse des modèles repose sur seulement deux courtes vidéos animées et un prompt standardisé ; elle ne mesure pas la performance des résumeurs sur toutes les vidéos ni sur les versions futures des outils. L’expérience humaine teste un seul type d’erreur, le nom d’un panneau routier, dans un environnement contrôlé. Elle ne prouve pas que la même baisse de précision se retrouverait à l’identique dans un témoignage réel, un dossier médical ou un rapport de police.
Les résumés présentés aux participants provenaient de ChatGPT, puis avaient été sélectionnés et légèrement ajustés pour que la comparaison soit propre. Les 20 résumés audités, eux, servaient à inventorier les erreurs de deux systèmes. Ce sont deux volets distincts : confondre leurs résultats ferait croire, à tort, que le taux d’erreur observé dans le premier prédit directement la baisse de mémoire mesurée dans le second.
Enfin, au 26 septembre, le texte intégral est disponible sous forme de prépublication. Les auteurs indiquent qu’une version abrégée figure dans les actes de la conférence AAAI/ACM AI, Ethics, and Society d’octobre 2026. Il convient donc de décrire les résultats tels qu’ils sont présentés, sans les transformer en règle universelle.
Garder la source à portée de main
Cette recherche suggère une précaution simple pour les usages où chaque détail compte : conserver un accès direct à l’enregistrement original et vérifier les faits décisifs avant de s’appuyer sur le résumé. Faire prendre des notes sur la source avant la lecture du texte automatisé pourrait aussi limiter l’influence d’un récit ultérieur, mais cette mesure précise n’a pas été testée dans l’étude.
Le gain de temps offert par un résumé IA est réel seulement si le lecteur sait ce qu’il peut lui déléguer. Pour s’orienter rapidement, le texte est utile ; pour établir ce qui s’est effectivement passé, la vidéo ou le document d’origine doit rester la référence. C’est particulièrement vrai lorsque le résumé paraît convaincant : sa fluidité ne révèle ni les faits oubliés ni ceux qui ont été déplacés.
Références
- Mattea Sim, Yael Eiger et Tadayoshi Kohno, « AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory », arXiv, 23 septembre 2026.
- Méthodologie, tableaux de résultats et limites de l’étude, version intégrale.
- Données et documents complémentaires mis à disposition par les auteurs sur OSF.
