Pourquoi un modèle de langage sait-il manipuler des phrases, des nombres ou des instructions alors que son fonctionnement repose sur des listes de valeurs numériques ? Une recherche présentée par Yale le 8 octobre apporte un éclairage : ces représentations peuvent porter une organisation symbolique implicite. Une piste pour comprendre le raisonnement des LLM.
Une enquête sur l’intérieur des modèles, plutôt que sur leurs scores
L’équipe menée par le linguiste R. Thomas McCoy, avec Paul Soulos, Tal Linzen et Paul Smolensky, cherche à comprendre comment les réseaux organisent l’information. La présentation de Yale décrit des approximations symboliques qui préservent largement le comportement étudié, ainsi que des modifications internes capables de changer celui-ci de manière ciblée.
La chronologie compte : la prépublication a été déposée le 30 août 2026, avant cette mise en lumière du 8 octobre. Elle reste présentée comme un preprint. Certaines analyses portent sur sept LLM à poids ouverts ; les expériences approfondies en arithmétique, logique, code et langage concernent GPT-OSS-20b. Ce périmètre ne couvre pas tous les chatbots commerciaux.
Les mêmes mots, mais une autre relation
Prenons deux phrases : « le chat poursuit le chien » et « le chien poursuit le chat ». Leur vocabulaire est identique. Pourtant, elles racontent deux scènes différentes. Une représentation utile doit donc conserver davantage qu’un inventaire de mots : elle doit distinguer qui agit et qui subit l’action.
Associer un contenu à sa place
On peut décomposer la première phrase en trois associations : chat–sujet, poursuit–verbe, chien–objet. Dans la seconde, les deux noms échangent leurs rôles. Cette grille pédagogique distingue le contenu d’une information de la fonction qu’elle occupe.
Le principe des représentations par produit tensoriel, ou TPR, fournit un moyen mathématique de réunir ces deux dimensions dans une représentation numérique distribuée. Paul Smolensky l’avait formalisé en 1990. L’idée permet de lier des valeurs à des variables ou des éléments à des positions, sans les ranger nécessairement dans des cases visibles.
Pourquoi l’ordre change aussi un calcul
Le problème dépasse la grammaire. Avec les mêmes nombres, 9 − 4 donne 5, tandis que 4 − 9 donne −5. Reconnaître les nombres ne suffit pas ; leur place dans l’opération détermine le résultat. C’est ce genre de distinction qui rend la question intéressante pour comprendre les erreurs d’un assistant, au-delà de sa capacité à produire une réponse fluide.
DISCOVER cherche une représentation que l’on peut tester
La méthode DISCOVER apprend à approximer des représentations internes à partir d’associations entre éléments et rôles. Les chercheurs réinjectent ensuite ces approximations dans le dispositif étudié et observent les sorties. Ce test demande si une structure interprétable conserve l’information utilisée pour la tâche. Il ne remplace pas, à lui seul, un chatbot complet par une formule. La méthode est détaillée dans le manuscrit.
Yale rapporte aussi une intervention sur une phrase : déplacer, dans sa représentation, l’adjectif caractérisant le sujet vers l’objet conduit le modèle à se comporter comme si l’adjectif avait changé de place dans le texte. L’intérêt est de vérifier une relation avec le comportement, au-delà d’une simple ressemblance entre représentations. L’exemple figure dans la présentation institutionnelle.
Une piste ancienne qui prend une autre ampleur
Cette approche possède des précédents. Un travail accepté à ICLR 2019, signé notamment par McCoy, Linzen et Smolensky, montrait déjà que des représentations de réseaux récurrents pouvaient être approximées à l’aide de structures associant contenus et rôles. Ses résultats variaient selon les tâches : certaines représentations de phrases naturelles se laissaient surtout approcher par un simple inventaire de mots.
Ce précédent donne une raison de comparer les méthodes et les situations étudiées. Un résultat sur une tâche artificielle, une phrase courte ou une opération précise n’a pas automatiquement la même portée qu’un résultat sur une conversation longue. La valeur d’une explication tient aussi à la clarté de son domaine de validité.
Comprendre une représentation ne révèle pas tout le raisonnement
Les auteurs précisent que DISCOVER étudie la structure des représentations, sans expliquer entièrement comment le réseau les construit. La méthode suppose aussi des hypothèses humaines sur les rôles recherchés. Ses approximations restent imparfaites, et leur réussite ne démontre pas une généralisation universelle à des situations nouvelles. Ces limites sont explicites dans l’étude.
Le chantier plus large de l’interprétabilité mécanique vise à décrire les transformations internes qui produisent une réponse. En mars 2025, les chercheurs d’Anthropic présentaient une autre méthode, le circuit tracing, pour retracer des calculs à l’aide de composants de substitution plus interprétables. Ils signalaient notamment des erreurs de reconstruction, des mécanismes manquants et la difficulté de passer d’exemples particuliers à une compréhension globale.
Ces démarches appellent donc une lecture précise : identifier une organisation de l’information, retracer un calcul et garantir la fiabilité d’une réponse sont trois objectifs distincts. Aucun ne peut être déduit des deux autres sans vérification supplémentaire.
Pour les utilisateurs, demander une preuve adaptée à la tâche
L’intérêt pratique pourrait être de mieux cibler les évaluations. Dans un outil qui extrait des relations entre entreprises, par exemple, on voudrait distinguer « A rachète B » de « B rachète A ». Il serait utile de tester séparément la reconnaissance des noms et l’attribution de leurs rôles. C’est une application envisageable de cette grille d’analyse, pas un produit validé par l’étude.
Pour une équipe qui déploie un assistant, nous en tirons une piste de travail : construire des tests où les mêmes éléments changent de place, de fonction ou de relation, puis regarder si les réponses restent cohérentes. Ces tests pourraient compléter l’évaluation du système ; ils ne remplaceraient ni les vérifications factuelles ni le contrôle des actions qu’il est autorisé à effectuer.
L’apport de ce travail est là : il offre une question plus précise que « les LLM raisonnent-ils vraiment ? ». Quelles relations encodent-ils, dans quelles tâches, et comment peut-on vérifier qu’elles influencent leurs réponses ? Chaque réponse mesurable permet de mieux définir ce que l’on peut attendre d’un modèle — et ce qui reste à démontrer.
Références
- Yale News — présentation de la recherche, 8 octobre 2026.
- McCoy et collaborateurs — The Emergent Symbolic Structure of Artificial Neural Networks, prépublication du 30 août 2026.
- Smolensky — Tensor product variable binding, 1990.
- McCoy et collaborateurs — RNNs Implicitly Implement Tensor Product Representations, ICLR 2019.
- Ameisen et collaborateurs — Circuit Tracing, 27 mars 2025.
