Et si le moyen de rendre une intelligence artificielle plus sûre consistait à lui retirer l’envie d’agir ? Le Canada et l’Allemagne veulent consacrer ensemble jusqu’à 300 millions de dollars canadiens à cette hypothèse. Leur bénéficiaire, l’organisation montréalaise à but non lucratif LawZero, développe Scientist AI : un système avancé censé expliquer et prévoir le monde sans poursuivre de but propre.
L’annonce, faite le 16 septembre 2026 à Montréal, prévoit 150 millions de dollars canadiens du Canada et environ 100 millions d’euros de l’Allemagne, soit une seconde moitié d’un montant comparable. Elle finance une piste de recherche, des spécialistes et de la puissance de calcul. Elle ne signifie pas qu’une IA « sûre par conception » existe déjà, encore moins que sa sûreté a été démontrée.
Un investissement public de taille inhabituelle
LawZero a été fondée en 2025 par Yoshua Bengio, pionnier de l’apprentissage profond et lauréat du prix Turing. L’organisation veut construire une alternative aux agents d’IA capables d’élaborer un plan, d’utiliser des outils et d’agir pendant de longues périodes. Son projet se situe donc à contre-courant d’une industrie qui cherche précisément à rendre les modèles plus autonomes.
Le communiqué canadien parle d’un investissement planifié. La contribution allemande reste soumise à notification par la Commission européenne. LawZero présente pour sa part l’opération comme un engagement pouvant atteindre 300 millions de dollars canadiens. Ces formulations comptent : il s’agit d’un plafond et d’un programme à mettre en œuvre, pas d’une somme déjà entièrement versée.
Au Canada, le financement doit passer par le Fonds stratégique pour l’innovation. Le gouvernement annonce la création de 360 emplois à temps plein, ainsi qu’une infrastructure de calcul dédiée avec les entreprises canadiennes Hypertec et 5C. En Allemagne, une nouvelle implantation de LawZero doit accueillir les travaux soutenus par Berlin et intégrer les règles et priorités européennes dès le développement.
Scientist AI ne serait pas un agent de plus
Un agent classique reçoit un objectif — corriger un logiciel, réserver un voyage ou optimiser une expérience — puis choisit des actions pour l’atteindre. Cette capacité est utile, mais elle crée une difficulté de contrôle : une consigne incomplète peut pousser le système vers un raccourci non prévu, surtout s’il dispose d’un navigateur, de code exécutable ou d’identifiants.
Scientist AI est conçu autour d’une séparation différente. D’un côté, un générateur propose des hypothèses. De l’autre, un estimateur évalue ce que les données permettent réellement d’affirmer et attribue des probabilités aux conséquences possibles. Le système doit répondre à des questions telles que « quelle est la probabilité que cette action produise ce dommage ? », sans recevoir de récompense parce que le dommage — ou son contraire — se produit.
LawZero appelle ce principe l’invariance aux conséquences. Le prédicteur peut étudier les effets d’une action, mais son apprentissage ne doit pas le rendre intéressé par l’un de ces effets. Dans la vision de l’équipe, l’intelligence et la capacité de comprendre sont conservées ; l’accès direct au monde et la poursuite d’objectifs sont volontairement limités.
Distinguer un fait d’une affirmation
Le second pilier porte sur les données d’entraînement. Un modèle de langage apprend à partir de textes écrits pour informer, convaincre, divertir ou manipuler. Il peut donc reproduire à la fois des connaissances et les intentions présentes dans ces textes.
LawZero veut « contextualiser » ces données. La phrase « une entreprise affirme que son produit est sûr » doit être enregistrée comme la preuve que l’entreprise a formulé cette affirmation, et non comme la preuve que le produit est effectivement sûr. Le système devrait ensuite confronter ce témoignage à d’autres éléments et exprimer son incertitude.
Cette distinction paraît évidente pour un journaliste ou un scientifique. La rendre robuste dans un modèle entraîné sur des milliards de documents contradictoires constitue pourtant un problème technique majeur. Il ne suffit pas d’ajouter une source en note : il faut empêcher le système de confondre fréquence, autorité apparente et vérité.
Une IA qui pourrait surveiller les autres IA
Scientist AI n’est pas seulement présenté comme un outil de recherche. Il pourrait servir de garde-fou à des agents plus autonomes. Avant qu’un agent déploie une mise à jour logicielle, par exemple, le prédicteur estimerait la probabilité qu’elle corrige la faille, interrompe un service essentiel ou introduise une nouvelle vulnérabilité. Une couche externe déciderait ensuite d’autoriser l’action, d’exiger une vérification humaine ou de la bloquer.
Cette architecture déplace le pouvoir d’action hors du modèle prédictif. Elle ne le fait toutefois pas disparaître : le logiciel qui fixe les seuils, accorde les permissions et exécute l’ordre reste décisif. Dans un article publié le 9 septembre, Yoshua Bengio et Qinghua Lu insistent d’ailleurs sur une défense en profondeur : supervision par modèle, contrôles logiciels, vérification indépendante, surveillance en temps réel et journalisation.
Autrement dit, même un prédicteur bien conçu ne sécuriserait pas à lui seul un système mal isolé. Un agent doté de droits excessifs, un identifiant exposé ou une infrastructure insuffisamment surveillée peuvent contourner les qualités du modèle. La sûreté dépend de toute la chaîne, pas d’une seule architecture.
« Sans objectif propre » reste une hypothèse à tester
Le projet présente une intuition cohérente, mais plusieurs questions restent ouvertes. Comment vérifier qu’un système très complexe n’a réellement aucun comportement orienté vers un résultat ? Comment mesurer l’incertitude lorsqu’il rencontre une situation très différente de ses données ? Et comment éviter qu’un estimateur ne partage les mêmes angles morts que l’agent qu’il supervise ?
La neutralité pose aussi un problème plus profond. Choisir les conséquences à mesurer, les sources jugées crédibles et les seuils de risque implique déjà des décisions humaines. Une IA peut s’abstenir de préférer un résultat ; son cadre d’évaluation, lui, reflète nécessairement des priorités. « Sans désir » ne veut donc pas dire « sans valeurs dans le système qui l’entoure ».
Les documents publics de LawZero décrivent à ce stade un programme de recherche. La note détaillant l’architecture, datée de février 2026, se présente elle-même comme un travail en cours. Aucun benchmark public ne démontre encore qu’un Scientist AI à l’échelle des meilleurs modèles de pointe est à la fois plus fiable, aussi performant et durablement non agentif.
Le financement donne les moyens de répondre à ces questions. Il ne peut pas tenir lieu de réponse. Des protocoles reproductibles, des évaluateurs extérieurs et la publication des échecs seront essentiels pour distinguer une architecture réellement nouvelle d’une promesse de sûreté difficile à falsifier.
La souveraineté passe aussi par les machines
Le Canada et l’Allemagne présentent l’opération comme un investissement dans la souveraineté technologique. L’expression recouvre ici trois éléments concrets : héberger la puissance de calcul dans des infrastructures choisies localement, conserver les compétences de recherche sur leurs territoires et développer un modèle qui ne dépend pas entièrement des plateformes contrôlées par les grands laboratoires américains.
Cette autonomie restera relative. Les centres de calcul reposent sur des accélérateurs, des logiciels et des chaînes d’approvisionnement mondiales. Le communiqué ne précise ni le volume de calcul acheté, ni les puces retenues, ni le calendrier des premiers modèles. La souveraineté ne se décrète donc pas avec un bâtiment : elle se mesure dans la maîtrise du matériel, du code, des données, de l’exploitation et des décisions de déploiement.
La coopération transatlantique peut néanmoins produire un effet utile. Elle associe la capacité canadienne en recherche sur l’IA à un ancrage réglementaire européen et finance une organisation sans obligation de vendre rapidement un assistant au grand public. Pour une recherche fondamentale dont le résultat commercial est incertain, ce temps long est précisément ce que l’investissement public peut acheter.
Le test décisif sera scientifique, pas diplomatique
Scientist AI avance une idée simple à formuler et difficile à prouver : construire une machine assez intelligente pour prévoir les conséquences, mais qui n’essaie pas de façonner ces conséquences à son avantage. Les 300 millions de dollars canadiens annoncés donnent à LawZero une ampleur rare pour explorer cette voie.
Le succès ne se mesurera pourtant ni au montant engagé ni au nombre d’emplois créés. Il faudra montrer qu’un système non agentif peut atteindre un niveau utile, exprimer une incertitude bien calibrée, résister aux données trompeuses et superviser des actions sans être manipulé par l’agent qu’il contrôle. Tant que ces résultats ne sont pas publics et reproductibles, Scientist AI reste une hypothèse de sûreté financée à grande échelle — prometteuse, mais encore à démontrer.
Références
- Gouvernement du Canada — Canada and Germany invest in LawZero to build a new approach to safe, sovereign AI, 16 septembre 2026.
- Ministère fédéral allemand du Numérique — communiqué sur l’investissement conjoint dans LawZero, 16 septembre 2026.
- LawZero — présentation du projet et de l’engagement de financement.
- LawZero — The Scientist AI: Safe by Design, by Not Desiring, note de recherche, 3 février 2026.
- Yoshua Bengio et al. — Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?, arXiv.
- Qinghua Lu et Yoshua Bengio — AI Safety: Not Optional, Not Later, arXiv, 9 septembre 2026.
