L’intelligence artificielle militaire n’est plus seulement un sujet de prospective. Elle intervient déjà dans l’analyse d’images, la détection d’objets, la logistique, la cybersécurité ou la préparation de décisions opérationnelles. À mesure que ces outils gagnent en vitesse et en autonomie, une question devient urgente : jusqu’où peut-on déléguer à une machine une décision susceptible d’exposer des vies humaines ?
Du 15 au 17 juin 2026, des États se réunissent à Genève pour trois jours de consultations organisées sous l’égide du Bureau des affaires de désarmement des Nations unies. L’objectif n’est pas encore de signer un traité. Il s’agit de déterminer si des principes souvent répétés — contrôle humain, respect du droit, responsabilité — peuvent devenir des règles suffisamment précises pour encadrer les usages militaires de l’IA.
Le calendrier donne une résonance particulière à la rencontre. Au même moment, les dirigeants du G7 et plusieurs responsables de grandes entreprises d’IA sont réunis à Évian, de l’autre côté du lac Léman. D’un côté, les promesses économiques et stratégiques de l’IA. De l’autre, la tentative de définir les limites à ne pas franchir lorsqu’un algorithme contribue à identifier une cible ou à déclencher la force.
Genève cherche à dépasser les déclarations de principe
Selon Le Monde, ces consultations doivent préparer une possible étape diplomatique d’ici à la fin de l’année : l’ouverture de négociations sur un instrument consacré à l’IA dans le cadre de la Convention sur certaines armes classiques. Plus de la moitié des quelque 130 États parties auraient manifesté leur volonté d’avancer vers un nouveau texte.
Cette perspective reste incertaine. Les discussions internationales sur les systèmes d’armes autonomes durent depuis plus d’une décennie sans produire de traité spécifique. Les États ne s’accordent ni sur les définitions, ni sur le niveau de contrainte juridique, ni sur la frontière entre une arme automatisée classique et un système utilisant des modèles d’apprentissage.
La rencontre de Genève compte néanmoins parce qu’elle élargit le débat. L’IA militaire ne se limite pas au drone qui choisit seul une cible. Elle peut intervenir bien avant l’engagement d’une arme : fusionner des renseignements, classer des personnes ou des objets, suggérer une cible, estimer les dommages collatéraux ou recommander un plan d’action.
Un système peut donc ne jamais appuyer lui-même sur la détente tout en influençant profondément une décision létale.
Une chaîne de décision plus rapide, mais pas nécessairement plus fiable
Les promoteurs de l’IA militaire mettent en avant sa capacité à traiter des volumes de données impossibles à examiner humainement dans le même délai. Sur le papier, un outil peut aider à repérer plus vite une menace, à croiser plusieurs sources ou à réduire certaines erreurs d’attention.
Le problème apparaît lorsque la vitesse devient une finalité. Un modèle entraîné sur des données incomplètes peut associer un comportement, une silhouette ou un déplacement à une catégorie erronée. Une recommandation accompagnée d’un score de confiance élevé peut sembler plus solide qu’elle ne l’est. Dans une salle de commandement soumise à la pression du temps, l’opérateur risque alors de confirmer la proposition plutôt que de la remettre en cause.
Cette tendance porte un nom : le biais d’automatisation. L’être humain conserve formellement le dernier mot, mais sa décision est orientée par un système dont il ne comprend pas toujours les données, les limites ou le raisonnement.
Le contrôle humain ne peut donc pas être réduit à la présence d’un bouton de validation. Pour être réel, il suppose que la personne dispose du temps, des informations et de l’autorité nécessaires pour contester la machine.
Trois catégories qu’il ne faut pas confondre
Le débat devient plus clair lorsqu’on distingue trois usages.
L’aide à la décision
Un système d’IA analyse des informations et formule une recommandation. Un humain décide ensuite de l’action. Ce modèle peut paraître rassurant, mais la qualité du contrôle dépend de l’explicabilité de la recommandation, de la possibilité de vérifier les sources et du temps disponible.
L’autonomie dans la navigation ou la protection
Une machine peut se déplacer, éviter des obstacles ou réagir à une menace technique sans choisir elle-même une personne à attaquer. Ces fonctions soulèvent déjà des questions de prévisibilité, notamment lorsque plusieurs appareils coopèrent ou adaptent leur comportement.
La sélection et l’engagement d’une cible
Le système repère une cible correspondant à un profil, puis applique la force sans nouvelle intervention humaine. C’est le cœur du débat sur les armes autonomes. Le Comité international de la Croix-Rouge recommande notamment d’interdire les systèmes imprévisibles et ceux conçus pour cibler directement des êtres humains.
Ces catégories peuvent se chevaucher. Une mise à jour logicielle, un changement de doctrine ou une nouvelle configuration opérationnelle peut transformer un outil d’assistance en composant décisif d’une chaîne d’engagement.
Le droit international s’applique déjà à l’IA
L’absence de traité spécifique ne signifie pas l’absence de règles. Le droit international humanitaire impose déjà aux belligérants de distinguer les objectifs militaires des civils, de respecter la proportionnalité et de prendre des précautions pour réduire les dommages.
Dans une contribution adressée au secrétaire général de l’ONU, le Comité international de la Croix-Rouge rappelle que ces obligations s’appliquent aux systèmes intégrant de l’IA. Les États doivent également examiner la légalité de nouvelles armes avant leur déploiement. Le CICR estime que cet examen doit couvrir non seulement l’arme elle-même, mais aussi les outils d’IA qui influencent son emploi.
Le point essentiel est la responsabilité. Un algorithme ne peut pas répondre devant un tribunal, expliquer une décision morale ou assumer les conséquences d’une erreur. Ce sont toujours des personnes — concepteurs, responsables politiques, commandants et opérateurs — qui déploient et utilisent le système.
L’argument selon lequel « l’IA a décidé » ne peut donc pas devenir une échappatoire juridique.
Les règles pourraient viser l’usage plutôt que la technologie
Une interdiction générale de « l’IA militaire » serait difficile à définir et probablement impossible à appliquer. Les mêmes méthodes peuvent servir à planifier un ravitaillement, défendre un réseau informatique ou sélectionner une cible.
Une approche plus opérationnelle consiste à encadrer des usages précis selon leur niveau de risque. Le CICR propose notamment :
- d’interdire les systèmes autonomes dont les effets ne peuvent pas être suffisamment compris, prédits et expliqués ;
- d’interdire les armes autonomes conçues ou utilisées pour appliquer la force contre des personnes ;
- de limiter la durée, la zone géographique, la nature des cibles et l’échelle d’emploi des autres systèmes ;
- de préserver un jugement humain effectif pour les décisions qui mettent en jeu la vie et la dignité.
Ces critères ont l’avantage d’être vérifiables. Une armée peut documenter la zone dans laquelle un système est autorisé à fonctionner, la durée de sa mission, les objets qu’il peut détecter et les conditions qui imposent son arrêt.
Ils ne résolvent pas tout. Un modèle peut rester imprévisible dans une zone limitée. Un opérateur peut valider une recommandation sans véritable examen. Mais ces contraintes créent des points de contrôle concrets pour les audits, les enquêtes et la responsabilité hiérarchique.
La prévisibilité est le nœud technique du problème
Une arme conventionnelle possède généralement un comportement que ses utilisateurs peuvent anticiper à partir de caractéristiques physiques et de procédures connues. Les systèmes reposant sur l’apprentissage automatique ajoutent une difficulté : leur réponse dépend de données et de corrélations qui ne sont pas toujours interprétables.
Cette opacité devient critique dans un environnement différent de celui de l’entraînement. La météo, la qualité d’un capteur, un camouflage, la densité urbaine ou un comportement inattendu peuvent déplacer le système hors de son domaine de validité.
Les systèmes collectifs compliquent encore la situation. Un essaim de machines peut produire des comportements émergents difficiles à prévoir individuellement. Si le fonctionnement change après le lancement d’une mission, l’utilisateur peut perdre la capacité d’anticiper les effets de l’arme.
Pour le CICR, un système qu’un humain ne peut raisonnablement comprendre, prévoir et expliquer risque de devenir indiscriminé par nature. Ce seuil relie directement une propriété technique — la prévisibilité — à une exigence juridique.
Les contrôles devront couvrir tout le cycle de vie
Tester un modèle avant son déploiement ne suffit pas. Ses performances peuvent évoluer avec une mise à jour, de nouvelles données, un capteur différent ou une modification de ses paramètres.
Un encadrement crédible devra donc imposer une traçabilité continue :
- quelles données ont servi à entraîner et à valider le système ;
- dans quelles conditions il a été testé ;
- quelles erreurs connues ont été observées ;
- qui peut modifier le modèle ou ses seuils ;
- quelles décisions et recommandations sont enregistrées ;
- quelle procédure permet de suspendre immédiatement son usage.
Cette logique ressemble davantage à la certification d’un système critique qu’à l’évaluation ponctuelle d’un logiciel. Elle implique des compétences techniques indépendantes, des journaux exploitables après un incident et une séparation claire entre le fournisseur, l’autorité qui autorise l’emploi et l’opérateur.
Un traité ne supprimera pas le risque, mais il peut fixer des lignes rouges
Les consultations de Genève ne produiront probablement pas, en trois jours, une définition universelle de l’IA militaire. Les intérêts stratégiques sont trop divergents et la technologie évolue trop vite.
Le résultat le plus réaliste serait un accord sur quelques interdictions et obligations durables : ne pas déléguer à une machine le choix d’attaquer une personne, exclure les systèmes dont les effets sont imprévisibles, imposer des limites d’emploi et maintenir une responsabilité humaine identifiable.
Ces règles ne rendraient pas la guerre propre ni les décisions algorithmiques infaillibles. Elles éviteraient toutefois que la vitesse et l’opacité deviennent des arguments suffisants pour déléguer l’usage de la force.
L’enjeu de Genève est finalement moins de savoir si une machine peut reconnaître une cible que de déterminer qui doit répondre de cette reconnaissance, sur quelles preuves et avec quelle possibilité réelle de dire non.
Références
- Le Monde — Regulating military AI, a challenge debated in Geneva alongside the G7
- Assemblée générale des Nations unies — Résolution 79/239 sur l’intelligence artificielle dans le domaine militaire
- Comité international de la Croix-Rouge — Contribution au secrétaire général de l’ONU sur l’IA dans le domaine militaire
- ONU et CICR — Appel conjoint en faveur de nouvelles interdictions et restrictions sur les systèmes d’armes autonomes
