À mesure que l’intelligence artificielle (IA) s’impose dans les opérations militaires, la question de la supervision humaine reste plus cruciale que jamais. Si les promoteurs de ces technologies répètent que chaque décision critique sera systématiquement validée par un opérateur humain – selon le principe du « human in the loop » (HITL) –, la réalité du terrain révèle des limites qui interpellent les experts et interrogent la chaîne de responsabilité.
L’intégration de l’IA dans la conduite des guerres modernes s’accompagne de promesses : rapidité d’exécution, démultiplication de la puissance de frappe, capacité à traiter des volumes massifs de données. Pourtant, dans les étages décisionnels, l’assurance d’une validation humaine systématique questionne dès lors que l’urgence prédomine. Pour Giacomo Persi Paoli, responsable du programme sécurité et technologie à l’Institut des Nations unies pour la recherche sur le désarmement (Unidir), « la présence d’un être humain est conçue comme un rempart simple contre les dérives potentielles de l’IA, mais en pratique, ce garde-fou est loin de se révéler suffisant. »
Dans de nombreux systèmes de défense anti-aérienne, par exemple, l’approbation humaine n’est pas toujours possible face à la vitesse des menaces : automatiser la riposte apparaît alors comme une nécessité technique et stratégique. Florian Fournier, cofondateur d’Orasio, fournisseur de solutions d’analyse vidéo pour les armées et la sécurité intérieure, observe que « s’il est légitime d’exiger un arbitrage humain lors de frappes en zone habitée, la destruction automatisée d’engins non habités s’impose la plupart du temps pour minimiser les risques et réagir dans les délais. »
Ce débat sur la place de l’humain dans la boucle s’est structuré autour de différentes configurations : superviseur en contrôle ayant un droit de veto (‘human on the loop’), ou opérateur complètement hors du processus (‘human outside of the loop’), autorisant l’autonomie totale des systèmes. Selon Martin Hagström, directeur adjoint de la recherche à l’Agence suédoise de recherche pour la défense (FOI), « même dans les scénarios d’autonomie avancée, la détermination préalable des conditions d’usage par des humains reste un prérequis éthiquement incontournable. »
Mais la présence d’un décideur ne garantit pas l’efficacité du contrôle humain, bien au contraire. Mikey Dickerson, ex-directeur adjoint des systèmes d’information à la Maison-Blanche, souligne l’effet pervers du schéma HITL : « On demande à un opérateur de veiller de longues heures, souvent dans l’inaction, puis de prendre en quelques secondes une décision critique. Le risque d’erreur humaine et de perte d’attention est démultiplié. » L’exemple du missile Patriot qui avait abattu un avion britannique allié en 2003 illustre le phénomène : « 23h59 d’ennui suivies d’une minute de panique », résumait alors un officier américain.
Les progrès de l’IA viennent complexifier ces enjeux. Les systèmes d’apprentissage renforcé, capables de s’adapter en temps réel, gagnent certes en performance mais deviennent aussi moins lisibles et prédictibles pour leurs superviseurs, soulevant des interrogations sur la fiabilité des recommandations faites sous pression. Selon une enquête menée par Bloomberg en 2024, le système Maven de Palantir, largement utilisé par l’armée américaine, identifiait correctement ses cibles dans 60 % des cas – un taux bien inférieur à celui des analystes humains (84 %) et tombant jusqu’à 30 % dans des conditions opérationnelles difficiles. Les opérateurs sont alors confrontés à une IA sûre d’elle, au risque de voir leurs propres capacités d’évaluation mises en défaut, d’autant plus que, sous contrainte de temps, il devient difficile de défier une machine dont l’« intelligence » est survalorisée.
Au-delà de l’efficacité, la question de la responsabilité se pose, alors que les défaillances de l’IA peuvent transformer l’opérateur humain en simple « fusible » pour masquer les fautes du système. « Les cas faciles sont automatisés, tandis que les situations à risque sont laissées à l’humain, qui devient alors le bouc émissaire idéal en cas de catastrophe », alerte Mikey Dickerson. Ce mécanisme entraîne un affaiblissement de l’incitation des industriels à améliorer la robustesse de leurs solutions IA, tout en diluant la responsabilité au sein de la chaîne de décision.
L’actualité récente rappelle avec acuité la gravité des enjeux. La frappe ayant touché une école de filles à Minab, en Iran, en février 2024, aurait été facilitée par l’utilisation de données erronées ou obsolètes. Ce drame démontre la nécessité d’une extrême rigueur dans l’entretien, l’actualisation et la fiabilisation des systèmes d’information qui alimentent l’IA, alors que la circulation et l’accélération des frappes se démultiplient : plus de mille cibles visées en 24 heures au premier jour des bombardements américains en Iran, symbole d’une nouvelle ère dans l’art de la guerre.
La généralisation de l’IA dans les conflits armés, déjà à l’œuvre depuis le début du conflit russo-ukrainien, redistribue les cartes au sein de l’industrie de la défense, tout en posant de graves dilemmes sur la gestion des risques humains, techniques et éthiques. Ce bouleversement vient rappeler, pour le secteur économique comme pour l’ensemble des systèmes – financiers, industriels, patrimoniaux – la nécessité d’une diversification des outils de contrôle et de prévention des défaillances. À l’image de la pluralité des actifs tangibles dans la gestion patrimoniale (or, immobilier, objets de collection), investir dans la résilience humaine et algorithmique pourrait bien s’imposer, demain, comme l’enjeu central de la sécurité globale.
