print preview

Importance de l’autonomie croissante des systèmes dans le contexte militaire

Toujours plus autonomes, les robots et systèmes d’armes présentent d’innombrables avantages militaires et le potentiel de révolutionner la guerre. Mais il ne faut pas sous-estimer les défis et risques qui s’y rapportent. Pour l’heure, ils ne permettent pas d’obtenir une réglementation internationale claire en matière d’engagement des systèmes d’armes autonomes. armasuisse S+T soutient la Suisse dans le débat sur l’engagement des systèmes autonomes.

Pascal Vörös, Centre suisse des drones et de la robotique/CSDR, armasuisse Sciences et technologies, en collaboration avec le domaine Développement de l’armée/Planification de l’armée

Un homme et une petite fille se tiennent devant le bâtiment principal futuriste d’armasuisse S+T à Thoune. Devant eux se trouve le robot de marche ANYmal, tandis que des drones sillonnent le ciel.

En 2018, Elon Musk s’est associé à 160 organisations du monde de la recherche et de l’économie ainsi qu’à 2400 experts pour soutenir la campagne « Stop Killer Robots » contre la fabrication de systèmes d’armes autonomes. Cette action a sensibilisé pour la première fois une grande partie de la population à cette menace.

Dans le cadre du centre technologique du DDPS, armasuisse Sciences et technologies, le Centre suisse des drones et de la robotique (CSDR) se consacre aux applications actuelles et futures des systèmes autonomes sans équipage. Nous abordons ci-après les raisons qui font de l’autonomie croissante des robots dans le contexte militaire un sujet de première importance.

Autonomie accrue : le potentiel de révolutionner la guerre

Outre les avancées dans le domaine du matériel, avec des composants plus puissants comme les capteurs et les processeurs, c’est l’apprentissage automatique (machine learning) qui a permis de réaliser les progrès les plus spectaculaires. Cette « intelligence artificielle » accroît l’autonomie des robots, tant en matière de réalisation des tâches dans l’environnement que d’accomplissement des missions et d’interaction avec les humains (voir l’article « Vraiment autonome, ou seulement automatique ? »).

Le CSDR suit de près le développement fulgurant des systèmes autonomes dans la pratique. Les deux démonstrateurs de recherche Armano et ANYmal ont notamment accompli d’énormes progrès au cours des trois dernières années. L’Armée suisse devrait pouvoir tirer parti de l’autonomie accrue de ces systèmes dans le domaine de l’aide en cas de catastrophe*. Si le CSDR ne mène aucun projet de recherche pour le compte de systèmes d’armes autonomes, d’autres pays sont présents sur ce créneau.

En 2009 déjà, le politologue américain P.W. Singer explorait les prémices de la guerre robotique dans son ouvrage « Wired for War: The Robotics Revolution and Conflict in the 21st Century ». Dans l’intervalle, les armes autonomes ont sans cesse été décrites comme la troisième révolution de la guerre, après la poudre à canon et l’arme nucléaire. Les systèmes d’armes autonomes revêtent le potentiel d’affirmer la suprématie militaire d’un État. L’aide des machines permet en effet d’accélérer considérablement le schéma « recherche, acquisition, décision et combat » sur le champ de bataille. Selon la boucle OODA (voir illustration), quiconque réalise les quatre phases de la boucle en premier l’emporte sur son adversaire.

Cycle OODA-Loop

La succession rapide de ces phases fait notamment tout l’intérêt du système de défense israélien Iron Dome sur le plan militaire. Surveillant en permanence l’espace aérien (observe), le système identifie en quelques fractions de seconde les roquettes en approche (orient), calcule leur potentiel de menace et décide si elles doivent être interceptées (decide). Le cas échéant, il les abat (act). Un humain n’aurait aucune chance d’accomplir ces tâches dans le même intervalle de temps et donc avant que l’événement ne se produise.

Autre aspect essentiel de la révolution que représentent les systèmes autonomes : le coût en baisse et la disponibilité accrue des technologies et du matériel grâce à d’énormes investissements commerciaux. Le drone KARGU-2 décrit dans le dernier article de cette série illustre bien ce phénomène. Caractérisée par l’utilisation de petits drones, la guerre dans le Haut-Karabakh qui a opposé l’Arménie à l’Azerbaïdjan à l’automne 2020 a montré à quel point ces systèmes à l’autonomie accrue ont d’ores et déjà le potentiel de révolutionner la guerre. L’efficacité de ces engins a retenu l’attention des armées du monde entier.

Ce qui nous amène au troisième argument central soulignant le potentiel de ces systèmes : plus petits, moins chers, plus variés et plus compétents, ces robots sont de plus en plus souvent utilisés en groupes, voire en essaims, avec le potentiel de submerger les défenses adverses.

Autonomie accrue : avantages sur le plan militaire

Outre une conduite de l’action accélérée, la réduction des coûts et l’évolutivité des systèmes d’armes autonomes (SAA) dans le cadre de groupes présentent de nombreux avantages sur le plan militaire.

Les SAA contribuent en effet à protéger et à alléger la charge des forces alliées grâce à une moindre exposition des soldats dans les zones de guerre. Ils permettent de compenser les réductions des effectifs dans une certaine mesure, puisqu’un contingent réduit appuyé par des moyens techniques adéquats est en mesure d’accomplir ses missions de manière plus efficiente, durable et efficace. Ceci même si l’entretien requis serait plus important.

Les SAA peuvent par ailleurs être engagés dans des environnements où les communications sont perturbées (p. ex. liaisons radio ou GPS perturbées ainsi qu’une réduction des possibilités d’exploration électronique de l’adversaire). Ils facilitent également les engagements ennuyeux, pénibles, dangereux ou chronophages pour les humains (comme la surveillance de terrains, le soutien dans des zones contaminées, la détection et l’élimination des pièges explosifs ou encore la lutte contre les incendies).

Les SAA permettent d’intervenir pour la première fois ou de faciliter l’intervention dans les lieux difficiles d’accès, voire inaccessibles, à l’instar des régions montagneuses, de l’espace ou des fonds marins.

Ils offrent la possibilité de mieux respecter le droit humanitaire international, puisque les systèmes d’armes sans équipage ou autonomes ne fondent pas leurs décisions sur des émotions humaines (comme la fatigue, le stress, la peur ou la haine). Enfin, les dommages collatéraux potentiels peuvent être réduits ou évités grâce à une action sélective et précise.

Autonomie accrue : inconvénients sur le plan militaire

Certains avantages susmentionnés peuvent se transformer en inconvénients si l’adversaire trouve le moyen d’en tirer parti, contrairement aux forces alliées. Ces systèmes, et tout particulièrement les mini-drones, sont devenus moins chers et plus disponibles, offrant par conséquent à un adversaire plus faible et à des acteurs non étatiques la possibilité d’exercer un impact considérable à distance. Se défendre contre de tels systèmes nécessite des moyens considérables compte tenu de leur généralisation.

Difficulté des SAA : la nécessité de distinguer entre les systèmes d’armes avec équipage, sans équipage et autonomes. La lutte contre les essaims de drones de plusieurs types est par ailleurs complexe (systèmes purement autonomes et intelligents ou mélange, à l’instar d’une combinaison de drones, de leurres et de missiles de croisière pour submerger la défense aérienne intégrée). Faire la différence entre les systèmes ennemis, civils et ses propres systèmes est aussi une tâche ardue qui implique un besoin en protection accru dans le secteur arrière.

La question se pose également de savoir comment tirer parti de l’autonomie accrue des SAA, tout en conservant un contrôle humain sur les décisions militaires importantes. Une tâche autrefois réalisée par un humain, comme l’identification et l’acquisition d’un objet ennemi, pourrait très bien être assurée par une machine de nos jours. Mais la machine a-t-elle réellement le droit de décider de neutraliser une cible ? L’un des grands principes de la dignité humaine consiste à ne pas faire de l’humain un objet. Mais quand une machine réduit un humain à une cible acquise automatiquement par des capteurs, l’humain devient-il un objet ? Quelles règlementations faudrait-il mettre en place pour exclure pareille situation ?

LAWS : positionnement de la Suisse et contribution d’armasuisse S+T

Des travaux ont été engagés en 2014 dans le cadre des Nations Unies pour aborder les nombreux défis et questions en suspens liés aux LAWS (Lethal Autonomous Weapons Systems ou systèmes d’armes létales autonomes). Un Groupe d’experts gouvernementaux traitant des LAWS est né trois ans plus tard, avec pour mission d’évaluer les problématiques actuelles et émergentes en lien avec les nouvelles technologies dans ce domaine. La Suisse participe également aux débats, sous la conduite du Département fédéral des affaires étrangères (DFAE) et avec le soutien du DDPS, dont armasuisse S+T.

Les récentes interventions de la Commission de politique de sécurité du Conseil national à ce propos témoignent de l’importance croissante de ce sujet. Deux postulats exigent notamment du Conseil fédéral qu’il examine et établisse un rapport quant à des règles claires concernant les armes autonomes et les conséquences de la technologie des drones sur la sûreté de la Suisse.

Pour ce faire, armasuisse S+T peut compter sur son expertise technique et son réseau de recherche, et fournit des prises de position pour le compte de nos partenaires au sein de l’armée et du DFAE. Quelques projets de recherche du CSDR présentent des transversalités avec ces thématiques. Outre la détermination de l’autonomie des systèmes (voir l’article « Vraiment autonome, ou seulement automatique ? »), le CSDR s’efforce aussi de répondre aux questions éthiques entourant les LAWS. Un modèle d’évaluation est notamment développé en collaboration avec les universités de Zurich et de Saint-Gall afin d’évaluer et de traiter les risques éthiques avec pertinence. Un autre projet est consacré à l’effet que les conseils prodigués par une intelligence humaine ou artificielle produisent sur les décideurs dans un scénario d’aide à la conduite. Il est intéressant de constater que selon les premiers résultats, les personnes interrogées accordent effectivement une part de responsabilité à la machine. L’une des prochaines mesures du CSDR consiste à surveiller de manière plus systématique les progrès des systèmes armés autonomes et à traiter des exemples pratiques.

Bilan

L’autonomie des systèmes progresse à vitesse grand V dans la pratique, présentant une multitude d’avantages notables sur le plan militaire. Faire interdire les LAWS semble par conséquent difficile, d’où la pertinence d’une étude approfondie du sujet. Comme le souligne Paul Scharre, directeur des études au Center for a New American Security, « Le grand gagnant de la révolution robotique ne sera pas celui qui développera cette technologie en premier ou même celui qui aura la meilleure technologie, mais celui qui saura en tirer le meilleur parti ».