Podcast vidéo CSDR « Systèmes d’armes autonomes et contrôle humain »
Le Centre Suisse des Drones et de la Robotique (CSDR) d’armasuisse Sciences et technologies (S+T) a réalisé en collaboration avec la Digital Society Initiative (DSI) de l’Université de Zurich un podcast vidéo sur le thème « Systèmes d’armes autonomes et contrôle humain ». En neuf épisodes, la question de savoir à quoi pourraient ressembler les approches visant à garantir le contrôle humain dans les systèmes d'armes autonomes sera abordée sous différentes perspectives. Raúl Gander du CSDR présente les différents épisodes, dans lesquels des expertes et experts des domaines de la défense, du droit international public, du droit international humanitaire (DIH), du droit pénal, du contrôle de l'armement et de l'éthique apportent leurs connaissances spécialisées. Cette série de podcasts vidéo a été réalisé en collaboration avec PD. Dr. Markus Christen (DSI) et le Multimedia & E-Learning Services (MELS) de l'Université de Zurich.
Raúl Gander, Centre suisse des drones et de la robotique, armasuisse Science et Technologie
Introduction du CSDR
Dans le premier épisode, Raúl Gander introduit la série de podcasts vidéo « Systèmes d'armes autonomes et contrôle humain ». Les développements militaires dans le domaine des systèmes d'armes autonomes soulèvent des questions juridiques, politiques, éthiques et humanitaires qui sont abordées dans cette série de podcasts.
Perspective militaire
Dans le deuxième épisode le Remplaçant du chef du commandement des Opérations, divisionnaire Stephan Christen, explique le rôle que jouent déjà les systèmes d'armes autonomes dans différentes zones de guerre. En outre, les chances et les défis des systèmes d'armes dotés de capacités autonomes seront discutés pour l'armée suisse.
Perspective du droit international public
Quelle est la base juridique de l'utilisation de systèmes d'armes autonomes dans les conflits armés ?
Le troisième épisode traite des normes centrales de droit international public qui s'appliquent lors de l'utilisation de systèmes d'armes autonomes. L'entretien se concentre sur le principe de distinction et le principe de proportionnalité, deux piliers fondamentaux du droit international humanitaire (DIH). Les différences entre la responsabilité des États et la responsabilité pénale individuelle dans l'utilisation d'armes autonomes sont également développées dans cette suite. Paola Gaeta, professeur de droit international public au Geneva Graduate Institute et directrice de l’Académie de droit international humanitaire et de droits humains, interviendra en tant qu'experte.
Perspective du droit pénal
Qui est pénalement responsable lorsque des systèmes d'armes autonomes commettent des crimes de guerre?
Dans le quatrième épisode, les conditions qui doivent être remplies pour qu'une faute individuelle puisse être imputée lorsque des personnes subissent des dommages illégaux suite à l'utilisation de systèmes d'armes autonomes sont élaborées. La problématique du partage des responsabilités et les approches visant à combler les lacunes en matière de responsabilité seront également abordées. Sabine Gless, professeur de droit pénal et de procédure pénale à l'Université de Bâle, et Dorotea Avedisian, doctorante à la chaire Gless, interviendront en tant qu'expertes.
Prévisibilité des systèmes autonomes
Les décisions des systèmes autonomes peuvent-elles être anticipées?
Le cinquième épisode s'intéresse à la prévisibilité des systèmes autonomes et à son importance pour l'exercice du contrôle humain. Il met également en lumière la manière dont les humains perçoivent l'intelligence artificielle (IA) dans différentes applications, comment ils interagissent avec les systèmes d'IA et ce qui est nécessaire pour rendre la collaboration entre les humains et l'IA efficace. L'invité du studio, le Dr. Serhiy Kandul, est post-doctorant à l'Institute of Biomedical Ethics and History of Medicine (IBME) de l'Université de Zurich et ses recherches portent sur les questions d'acceptation et de contrôle des systèmes d'IA.
Perspective éthique et juridique
Dans le sixième épisode, le Prof. Dr. Thomas Burri et le PD Dr. Markus Christen abordent les principaux défis actuels liés aux systèmes d'armes autonomes d'un point de vue juridique et éthique. Les experts discutent ensuite des principaux champs d'action pour garantir le contrôle humain des armes autonomes et des scénarios d'avenir qui pourraient être réalistes et judicieux dans ce contexte. Thomas Burri est professeur de droit européen et international à l'Université de Saint-Gall (HSG) et Markus Christen est directeur de la Digital Society Initiative (DSI) et responsable du Digital Ethics Lab à l'Université de Zurich.
Perspective du CICR
Comment les armes autonomes peuvent-elles être utilisées en conformité avec le droit international?
Dans ce septième épisode, Georgia Hinds, conseillère juridique au Comité international de la Croix-Rouge (CICR), décrit comment le CICR définit les systèmes d'armes autonomes, quels développements le CICR observe et quels systèmes actuellement utilisés répondent aux critères d'un système d'armes autonome. Le CICR explique quelles classes de systèmes d'armes autonomes devraient être interdites et comment limiter l'environnement opérationnel et les paramètres des systèmes autorisés. Georgia Hinds travaille au CICR sur les implications juridiques et humanitaires des armes autonomes, de l'IA et d'autres nouvelles technologies de guerre.
Perspective du DFAE
Quelle est la position de la Suisse en matière de politique étrangère concernant les armes autonomes ?
Dans ce huitième épisode, Reto Wollenmann du Département fédéral des affaires étrangères (DFAE) fait le point sur l'état actuel du processus de Genève, dans lequel un groupe d'experts gouvernementaux des Nations Unies négocie la réglementation internationale des systèmes d'armes autonomes. Les points de vue de la Suisse concernant le développement et l'utilisation d'armes autonomes ainsi que les approches suivies par la Suisse pour garantir le contrôle humain seront au centre de l'entretien. Reto Wollenmann est chef de section adjoint pour le contrôle de l'armement, le désarmement et la cybersécurité au DFAE.
Conclusions du CSDR
Dans le dernier épisode, Raúl Gander du Centre suisse des drones et de la robotique (CSDR) tire les conclusions de la série de podcasts vidéo. Les discussions passionnantes et approfondies avec des experts de différentes disciplines universitaires, unités administratives et organisations ont montré à quel point le thème principal de cette série de podcasts vidéo sur la garantie du contrôle humain sur les systèmes d'armes autonomes est complexe et multidimensionnel.