print preview

Retour Aperçu, messages, manifestations


La loi sur l'IA de l'UE soumise à des tests de résistance

L’Union européenne travaille sur une nouvelle loi pour réglementer l’intelligence artificielle (IA). Dans le cadre d’un concours unique en son genre, armasuisse Science et Technologie, en collaboration avec l’Université de Saint-Gall, a soumis la loi à un « test de résistance » afin d’en vérifier l’applicabilité.

26.07.2023 | Pascal Vörös et Joseph Boucher, Centre suisse des drones et de la robotique, armasuisse Science et technologies

Photo de groupe des deux équipes gagnantes du "The First University of St. Gallen Grand Challenge"
Photo de groupe des deux équipes gagnantes du "The First University of St. Gallen Grand Challenge"

Il ne se passe pas un jour sans qu’une nouvelle application basée sur des méthodes d’intelligence artificielle (IA) ne fasse la une de nos actualités. ChatGPT interagit avec nous sous forme de dialogue et Midjourney génère des images basées sur nos descriptions, pour ne citer que deux exemples. Ces avancées technologiques s’accompagnent souvent de questions sur les risques associés. Voulons-nous, par exemple, d'un système IA qui effectue une reconnaissance faciale biométrique en temps réel dans l’espace public ? Ou qui génère une évaluation sociale de notre personne à partir de caractéristiques liées à la personnalité ? L’UE propose une nouvelle loi sur l’IA qui interdirait ces pratiques ou réglementerait l’IA en fonction des risques. Elle se base sur quatre niveaux de risque : risque inacceptable, risque élevé, risque limité et risque minimal. L’Université de Saint-Gall, en collaboration avec le Centre Suisse des Drones et de la Robotique (CSDR) d’armasuisse Science et Technologie (S+T), a organisé un concours unique en son genre, au cours duquel la loi a été soumise à un « test de résistance » afin de vérifier son applicabilité.

« The First University of St. Gallen Grand Challenge » et le CSDR DDPS

Le concours a été lancé par le professeur Thomas Burri de l’Université de Saint-Gall. Il s’est inspiré des concours de robotique organisés par l’Agence américaine pour les projets de recherche avancée de défense (DARPA). « J’ai été fasciné par cette énergie et j’ai voulu adapter le concept à mes recherches dans le domaine juridique », explique le professeur Burri. Pour concrétiser cette idée, il a pu convaincre le CSDR DDPS de former un partenariat stratégique. Pascal Vörös, qui dirige les projets de recherche en sciences sociales au CSDR DDPS : « Avec le Grand Challenge, nous avons voulu tester sous toutes les coutures la mise en œuvre de la loi sur l’IA à travers des cas d’application pratiques. Nous avons plusieurs partenaires industriels, notamment des start-ups, qui essaient de se développer sur le marché européen. Comme ils utilisent l’IA dans leurs systèmes robotiques, ils sont confrontés à la nouvelle réglementation européenne. En participant au Grand Challenge, ils ont non seulement soutenu la recherche juridique, mais ils bénéficient également d’un large éventail de commentaires d’experts qui les aideront à être compétitifs sur le marché européen. De plus, nous développons des compétences pour comparer la loi européenne sur l’IA avec d’autres approches de réglementation de l’IA ».

Loi sur l’IA de l’UE

La loi sur l’IA de l’UE, c’est-à-dire le règlement de l’UE sur l’intelligence artificielle, est actuellement examinée par la Commission européenne, le Parlement européen et le Conseil de l’UE et devrait entrer en vigueur à la fin de l’année. Il s’agirait de la première réglementation globale de l’IA au monde.

Plus d'informations

Une sélection rigoureuse et un test au Boot Camp

Sur plus de 30 équipes ayant postulé en mars dernier, douze équipes de dix pays ont été sélectionnées sur la base de critères de compétence, de crédibilité et de diversité. Parallèlement, le CSDR DDPS a pu s’assurer le concours de trois de ses partenaires de recherche, Swiss-Mile, Gravis Robotics et Ascento, qui ont répondu aux questions des équipes et leur ont donné un aperçu approfondi de leur utilisation de l’IA. En guise de test pour la grande finale, un « Boot Camp » a été intégré à l’événement de robotique de terrain ARCHE le 14 juillet, où les équipes ont pu acquérir une expérience pratique précieuse avec des systèmes autonomes.

Des évaluations dans un délai très court et deux gagnants

Le 18 juillet, les équipes sont arrivées à l’Université de Saint-Gall pour s’affronter lors de la « Grand Challenge Final ». Quatre systèmes d’IA devaient être évalués. Un jury international a sélectionné les deux meilleures équipes pour un deuxième tour. Dans ce dernier, ils ont dû traiter un autre cas d’application d’IA. La performance globale des deux équipes a été jugée équivalente par le jury, de sorte que le prix de CHF 100 000.– a été réparti à CHF 50 000.– entre les deux équipes, l’une d’Espagne, l’autre d’Afrique du Sud, du Canada et de pays européens.

Questions à Lorenz Wellhausen, cofondateur de la start-up suisse Swiss-Mile

À quel point ta participation au First Grand Challenge de l’Université de Saint-Gall, et donc à un projet de recherche à orientation juridique du Centre suisse des drones et de la robotique (CSDR) du DDPS, a-t-elle été bénéfique pour toi ?

En tant que fondateur de start-up et utilisateur de méthodes d’intelligence artificielle (IA), je me concentre sur le développement technologique et les cas d’utilisation concrets pour développer notre activité. Participer au HSG GC me permet de mieux comprendre les conditions réglementaires auxquelles nous devons nous attendre si nous envisageons l’UE comme marché. En étant invités par le CSDR à participer en tant qu’utilisateurs d’IA, nous avons bénéficié d’un retour d’information éclairé de la part des nombreuses équipes d’experts. Cela nous permet de mieux évaluer comment notre utilisation de l’IA et notre modèle d’entreprise se positionnent par rapport à la législation européenne sur l’IA.

Peux-tu d’ores et déjà nous dire quelles leçons tu tires de ce processus et des résultats de l’évaluation ?

À notre stade précoce de développement, nous avons encore le temps de nous préparer aux exigences de la loi sur l’IA de l’UE. Les évaluations réalisées nous apportent un éclairage utile sans que nous ayons à payer une société de conseil. Par exemple, sans mécanismes appropriés de journalisation, d’enregistrement et de surveillance, il est impossible de satisfaire à de nombreuses exigences de la loi sur l’IA de l’UE. Nous avons maintenant ces aspects à l’esprit pour la suite du développement du robot et pouvons décider en toute connaissance de cause comment les gérer.


Retour Aperçu, messages, manifestations