Publié le 17 août 2023

Programme de recherche 3b - Cyber & Intelligence Analytics

Le cyberespace revêt aujourd’hui une importance capitale pour les autorités civiles, le secteur privé et l’armée. Il relie des systèmes dans le monde entier et permet une reproduction numérique de processus d’affaires critiques. Cela garantit ainsi un échange rapide d’informations. Il n’est donc pas étonnant que le cyberespace et l’espace de l’information soient la cible d’attaques directes et utilisés de manière abusive pour mener des actions dans le cadre d’une guerre hybride. Les technologies de données permettent de protéger ces espaces grâce au traitement efficace des données afin, par exemple, de détecter à un stade précoce des activités et des menaces. Pour les analyses de renseignement, l’intelligence artificielle (IA) et le big data exploitent de grandes quantités de données afin d’apprendre des corrélations et d’identifier des anomalies. Le programme de recherche Cyber & Intelligence Analytics se consacre activement aux nouvelles technologies et architectures permettant de traiter les données dans le cyberespace à des fins de défense et d’identifier les opportunités et les risques liés à l’IA.

Cyberespace — © DDPS

Aujourd’hui, les systèmes d’information et de communication (TIC) constituent l’épine dorsale de notre société. D’un côté, les autorités automatisent les processus administratifs et les armées renforcent la numérisation du réseau intégré de capteurs, de renseignement, de conduite et d’action (CRCA). De l’autre côté, de plus en plus d’informations sont diffusées et consommées via les réseaux sociaux. Différents acteurs tirent parti de cette situation pour s’introduire dans les systèmes de TIC, intercepter et manipuler les données ou encore empêcher l’accès à des services. Une IA, de plus en plus utilisée dans différentes applications, n’est pas à l’abri de ces dangers.

La science des données et les approches correspondantes s’appuient sur l’intelligence artificielle. La collecte et l’analyse des données génèrent ainsi de nouvelles opportunités qui peuvent créer un avantage tactique. Des techniques appropriées permettent d’obtenir des informations révélant des activités suspectes dans le cyberespace et l’espace de l’information, mais fournissant également des renseignements sur des adversaires potentiels et leurs intentions.

Le programme de recherche se concentre ainsi sur le renforcement des compétences dans l’acquisition et l’analyse des données à l’aide d’approches inédites basées sur l’IA. L’apparition de nouveaux algorithmes et modèles mathématiques permet de détecter des interactions plus complexes au niveau des données et d’accroître l’automatisation partielle des processus. Cependant, ces nouvelles approches ne créent pas uniquement de nouvelles opportunités. Elles impliquent également de nouveaux défis, qu’il convient d’évaluer en permanence, ainsi que de nouveaux vecteurs d’attaque auxquels il faut se préparer. L’IA est également vulnérable à diverses attaques et manipulations qui peuvent avoir un impact négatif sur son comportement et ses prévisions, ce qui peut ensuite conduire à des décisions erronées aux conséquences potentiellement graves. C’est pourquoi le programme de recherche prévoit le développement de méthodes visant à renforcer la robustesse et la fiabilité générale de l’IA.

Les compétences ainsi obtenues sont transférées aux unités opérationnelles de l’armée afin de les soutenir dans leurs tâches de renseignement et de cyberdéfense. Il est ici plus particulièrement nécessaire de traiter de grandes quantités de données hétérogènes dans des délais très courts afin d’identifier les informations clés donnant un avantage tactique aux décideurs. Dans cette optique, plusieurs paradigmes de calcul à haute performance sont évalués et testés avec de nouvelles architectures de big data.

Champs de compétences

• Détection d’activités et de menaces dans le cyberespace et l’espace de l’information

  

  Détection d’activités — © DDPS

  Des algorithmes à la pointe de l’intelligence artificielle sont développés afin de détecter les activités suspectes dans les systèmes de TIC et pouvoir y réagir à temps. Il peut s’agir d’attaques visant à mettre hors service un système de TIC ou une infrastructure critique, à extraire des données sensibles ou à obtenir un avantage stratégique. Différentes sources de cyberdonnées sont utilisées à cette fin. Il est également possible d’identifier les menaces et les acteurs potentiels ayant pour objectif de manipuler les informations et d’influencer l’opinion publique.

• Assistance à l’évaluation pour les activités de renseignement

  

  Assistance à l’évaluation pour les activités de renseignement — © DDPS

  À l’heure actuelle, de nombreuses sources d’informations ouvertes sont disponibles. L’examen et le traitement rapides de grandes quantités d’informations pertinentes augmentent de plus en plus la pression sur les capacités d’analyse disponibles de l’armée. Les algorithmes d’intelligence artificielle peuvent ainsi servir d’outil pour hiérarchiser plus rapidement les informations et les filtrer, ainsi que pour évaluer et prédire des situations géopolitiques critiques comme les conflits, les insurrections et les flux migratoires. Les méthodes développées permettent un traitement optimisé des informations et une image plus précise de la situation.

• Les technologies big data pour une gestion efficace des données

  

  Big Data technologies — © DDPS

  Chaque minute, le cyberespace génère d’énormes quantités de données. Elles servent à entraîner les modèles d’IA et sont également traitées en temps réel afin d’avoir une longueur d’avance sur les autres acteurs en matière de connaissances. Cela nécessite toutefois une infrastructure big data qui permette de stocker et de traiter efficacement ces quantités de données généralement énormes et hétérogènes. Afin que ces systèmes gagnent en efficacité, ce champ de compétences s’oriente vers de nouvelles approches matérielles et les nouvelles architectures de l’avenir. Dans le contexte de la défense, il est essentiel de pouvoir compter sur une solution interne, efficace et sûre, indépendante des services de cloud.

• Garantie de la fiabilité et de la sécurité de l’intelligence artificielle

  

  Garantie de la fiabilité et de la sécurité de l'IA — © DDPS

  Les modèles d’IA sont vulnérables aux manipulations les plus diverses, qu’elles soient provoquées par des données d’entraînement faussées ou par l’ajout de portes dérobées pouvant être contrôlées de manière ciblée. En outre, il est même possible d’extraire des données d’entraînement non publiques à partir d’un modèle d’IA publié, ce qui constitue un danger majeur pour la protection des données et la confidentialité. L’IA accroît la surface d’attaque dans le cyberespace et peut favoriser des vulnérabilités. C’est pourquoi il est essentiel de contrôler de manière détaillée, avant son intégration, chaque modèle d’IA quant à son utilité et aux risques associés. Afin de disposer des capacités requises à cet effet, ce champ de compétences vise à développer des méthodes permettant de déterminer la fiabilité de ces modèles, tant en matière de performance que de robustesse.

Démonstrateurs technologiques

• Anticipation des conflits

  

  Anticipation des conflits — © DDPS

  L’anticipation des conflits peut constituer un avantage tactique majeur dans le cadre d’une stratégie de paix et de négociation politique. Sur la base de plusieurs sources de données publiques, comme les réseaux sociaux et les médias, armasuisse S+T a développé des algorithmes capables d’évaluer et de prévoir la stabilité politique d’un pays.

• Dangers de la génération automatique de code

  

  Dangers de la génération automatique de code — © DDPS

  Les développeurs disposent de plus en plus d’outils, tels que ChatGPT ou Copilot. Ces instruments permettent la génération automatique de code à partir de la description des fonctions à implémenter. Bien que cette approche puisse apporter un gain de temps par rapport au développement classique d’applications, il y a lieu de tenir compte d’aspects de sécurité majeurs. Dans le cadre de ce projet, il a été possible de prouver que la génération automatique de code n’est pas exempte d’erreurs et peut cacher des portes dérobées.

• Reconnaissance collaborative de programmes malveillants

  

  Reconnaissance collaborative de programmes malveillants — © DDPS

  Il est essentiel de protéger les capteurs et acteurs des réseaux contre les programmes malveillants, en particulier dans les environnements de l’Internet des objets. Ces programmes pourraient compromettre le réseau intégré de capteurs, de renseignement, de conduite et d’action (CRCA) et empêcher l’armée d’accomplir sa mission. C’est pourquoi ce projet a conçu une approche distribuée basée sur l’apprentissage automatique, de manière que les appareils détectent ces attaques et puissent échanger de manière collaborative leurs connaissances sur des menaces potentielles.

• Utilisation abusive de l’IA générative pour les activités d’influence

  

  Utilisation abusive de l’IA générative — © DDPS

  Aujourd’hui, l’IA générative permet de créer très facilement des images et même des vidéos. Bien que ces outils puissent être utilisés à des fins créatives, il existe également un risque d’utilisation abusive. Il est ainsi possible de créer et de diffuser des images afin d’influencer l’opinion publique et éventuellement de déstabiliser une démocratie. Il est donc essentiel de comprendre le fonctionnement de ces outils. La capacité de reconnaître les artefacts présents dans ces images est ici essentielle afin de pouvoir distinguer les images authentiques des falsifications.

Réseau

Grâce à un vaste réseau international d’experts, constitué d’universités, d’acteurs industriels et de partenaires gouvernementaux, le programme de recherche Cyber & Intelligence Analytics garantit la disponibilité des compétences technologiques requises.

Conact

Gerome Bovet — © DDPS

Gérôme Bovet, notre responsable de programme de recherche « Cyber & Intelligence Analytics » se réjouit de votre intérêt!