Pubblicato il 17 agosto 2023

Programma di ricerca 3b - Cyber & Intelligence Analytics

Al giorno d’oggi, il ciberspazio riveste un’importanza fondamentale per le autorità civili, l’economia privata e anche l’esercito, poiché collega tra loro diversi sistemi a livello globale, consentendo così la riproduzione digitale di processi d’affari critici. Ciò rende possibile uno scambio di informazioni rapido. Pertanto, non sorprende il fatto che il ciberspazio e il settore delle informazioni siano bersaglio di attacchi diretti e che vengano utilizzati in modo improprio per svolgere azioni nel quadro della guerra ibrida. Le tecnologie informatiche consentono di proteggere questi spazi elaborando i dati in modo efficiente, ad esempio al fine di individuare tempestivamente attività e minacce. Per le analisi informative, l’intelligenza artificiale (IA) e i big data sfruttano grandi volumi di dati per apprendere le correlazioni esistenti e identificare eventuali anomalie. Il programma di ricerca Cyber & Intelligence Analytics approfondisce in modo accurato le nuove tecnologie e architetture, al fine di elaborare i dati nel ciberspazio a scopi di difesa e di riconoscere le opportunità e i rischi correlati all’IA.

Cyberspazio — © DDPS

Le tecnologie dell’informazione e della comunicazione (TIC) sono oggi la spina dorsale della nostra società. Da un lato, le autorità automatizzano i processi amministrativi e le forze armate intensificano la digitalizzazione della rete integrata di sensori, informazioni, condotta ed efficacia (SICE). Dall’altro, le informazioni vengono diffuse e consumate in misura sempre maggiore tramite i social media. Alcuni attori sfruttano questa situazione per penetrare nei sistemi TIC, sottrarre dati, manipolarli o impedire l’accesso ai servizi. L’IA, che viene utilizzata sempre di più in diverse applicazioni, non è esente da tali pericoli.

La scienza dei dati e gli approcci si basano sull’intelligenza artificiale. Con la raccolta e l’analisi dei dati si aprono dunque nuove possibilità che possono condurre a un vantaggio tattico. In tale contesto, tecnologie adeguate consentono di ottenere informazioni che smascherano attività sospette nel ciberspazio e nel settore delle informazioni ma che forniscono anche dati sui possibili nemici e sulle loro intenzioni.

Il programma di ricerca si concentra sul rafforzamento delle competenze nell’acquisizione e nell’analisi dei dati mediante nuovi approcci basati sull’IA. L’avvento di nuovi algoritmi e modelli matematici consente di riconoscere correlazioni più complesse nei dati nonché di automatizzare parzialmente in misura maggiore i processi. Questi nuovi approcci non creano però soltanto nuove opportunità, bensì anche nuove sfide che devono essere costantemente valutate nonché nuovi vettori per eventuali attacchi, contro i quali occorre prepararsi adeguatamente. I sistemi di IA sono anche vulnerabili agli attacchi e alle manipolazioni, che possono influenzarne negativamente il comportamento e le previsioni, portando a decisioni errate con conseguenze potenzialmente gravi. Di conseguenza, nell’ambito del programma di ricerca vengono sviluppati metodi volti ad aumentare la robustezza e l’affidabilità generale dell’IA.

Le competenze acquisite in tal modo vengono trasferite alle unità operative dell’esercito, al fine di supportarlo nei suoi compiti di analisi informativa e ciberdifesa. In particolare, a tal fine occorre elaborare grandi volumi di dati eterogenei nel più breve tempo possibile per identificare informazioni chiave in grado di fornire un vantaggio tattico ai decisori. A tale scopo vengono valutati diversi paradigmi del calcolo ad alte prestazioni e vengono effettuati esperimenti con nuove architetture di big data.

Ambiti di competenza

• L’identificazione di attività e minacce nel ciberspazio e nel settore delle informazioni

  

  L’identificazione di attività — © DDPS

  Gli algoritmi vengono sviluppati secondo i più recenti standard dell’intelligenza artificiale per individuare attività sospette nei sistemi TIC e per reagire tempestivamente di fronte a tali situazioni. Può trattarsi di attacchi che hanno l’obiettivo di mettere fuori uso un sistema TIC o un’infrastruttura critica, di estrarre dati sensibili o di ottenere un vantaggio strategico. A tal fine vengono utilizzate diverse fonti di dati informatici. Inoltre, è possibile identificare minacce nonché potenziali attori che mirano a manipolare le informazioni e a influenzare l’opinione pubblica.

• Il supporto alle attività di analisi informativa

  

  Il supporto alle attività di analisi informativa — © DDPS

  Al giorno d’oggi ci sono a disposizione molte fonti d’informazione aperte. La verifica e l’elaborazione tempestiva di grandi quantità di informazioni rilevanti fa aumentare sempre di più la pressione sulle capacità di analisi disponibili dell’esercito. In tale contesto, gli algoritmi dell’intelligenza artificiale possono fornire strumenti utili per priorizzare e filtrare più velocemente le informazioni nonché per valutare e prevedere situazioni geopolitiche critiche quali confitti, rivolte e flussi migratori. I metodi sviluppati consentono di ottenere un’elaborazione delle informazioni ottimizzata nonché un quadro situazionale più preciso.

• Le tecnologie di big data per una gestione dei dati efficiente

  

  Tecnologie di big data — © DDPS

  Il ciberspazio genera ogni singolo minuto enormi quantità di dati che, oltre che per il training di modelli di IA, vengono elaborati anche in tempo reale al fine di ottenere un vantaggio in termini di conoscenze rispetto agli altri attori. A tale scopo occorre però un’infrastruttura di big data che consenta di salvare ed elaborare in modo efficiente questi volumi di dati che, in genere, sono molto grandi ed eterogenei. Al fine di rendere questi sistemi più efficienti, questo ambito di competenza sviluppa nuovi approcci relativi all’hardware nonché le nuove architetture del futuro. Nell’ambito della difesa è importante poter contare su una soluzione interna, efficiente e sicura che sia indipendente dai servizi cloud.

• Garantire l'affidabilità e la sicurezza dell'intelligenza artificiale

  

  Garantire l'affidabilità e la sicurezza dell'IA — © DDPS

  I modelli di IA sono suscettibili ai più svariati tipi di manipolazione, mediante dati di training alterati o con l’aggiunta di backdoor controllabili in modo mirato. Inoltre, è persino possibile estrarre dati di training non pubblici da un modello di IA pubblicato, aspetto che rappresenta un significativo pericolo per la protezione dei dati e la confidenzialità. L’IA aumenta la superficie utile per gli attacchi nel ciberspazio e può renderlo potenzialmente vulnerabile. Pertanto, è fondamentale verificare accuratamente ogni modello di IA in relazione all’utilità e ai rischi correlati prima di procedere con la relativa integrazione. Per disporre delle competenze necessarie per tale scopo, questo ambito di competenza si impegna a sviluppare metodi che consentano di determinare l’affidabilità di tali modelli, sia in termini di prestazioni che di robustezza.

Dimostratori tecnologici

• Anticipare i conflitti

  

  Anticipare i conflitti — © DDPS

  L’anticipazione dei conflitti può rappresentare un grande vantaggio tattico per la strategia di pace e negoziazione. Servendosi di diverse fonti di dati pubbliche quali ad esempio le reti e i social media, armasuisse S+T ha sviluppato algoritmi in grado di valutare e prevedere la stabilità politica di un Paese.

• I pericoli della generazione automatica di codici

  

  I pericoli della generazione automatica di codici — © DDPS

  Gli sviluppatori hanno a disposizione sempre più strumenti quali ChatGPT o Copilot, che consentono di generare automaticamente codici partendo dalla descrizione delle funzioni da implementare. Sebbene ciò consenta di risparmiare tempo rispetto ai tradizionali sistemi di sviluppo di applicazioni, occorre tenere in considerazione importanti aspetti correlati alla sicurezza. Nell’ambito di questo progetto è stato dimostrato che la generazione automatica di codici non è priva di errori e nasconde backdoor.

• Il riconoscimento collaborativo di malware

  

  Anticipare i conflitti — © DDPS

  È essenziale proteggere i sensori e gli attori nelle reti dai malware, in particolare negli ambienti dell’Internet delle cose. Questi software dannosi potrebbero compromettere la rete integrata di sensori, informazioni, condotta ed efficacia (SICE), impedendo all’esercito di svolgere il proprio incarico. Per questo motivo, il presente progetto ha sviluppato un approccio distribuito che si basa sull’apprendimento automatico, in modo che i dispositivi possano riconoscere tali attacchi e condividere in maniera collaborativa le proprie conoscenze sulle potenziali minacce.

• L’abuso dell’IA generativa per le attività di influenza

  

  L’abuso dell’IA generativa — © DDPS

  Grazie all’IA generativa, al giorno d’oggi è molto semplice generare immagini o addirittura video. Benché tali strumenti possano essere utilizzati per scopi creativi, vi è anche il rischio che vengano impiegati in modo improprio, ad esempio generando e diffondendo immagini con l’obiettivo di influenzare l’opinione pubblica e possibilmente destabilizzare la democrazia. Pertanto, è fondamentale sapere come funzionano tali strumenti e in particolare sviluppare la capacità di riconoscere gli artefatti in queste immagini per poter distinguere quelle autentiche da quelle false.

Rete

Mediante un’ampia rete internazionale di esperti con università, industria e partner governativi, il programma di ricerca Cyber & Intelligence Analytics garantisce la disponibilità delle necessarie competenze tecnologiche.

Contatto

Gerome Bovet — © DDPS

Gérôme Bovet, il nostro Capo del programma di ricerca «Cyber & Intelligence Analytics» è lieto del suo interesse!