Vi presentiamo le finaliste della Cyber Startup Challenge 2024
Nel processo di selezione della Cyber Startup Challenge 2024, le tre start-up Patronus AI, QuantPi e Dynamo AI hanno convinto la giuria. Il 30 ottobre 2024 presenteranno le loro soluzioni innovative sul tema «Test di sicurezza dell’AI» in un pitch in occasione della conferenza Cyber-Defence Campus, che viene organizzata una volta all’anno dal Cyber-Defence Campus di armasuisse Scienza e tecnologia.
Samuel Albrecht, settore specialistico Cybersicurezza e Data Science, settore di competenza armasuisse Scienza e tecnologia
In breve
Le start-up hanno presentato le loro innovative proposte di soluzione sul tema «Test di sicurezza dell’AI» per la messa in sicurezza delle applicazioni di intelligenza artificiale e la riduzione al minimo dei potenziali rischi. Il vincitore verrà premiato con incarico per una dimostrazione di fattibilità e avrà l’opportunità di illustrare la propria soluzione in un ambiente reale del DDPS.
Il Cyber-Defence Campus (CYD) di armasuisse Scienza e tecnologia svolge un ruolo fondamentale nel monitorare gli sviluppi in ambito informatico e nel reagire a essi in modo lungimirante. Visti i crescenti rischi informatici, è importante identificare tempestivamente le tecnologie innovative e supportarle. Le start-up hanno il potenziale per sviluppare idee pionieristiche che offrono significativi vantaggi di tipo tecnologico per la cibersicurezza, anche se tali soluzioni non sono ancora del tutto mature.
Nel quadro della Cyber Startup Challenge si cercano in modo mirato tali innovazioni, al fine di sviluppare insieme alle start-up soluzioni adeguate per l’Esercito svizzero e altri attori operanti nel campo della sicurezza. Quest’anno, il tema centrale è il «Test di sicurezza dell’AI» e start-up provenienti da ogni angolo del mondo presentano le loro tecnologie visionarie. Alla fine, la giuria ha selezionato le seguenti tre finaliste tra le tante aziende partecipanti.
QuantPi
QuantPi svolge un ruolo pionieristico nell’ambito delle tecnologie trustworthy o degne di fiducia per lo sviluppo di un tipo di intelligenza artificiale consapevole delle proprie responsabilità. La sua piattaforma end-to-end testa i sistemi di intelligenza artificiale in modo completo in relazione a bias, robustezza, compliance a altre metriche critiche. Ciò offre ai soggetti coinvolti nel ciclo di vita dell’AI una comprensione comune dei loro modelli di AI indipendentemente dal fatto che siano stati creati internamente oppure ottenuti da terzi. Il cuore di questa piattaforma è una potente macchina di prova di tipo proprietario che valuta in modo standardizzato tutte le tipologie di AI (LLM (Large Language Models), Computer Vision, Machine Learning, ecc.). Ciò fornisce informazioni fruibili e rende operative linee guida interne sull’AI e condizioni quadro regolatrici come lo European AI Act, ossia la legge europea sull’intelligenza artificiale.
QuantPi è nata da uno dei principali istituti di sicurezza informatica del mondo (CISPA) e sta plasmando un futuro in cui macchine intelligenti vengono impiegate all’insegna della fiducia e della responsabilità. QuantPi gode della fiducia di alcune aziende e istituzioni tra le più grandi al mondo e mantiene una posizione da leader a livello globale nella promozione dell’intelligenza artificiale degna di fiducia.
Patronus AI
Patronus AI è un’azienda specializzata in valutazione automatizzata di LLM, misure di protezione e sicurezza. La sua piattaforma consente ad aziende e autorità di valutare e confrontare le prestazioni degli LLM in scenari reali, di generare casi di test in grandi quantità, di monitorare le allucinazioni e di prevenire altri comportamenti inattesi e non sicuri.
Gli utenti possono beneficiare dell’impiego di Patronus AI risparmiando migliaia di ore di valutazione umana, velocizzando lo sviluppo e la fiducia in applicazioni GenAI, dalla messa a punto del prototipo alla produzione, nonché riducendo al minimo i rischi negativi dovuti ad allucinazioni e prompt injection.
Dynamo AI
Dynamo AI è stata fondata da un team di scienziati con dottorato conseguito presso il MIT ed esperti di sicurezza e offre un approccio completo per la sicurezza e la gestione dei rischi dell’intelligenza artificiale. Dynamo AI è un’azienda leader nel settore della GenAI conforme alla compliance e consente ai governi di impiegare su larga scala applicazioni sicure e protette.
Dynamo AI offre tre prodotti: DynamoEval valuta modelli di GenAI in relazione ai possibili rischi relativi a sicurezza, allucinazioni, protezione dei dati e compliance. DynamoEnhance aiuta a risolvere i rischi della GenAI e i punti critici identificati al fine di garantire operazioni più sicure e affidabili. DynamoGuard offre un sistema di guardrail in tempo reale per la GenAI, che può essere adattato in lingua naturale e applicato nel cloud, in forma ibrida, in loco o integralmente su dispositivi edge per assicurare una protezione dei dati e una sicurezza complete per l’intelligenza artificiale. La possibilità di avere a disposizione un sistema di guardrail dell’AI completamente su dispositivi edge con o senza connessione Internet offre ai clienti del settore della difesa una soluzione per gli impieghi critici.
Mercoledì 30 ottobre 2024 verrà eletto il vincitore della Cyber Startup Challenge di quest’anno.