Présentation des finalistes du Cyber Startup Challenge 2024
Les trois startups Patronus AI, QuantPi et Dynamo AI ont su convaincre le jury dans le processus de sélection du Cyber Startup Challenge 2024. Elles présenteront leurs solutions innovantes pour la « sécurité de l’intelligence artificielle » le 30 octobre 2024 lors d’un pitch à la conférence du Cyber-Defence Campus. Cette conférence est organisée chaque année par le Cyber Defence Campus d’armasuisse Sciences et technologie (S+T).
Samuel Albrecht, domaine spécialisé Cybersécurité et Data Science, domaine de compétences armasuisse Sciences et technologies
En bref
Sur le thème de la « sécurité de l’intelligence artificielle », des startups ont présenté leurs solutions innovantes pour sécuriser les applications autour de l’intelligence artificielle (IA) et minimiser les risques potentiels. Le gagnant se verra attribuer un contrat pour une démonstration de faisabilité et aura l’occasion de présenter sa solution dans un environnement réel du DDPS.
Le Cyber-Defence Campus (CYD) d’armasuisse Sciences et technologies participe activement à l’observation des évolutions cybernétiques et à la conception de réponses prospectives. Face à l’augmentation des cyberrisques, il est important d’identifier et de soutenir les technologies innovantes à un stade précoce. Les startups ont le potentiel de développer des idées novatrices apportant des avantages technologiques significatifs en matière de cybersécurité, même si ces solutions n’ont pas encore atteint leur pleine maturité.
Le Cyber Startup Challenge recherche de telles innovations pour développer en coopération avec des startups des solutions pour l’Armée suisse et d’autres acteurs de la sécurité. Cette année, l’accent est mis sur la « sécurité de l’intelligence artificielle » et des startups du monde entier ont présenté leurs technologies visionnaires dans ce domaine. Le jury a sélectionné les trois finalistes suivants parmi le large panel de participants:
QuantPi
QuantPi est un pionnier des technologies de confiance pour le développement d’une IA responsable. Sa plateforme de bout en bout teste de manière exhaustive les biais, la robustesse, l’explicabilité, la conformité et d’autres indicateurs critiques des systèmes d’IA. Cela fournit aux entités impliquées dans le cycle de vie de l’IA une compréhension commune de leurs modèles d’IA, qu’ils aient été créés en interne ou achetés à des tiers. Cette plateforme repose sur un puissant moteur de test propriétaire qui évalue uniformément tous les types d’IA (grands modèles de langage LLM, vision par ordinateur, apprentissage automatique, etc.). Elle fournit des informations exploitables et opérationnalise les directives internes en matière d’IA et les cadres réglementaires tels que l’EU IA Act.
QuantPi est issu de l’un des plus grands instituts de sécurité de l’information au monde, le CISPA. QuantPi trace un avenir dans lequel les machines intelligentes sont utilisées de manière fiable et responsable. Il bénéficie de la confiance de certaines des plus grandes entreprises et institutions au monde et reste un leader mondial dans la promotion de l’IA de confiance.
Patronus AI
Patronus AI est une entreprise d’évaluation, de protection et de sécurité automatisées des LLM. Sa plateforme permet aux entreprises et aux autorités d’évaluer et de comparer les performances des LLM dans des scénarios réels, de générer des cas de test à grande échelle, de surveiller les hallucinations et de prévenir d’autres comportements inattendus et dangereux.
Patronus AI fait économiser aux utilisateurs des milliers d’heures d’évaluation humaine, accélère le développement et la confiance dans les applications d’IA générative du prototype à la production, et limite les risques négatifs d’hallucinations et d’injections de prompts.
Dynamo AI
Fondée par une équipe de doctorants du MIT et d’experts en sécurité, Dynamo AI offre une approche complète de la sécurité et de la gestion des risques dans le domaine de l’IA. Chef de file de l’IA générative de conformité, Dynamo AI permet aux gouvernements de déployer des applications sécurisées et protégées à grande échelle.
Dynamo AI propose trois produits : DynamoEval évalue les risques liés à la sécurité, aux hallucinations, à la confidentialité et à la conformité des modèles d’IA générative. DynamoEnhance aide à répondre aux risques et vulnérabilités identifiés de l’IA générative pour assurer un fonctionnement plus sûr et plus fiable. DynamoGuard fournit un système de barrière de sécurité (guardrailing) en temps réel de l’IA générative, personnalisable en langage naturel et capable de fonctionner dans le cloud, hybride, sur site ou entièrement sur des appareils périphériques pour assurer une protection et une sécurité complètes des données pour l’IA. La possibilité d’exécuter le guardrailing de l’IA entièrement sur des appareils périphériques avec ou sans connexion Internet fournit aux clients de la défense une barrière de sécurité efficace pour les opérations critiques.
Le gagnant du Cyber Startup Challenge de cette année sera annoncé le 30 octobre 2024.