Vorstellung der Finalisten der Cyber Startup Challenge 2024
Im Auswahlverfahren der Cyber Startup Challenge 2024 konnten die drei Startups Patronus AI, QuantPi und Dynamo AI die Jury überzeugen. Ihre innovativen Lösungen zur «Sicherheit von künstlicher Intelligenz» präsentieren sie am 30. Oktober 2024 in einem Pitch bei der Cyber-Defence Campus Konferenz. Diese Konferenz wird jährlich vom Cyber Defence Campus von armasuisse Wissenschaft und Technologie (W+T) organisiert.
Samuel Albrecht, Fachbereich Cybersicherheit und Data Science, Kompetenzbereich armasuisse Wissenschaft und Technologie
In Kürze
Zum Thema «Sicherheit von künstlicher Intelligenz» haben Startups ihre innovativen Lösungsansätze zur Absicherung von Anwendungen rund um künstliche Intelligenz (KI) und der Minimierung potenzieller Risiken präsentiert. Der Gewinner wird mit einem Auftrag für einen Machbarkeitsnachweis ausgezeichnet und hat die Gelegenheit, seine Lösung in einer realen Umgebung des VBS zu demonstrieren.
Der Cyber-Defence (CYD) Campus von armasuisse Wissenschaft und Technologie ist massgeblich daran beteiligt, Cyber-Entwicklungen zu beobachten und vorausschauend zu reagieren. Angesichts der steigenden Cyberrisiken ist es wichtig, frühzeitig innovative Technologien zu identifizieren und zu unterstützen. Startups haben das Potenzial, bahnbrechende Ideen zu entwickeln, die bedeutende technologische Vorteile für die Cybersicherheit bieten, auch wenn diese Lösungen noch nicht vollständig ausgereift sind.
Im Rahmen der Cyber Startup Challenge wird gezielt nach solchen Innovationen gesucht, um gemeinsam mit Startups Lösungen für die Schweizer Armee und andere Sicherheitsakteure zu entwickeln. In diesem Jahr liegt der Schwerpunkt auf der «Sicherheit von künstlicher Intelligenz» und Startups aus der ganzen Welt präsentieren dazu ihre visionären Technologien. Die Jury wählte schliesslich die folgenden drei Finalisten aus der Vielzahl der teilnehmenden Unternehmen aus:
QuantPi
QuantPi leistet eine Pionierrolle im Bereich vertrauenswürdiger Technologien für die Entwicklung verantwortungsbewusster KI. Seine End-to-End-Plattform testet KI-Systeme umfassend auf Bias, Robustheit, Erklärbarkeit, Compliance und andere kritische Metriken. Dies bietet den am KI-Lebenszyklus Beteiligten ein gemeinsames Verständnis ihrer KI-Modelle, unabhängig davon, ob diese intern erstellt oder von Dritten bezogen wurden. Das Herzstück dieser Plattform ist eine leistungsstarke proprietäre Testmaschine, die alle Arten von KI (LLMs (Large Language Models), Computer Vision, Machine Learning usw.) einheitlich evaluiert. Dies liefert umsetzbare Erkenntnisse und operationalisiert interne KI-Richtlinien und regulatorische Rahmenbedingungen wie den European AI Act.
QuantPi ist aus einem der weltweit führenden Institute für Informationssicherheit (CISPA) hervorgegangen. Es gestaltet eine Zukunft, in der intelligente Maschinen vertrauensvoll und verantwortungsvoll eingesetzt werden. QuantPi geniesst das Vertrauen einiger der weltweit grössten Unternehmen und Institutionen und bleibt weltweit führend in der Förderung vertrauenswürdiger KI.
Patronus AI
Patronus AI ist ein Unternehmen für automatisierte LLM Evaluation, Schutzmassnahmen und Sicherheit. Ihre Plattform ermöglicht es Unternehmen und Behörden, die Leistung von LLMs in realen Szenarien zu evaluieren und zu vergleichen, Testfälle in grossem Umfang zu generieren, Halluzinationen zu überwachen und andere unerwartete und unsichere Verhaltensweisen zu verhindern.
Anwender profitieren vom Einsatz von Patronus AI, indem sie tausende Stunden menschlicher Evaluierung einsparen, die Entwicklung und das Vertrauen in GenAI-Anwendungen vom Prototyp bis zur Produktion beschleunigen und die negativen Risiken von Halluzinationen und Prompt-Injektionen minimieren.
Dynamo AI
Dynamo AI ist von einem Team aus promovierten Wissenschaftlern des MIT und Sicherheitsexperten gegründet worden und bietet einen umfassenden Ansatz für KI-Sicherheit und Risikomanagement. Dynamo AI ist führend im Bereich Compliance-konformer GenAI und ermöglicht es Regierungen, sichere und geschützte Anwendungen in grossem Umfang einzusetzen.
Dynamo AI bietet drei Produkte: DynamoEval evaluiert GenAI-Modelle auf Sicherheits-, Halluzinations-, Datenschutz- und Compliance-Risiken. DynamoEnhance hilft, identifizierte GenAI-Risiken und Schwachstellen zu beheben, um einen sichereren und zuverlässigeren Betrieb zu gewährleisten. DynamoGuard bietet Echtzeit-Guardrailing für GenAI, das in natürlicher Sprache anpassbar ist und in der Cloud, hybrid, vor Ort oder vollständig auf Edge-Geräten ausgeführt werden kann, um umfassenden Datenschutz und Sicherheit für KI zu gewährleisten. Die Möglichkeit, KI-Guardrailing vollständig auf Edge-Geräten mit oder ohne Internetverbindung auszuführen, bietet Kunden aus dem Verteidigungsbereich ein Guardrailing für kritische Einsätze.
Am Mittwoch, 30. Oktober 2024, wird der Gewinner der diesjährigen Cyber Startup Challenge gekürt.