Sicherheit im Zeitalter der KI: Chancen und Risiken
Der Cyber-Defence Campus wurde 2019 von armasuisse Wissenschaft und Technologie gegründet. Die zentrale Aufgabe des Campus ist die Vernetzung von Bundesverwaltung, Industrie und Wissenschaft in den Bereichen digitale Entwicklung und Cyberabwehr. Die diesjährige Cyber-Defence (CYD) Campus Konferenz fand am 26. Oktober 2023 im Kursaal in Bern statt. Das Kernthema der Konferenz war «Sicherheit im Zeitalter der KI: Chancen und Risiken».
Gervasoni Anna, Fachbereich Kommunikation, Kompetenzbereich Ressourcen und Support
Der Cyber-Defence Campus organisiert für die Öffentlichkeit zugängliche Tagungen und Konferenzen zum Thema Cyberabwehr, bei denen Experten aus der Industrie, der Bundesverwaltung oder der Forschung zu Wort kommen. Dieses Jahr drehte sich alles um die Frage der Sicherheit im Zusammenhang mit künstlicher Intelligenz befasst. An dem Wettbewerb nahmen auch zehn aufstrebende Start-ups teil, die an dieser Front arbeiten und neue Technologien zur Umsetzung von Cybersicherheit vorgeschlagen haben. Am Ende des Tages wurde das diesjährige Gewinner-Start-up gekürt. Nachstehend finden Sie kurze Auszüge aus drei Reden, die im Laufe des Tages gehalten wurden.
Verantwortungsvolle KI-Praktiken
An diesem Tag präsentierten mehrere Experten zum Thema KI. Der erste Experte war Christoph Nicolais, CEO von Kudelsky, der in seinem Vortrag auf die Bedeutung der Nutzung von KI auf Schweizer Ebene und deren verantwortungsbewusstem Einsatz einging. Nach Ansicht des CEO eines der grössten Sicherheitsunternehmen der Schweiz muss KI wie ChatGPT integriert und eingesetzt werden, um eine Vielzahl von unternehmensweiten Aufgaben effizienter zu bewältigen. Er geht allerdings noch weiter: KI sollte auch im schulischen Bereich integriert werden, um Kindern bereits in jungem Alter (die täglich mit KI-generierten Inhalten konfrontiert werden) eine Erklärung über ihre Funktionsweise und die damit verbundenen Risiken zu geben. Darüber hinaus sollte an einer Policy gearbeitet werden und Startups, die mit und an KI arbeiten, sollten ermutigt und unterstützt werden, um verantwortungsvolle Praktiken zu schaffen.
Die Digitalisierung der Schweizer Armee wird auch KI einschliessen
Auch der Chef der Schweizer Armee, Thomas Süssli, ergriff das Wort und erklärte, dass die Armee seit 2019 bestrebt sei, ihre ersten Schritte zur Digitalisierung der Streitkräfte mit besonderem Fokus auf Sicherheit zu definieren. «Wenn uns heute jemand angreifen würde, würde der Angriff wahrscheinlich auf der Ebene der Infrastruktur erfolgen», was bedeutet, dass wir «unsichtbar» sein müssen. Die Bereiche, in denen die Schweizer Armee KI einsetzen möchte, sind die Logistik, die Cyber-Welt und jener der Simulationen. Vorerst plant die Armee die Implementierung einer Digitalisierung, die auch KI einbeziehen will. In diesem Zusammenhang erscheint am 25. Januar 2024 eine Publikation, in der die künftige Digitalisierungsstrategie erläutert wird. Es wurde jedoch bereits betont, dass bei Entscheidungsprozessen der Schweizer Armee immer der Mensch einbezogen wird und diese nicht der KI überlassen werden.
Explainability als Schlüssel
Am Nachmittag hielt Professor Dr. Philippe Cudré-Mauroux von der Universität Freiburg eine wichtige Rede darüber, wie wertvoll KI ist, und wie sie gleichzeitig scheitern kann. Anhand von Beispielen wurden drei Bias zur Untermauerung dieser Aussage erläutert: Overfitting, Biased Training Data und Hallucinations. Diese Bias treten auf der Ebene des Machine Learning auf (jenem Moment, in dem eine KI für die Ausführung einer bestimmten Aufgabe geschult wird und Daten eingegeben werden, aus denen sie lernen muss). Ein zitiertes Beispiel, nämlich das der Biased Training Data, betrifft Amazon. Das Unternehmen hatte es der KI überlassen, die besten Lebensläufe auszuwählen, die für eine offene Stelle eingegangen sind. Das Problem besteht darin, dass die im ML-Prozess eingegebenen Daten/Lebensläufe alte CVs waren und ausschliesslich von weissen Männern stammten. Dies hat dazu geführt, dass die KI unter den Bewerbungen für die neue Stelle nur weisse Männer ausgewählt hat (auf der Grundlage der erlernten «Erfolgskriterien») und Frauen wie andere Minderheiten ausgeklammert wurden.
Nach Ansicht des Professors werden die drei genannten Probleme immer präsent bleiben, da sie «dem Deep Learning inhärent» sind. Dies liegt daran, dass die Modelle, nach denen ein ML-Prozess abläuft, stochastisch sind: Die Menge der eingegebenen Daten ist enorm (in grossem Massstab) und von geringer Qualität und die KI ist generativ (d.h. neue Inhalte werden aus alten generiert). Die Lösung besteht also darin, sich auf die Explainability zu konzentrieren: Auf den Menschen oder vielmehr auf Experten zu vertrauen, die unverzichtbar sind, um KI-Fehler vorherzusagen und zu interpretieren und darzulegen, was KI uns bieten kann.