print preview

Zurück zur Übersicht Startseite


EU-KI-Gesetz im Stresstest

Die europäische Union arbeitet an einem neuen Gesetz zur Regulierung der künstlichen Intelligenz (KI). Im Rahmen eines einzigartigen Wettbewerbs hat armasuisse Wissenschaft und Technologie in Zusammenarbeit mit der Universität St. Gallen das Gesetz einem «Stresstest» unterzogen, um es auf seine Anwendbarkeit zu überprüfen.

26.07.2023 | Pascal Vörös und Joseph Boucher, Schweizer Drohnen- und Robotik-Zentrum, armasuisse Wissenschaft und Technologie

Gruppenfoto der beiden Siegerteams der "The First University of St. Gallen Grand Challenge"
Gruppenfoto der beiden Siegerteams der "The First University of St. Gallen Grand Challenge"

Es vergeht kaum ein Tag, an dem nicht eine neue Anwendung, die auf Methoden der künstlichen Intelligenz (KI) basiert, in unseren Nachrichten auftaucht. ChatGPT interagiert mit uns in Form eines Dialogs oder Midjourney generiert basierend auf unseren Beschreibungen Bilder, um nur zwei Beispiele zu nennen. Diese technischen Errungenschaften werden oft von Fragen nach den damit verbundenen Risiken begleitet. Wollen wir zum Beispiel ein KI-System, das in Echtzeit biometrische Gesichtserkennung im öffentlichen Raum durchführt? Oder eines, das anhand von persönlichkeitsbezogenen Merkmalen eine soziale Bewertung von uns erstellt? Die EU schlägt ein neues KI-Gesetz vor, dass solche Praktiken verbieten, bzw. KI je nach Risiko regulieren soll. Sie geht dabei von vier Risikostufen aus: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Die Universität St. Gallen hat in Zusammenarbeit mit dem Schweizer Drohnen- und Robotik-Zentrum (SDRZ) von armasuisse Wissenschaft und Technologie (W+T) einen einzigartigen Wettbewerb organisiert, bei dem das Gesetz einem «Stresstest» unterzogen wurde, um es auf seine Anwendbarkeit zu überprüfen.

«The First University of St. Gallen Grand Challenge» und das SDRZ VBS

Der Wettbewerb wurde von Professor Dr. Thomas Burri von der Universität St. Gallen ins Leben gerufen. Inspiriert wurde er von den Robotik-Wettbewerben des amerikanischen Verteidigungsforschungsinstituts DARPA.  «Ich war fasziniert von dieser Energie und wollte das Konzept für meine Forschung im juristischen Bereich adaptieren», sagt Professor Burri. Für diese Idee konnte er das SDRZ VBS als strategischen Partner gewinnen. Pascal Vörös, der im SDRZ VBS die sozialwissenschaftlichen Forschungsprojekte leitet: «Mit der Grand Challenge wollten wir die Umsetzung des KI-Gesetzes anhand von praktischen Anwendungsfällen auf Herz und Nieren prüfen. Wir haben verschiedene Partner aus der Industrie, insbesondere Start-ups, die versuchen im europäischen Markt zu wachsen. Da sie KI in ihren Robotersystemen einsetzen, werden sie mit den neuen EU-Vorschriften konfrontiert. Durch die Teilnahme an der Grand Challenge haben sie nicht nur die juristische Forschung unterstützt. Sie profitieren auch von einem breiten Spektrum an Expertenfeedback, das ihnen helfen wird auf dem europäischen Markt wettbewerbsfähig zu sein. Darüber hinaus bauen wir Kompetenzen auf, um das KI-Gesetz der EU mit anderen Ansätzen zur Regulierung von KI zu vergleichen».

EU-KI-Gesetz

Das EU-KI-Gesetz, d.h. die Verordnung der EU zur künstlichen Intelligenz, wird zur Zeit von der Europäischen Kommission, dem Europäischen Parlament und dem Rat der EU beraten und soll Ende Jahr in Kraft treten. Es wäre die weltweit erste umfassende Regulierung von KI.

Weiterführende Informationen

Strenges Auswahlverfahren und ein Testlauf im Boot Camp

Aus über 30 Teams, die sich im März dieses Jahres beworben hatten, wurden zwölf Teams aus zehn verschiedenen Ländern nach den Kriterien Kompetenz, Glaubwürdigkeit und Diversität ausgewählt. Gleichzeitig konnte das SDRZ VBS mit Swiss-Mile, Gravis Robotics und Ascento drei seiner Forschungspartner gewinnen, die den Teams Rede und Antwort standen und tiefe Einblicke in ihren Einsatz von KI gewährten. Als Testlauf für das grosse Finale wurde dazu am 14. Juli ein «Boot Camp» in die Feldrobotik-Veranstaltung ARCHE integriert, wo die Teams wertvolle praktische Erfahrungen mit autonomen Systemen sammeln konnten.

Bewertungen innert kürzester Zeit und zwei Gewinner

Am 18. Juli trafen die Teams an der Universität St. Gallen ein, um sich im «Grand Challenge Final» zu messen. Vier KI-Systeme mussten bewertet werden. Eine internationale Jury wählte die zwei besten Teams für eine zweite Runde aus. In dieser mussten sie einen weiteren KI-Anwendungsfall bearbeiten. Die Gesamtleistung der beiden Teams wurde von der Jury als ebenbürtig bewertet, sodass das Preisgeld von 100'000 CHF zu je 50'000 CHF an die beiden Teams, eines aus Spanien, eines aus Südafrika, Kanada und europäischen Ländern aufgeteilt wurde.

Fragen an Dr. Lorenz Wellhausen, Mitgründer des Schweizer Start-ups Swiss-Mile

Hältst du deine Teilnahme an der First Grand Challenge der Universität St. Gallen und damit auch an einem rechtlich orientierten Forschungsprojekt des Schweizerischen Drohnen- und Robotik-Zentrums (SDRZ) des VBS für wertvoll?

Als Start-up-Gründer und Anwender von Methoden der künstlichen Intelligenz (KI) konzentriere ich mich auf die technologische Entwicklung und konkrete Anwendungsfälle für den Aufbau unseres Geschäfts. Die Teilnahme am HSG GC ermöglicht es mir, besser zu verstehen, mit welchen regulatorischen Bedingungen wir rechnen müssen, wenn wir die EU als Markt ins Auge fassen. Durch die Einladung des SDRZ als KI-Anwender teilzunehmen, erhalten wir nun fundiertes Feedback von den zahlreichen Expertenteams. Dadurch können wir besser einschätzen, wie wir mit unserem KI-Einsatz und unserem Geschäftsmodell in Bezug auf die KI-Gesetzgebung der EU positioniert sind.

Kannst du uns schon jetzt sagen, welche Lehren du aus diesem Prozess und aus den Bewertungsergebnissen ziehst?

In unserem frühen Entwicklungsstadium haben wir noch Zeit, uns auf die Anforderungen des EU-KI-Gesetzes vorzubereiten. Die durchgeführten Bewertungen geben uns nützlichen Input, ohne dass wir eine Beratungsfirma dafür bezahlen müssen. Beispielsweise ist es ohne geeignete Mechanismen für Protokollierung, Aufzeichnung und Überwachung unmöglich, viele der Anforderungen des EU-KI-Gesetzes zu erfüllen. Diese Aspekte haben wir nun für die weitere Entwicklung des Roboters im Hinterkopf und können bewusst entscheiden wie wir damit umgehen.


Zurück zur Übersicht Startseite