Stress test della legge europea sull’intelligenza artificiale
L’Unione europea sta lavorando a una nuova legge per disciplinare l’intelligenza artificiale (IA). Nel quadro di un concorso unico nel suo genere organizzato in collaborazione con l’Università di San Gallo, armasuisse Scienza e tecnologia ha sottoposto la legge a uno «stress test» per verificarne l’applicabilità.
Pascal Vörös e Joseph Boucher, Centro svizzero dei droni e della robotica, Scienza e Tecnologia
Non passa giorno senza che una nuova applicazione basata sui metodi dell’intelligenza artificiale (IA) salga alla ribalta delle cronache. Solo per fare due esempi: ChatGPT interagisce con noi attraverso il dialogo, mentre Midjourney genera immagini partendo dalle nostre descrizioni. Queste conquiste tecniche sono spesso accompagnate da domande relative ai rischi a esse correlati. Siamo disposti per esempio che un sistema di intelligenza artificiale effettui un riconoscimento facciale biometrico in tempo reale in uno spazio pubblico? O che un altro ci assegni una valutazione sociale sulla base di caratteristiche collegate alla personalità? L’UE propone una nuova legge sull’IA mirata a vietare tali pratiche e a regolamentare l’IA stessa sulla base del rischio, che viene a tale scopo suddiviso in quattro classi: inaccettabile, elevato, limitato e minimo. In collaborazione con il Centro svizzero dei droni e della robotica (CSDR) di armasuisse Scienza e tecnologia (S+T), l’Università di San Gallo ha organizzato un concorso unico nel suo genere nell’ambito del quale la legge è stata sottoposta a uno «stress test» al fine di verificarne l’applicabilità.
«The First University of St. Gallen Grand Challenge» e il CSDR del DDPS
Il concorso è stato ideato dal professor dott. Thomas Burri dell’Università di San Gallo. A fornirgli l’ispirazione sono stati i concorsi di robotica dell’agenzia governativa statunitense per i progetti di ricerca avanzata di difesa (DARPA). «Ero affascinato da questa energia e volevo adattare il concetto alla mia ricerca in ambito giuridico», dichiara il professor Burri, che con questa idea ha ottenuto la collaborazione strategica del CSDR del DDPS. Pascal Vörös, che dirige i progetti di ricerca nel campo delle scienze sociali in seno a quest’ultimo, afferma: «Attraverso la Grand Challenge volevamo sottoporre a test approfonditi l’attuazione della legge sull’intelligenza artificiale sulla base di casi d’uso pratici. Abbiamo diversi partner provenienti dal mondo dell’industria, in particolare start-up, che stanno cercando di crescere sul mercato europeo. Poiché impiegano l’intelligenza artificiale per i loro sistemi robotici, dovranno fare i conti con le nuove norme europee. Partecipando alla Grand Challenge non hanno solo supportato la ricerca giuridica, ma hanno anche potuto beneficiare di un ampio spettro di feedback da parte di esperti che li aiuterà a essere concorrenziali sul mercato europeo. Inoltre, stiamo acquisendo competenze per confrontare la legge europea sull’IA con altri approcci di regolamentazione dell’intelligenza artificiale».
La legge europea sull’intelligenza artificiale
La legge europea sull’IA, ossia il regolamento dell’Unione europea sull’intelligenza artificiale (AI Act), è attualmente all’esame della Commissione europea, del Parlamento europeo e del Consiglio dell’UE e dovrebbe entrare in vigore alla fine dell’anno: si tratterebbe della prima ampia regolamentazione dell’intelligenza artificiale al mondo.
La rigida procedura di selezione e la prova durante il boot camp
Tra gli oltre 30 team che si erano candidati a marzo di quest’anno, ne sono stati scelti dodici provenienti da dieci Paesi diversi sulla base di criteri quali competenza, credibilità e diversità. Contemporaneamente, il CSDR del DDPS ha ottenuto la collaborazione di tre dei propri partner di ricerca – Swiss-Mile, Gravis Robotics e Ascento – che si sono messi a disposizione dei team e hanno permesso di esaminare in maniera approfondita il loro impiego dell’intelligenza artificiale. In preparazione della grande finale, il 14 luglio è stato integrato nell’evento ARCHE dedicato alla ricerca sul campo nel settore della robotica un «boot camp» durante il quale i team hanno potuto raccogliere preziose esperienze pratiche con i sistemi autonomi.
Valutazioni in brevissimo tempo e due vincitori
Il 18 luglio i team si sono dati appuntamento all’Università di San Gallo per misurarsi nella «Grand Challenge Final». Il loro compito era quello di valutare quattro sistemi di intelligenza artificiale. Una giuria internazionale ha poi scelto i due team migliori, che hanno partecipato a una nuova tornata di gara, nel corso della quale sono stati chiamati a occuparsi di un ulteriore caso d’uso di IA. Le prestazioni complessive dei due team (uno spagnolo e l’altro con componenti provenienti da Sudafrica, Canada e Paesi europei) sono state valutate alla pari dalla giuria, cosicché il premio di 100 000 franchi è stato suddiviso in due riconoscimenti da 50 000 franchi per ciascuno dei due team.
Intervista al dott. Lorenz Wellhausen, co-fondatore della start-up svizzera Swiss-Mile
Ritieni che la tua partecipazione alla First Grand Challenge dell’Università di San Gallo – e di conseguenza al progetto di ricerca di orientamento legale del Centro svizzero dei droni e della robotica (CSDR) del DDPS – sia stata un’esperienza preziosa?
Come fondatore di start-up e utente di metodi basati sull’intelligenza artificiale (IA), mi concentro sullo sviluppo tecnologico e su casi d’uso concreti per organizzare la nostra attività. La partecipazione all’HSG GC mi ha consentito di comprendere meglio con quali condizioni normative dobbiamo fare i conti quando consideriamo l’UE come mercato. Grazie all’invito del CSDR a partecipare in qualità di fruitori dell’intelligenza artificiale, abbiamo ottenuto un feedback con solide basi da parte dei numerosi team di esperti. In questo modo potremo valutare meglio il nostro posizionamento in virtù del nostro impiego dell’IA nonché il nostro modello commerciale rispetto alla legislazione europea in materia di intelligenza artificiale.
Puoi dirci già ora quali insegnamenti hai tratto da questo processo e dai risultati della valutazione?
A uno stadio di sviluppo precoce come nel nostro caso c’è ancora tempo per prepararsi ai requisiti della legislazione europea sull’intelligenza artificiale. Le valutazioni effettuate ci hanno fornito input utili senza che dovessimo pagare a tal fine una società di consulenza. Per esempio, ora sappiamo che senza idonei meccanismi per la verbalizzazione, la registrazione e il monitoraggio è impossibile adempiere numerosi requisiti della regolamentazione europea. Per l’ulteriore sviluppo del robot terremo quindi presenti questi aspetti e potremo attuare scelte consapevoli riguardo alla loro gestione.
