Milano si candida per un centro ONU sull’IA

Il progetto Radegonda propone test indipendenti e formazione per i Paesi con meno risorse. Il dossier è stato presentato a Governo e Parlamento.

Chi può verificare quanto sia sicuro un sistema di intelligenza artificiale prima che venga messo a disposizione di imprese e cittadini? La candidatura di Milano per un centro ONU sull’IA, presentata il 9 novembre a Palazzo Turati dal comitato MilanoAI, parte da questa domanda. I promotori chiedono a Governo e Parlamento di sostenere una struttura che aiuti laboratori e Stati a valutare i sistemi con criteri confrontabili. La proposta è arrivata alle istituzioni italiane. La scelta di una sede da parte delle Nazioni Unite è un passaggio ancora da compiere.

Che cosa farebbe il centro ONU sull’IA a Milano

Il progetto Radegonda, illustrato da Simone Crolla, consigliere delegato di AmCham Italy, propone per il primo anno una raccolta pubblica di protocolli di prova che laboratori e istituti nazionali possano usare per confrontare i risultati. Una valutazione ha più valore se chi la legge può sapere quale versione del sistema è stata esaminata, quali strumenti aveva a disposizione e in quali condizioni ha fallito. Se queste informazioni mancano, due giudizi sullo stesso modello possono sembrare incompatibili anche quando descrivono prove diverse.

La proposta comprende anche la formazione di valutatori e autorità nei Paesi privi di un istituto nazionale, l’integrazione dei diritti fondamentali nei protocolli e il supporto tecnico agli organismi ONU che si occupano di IA. Per esempio, un test può misurare la frequenza degli errori e verificare se si concentrano in una lingua o in un gruppo di utenti. La decisione su quali obblighi imporre e come farli rispettare resterebbe alle autorità competenti.

Che cosa significa valutare un modello in modo indipendente

Per chi sceglie un software, come abbiamo raccontato nell’approfondimento sui costi dell’IA nelle PMI, verificare i risultati è già parte del lavoro quotidiano. Con gli agenti di intelligenza artificiale in ufficio, il controllo riguarda anche le azioni che il sistema può compiere. Un assistente che propone una bozza di email ha un margine d’azione diverso da quello di un agente autorizzato a inviarla o ad aggiornare un archivio. Una prova utile deve poter osservare che cosa succede quando il sistema incontra istruzioni ambigue o tenta di usare strumenti oltre i permessi previsti.

L’appello internazionale promosso da Finlandia e Norvegia chiede alle aziende di sottoporre i modelli di IA più avanzati a verifiche prima del rilascio e di concedere ai valutatori esterni un accesso sufficiente per esaminarne i rischi. È il punto su cui misurare l’indipendenza di un futuro centro. Un laboratorio deve poter scegliere le prove, dichiarare eventuali conflitti d’interesse e spiegare che cosa ha effettivamente potuto controllare. La proposta milanese mette sul tavolo protocolli comuni. Le condizioni concrete di accesso ai modelli saranno decisive per capire quanto si potrà verificare.

Due file di bandiere lungo il prato davanti al Palais des Nations di Ginevra. (Fonte: Wikimedia)

Quali organismi ONU esistono già

Il Panel scientifico internazionale indipendente sull’IA ha già pubblicato una prima valutazione delle capacità, delle opportunità e dei rischi della tecnologia. Il suo lavoro ha fornito una base al primo Dialogo globale sulla governance dell’IA, che si è tenuto a Ginevra a luglio. La funzione che i promotori propongono per Milano è più operativa. Protocolli e formazione dovrebbero aiutare anche i Paesi con meno risorse a svolgere e interpretare le valutazioni, così da poter partecipare alle discussioni internazionali con competenze proprie.

Che cosa manca alla candidatura di Milano

A Palazzo Turati, il sottosegretario all’Innovazione tecnologica Alessio Butti ha detto, secondo il resoconto della Camera di commercio, che la proposta merita di essere approfondita. Il presidente del Senato, Ignazio La Russa, ha riferito di aver incaricato il senatore Gianni Sisler di raccogliere le firme dei gruppi parlamentari in vista di una possibile discussione della mozione. Il comitato chiede inoltre al Governo di formalizzare l’offerta di Milano con una lettera al prossimo segretario generale delle Nazioni Unite.

Il prossimo appuntamento internazionale è il Dialogo globale sull’IA del 3 e 4 maggio 2027, a New York. Prima di allora, la proposta milanese dovrà misurarsi con due decisioni italiane: il sostegno formale alla candidatura e le risorse da destinare alla sede. La credibilità del centro dipenderà poi dalle condizioni in cui potranno lavorare i valutatori, a partire dall’accesso ai modelli e dalla possibilità di rendere pubblici i risultati delle prove.