L'ONU istituisce un comitato globale per la sicurezza dell'IA composto da 40 membri tra i crescenti avvertimenti degli addetti ai lavori

In una mossa volta a colmare il divario tra il rapido progresso tecnologico e la supervisione internazionale, il Segretario Generale delle Nazioni Unite António Guterres ha ufficialmente inaugurato un comitato scientifico globale di 40 membri dedicato alla sicurezza dell'intelligenza artificiale. Descritto da Guterres come un "passo fondamentale verso la comprensione scientifica globale dell'IA", il comitato ha il compito di indagare sui rischi esistenziali e sistemici posti dai modelli avanzati di apprendimento automatico.

La formazione di questo organismo arriva in un momento cruciale. Nell'ultimo anno, un coro crescente di informatori ed ex dipendenti di leader del settore come OpenAI, Anthropic e Google DeepMind ha espresso preoccupazioni riguardo alla mancanza di trasparenza e alla velocità con cui vengono distribuiti i modelli di frontiera. Questa iniziativa dell'ONU rappresenta il primo sforzo concertato per centralizzare il consenso scientifico sull'IA su scala globale, indipendentemente dall'influenza aziendale.

Il catalizzatore: allarmi dall'interno del settore

La spinta per un organismo centralizzato delle Nazioni Unite è stata significativamente accelerata dal movimento "Right to Warn" (Diritto di Avvertire). Questo gruppo di esperti del settore tecnologico ha sostenuto che gli attuali incentivi guidati dal profitto impediscono alle aziende di rivelare la reale entità dei rischi associati all'Intelligenza Artificiale Generale (AGI). Hanno evidenziato preoccupazioni che vanno dall'erosione dei processi democratici tramite i deepfake al potenziale dei sistemi autonomi di aggirare il controllo umano.

Istituendo questo comitato, l'ONU cerca di fornire una piattaforma in cui l'evidenza scientifica — piuttosto che le pubbliche relazioni aziendali — detti la narrazione globale sulla sicurezza. I 40 membri, provenienti dal mondo accademico, dalla società civile e dai centri di ricerca tecnica di diverse aree geografiche, dovrebbero agire come un arbitro neutrale della verità in un panorama tecnologico sempre più polarizzato.

Navigare le frizioni geopolitiche

Il lancio del comitato non è stato privo di polemiche. Gli Stati Uniti, insieme a diversi alleati chiave, hanno inizialmente espresso una forte opposizione alla mossa. La frizione deriva da un disaccordo fondamentale su dove debba risiedere la sede del potere dell'IA. Mentre gli Stati Uniti hanno sostenuto quadri di sicurezza guidati dall'industria e il Processo di Hiroshima sull'IA guidato dal G7, l'approccio dell'ONU enfatizza un modello di governance multilaterale più inclusivo.

I critici a Washington sostengono che un organismo guidato dall'ONU potrebbe impantanarsi nella burocrazia o essere utilizzato da nazioni rivali per soffocare l'innovazione occidentale. Al contrario, i sostenitori del comitato argomentano che l'IA è una tecnologia "senza confini", molto simile al cambiamento climatico, che richiede una risposta globale che includa il Sud del mondo, spesso escluso dalle discussioni incentrate sulla Silicon Valley.

Un "IPCC per l'IA" scientifico

Per comprendere la missione del comitato, si può guardare all'Intergovernmental Panel on Climate Change (IPCC). Proprio come l'IPCC non stabilisce politiche ma fornisce i dati scientifici che informano i trattati globali sul clima, il comitato dell'ONU sull'IA mira a creare un rapporto condiviso sullo "Stato della Scienza". Questo rapporto servirà come base per le nazioni per sviluppare le proprie normative nazionali senza dover reinventare la ruota.

Le aree chiave di interesse per il comitato includono:

• Quantificazione del rischio: Sviluppo di metriche standardizzate per misurare il potenziale di un modello per l'inganno o l'output dannoso.
• Sovranità dei dati: Affrontare il modo in cui i dati di addestramento vengono reperiti e l'impatto sulla proprietà intellettuale in diverse giurisdizioni.
• Interoperabilità: Garantire che gli standard di sicurezza in un paese possano essere riconosciuti e applicati in un altro.

Implicazioni pratiche per il settore tecnologico

Per sviluppatori, startup e leader aziendali, il coinvolgimento dell'ONU segnala un passaggio da "impegni di sicurezza" volontari verso un ambiente normativo più strutturato. Sebbene il comitato non abbia il potere di approvare leggi, i suoi risultati influenzeranno probabilmente i futuri accordi commerciali internazionali e gli audit di sicurezza nazionali.

Cosa fare dopo: prepararsi agli standard globali

Mentre il comitato inizia il suo lavoro, le organizzazioni dovrebbero passare da una posizione reattiva sulla sicurezza dell'IA a una proattiva. Ecco i passi pratici che i leader tecnologici dovrebbero considerare:

1. Audit per la trasparenza: Revisionate i vostri processi interni di sviluppo dell'IA. Siete in grado di spiegare come i vostri modelli raggiungono conclusioni specifiche? È probabile che il comitato dell'ONU raccomandi standard elevati per la "spiegabilità".
2. Monitorare i benchmark internazionali: Rimanete informati sui briefing trimestrali del comitato. Questi diventeranno probabilmente il modello per i futuri requisiti di conformità in UE, Asia e, infine, negli Stati Uniti.
3. Partecipare a dialoghi multi-stakeholder: Non affidatevi esclusivamente ai gruppi industriali. Partecipate a forum che includano la società civile e i ricercatori accademici per ottenere una prospettiva più ampia sull'impatto dell'IA.
4. Dare priorità alla ricerca sulla sicurezza: Allocate una percentuale di R&S specificamente alla sicurezza e all'allineamento. Il divario tra "capacità" e "sicurezza" è la principale preoccupazione del nuovo organismo ONU.

La lunga strada da percorrere

L'istituzione di questo comitato di 40 membri è il riconoscimento che l'IA non è più solo un prodotto commerciale; è un'utilità globale con il potere di rimodellare le società. Sebbene il percorso politico rimanga accidentato, l'impegno per un approccio scientifico basato sull'evidenza offre un barlume di speranza per un futuro in cui la tecnologia serva l'umanità in modo sicuro ed equo.

Fonti:

• United Nations: Secretary-General's High-level Advisory Body on Artificial Intelligence
• Reuters: UN appoints global panel to study AI risks
• The Guardian: Tech whistleblowers call for right to warn on AI risks
• UN News: Guterres announces 40-member AI advisory body