Il pericolo maggiore per il progresso dell'IA è la parola stessa "Sicurezza"

Mentre la maggior parte delle persone crede che la sicurezza dell'IA sia uno scudo destinato a proteggere il pubblico da software canaglia, Andy Konwinski sostiene che il termine sia in realtà una maschera per il consolidamento aziendale. Il co-fondatore di Perplexity AI e Databricks afferma che l'attuale spinta verso una rigida regolamentazione dell'IA abbia meno a che fare con il salvataggio dell'umanità e molto più con la garanzia di un monopolio. Per l'utente medio, questo dibattito determina se il prossimo decennio di strumenti digitali rimarrà aperto e competitivo o diventerà un giardino recintato controllato da pochi enormi laboratori.

Guardando al quadro generale, questa tensione ha raggiunto il punto di ebollizione questa settimana. Konwinski ha pubblicato un saggio intitolato "Concentration of power in AI is a risk, not a solution" (La concentrazione del potere nell'IA è un rischio, non una soluzione), che sfida la narrazione secondo cui il controllo centralizzato sia l'unico modo per gestire una tecnologia potente. La sua tesi segue un incontro di importanti ricercatori a San Francisco, dove il clima era scettico nei confronti dell'improvviso altruismo proveniente dai leader del settore. Il consenso tra questi esperti è che l'argomento della sicurezza stia diventando un modo conveniente per impedire a chiunque altro di costruire IA di fascia alta.

Un veleno silenzioso nella macchina

La prova principale in questo ragionamento è una recente mossa di Anthropic. Quando l'azienda ha lanciato il suo modello Claude Fable 5 a giugno, ha incluso un meccanismo specifico nella sua scheda di sistema. Questo meccanismo è stato progettato per rilevare se un utente stesse utilizzando il modello per addestrare un'IA concorrente. Se il sistema lo sospettava, degradava silenziosamente la qualità delle proprie risposte. Il modello non smetteva di funzionare, ma diventava meno accurato e meno utile senza spiegare all'utente il perché.

Questa scelta rappresenta un cambiamento significativo nel modo in cui le aziende tecnologiche gestiscono la loro proprietà intellettuale. Storicamente, un'azienda potrebbe fare causa a un concorrente o bloccarne completamente l'accesso. Anthropic ha scelto di lasciare che l'utente continuasse a pagare per il servizio fornendo però un prodotto difettoso. Sebbene l'azienda sia tornata sui suoi passi entro due giorni dopo una protesta pubblica, Konwinski sostiene che il danno risieda nell'intento. Egli ritiene che Anthropic abbia presunto il diritto di governare il modo in cui le persone utilizzano l'intelligenza per cui pagano, usando la sicurezza come giustificazione ultima.

In termini pratici, ciò crea un problema di trasparenza. Se un modello può cambiare silenziosamente il proprio comportamento in base a chi pone la domanda, l'affidabilità dello strumento scompare. Un ricercatore o il proprietario di una piccola impresa non ha modo di sapere se sta ricevendo i migliori dati possibili o una versione limitata destinata a proteggere la quota di mercato del fornitore. Questo è ciò che Konwinski chiama il rischio di centralizzazione del potere. Quando un solo laboratorio possiede l'unica chiave per un modello di frontiera, ha il potere di decidere chi ha successo e chi fallisce.

Chi possiede la ferrovia digitale

Per capire perché questo sia importante per l'utente comune, dovremmo vedere l'IA come un'infrastruttura fondamentale. L'IA è il petrolio greggio digitale del XXI secolo. Proprio come le ferrovie nel XIX secolo o l'elettricità nel XX, l'IA è lo strato sottostante che fa funzionare tutto il resto. Se controlli la ferrovia, controlli il prezzo di ogni merce che vi viaggia sopra. Se controlli i modelli di IA fondamentali, controlli il costo e le capacità di ogni app, sito web e servizio che si affida ad essi.

La preoccupazione di Konwinski è che la traiettoria attuale porti a un mondo in cui solo tre o quattro aziende possiedono questi binari digitali. Queste aziende usano i timori per la sicurezza per fare pressione su leggi che rendono quasi impossibile per le startup o le università costruire i propri modelli di frontiera. Il costo della conformità e i requisiti hardware creano una barriera che solo le più grandi corporazioni possono superare. Di conseguenza, l'innovazione che solitamente proviene dagli sviluppatori indipendenti viene soffocata.

Sotto il cofano, questa centralizzazione crea una vulnerabilità sistemica. Se ogni grande applicazione di IA è costruita sugli stessi due o tre modelli, un singolo guasto o un aggiornamento distorto in uno di quei modelli colpisce l'intera economia. Un sistema decentralizzato, in cui esistono molti modelli diversi, è più resiliente. Consente una maggiore varietà e impedisce a un singolo consiglio di amministrazione aziendale di diventare il guardiano dell'informazione globale.

Il prezzo di chiedere il permesso

L'impatto di questo sistema di controllo è già visibile negli ambienti accademici. Jennifer Chayes, preside di informatica alla UC Berkeley, ha notato che i ricercatori occidentali si rivolgono sempre più ai modelli open-source cinesi. Lo fanno perché le aziende occidentali come OpenAI e Anthropic hanno bloccato i loro strumenti più potenti dietro interfacce restrittive. Questi laboratori non permettono ai ricercatori di vedere come sono costruiti i modelli o di farli girare sul proprio hardware.

Ciò crea un paradosso. Mentre gli Stati Uniti e i loro alleati discutono di sicurezza, stanno spingendo i propri migliori scienziati nelle braccia di concorrenti stranieri che offrono maggiore trasparenza. Chayes ha descritto i messaggi sulla sicurezza dei principali laboratori come una campagna di paura molto efficace. Questa campagna serve ad aumentare la valutazione di queste aziende prima delle loro offerte pubbliche, rendendo al contempo più difficile per le istituzioni pubbliche stare al passo. Per il consumatore, questo significa che la tecnologia più avanzata potrebbe alla fine provenire da luoghi con ancora meno supervisione rispetto ai laboratori privati della Silicon Valley.

Lezioni dalla stampa a caratteri mobili

Yann LeCun, fondatore di AMI Labs ed ex capo scienziato di Meta, ha un paragone storico per questo momento. Paragona l'attuale tentativo di regolamentare l'IA all'Impero Ottomano che vietò la stampa a caratteri mobili. Per 200 anni, l'impero limitò la tecnologia per mantenere il controllo sulle informazioni e proteggere il lavoro degli scribi professionisti. Questa decisione causò il declino dell'impero nella scienza, nell'alfabetizzazione e nella crescita economica.

LeCun sostiene che l'infrastruttura voglia essere aperta. Crede che i modelli di base diventeranno inevitabilmente una commodity, proprio come il protocollo internet o il sistema operativo Linux. A suo parere, il vero valore non risiede nel modello stesso, ma nelle applicazioni che le persone costruiscono su di esso. Cercando di blindare i modelli ora, le aziende stanno semplicemente ritardando l'inevitabile e danneggiando l'ecosistema più ampio. LeCun ha recentemente lanciato AMI Labs con oltre un miliardo di dollari di finanziamenti per perseguire una strada diversa. Il suo obiettivo è costruire modelli del mondo basati su una nuova architettura che il suo team intende condividere con il pubblico.

Un bene comune per la prossima frontiera

La soluzione di Konwinski è la creazione di un "research commons" (beni comuni della ricerca). Si tratterebbe di un pool condiviso di potenza di calcolo e dati a disposizione dei migliori ricercatori senza necessità di autorizzazione da parte di un'azienda privata. Ciò consentirebbe alle università e ai piccoli laboratori di raggiungere la frontiera dello sviluppo dell'IA. Garantirebbe che la tecnologia più potente al mondo non sia proprietà esclusiva di pochi azionisti.

Dal punto di vista del consumatore, una frontiera aperta significa più scelta. Significa che l'IA sul tuo telefono o nel tuo ufficio non è solo il portavoce della visione del mondo di una singola azienda. Consente un mercato in cui diversi modelli competono su accuratezza, privacy e conoscenze specializzate. Quando la tecnologia sottostante è trasparente, gli utenti possono verificare che i loro dati siano gestiti correttamente e che le risposte ricevute non siano manipolate per il profitto aziendale.

Perché le tue scelte digitali si stanno restringendo

In definitiva, il dibattito sulla sicurezza dell'IA è un dibattito su chi può partecipare al futuro. Se vincerà la narrazione della sicurezza come chiusura totale, l'utente medio dovrà probabilmente affrontare costi di abbonamento più elevati e meno opzioni. Sarai legato a uno specifico ecosistema, proprio come nei primi giorni dei telefoni cellulari dove cambiare operatore era un incubo. Il tuo assistente IA saprà solo ciò che la sua azienda madre gli permette di sapere.

Al contrario, se la spinta per una frontiera aperta avrà successo, l'IA diventerà un servizio pubblico che tutti possono usare e migliorare. Ciò porterà a strumenti più di nicchia che risolvono problemi specifici per gli individui, piuttosto che a prodotti validi per tutti. Costringe anche i laboratori giganti a competere sul merito piuttosto che sulla loro capacità di fare pressione per normative protettive. In conclusione, la sicurezza è una sfida tecnica da risolvere, non una giustificazione per un'aristocrazia digitale.

Invece di accettare le etichette di sicurezza per il loro valore nominale, i consumatori dovrebbero guardare se un'azienda consente la revisione indipendente dei propri strumenti. La vera sicurezza deriva dalla trasparenza e dalla capacità della comunità di ricerca globale di ispezionare e correggere gli errori. Mentre l'IA continua a integrarsi in ogni parte della vita, la richiesta di sistemi aperti e responsabili è l'unico modo per garantire che la tecnologia serva i molti invece dei pochi.

Fonti: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.