Perché Google sta costruendo un cervello personalizzato per i suoi modelli di IA?

Ogni volta che chiedi a un'IA di riassumere un lungo documento o di generare una riga di codice, inizia un processo industriale silenzioso. Le parole sul tuo schermo sono il prodotto finale, ma le materie prime sono l'elettricità e il silicio. Per produrre un singolo paragrafo di testo, una server farm in un luogo come l'Iowa o la Finlandia assorbe energia sufficiente per far funzionare un elettrodomestico per diversi minuti. Questi server si affidano a chip che fungono da greggio digitale della nostra era, alimentando ogni query di ricerca e ogni risposta automatizzata.

Attualmente, la domanda di questi materiali digitali è così alta che le linee di approvvigionamento stanno cedendo. Google sta ora tentando di aggirare questo collo di bottiglia cambiando radicalmente il funzionamento del suo hardware. L'azienda sta sviluppando un nuovo chip per server, chiamato informalmente Frozen v2, che incorpora elementi del suo modello di IA Gemini direttamente nell'hardware fisico. Si tratta di una deviazione dal modo in cui i computer funzionano abitualmente. Tradizionalmente, un chip è uno strumento di uso generale che esegue qualsiasi software gli venga fornito. Google sta ora costruendo un chip che è, in un certo senso, pre-modellato per adattarsi alla logica specifica della propria IA.

il costo di un pensiero digitale

Per capire perché Google stia compiendo questo passo, dobbiamo guardare all'efficienza di un singolo token di IA. Un token equivale approssimativamente a una parola o a una parte di essa. Quando un modello come Gemini elabora informazioni, sposta questi token attraverso strati di calcoli matematici. In una configurazione standard, l'hardware spende un'enorme quantità di energia solo per spostare i dati avanti e indietro tra il processore e la memoria. Questo movimento crea calore e consuma elettricità, il che si traduce in costi più elevati per l'azienda e, alla fine, per l'utente.

Google Cloud ha recentemente rifiutato affari da clienti esterni perché semplicemente non aveva abbastanza potenza di calcolo a disposizione. Questa crisi di capacità è una realtà industriale che la maggior parte degli utenti non vede mai. Quando un fornitore di servizi cloud dice no a un contratto, è perché i suoi data center sono fisicamente pieni o le bollette energetiche stanno diventando insostenibili. The Information riporta che queste tensioni interne sono ciò che ha spinto lo sviluppo di Frozen v2. L'obiettivo è realizzare un chip che sia da sei a dieci volte più efficiente dei modelli attuali in base al numero di token serviti per unità di potenza.

In termini pratici, se Google può fornire 10 volte più risposte di IA con la stessa quantità di elettricità, risolve due problemi contemporaneamente. Riduce il costo astronomico della gestione di Gemini e consente all'azienda di gestire più utenti senza dover costruire dieci volte più data center. Per l'utente medio, questo potrebbe fare la differenza tra uno strumento di IA gratuito e uno nascosto dietro un paywall mensile da venti dollari.

il cloud raggiunge il suo limite fisico

Storicamente, le aziende tecnologiche hanno risolto i problemi di velocità rendendo i chip più piccoli e stipandone un numero maggiore in una singola stanza. Siamo arrivati a un punto in cui questa strategia ha rendimenti decrescenti. I moderni modelli di IA sono così grandi da richiedere migliaia di chip che lavorano in perfetta sincronia. Se un chip è lento, l'intero sistema attende.

Google utilizza già le proprie Tensor Processing Units (TPU) per gran parte del suo lavoro sull'IA. Si tratta di chip specializzati, ma sono ancora sufficientemente flessibili per eseguire molti tipi diversi di modelli. Frozen v2 è diverso perché è meno uno strumento di uso generale e più uno scheletro specializzato per Gemini. Cablando parti specifiche del modello direttamente nel silicio, Google riduce la necessità per il chip di "pensare" a come elaborare i dati. Le istruzioni sono già lì, incise nell'hardware stesso.

Questo approccio comporta un compromesso significativo. Se gli ingegneri dovessero cambiare significativamente il modello Gemini tra tre anni, un chip cablato potrebbe diventare obsoleto. È una scommessa ad alta posta in gioco sul fatto che l'attuale architettura di Gemini sia il design fondamentale per il prossimo decennio. Gli ingegneri stanno ancora definendo quanta parte delle informazioni del modello sarà permanente nell'hardware, una decisione che determinerà quanto sarà rigido o flessibile il chip quando arriverà finalmente nel 2028.

come frozen v2 cambia le regole dei chip

Dal punto di vista del mercato, questa mossa è un chiaro tentativo di ridurre la dipendenza da fornitori esterni come Nvidia. Mentre Google costruisce le proprie TPU, gran parte del mondo funziona ancora sui processori H100 e H200 di Nvidia. Creando un chip che è fondamentalmente inseparabile dal suo software, Google crea un circuito chiuso. Ciò rende molto difficile per i concorrenti eguagliare la loro efficienza, perché il concorrente ha solo il software, mentre Google ha il software e il motore specializzato costruito per eseguirlo.

Guardando al quadro generale, questo progetto è una risposta a un mercato volatile in cui tutti inseguono la stessa fornitura limitata di silicio. Le azioni Alphabet sono salite del 3,3% in seguito al rapporto, il che dimostra che gli investitori apprezzano l'autosufficienza più di ogni altra cosa in questo momento. Il mercato riconosce che l'azienda con l'hardware più efficiente vince la guerra dei margini. Se rispondere a una domanda costa cinque centesimi a OpenAI e mezzo centesimo a Google, Google ha un vantaggio sistemico quasi impossibile da colmare solo attraverso gli aggiornamenti software.

tracciare il percorso dal software all'hardware

Allargando lo sguardo, possiamo vedere come questo influisca sul ciclo di vita di un prodotto. Nei primi giorni di una nuova tecnologia, il software è veloce e l'hardware è lento. Gli sviluppatori cambiano il loro codice ogni settimana, quindi l'hardware deve essere una tabula rasa in grado di adattarsi. Man mano che una tecnologia matura, il software si stabilizza in una forma definita. Questo è il punto in cui ha senso "cuocere" il software nell'hardware.

Lo abbiamo visto con i videogiochi. Negli anni '90, i computer usavano processori generici per tutto. Alla fine, le aziende hanno creato schede grafiche (GPU) che erano cablate per fare una sola cosa: calcolare triangoli e luci. L'IA sta attualmente attraversando la stessa transizione. Frozen v2 è un segno emergente che l'IA non è più un progetto software sperimentale. Sta diventando un'utilità fondamentale, come l'elettricità o l'acqua, dove la priorità è la fornitura conveniente su scala massiccia.

Curiosamente, Bloomberg ha recentemente riferito che Google ha dovuto ritardare il suo ultimo modello Gemini perché non ha raggiunto gli obiettivi interni. Ciò evidenzia l'attrito in questa transizione. Se il software non è ancora perfetto, cablarlo in un chip è una mossa pericolosa. Il ritardo suggerisce che Google stia ancora perfezionando la "forma" della sua IA prima di impegnare quella forma in una produzione di silicio da miliardi di dollari. Un errore nella progettazione dell'hardware non può essere corretto con una patch rapida o un aggiornamento notturno.

la lunga strada verso il 2028

Per l'utente medio, il 2028 sembra un tempo lungo da aspettare per un chatbot più veloce. Nel mondo dell'hardware industriale, quattro anni sono un ciclo di sviluppo standard. Progettare un chip, testare l'architettura e assicurarsi il tempo presso un impianto di fabbricazione come TSMC richiede anni di anticipo. Ciò significa che Google sta prendendo decisioni oggi sull'IA che userete alla fine del decennio.

Dietro il gergo tecnico, si tratta di resilienza. Google sta cercando di garantire che i suoi servizi rimangano disponibili anche se le forniture globali di chip rimangono scarse. Realizzando il proprio hardware specializzato, sono meno vulnerabili alla natura ciclica dell'industria dei semiconduttori. Stanno costruendo la propria centrale elettrica invece di comprare elettricità dalla rete. Questo livello di integrazione verticale è costoso, ma fornisce un livello di controllo che manca alla maggior parte delle altre aziende tecnologiche.

Dal punto di vista del consumatore, non vedrete necessariamente un logo "Frozen v2" sul vostro telefono o nel vostro browser. L'impatto sarà invisibile. Noterete che Gemini risponde più velocemente, gestisce documenti più lunghi senza rallentamenti e forse offre funzioni più avanzate gratuitamente. L'industria pesante che avviene in sottofondo — la colata di silicio e l'ottimizzazione delle reti elettriche — è ciò che rende possibile l'esperienza digitale leggera.

cosa significa questo per il tuo abbonamento mensile

In definitiva, lo sviluppo di Frozen v2 è un promemoria del fatto che l'IA non è solo un fenomeno digitale. È un fenomeno fisico. Man mano che i modelli diventano più complessi, l'hardware deve diventare più specializzato per tenere il passo. Si tratta di un passaggio pratico verso un futuro in cui i nostri dispositivi non eseguono solo l'IA, ma sono fisicamente costruiti di IA.

Per ora, il modo migliore per prepararsi è osservare come questi strumenti vengono integrati nelle proprie abitudini quotidiane. Man mano che l'efficienza migliora, è probabile che l'IA passi da una casella di chat autonoma allo sfondo di ogni app utilizzata. Prestate attenzione ai costi. Se l'efficienza dell'hardware dovesse davvero decuplicare, dovremmo aspettarci che l'attuale tendenza all'aumento dei prezzi degli abbonamenti si stabilizzi o addirittura si inverta. Dovreste cercare servizi che possano dimostrare di essere sostenibili, poiché saranno quelli che sopravviveranno alla prossima crisi energetica e di capacità. La spina dorsale invisibile di Internet sta cambiando e il risultato sarà un ecosistema digitale più snello, anche se forse più chiuso.

Fonti: The Information, Bloomberg News, Alphabet Investor Relations, Google Cloud Official Communications.