Perché il matematico più intelligente del mondo teme che l'IA risolva i problemi troppo velocemente

La maggior parte delle persone presume che risposte più rapide portino a un progresso più veloce. Nel mondo della matematica di alto livello, Terence Tao intravede una potenziale crisi. Il vincitore della Medaglia Fields è il matematico più eminente della sua generazione. Recentemente ha avvertito che l'intelligenza artificiale sta esaurendo la riserva di problemi matematici aperti e fecondi. Laboratori di IA come OpenAI e Anthropic sono in una corsa per automatizzare il ragionamento. Questa tecnologia può ora spianare un problema difficile nel momento stesso in cui un essere umano inizia a lavorarci.

Dietro il gergo tecnico, la matematica riguarda meno la risposta finale e più i nuovi strumenti che gli esseri umani costruiscono per raggiungere quella risposta. Storicamente, un problema matematico difficile funge da montagna. Per scalarla, i matematici devono inventare nuove attrezzature, corde e tecniche di arrampicata. Queste invenzioni aiutano poi la società a risolvere problemi pratici nella crittografia, nella fisica e nell'informatica. Se un elicottero IA ti deposita semplicemente in vetta, hai la risposta, ma non hai mai costruito l'attrezzatura.

La velocità dell'escavatore al silicio

Per l'utente medio, la matematica sembra un prodotto finito in un libro di testo. In realtà, la matematica è un progetto industriale vivo. I ricercatori identificano lacune specifiche nella nostra conoscenza e passano decenni cercando di colmarle. Tao osserva che l'IA è diventata un escavatore ad alta velocità in questo campo. Dove un essere umano potrebbe passare anni a scavare attraverso un ostacolo teorico, un modello linguistico di grandi dimensioni abbinato a un verificatore formale di prove può a volte liberare il percorso in pochi secondi.

OpenAI ha rilasciato il suo modello o1 per dimostrare un passaggio verso il ragionamento interno. A differenza dei chatbot precedenti che indovinavano la parola successiva, questi sistemi più recenti pensano prima di parlare. Controllano il proprio lavoro rispetto alle leggi della logica. Anthropic ha seguito un percorso simile con le sue ultime iterazioni di Claude. Questi strumenti non servono più solo a scrivere email. Stanno identificando falle in prove complesse che resistevano da anni.

Questa velocità crea un problema nella catena di approvvigionamento per l'intelligenza umana. I matematici si affidano a un flusso costante di problemi irrisolti per formare la prossima generazione di studenti. Se l'IA risolve istantaneamente tutti i problemi di difficoltà medio-alta, il terreno di addestramento per i nuovi esperti umani scompare. Questo processo lascia agli esseri umani solo i problemi impossibilmente difficili che nemmeno l'IA può toccare. La terra di mezzo della scoperta sta evaporando.

Perché una risposta non è una soluzione

Sotto il cofano, il modo in cui l'IA risolve un problema differisce fondamentalmente da come opera il cervello umano. Un'IA potrebbe usare una ricerca a forza bruta o una strana correlazione statistica per trovare una prova. Fornisce la prova, ma la prova è spesso composta da milioni di righe di codice. Nessun essere umano può leggerla. Nessun essere umano può imparare da essa. In termini semplici, l'IA ci dà l'oro ma nasconde la mappa della miniera.

Tao chiede ora un cambiamento nel modo in cui la comunità valuta questi traguardi. Suggerisce che i matematici dovrebbero etichettare certi problemi come "richiedenti analisi". In questo quadro, una nuda risposta da parte di un'IA conta molto poco. Per ottenere credito, chi risolve il problema deve spiegare il ragionamento in un modo che trasferisca la conoscenza ad altri esseri umani. Questo spostamento mira a proteggere il valore educativo della disciplina.

Storicamente, i problemi più famosi della matematica non erano utili per le loro risposte. L'Ultimo Teorema di Fermat ha richiesto 350 anni per essere risolto. La prova finale era lunga centinaia di pagine. La risposta effettiva — che nessun numero intero positivo a, b e c soddisfa una specifica equazione per n superiore a 2 — non ha quasi nessuna applicazione pratica. Tuttavia, le tecniche inventate per raggiungere quella risposta ora proteggono ogni transazione con carta di credito su Internet. Se un'IA avesse semplicemente dichiarato che la risposta era vera nel 1637, oggi potremmo non avere la crittografia moderna.

Il lato di mercato della logica automatizzata

Dal punto di vista del mercato, questo sviluppo è una vittoria massiccia per i conglomerati tecnologici. Aziende come Google DeepMind non sono interessate alla matematica solo per il bene della scienza. Vogliono creare un motore di ragionamento generalista. Se un'IA può risolvere un problema di matematica che richiede 20 passaggi logici, può anche ottimizzare una rotta di spedizione globale o gestire una rete elettrica con perfetta efficienza.

Ciò crea un ambiente volatile per i lavoratori della conoscenza. Ci stiamo spostando da un'era del calcolo a un'era della verifica. Nella vita quotidiana, il tuo lavoro potrebbe passare dal fare il lavoro al controllare il lavoro di un sistema automatizzato. Sembra più facile, ma richiede un livello più profondo di conoscenza fondamentale. Non puoi verificare una soluzione se non comprendi le regole del gioco.

Praticamente parlando, questo ha un impatto su come insegniamo ai bambini. Se uno smartphone può risolvere un problema di analisi e spiegare i passaggi, il valore di memorizzare quei passaggi scende a zero. Gli educatori devono ora concentrarsi sul "perché" invece che sul "come". Stiamo assistendo a un cambiamento in cui la capacità di porre la domanda giusta è più preziosa della capacità di trovare la risposta.

Il rischio di una disciplina svuotata

Guardando il quadro generale, la preoccupazione è che la matematica possa diventare una scatola nera. Se esternalizziamo tutta la logica difficile alle macchine, i nostri muscoli mentali si atrofizzeranno. L'avvertimento di Tao è una chiamata alla resilienza. Vuole garantire che la matematica rimanga un'impresa incentrata sull'uomo. L'obiettivo è mantenere l'essere umano nel ciclo, non come calcolatore, ma come navigatore.

Siamo attualmente in una fase ciclica di adozione tecnologica. Prima, siamo stupiti dalla capacità. Poi, realizziamo il costo di quella capacità. Infine, adattiamo i nostri sistemi per gestire il cambiamento. Siamo attualmente nella transizione tra lo stupore e l'adattamento. I laboratori di IA continueranno a rilasciare modelli più veloci e intelligenti ogni sei mesi. La riserva di problemi continuerà a ridursi.

In definitiva, il valore della matematica è la lotta. La lotta produce gli effetti collaterali che fanno girare il nostro mondo moderno. Se eliminiamo la lotta, potremmo smettere di produrre gli effetti collaterali. Questo è il rischio tangibile identificato da Tao. Stiamo costruendo un mondo dove sappiamo tutto ma capiamo molto poco.

Cosa significa questo per te

Il punto fondamentale è che la definizione di intelligenza sta cambiando. Per il consumatore medio, questo significa che gli strumenti in tasca stanno diventando più capaci degli esperti che eri solito assumere. Tuttavia, questi strumenti mancano di un senso di scopo o contesto.

In primo luogo, aspettati un cambiamento nell'istruzione. Le scuole probabilmente si sposteranno verso esami orali o test cartacei sorvegliati per garantire che gli studenti stiano effettivamente imparando. L'affidamento ai compiti digitali è destinato a finire perché l'IA ha reso impossibile valutare in modo equo.

In secondo luogo, il tuo valore professionale dipenderà dalla tua capacità di revisionare l'IA. Che tu sia in contabilità, legge o ingegneria, la macchina fornirà la prima bozza. Il tuo compito è trovare quell'unico errore su mille che potrebbe causare un fallimento sistemico.

Infine, apprezza la meccanica invisibile della scoperta. Dietro ogni app e ogni gadget c'è una lunga catena di problemi matematici risolti. Se quei problemi vengono risolti troppo velocemente dalle macchine, la connessione umana con la nostra tecnologia diventa opaca. Rimanere curiosi su come funzionano le cose non è più solo un hobby. È una necessaria abilità di sopravvivenza in un mondo automatizzato.

Fonti:
University of California, Los Angeles Department of Mathematics
International Mathematical Union Fields Medal Archives
OpenAI Research Blog regarding o1 model series
Anthropic Technical Documentation for Claude 3.5 Sonnet
DeepMind AlphaProof and AlphaGeometry Technical Reports