Dlaczego najwybitniejszy matematyk świata obawia się, że AI zbyt szybko rozwiązuje problemy

Większość ludzi zakłada, że szybsze odpowiedzi prowadzą do szybszego postępu. W świecie matematyki wyższej Terence Tao dostrzega potencjalny kryzys. Medalista Fieldsa jest czołowym matematykiem swojego pokolenia. Niedawno ostrzegł, że sztuczna inteligencja wyczerpuje zasoby owocnych, otwartych problemów matematycznych. Laboratoria AI, takie jak OpenAI i Anthropic, biorą udział w wyścigu o automatyzację rozumowania. Technologia ta potrafi teraz spłaszczyć trudny problem w momencie, gdy człowiek zaczyna nad nim pracować.

Pomijając żargon, w matematyce mniej chodzi o ostateczną odpowiedź, a bardziej o nowe narzędzia, które budują ludzie, aby do tej odpowiedzi dotrzeć. Historycznie rzecz biorąc, trudny problem matematyczny działa jak góra. Aby się na nią wspiąć, matematycy muszą wynaleźć nowy sprzęt wspinaczkowy, liny i techniki. Wynalazki te pomagają następnie społeczeństwu rozwiązywać praktyczne problemy w kryptografii, fizyce i informatyce. Jeśli helikopter AI po prostu zrzuci cię na szczyt, masz odpowiedź, ale nigdy nie zbudowałeś sprzętu.

Szybkość krzemowej koparki

Dla przeciętnego użytkownika matematyka wydaje się gotowym produktem w podręczniku. W rzeczywistości matematyka jest żywym projektem przemysłowym. Naukowcy identyfikują konkretne luki w naszej wiedzy i spędzają dekady, próbując je wypełnić. Tao zauważa, że AI stała się w tej dziedzinie szybkobieżną koparką. Tam, gdzie człowiek mógłby spędzić lata na przekopywaniu się przez teoretyczną przeszkodę, duży model językowy w połączeniu z formalnym testerem dowodów może czasami oczyścić drogę w kilka sekund.

OpenAI wypuściło swój model o1, aby zademonstrować przesunięcie w stronę wewnętrznego rozumowania. W przeciwieństwie do poprzednich chatbotów, które zgadywały następne słowo, te nowsze systemy myślą, zanim przemówią. Sprawdzają własną pracę pod kątem praw logiki. Anthropic podążył podobną ścieżką ze swoimi najnowszymi iteracjami Claude’a. Narzędzia te nie służą już tylko do pisania e-maili. Identyfikują one błędy w złożonych dowodach, które trwały nienaruszone przez lata.

Ta szybkość stwarza problem w łańcuchu dostaw dla ludzkiej inteligencji. Matematycy polegają na stałym dopływie nierozwiązanych problemów, aby szkolić następne pokolenia studentów. Jeśli AI natychmiast rozwiąże wszystkie średnio trudne i trudne problemy, poligon doświadczalny dla nowych ludzkich ekspertów zniknie. Proces ten pozostawia ludziom jedynie niemożliwie trudne problemy, których nawet AI nie jest w stanie tknąć. Środkowy obszar odkryć wyparowuje.

Dlaczego odpowiedź nie jest rozwiązaniem

„Pod maską” sposób, w jaki AI rozwiązuje problem, różni się zasadniczo od sposobu działania ludzkiego mózgu. AI może użyć wyszukiwania siłowego (brute-force) lub dziwnej korelacji statystycznej, aby znaleźć dowód. Dostarcza dowód, ale często składa się on z milionów linii kodu. Żaden człowiek nie jest w stanie go przeczytać. Żaden człowiek nie może się z niego uczyć. Mówiąc prościej, AI daje nam złoto, ale ukrywa mapę do kopalni.

Tao wzywa teraz do zmiany sposobu, w jaki społeczność ocenia te przełomy. Sugeruje on, aby matematycy oznaczali niektóre problemy jako „wymagające analizy”. W takim układzie sama odpowiedź z AI liczy się bardzo niewiele. Aby uzyskać uznanie, rozwiązujący musi wyjaśnić rozumowanie w sposób, który przekazuje wiedzę innym ludziom. Ta zmiana ma na celu ochronę wartości edukacyjnej dyscypliny.

Historycznie rzecz biorąc, najsłynniejsze problemy w matematyce nie były użyteczne ze względu na odpowiedzi. Rozwiązanie Wielkiego Twierdzenia Fermata zajęło 350 lat. Ostateczny dowód liczył setki stron. Sama odpowiedź – że żadne trzy dodatnie liczby całkowite a, b i c nie spełniają określonego równania dla n większego niż 2 – nie ma prawie żadnego praktycznego zastosowania. Jednak techniki wynalezione w celu dotarcia do tej odpowiedzi zabezpieczają obecnie każdą transakcję kartą kredytową w internecie. Gdyby AI po prostu stwierdziła w 1637 roku, że odpowiedź jest prawdziwa, moglibyśmy nie mieć dzisiaj nowoczesnego szyfrowania.

Rynkowa strona zautomatyzowanej logiki

Od strony rynkowej rozwój ten jest ogromnym zwycięstwem konglomeratów technologicznych. Firmy takie jak Google DeepMind nie interesują się matematyką tylko dla samej nauki. Chcą stworzyć silnik rozumowania ogólnego przeznaczenia. Jeśli AI potrafi rozwiązać problem matematyczny wymagający 20 kroków logicznych, może również zoptymalizować globalną trasę wysyłkową lub zarządzać siecią energetyczną z doskonałą wydajnością.

Stwarza to zmienne środowisko dla pracowników wiedzy. Przechodzimy z ery obliczeń do ery weryfikacji. W życiu codziennym twoja praca może zmienić się z wykonywania zadań na sprawdzanie pracy zautomatyzowanego systemu. Brzmi to łatwiej, ale wymaga głębszego poziomu wiedzy podstawowej. Nie można zweryfikować rozwiązania, jeśli nie rozumie się reguł gry.

Praktycznie rzecz biorąc, wpływa to na sposób, w jaki uczymy dzieci. Jeśli smartfon potrafi rozwiązać zadanie z rachunku różniczkowego i wyjaśnić kroki, wartość zapamiętywania tych kroków spada do zera. Pedagodzy muszą teraz skupić się na „dlaczego” zamiast „jak”. Obserwujemy zmianę, w której umiejętność zadania właściwego pytania jest cenniejsza niż umiejętność znalezienia odpowiedzi.

Ryzyko wydrążenia dyscypliny

Patrząc szerzej, obawa polega na tym, że matematyka może stać się „czarną skrzynką”. Jeśli zlecimy całą trudną logikę maszynom, nasze własne mięśnie umysłowe zanikną. Ostrzeżenie Tao jest wezwaniem do odporności. Chce on zapewnić, że matematyka pozostanie przedsięwzięciem skoncentrowanym na człowieku. Celem jest utrzymanie człowieka w pętli, nie jako kalkulatora, ale jako nawigatora.

Obecnie znajdujemy się w cyklicznej fazie adaptacji technologii. Najpierw jesteśmy zdumieni możliwościami. Następnie uświadamiamy sobie koszt tych możliwości. Na koniec dostosowujemy nasze systemy do zmian. Obecnie znajdujemy się w okresie przejściowym między zdumieniem a dostosowaniem. Laboratoria AI będą nadal wypuszczać szybsze i inteligentniejsze modele co sześć miesięcy. Podaż problemów będzie się nadal kurczyć.

Ostatecznie wartością matematyki jest walka. Ta walka wytwarza efekty uboczne, które napędzają nasz nowoczesny świat. Jeśli usuniemy walkę, możemy przestać wytwarzać te efekty uboczne. To jest realne ryzyko, które identyfikuje Tao. Budujemy świat, w którym wiemy wszystko, ale rozumiemy bardzo niewiele.

Co to oznacza dla Ciebie

Sedno sprawy polega na tym, że definicja inteligencji ulega przesunięciu. Dla przeciętnego konsumenta oznacza to, że narzędzia w twojej kieszeni stają się bardziej kompetentne niż eksperci, których kiedyś zatrudniałeś. Narzędziom tym brakuje jednak poczucia celu lub kontekstu.

Po pierwsze, spodziewaj się zmian w edukacji. Szkoły prawdopodobnie przejdą w stronę egzaminów ustnych lub nadzorowanych testów w formie papierowej, aby upewnić się, że uczniowie faktycznie się uczą. Poleganie na cyfrowych zadaniach domowych prawdopodobnie się skończy, ponieważ AI uniemożliwiła sprawiedliwe ocenianie.

Po drugie, twoja własna wartość zawodowa będzie zależeć od umiejętności audytowania AI. Niezależnie od tego, czy zajmujesz się księgowością, prawem czy inżynierią, maszyna dostarczy pierwszy projekt. Twoim zadaniem jest znalezienie tego jednego błędu na tysiąc, który mógłby spowodować awarię systemową.

Na koniec doceniaj niewidoczną mechanikę odkryć. Za każdą aplikacją i każdym gadżetem stoi długi łańcuch rozwiązanych problemów matematycznych. Jeśli te problemy zostaną rozwiązane zbyt szybko przez maszyny, ludzka więź z naszą własną technologią stanie się nieprzejrzysta. Pozostawanie ciekawym tego, jak działają rzeczy, nie jest już tylko hobby. To niezbędna umiejętność przetrwania w zautomatyzowanym świecie.

Sources:
University of California, Los Angeles Department of Mathematics
International Mathematical Union Fields Medal Archives
OpenAI Research Blog regarding o1 model series
Anthropic Technical Documentation for Claude 3.5 Sonnet
DeepMind AlphaProof and AlphaGeometry Technical Reports