Dlaczego Google buduje niestandardowy mózg dla swoich modeli AI?

Za każdym razem, gdy prosisz AI o podsumowanie długiego dokumentu lub wygenerowanie fragmentu kodu, rozpoczyna się cichy proces przemysłowy. Słowa na ekranie są produktem końcowym, ale surowcami są energia elektryczna i krzem. Aby wyprodukować jeden akapit tekstu, farma serwerów w miejscu takim jak Iowa czy Finlandia pobiera wystarczającą ilość energii, by zasilać urządzenie gospodarstwa domowego przez kilka minut. Serwery te opierają się na chipach, które działają jak cyfrowa ropa naftowa naszej ery, napędzając każde zapytanie w wyszukiwarce i zautomatyzowaną odpowiedź.

Obecnie popyt na te cyfrowe materiały jest tak wysoki, że linie dostaw się uginają. Google próbuje teraz ominąć to wąskie gardło, zasadniczo zmieniając sposób działania swojego sprzętu. Firma opracowuje nowy układ serwerowy, nieoficjalnie nazwany Frozen v2, który włącza elementy modelu Gemini AI bezpośrednio do fizycznego sprzętu. Jest to odejście od tego, jak zazwyczaj działają komputery. Tradycyjnie chip jest narzędziem ogólnego przeznaczenia, które uruchamia dowolne oprogramowanie, jakie mu się poda. Google buduje teraz chip, który jest w pewnym sensie wstępnie ukształtowany tak, aby pasował do specyficznej logiki jego własnej sztucznej inteligencji.

koszt cyfrowej myśli

Aby zrozumieć, dlaczego Google podejmuje ten krok, musimy przyjrzeć się wydajności pojedynczego tokena AI. Token jest w przybliżeniu odpowiednikiem słowa lub części słowa. Gdy model taki jak Gemini przetwarza informacje, przesuwa te tokeny przez warstwy obliczeń matematycznych. W standardowej konfiguracji sprzęt zużywa ogromną ilość energii tylko na przesyłanie danych tam i z powrotem między procesorem a pamięcią. Ten ruch generuje ciepło i zużywa energię elektryczną, co przekłada się na wyższe koszty dla firmy i, ostatecznie, dla użytkownika.

Google Cloud niedawno odrzuciło zlecenia od klientów zewnętrznych, ponieważ po prostu nie miało wystarczającej mocy obliczeniowej. Ten deficyt wydajności to przemysłowa rzeczywistość, której większość użytkowników nigdy nie widzi. Gdy dostawca chmury odmawia podpisania kontraktu, dzieje się tak dlatego, że jego centra danych są fizycznie pełne lub rachunki za energię stają się nie do udźwignięcia. The Information donosi, że to właśnie te wewnętrzne napięcia pchnęły rozwój Frozen v2. Celem jest stworzenie chipu, który będzie od sześciu do dziesięciu razy wydajniejszy niż obecne modele, biorąc pod uwagę liczbę obsłużonych tokenów na jednostkę mocy.

Praktycznie rzecz biorąc, jeśli Google może dostarczyć 10 razy więcej odpowiedzi AI przy tej samej ilości energii elektrycznej, rozwiązuje dwa problemy naraz. Obniża astronomiczne koszty prowadzenia Gemini i pozwala firmie obsługiwać więcej użytkowników bez budowania dziesięciokrotnie większej liczby centrów danych. Dla przeciętnego użytkownika może to być różnica między darmowym narzędziem AI a takim, które jest ukryte za miesięczną opłatą w wysokości dwudziestu dolarów.

chmura osiąga swój fizyczny limit

Historycznie firmy technologiczne rozwiązywały problemy z prędkością, zmniejszając chipy i upakowując ich więcej w jednym pomieszczeniu. Dotarliśmy do punktu, w którym ta strategia przynosi malejące korzyści. Współczesne modele AI są tak duże, że wymagają tysięcy chipów pracujących w idealnej synchronizacji. Jeśli jeden chip jest wolny, cały system czeka.

Google już używa własnych jednostek Tensor Processing Units (TPU) do większości swoich prac nad AI. Są to wyspecjalizowane układy, ale wciąż na tyle elastyczne, by obsługiwać wiele różnych typów modeli. Frozen v2 jest inny, ponieważ jest mniej narzędziem ogólnego przeznaczenia, a bardziej wyspecjalizowanym szkieletem dla Gemini. Poprzez wbudowanie na stałe określonych części modelu w krzem, Google zmniejsza potrzebę „myślenia” chipu o tym, jak przetwarzać dane. Instrukcje już tam są, wyryte w samym sprzęcie.

Takie podejście wiąże się ze znacznym kompromisem. Jeśli inżynierowie znacząco zmienią model Gemini za trzy lata, chip z wbudowaną na stałe logiką może stać się przestarzały. To zakład o wysoką stawkę, że obecna architektura Gemini jest fundamentem na następną dekadę. Inżynierowie wciąż finalizują, jak duża część informacji o modelu będzie trwała w sprzęcie – decyzja ta określi, jak sztywny lub elastyczny będzie chip, gdy ostatecznie pojawi się w 2028 roku.

jak frozen v2 zmienia zasady gry w świecie układów scalonych

Od strony rynkowej ten ruch jest wyraźną próbą zmniejszenia zależności od zewnętrznych dostawców, takich jak Nvidia. Podczas gdy Google buduje własne jednostki TPU, duża część świata wciąż korzysta z procesorów H100 i H200 firmy Nvidia. Tworząc chip, który jest fundamentalnie nierozerwalny z jego oprogramowaniem, Google tworzy zamknięty obieg. To sprawia, że konkurentom bardzo trudno jest dorównać ich wydajności, ponieważ konkurent ma tylko oprogramowanie, podczas gdy Google ma oprogramowanie i wyspecjalizowany silnik zbudowany do jego obsługi.

Patrząc na szerszy obraz, projekt ten jest odpowiedzią na niestabilny rynek, na którym wszyscy gonią za tymi samymi ograniczonymi zasobami krzemu. Akcje Alphabet wzrosły o 3,3% po opublikowaniu raportu, co pokazuje, że inwestorzy cenią samowystarczalność bardziej niż cokolwiek innego w tej chwili. Rynek dostrzega, że firma z najwydajniejszym sprzętem wygrywa wojnę o marże. Jeśli odpowiedź na pytanie kosztuje OpenAI pięć centów, a Google pół centa, Google ma systemową przewagę, której prawie nie da się pokonać za pomocą samych aktualizacji oprogramowania.

śledzenie ścieżki od oprogramowania do sprzętu

Patrząc z szerszej perspektywy, możemy zobaczyć, jak wpływa to na cykl życia produktu. We wczesnych dniach nowej technologii oprogramowanie jest szybkie, a sprzęt wolny. Deweloperzy zmieniają swój kod co tydzień, więc sprzęt musi być czystą kartą, która może się adaptować. W miarę dojrzewania technologii oprogramowanie przybiera stabilną formę. To jest moment, w którym sensowne staje się „wypalenie” oprogramowania w sprzęcie.

Widzieliśmy to w grach wideo. W latach 90. komputery używały procesorów ogólnego przeznaczenia do wszystkiego. Ostatecznie firmy stworzyły karty graficzne (GPU), które były zaprogramowane do robienia jednej rzeczy: obliczania trójkątów i światła. AI przechodzi obecnie tę samą transformację. Frozen v2 to wyłaniający się znak, że AI nie jest już eksperymentalnym projektem programistycznym. Staje się fundamentalną usługą, jak prąd czy woda, gdzie priorytetem jest opłacalna dostawa na masową skalę.

Co ciekawe, Bloomberg niedawno poinformował, że Google musiało opóźnić swój najnowszy model Gemini, ponieważ nie spełnił on wewnętrznych celów. Podkreśla to tarcia w tej transformacji. Jeśli oprogramowanie nie jest jeszcze idealne, wbudowanie go na stałe w chip jest niebezpiecznym posunięciem. Opóźnienie sugeruje, że Google wciąż dopracowuje „kształt” swojej sztucznej inteligencji, zanim zatwierdzi ten kształt do wartej miliardy dolarów produkcji krzemu. Błędu w projekcie sprzętu nie da się naprawić szybką łatką czy nocną aktualizacją.

długa droga do 2028 roku

Dla przeciętnego użytkownika rok 2028 wydaje się odległym terminem oczekiwania na szybszego chatbota. W świecie sprzętu przemysłowego cztery lata to standardowy cykl rozwojowy. Projektowanie chipu, testowanie architektury i zabezpieczanie czasu w fabryce takiej jak TSMC wymaga lat wyprzedzenia. Oznacza to, że Google podejmuje dziś decyzje dotyczące AI, z której będziesz korzystać pod koniec dekady.

Za żargonem kryje się kwestia odporności. Google stara się zapewnić, by jego usługi pozostały dostępne, nawet jeśli globalne dostawy chipów pozostaną ograniczone. Tworząc własny, wyspecjalizowany sprzęt, są mniej podatni na cykliczną naturę branży półprzewodników. Budują własną elektrownię, zamiast kupować prąd z sieci. Ten poziom integracji pionowej jest kosztowny, ale zapewnia poziom kontroli, którego brakuje większości innych firm technologicznych.

Z punktu widzenia konsumenta niekoniecznie zobaczysz logo „Frozen v2” na swoim telefonie czy w przeglądarce. Wpływ będzie niewidoczny. Zauważysz, że Gemini odpowiada szybciej, obsługuje dłuższe dokumenty bez opóźnień i być może oferuje bardziej zaawansowane funkcje za darmo. Przemysł ciężki dziejący się w tle – odlewanie krzemu i optymalizacja sieci energetycznych – jest tym, co umożliwia lekkie cyfrowe doświadczenie.

co to oznacza dla Twojej miesięcznej subskrypcji

Ostatecznie rozwój Frozen v2 przypomina, że AI nie jest tylko zjawiskiem cyfrowym. To zjawisko fizyczne. W miarę jak modele stają się coraz bardziej złożone, sprzęt musi stawać się coraz bardziej wyspecjalizowany, aby dotrzymać im kroku. To praktyczna zmiana w kierunku przyszłości, w której nasze urządzenia nie tylko uruchamiają AI, ale są fizycznie zbudowane z AI.

Na razie najlepszym sposobem na przygotowanie się jest obserwowanie, jak te narzędzia są integrowane z Twoimi codziennymi nawykami. W miarę poprawy wydajności AI prawdopodobnie przeniesie się z samodzielnego okna czatu do tła każdej aplikacji, której używasz. Zwracaj uwagę na koszty. Jeśli wydajność sprzętu rzeczywiście wzrośnie dziesięciokrotnie, powinniśmy spodziewać się, że obecny trend rosnących cen subskrypcji ustabilizuje się lub nawet odwróci. Powinieneś szukać usług, które potrafią udowodnić swoją zrównoważoność, ponieważ to one przetrwają nadchodzący kryzys energetyczny i wydajnościowy. Niewidzialny kręgosłup internetu się zmienia, a rezultatem będzie bardziej usprawniony, choć być może bardziej zamknięty, ekosystem cyfrowy.

Źródła: The Information, Bloomberg News, Alphabet Investor Relations, Google Cloud Official Communications.