Anthropic buduje własne krzemowe mózgi, aby uniknąć globalnego wąskiego gardła sprzętowego

Następnym razem, gdy poprosisz chatbota Claude o podsumowanie dokumentu prawnego lub napisanie fragmentu kodu, odpowiedź pojawiająca się na ekranie będzie końcowym ogniwem w kosztownym globalnym łańcuchu. Każde słowo generuje niewielki koszt, mały podmuch ciepła w centrum danych i ułamek centa w tantiemach dla firm, które są właścicielami sprzętu. Na końcu tego łańcucha znajduje się mikroprocesor, często zaprojektowany przez Nvidię i wyprodukowany na Tajwanie. Dla Anthropic ta zależność od zewnętrznego sprzętu jest ogromnym wydatkiem. Aby to naprawić, firma zatrudnia obecnie dedykowany zespół do projektowania własnych, niestandardowych układów AI.

Patrząc na szerszy obraz, ten ruch jest przejściem od wynajmowania technologii do posiadania fabryki. Przez lata startupy AI skupiały się niemal wyłącznie na kodzie. Budowały duże modele językowe i uruchamiały je na sprzęcie ogólnego przeznaczenia, ponieważ był to najszybszy sposób na wejście na rynek. Jednak w miarę jak AI staje się stałą częścią gospodarki, koszt wynajmu tego sprzętu jest największym obciążeniem dla ich kont bankowych. Projektując własny krzem, Anthropic chce zbudować układ, który jest specjalnie dostosowany do sposobu, w jaki myśli Claude. Nie chodzi o stworzenie chipu, który robi wszystko. Chodzi o stworzenie chipu, który robi jedną rzecz — obsługuje modele AI — wyjątkowo dobrze.

Niewidzialny podatek od każdego zapytania

Aby zrozumieć, dlaczego firma programistyczna chce wejść w trudny biznes sprzętowy, należy przyjrzeć się matematyce inferencji. Inferencja to proces, w którym wytrenowany model AI przyjmuje żądanie użytkownika i generuje odpowiedź. Proces ten odbywa się miliardy razy dziennie. Obecnie większość tych prac odbywa się na procesorach graficznych (GPU) Nvidii. Chipy te są cyfrową ropą naftową nowoczesnej gospodarki. Są niesamowicie potężne, ale także drogie i energochłonne, ponieważ zostały zaprojektowane tak, aby były elastyczne. Mogą trenować model, renderować wideo lub symulować wzorce pogodowe.

Anthropic nie potrzebuje tej elastyczności do każdego zadania. Kiedy po prostu uruchamiasz model, który jest już zbudowany, używanie procesora GPU ogólnego przeznaczenia jest jak używanie potężnej ciężarówki do dostarczenia pojedynczej koperty. Zadanie zostanie wykonane, ale płacisz za dużą moc silnika, której nie wykorzystujesz. Niestandardowy krzem pozwala firmie usunąć te części układu, które są niepotrzebne do inferencji AI. Zmniejsza to ilość energii elektrycznej wymaganej dla każdego zapytania i zwiększa prędkość, z jaką model może odpowiadać. Dla przeciętnego użytkownika oznacza to krótszy czas oczekiwania na pojawienie się tekstu na ekranie.

Po stronie rynkowej popyt na te układy jest tak wysoki, że czas oczekiwania może wydłużyć się do wielu miesięcy. Anthropic podpisał ogromne umowy z Amazonem i Google na korzystanie z ich infrastruktury, ale nawet ci giganci technologiczni mają własne priorytety. Budując zespół ds. niestandardowego krzemu, Anthropic próbuje odizolować się od niestabilnego łańcucha dostaw. Jeśli firma posiada własne projekty, może negocjować bezpośrednio z producentami takimii jak Samsung czy TSMC. Ten ruch daje im miejsce przy stole zamiast miejsca na końcu kolejki.

Podążanie ścieżką liderów branży

Anthropic dołącza do klubu, który kiedyś był zarezerwowany dla najbogatszych firm technologicznych. Historycznie tylko giganci tacy jak Apple czy Google mieli zasoby do projektowania własnych procesorów. Apple zmieniło cały rynek laptopów, gdy odeszło od procesorów Intel na rzecz własnego krzemu z serii M. Zyskało całkowitą kontrolę nad tym, jak jego oprogramowanie i sprzęt współpracują ze sobą. Anthropic dąży do tego samego poziomu integracji pionowej. Firma niedawno potwierdziła, że planuje współprojektować swój sprzęt i modele. Oznacza to, że inżynierowie budujący Claude'a będą rozmawiać z inżynierami budującymi układy, aby upewnić się, że są one idealnie dopasowane.

Inni gracze w tej przestrzeni są już głęboko zaangażowani w ten proces. Google od lat używa swoich jednostek Tensor Processing Units (TPU) do zasilania wszystkiego, od wyszukiwarki po modele Gemini. Meta opracowała akcelerator MTIA do obsługi ogromnych obciążeń AI stojących za jej kanałami w mediach społecznościowych. Nawet OpenAI podobno współpracowało z Broadcomem nad układem o kryptonimie Jalapeño. Aby Anthropic pozostał konkurencyjny, musi dorównać temu poziomowi wydajności. Bez własnego sprzętu zawsze płaciłby marżę, której jego konkurenci mogą ostatecznie uniknąć. Jest to strategia przetrwania na rynku, na którym koszt obliczeń jest główną barierą wejścia.

Za żargonem niestandardowych układów krzemowych

Kiedy firma mówi o swoim zespole ds. niestandardowych układów krzemowych, szuka bardzo konkretnego rodzaju talentów. Ci inżynierowie nie tylko piszą kod. Oni wyznaczają fizyczne ścieżki przepływu energii elektrycznej na kawałku krzemu. Muszą zdecydować, ile pamięci powinno znajdować się obok procesora i jak dane powinny przepływać między nimi. W świecie AI największym wąskim gardłem często nie jest to, jak szybko chip może myśleć, ale jak szybko może przesyłać dane z pamięci do procesora. Jest to znane jako „ściana pamięci” (memory wall).

Praktycznie rzecz biorąc, niestandardowy układ może zniwelować tę lukę, umieszczając pamięć znacznie bliżej rdzeni przetwarzających niż robi to standardowy procesor GPU. Anthropic poszukuje inżynierów, którzy potrafią rozwiązać te fizyczne zagadki. Raporty sugerujące partnerstwo z Samsungiem są godne uwagi, ponieważ Samsung jest jedną z niewielu firm na świecie, która potrafi zarówno projektować, jak i wytwarzać te złożone komponenty. Partnerstwo w tym zakresie dałoby Anthropic uproszczoną ścieżkę od cyfrowego projektu do fizycznego układu. Zmniejsza to tarcie przy przechodzeniu od pomysłu programowego do rzeczywistości sprzętowej.

Co to oznacza dla przeciętnego konsumenta

Dla osoby używającej Claude'a do pisania e-maili lub analizowania danych, te korporacyjne manewry mogą wydawać się odległe. Jednak ich wpływ jest namacalny. Obecnie wysoki koszt uruchamiania modeli AI jest powodem, dla którego wiele najlepszych funkcji jest zablokowanych za subskrypcją kosztującą dwadzieścia dolarów miesięcznie. Jest to również powód, dla którego darmowe wersje tych modeli często mają ścisłe limity liczby wysyłanych wiadomości. Jeśli Anthropic zdoła obniżyć koszty sprzętu o 30% lub 40% dzięki własnemu krzemowi, stworzy to miejsce na bardziej hojne darmowe poziomy lub potężniejsze funkcje w tej samej cenie.

Niezawodność to kolejny czynnik. W godzinach szczytu wiele usług AI zwalnia lub doświadcza przerw w działaniu, ponieważ centra danych pracują z pełną wydajnością. Posiadanie własnego projektu sprzętu pozwala firmie upakować więcej mocy obliczeniowej w tej samej przestrzeni. Oznacza to, że usługa pozostaje dostępna i szybka nawet wtedy, gdy korzystają z niej miliony ludzi jednocześnie. Ostatecznie chodzi o to, aby technologia była mniej odczuwalna jako ciężkie narzędzie przemysłowe, a bardziej jako płynna część codziennej pracy. Krzem jest niewidzialnym kręgosłupem, który decyduje o tym, czy AI sprawia wrażenie niestrudzonego stażysty, czy powolnego, starzejącego się komputera.

Patrząc na szerszy obraz, wchodzimy w erę wyspecjalizowanych systemów obliczeniowych. Era procesorów uniwersalnych do wszystkiego dobiega końca. W nadchodzących latach Twój telefon, Twój samochód i Twój asystent AI będą działać na układach, które zostały zbudowane do ich konkretnych zadań. Ekspansja kadrowa Anthropic jest wyraźnym sygnałem, że firma zamierza być stałym elementem tego krajobrazu. Nie wystarczy już mieć najmądrzejszy model. Trzeba również posiadać najmądrzejszy mózg, na którym można go uruchomić.

Podsumowanie wyścigu o układy AI

Z punktu widzenia konsumenta ta konkurencja jest zdecydowanie pozytywna. Przełamuje ona monopol na sprzęt, który napędza nasze cyfrowe życie. Gdy wiele firm rywalizuje o zbudowanie najwydajniejszego układu, rezultatem jest szybsza innowacja i niższe koszty. Odchodzimy od świata, w którym wszyscy polegają na jednym dostawcy silników przyszłości. Ta dywersyfikacja sprawia, że cały ekosystem technologiczny staje się bardziej odporny.

Ostatecznie decyzja Anthropic o zatrudnieniu zespołu sprzętowego jest krokiem ku dojrzałości. Pokazuje ona, że AI nie jest już projektem badawczym ani spekulacyjnym zakładem. To rzeczywistość przemysłowa, która wymaga własnej wyspecjalizowanej infrastruktury. W miarę jak te niestandardowe układy będą przechodzić z fazy projektowania do centrów danych, sposób, w jaki wchodzimy w interakcję z AI, ulegnie zmianie. Stanie się ona szybsza, tańsza i głębiej osadzona w urządzeniach, których używamy każdego dnia. Możesz nigdy nie zobaczyć układu, który buduje Anthropic, ale z pewnością poczujesz jego wpływ następnym razem, gdy wyślesz zapytanie.

Źródła:

• Raport Business Insider o zatrudnianiu inżynierów sprzętowych przez Anthropic.
• Potwierdzenie TechCrunch dotyczące zespołu ds. niestandardowego krzemu w Anthropic.
• Raport The Information o potencjalnym partnerstwie Samsunga i Anthropic.
• Dane historyczne dotyczące cykli rozwojowych Google TPU i Meta MTIA.