Smukła czarna obudowa stojąca na scenie podczas targów Internationale Funkausstellung w Berlinie wygląda jak standardowa, wysokiej klasy stacja robocza. Jednak ta maszyna, nazwana Threadripper Halo Station, to gęste skupisko najdroższych i najrzadszych materiałów we współczesnym świecie technologii. Wiceprezes AMD, Jack Huynh, zaprezentował urządzenie jako osobisty superkomputer – etykieta ta zmienia definicję tego, co może potrafić komputer stacjonarny. Umieszczając komponenty zazwyczaj zarezerwowane dla ogromnych farm serwerowych w jednej obudowie, AMD próbuje zmienić sposób, w jaki firmy kupują i wykorzystują sztuczną inteligencję.
Aby zrozumieć, dlaczego pojedynczy komputer może kosztować więcej niż luksusowy sedan, trzeba prześledzić drogę materiałów aż do krzemowego wafla. Pod maską Halo Station znajdują się dwa akceleratory centrum danych MI350P. Nie są to standardowe karty graficzne do gier. To wyspecjalizowane procesory zaprojektowane do przeliczania wag matematycznych dużych modeli językowych. Chipy te są cyfrową ropą naftową obecnej gospodarki. Wymagają zaawansowanych procesów produkcyjnych, które jest w stanie zapewnić tylko kilka fabryk na świecie. Gdy doda się do tego 96 rdzeni procesora Threadripper Pro, maszyna dysponuje wystarczającą surową mocą obliczeniową, aby symulować złożoną fizykę lub generować wysokiej jakości środowiska 3D na podstawie jednego polecenia tekstowego.
Najdroższym fizycznym materiałem w tej maszynie jest prawdopodobnie pamięć. Halo Station posiada 576 gigabajtów pamięci o wysokiej przepustowości, a konkretnie wariantu HBM3E. W codziennych kategoriach można myśleć o standardowej pamięci komputerowej jak o wąskim korytarzu, w którym dane muszą czekać na swoją kolej, aby dotrzeć do procesora. HBM3E to potężna, wielopasmowa autostrada zbudowana bezpośrednio na chipie. Taka konstrukcja pozwala danym poruszać się z prędkościami, którym standardowa pamięć stacjonarna nie jest w stanie dorównać. Maszyna posiada również dwa terabajty pamięci systemowej, zapewniając ogromną przestrzeń roboczą do przechowywania informacji.
Ta objętość pamięci jest powodem, dla którego Halo Station może lokalnie uruchamiać modele AI z ponad bilionem parametrów. Parametr to w zasadzie połączenie w „mózgu” sztucznej inteligencji. Im więcej parametrów ma model, tym bardziej jest dopracowany i zdolny. Większość komputerów domowych ma trudności z uruchomieniem modeli z 70 miliardami parametrów, ponieważ brakuje im miejsca na przechowywanie danych podczas pracy procesora. Oferując ponad trzykrotnie większą pojemność pamięci niż jej najbliższy rywal, Nvidia DGX Station, AMD zapewnia większą przestrzeń roboczą dla AI. Oznacza to, że firma może uruchomić potężną, prywatną wersję narzędzia takiego jak GPT-4 bez wysyłania ani jednego bajta danych na zewnętrzny serwer.
Patrząc na szerszy obraz, dążenie do lokalnych superkomputerów jest reakcją na rosnące koszty chmury. Przez ostatnią dekadę branża technologiczna przenosiła wszystko na zdalne serwery należące do Amazon, Microsoft czy Google. Jednak uruchamianie dużych modeli AI na tych platformach jest kosztowne. Firmy płacą subskrypcję lub opłatę za każde użycie, która nigdy się nie kończy. Koszty te są jak powolny wyciek powietrza z opony, który ostatecznie unieruchamia firmę. Firma wydająca 5 000 euro miesięcznie na opłaty za chmurę AI wyda 180 000 euro w ciągu trzech lat.
AMD stawia na to, że instytucje będą wolały zapłacić 100 000 euro z góry, aby posiadać sprzęt na własność. Ta zmiana reprezentuje ruch w kierunku zdecentralizowanej mocy. Gdy firma posiada Halo Station, ma niestrudzonego stażystę, który pracuje za koszt energii elektrycznej. Nie muszą się martwić, że dostawca chmury podniesie ceny lub zmieni warunki świadczenia usług. Jest to szczególnie atrakcyjne dla sektorów takich jak opieka zdrowotna, obronność czy usługi prawne, gdzie prywatność danych jest wymogiem prawnym. Przechowywanie danych wewnątrz budynku na fizycznej maszynie jest najbezpieczniejszym sposobem obsługi wrażliwych informacji.
AMD wchodzi na rynek, który Nvidia zajmuje od kilku lat. Nvidia DGX Station jest obecnym standardem w lokalnym rozwoju AI. Od strony rynkowej Nvidia ma znaczącą przewagę, ponieważ jej oprogramowanie jest standardem branżowym. Większość badaczy AI pisze kod, który najlepiej działa na sprzęcie Nvidii. Nvidia ułatwia również przenoszenie pracy z lokalnego komputera do potężnego klastra chmurowego. To płynne przejście jest głównym atutem dla deweloperów, którzy zaczynają od małych projektów i skalują je w górę.
| Cecha | AMD Threadripper Halo Station | Nvidia DGX Station (Obecna gen.) |
|---|---|---|
| Liczba rdzeni | 96 rdzeni (Threadripper Pro) | Zmienna (Host Intel/AMD) |
| Pamięć o wysokiej przepustowości | 576GB HBM3E | 160GB - 320GB HBM |
| Pamięć systemowa | Do 2TB | Do 512GB - 1TB |
| Pojemność modeli AI | Ponad 1 bilion parametrów | ~500 miliardów parametrów |
| Chłodzenie | Chłodzone cieczą | Chłodzone cieczą |
| Ekosystem oprogramowania | Rozwijający się (ROCm) | Dojrzały (CUDA) |
Strategia AMD polega na wygrywaniu surową pojemnością. Oferując znacznie więcej pamięci, pozwalają użytkownikom uruchamiać większe modele, niż jest w stanie obsłużyć maszyna Nvidii. Jeśli badacz musi pracować nad modelem o bilionie parametrów, maszyna AMD jest obecnie jedyną opcją stacjonarną, która może pomieścić taki model w swojej pamięci. Jednak sukces tego sprzętu będzie zależał od platformy programowej AMD o nazwie ROCm. Historycznie AMD miało trudności z dorównaniem łatwości obsługi oprogramowania Nvidii. Dla przeciętnego użytkownika w środowisku korporacyjnym sprzęt jest tylko tak dobry, jak aplikacje, które na nim działają.
Praktycznie rzecz biorąc, większość osób nie kupi komputera za 100 000 euro. Threadripper Halo Station to narzędzie przemysłowe, a nie urządzenie domowe. Należy postrzegać tę maszynę w taki sam sposób, jak ciężki dźwig lub wyspecjalizowanego robota chirurgicznego. Jest to niewidoczny kręgosłup, który pomoże stworzyć oprogramowanie, z którego będziesz korzystać na swoim telefonie w przyszłym roku. Gdy deweloper ma taką moc na swoim biurku, może szybciej eksperymentować. Może trenować mniejsze, bardziej wydajne agenty AI, które ostatecznie będą działać na tańszych laptopach konsumenckich.
Z punktu widzenia konsumenta, ta premiera sygnalizuje, że era polegania wyłącznie na chmurze dobiega końca. Obserwujemy cykliczny powrót do przetwarzania lokalnego. W miarę jak komponenty wewnątrz tych superkomputerów staną się tańsze i łatwiejsze w produkcji, technologia ta będzie przenikać niżej. Pamięć o wysokiej przepustowości, która sprawia, że Halo Station jest dziś tak droga, prawdopodobnie stanie się standardem w komputerach gamingowych średniej klasy do 2030 roku. Tak właśnie działa demokratyzacja technologii. Luksusowe narzędzia dzisiejszego dnia stają się fundamentalnymi komponentami budżetowych urządzeń jutra.
Wprowadzenie na rynek Halo Station to namacalny znak, że branża AI dojrzewa. Wychodzimy poza fazę szumu, w której każda firma po prostu wynajmuje miejsce na serwerze. Firmy szukają teraz skalowalnych, odpornych rozwiązań, które mogą kontrolować. AMD zapewnia fizyczną infrastrukturę dla tej niezależności. Choć cena jest wysoka, potencjał długoterminowych oszczędności i bezpieczeństwa danych jest potężną zachętą dla dużych instytucji.
Ostatecznie warto obserwować, jak Twoje własne miejsce pracy radzi sobie z danymi w ciągu najbliższego roku. Jeśli Twoja firma zacznie mówić o „AI on-premise” lub „lokalnej inferencji”, mówi o maszynach takich jak Halo Station. To przesunięcie w stronę lokalnej mocy zmieni sposób tworzenia oprogramowania i ochrony Twoich danych osobowych. Jesteś świadkiem momentu, w którym cyfrowa ropa naftowa mocy obliczeniowej jest pakowana do biura, czyniąc złożony świat AI nieco bardziej osadzonym w fizycznej rzeczywistości.
Źródła:



Nasze kompleksowe, szyfrowane rozwiązanie do poczty e-mail i przechowywania danych w chmurze zapewnia najpotężniejsze środki bezpiecznej wymiany danych, zapewniając bezpieczeństwo i prywatność danych.
/ Utwórz bezpłatne konto