Dlaczego najszybsza AI na świecie działa na standardowych czipach zamiast na dedykowanym sprzęcie

Branża technologiczna spędziła ostatnie dwa lata w przekonaniu, że jedynym sposobem na przyspieszenie AI jest wymyślenie czipu komputerowego na nowo. Startupy takie jak Groq i Cerebras zebrały miliardy dolarów na budowę potężnego, wyspecjalizowanego sprzętu zaprojektowanego w celu rozwiązania wąskich gardeł danych, które spowalniają modele takie jak ChatGPT. Narracja była prosta: standardowe układy graficzne od Nvidii nadawały się do trenowania AI, ale były zbyt wolne dla błyskawicznych reakcji wymaganych w świecie rzeczywistym. To przekonanie zmieniło polowanie na dedykowany krzem w cyfrową gorączkę złota.

Xiaomi właśnie udowodniło, że ta teoria jest błędna. W poniedziałek rano chiński gigant elektroniczny udostępnił nowy tryb serwowania dla swojego flagowego modelu, MiMo-V2.5-Pro-UltraSpeed. Zrobił on coś więcej niż tylko bicie rekordu prędkości. Rozbił szklany sufit tego, co uważaliśmy za możliwe na standardowym, gotowym sprzęcie. System osiągnął prędkość 1200 tokenów na sekundę na modelu o bilionie parametrów. Dla kontekstu, token to mniej więcej trzy czwarte słowa. Oznacza to, że model generuje około 900 słów w każdą sekundę.

Patrząc na szerszy obraz, jest to 15 razy szybciej niż wersje GPT i Claude, z których korzysta dziś większość ludzi. Xiaomi dokonało tego przy użyciu standardowego węzła z 8 procesorami GPU — tego samego rodzaju sprzętu, który można wynająć od dowolnego dużego dostawcy chmury. Ten rozwój sugeruje, że sekretem następnej generacji szybkości AI nie jest lepsza fabryka czipów. Jest to inteligentniejszy sposób wykorzystania czipów, które już posiadamy.

Luka prędkości w liczbach

Aby zrozumieć, dlaczego ma to znaczenie, musimy przyjrzeć się temu, jak ludzie doświadczają szybkości AI. Gdy zadajesz pytanie ChatGPT lub Claude, tekst zazwyczaj pojawia się w tempie szybkiego maszynisty. To około 60 do 80 tokenów na sekundę. Choć dla osoby czytającej pojedynczą odpowiedź wydaje się to szybkie, jest to zdecydowanie zbyt wolne dla złożonych zadań przemysłowych. Szybka sztuczna inteligencja jest niewidzialnym kręgosłupem takich rozwiązań jak tłumaczenie w czasie rzeczywistym, natychmiastowe wykrywanie oszustw w bankowości czy autonomiczni agenci, którzy muszą podejmować tysiące decyzji na minutę.

Historycznie najszybsze prędkości pochodziły z dedykowanego sprzętu. Cerebras trafił na nagłówki gazet, osiągając prawie 1000 tokenów na sekundę na modelu Meta, ale wymagało to czipu wielkości talerza obiadowego. Xiaomi osiągnęło ten sam próg — a następnie go przekroczyło — na modelu, który jest ponad dwukrotnie większy.

Jak triki programowe pokonują ograniczenia sprzętowe

Pod maską Xiaomi zastosowało technikę zwaną kwantyzacją FP4 na warstwach eksperckich modelu. Aby wyjaśnić to w prostych słowach, wyobraźmy sobie, że model z bilionem parametrów to ogromna biblioteka. Zazwyczaj komputer musi przeczytać każde słowo w każdej książce, aby udzielić odpowiedzi. Zajmuje to dużo pamięci i czasu. Kwantyzacja to sposób na skurczenie tych książek, aby zajmowały mniej miejsca.

Wiele firm próbuje skurczyć całą bibliotekę, ale to często sprawia, że AI staje się mniej inteligentna i bardziej podatna na błędy. Xiaomi zadziałało chirurgicznie. Zachowali rdzeń logiczny modelu w wysokiej rozdzielczości, ale skompresowali wyspecjalizowane warstwy eksperckie — konkretne działy biblioteki — do precyzji 4-bitowej. Zmniejszyło to ilość danych, które czip musiał przemieścić, o połowę. Rezultatem jest model, który zachowuje swoje wysokie IQ, poruszając się dwa razy szybciej przez pamięć komputera.

Istnieje również drugi trik o nazwie spekulatywne dekodowanie DFlash. W typowej rozmowie z AI model jest jak pisarz, który musi pomyśleć o każdej literze przed jej wpisaniem. Spekulatywne dekodowanie wprowadza niestrudzonego stażystę, który próbuje odgadnąć kilka następnych słów. Jeśli stażysta ma rację, model akceptuje cały blok tekstu naraz. Jeśli stażysta się myli, model go poprawia. DFlash od Xiaomi jest tak wydajny, że proponuje osiem tokenów naraz i zazwyczaj trafia poprawnie w sześć z nich. Pozwala to modelowi przeskakiwać do przodu w blokach, zamiast pełzać słowo po słowie.

Silnik TileRT i koniec opóźnień

Efektywność oprogramowania często polega na usuwaniu pustych przestrzeni w procesie. Xiaomi sparowało swój model z nowym silnikiem inferencyjnym o nazwie TileRT. W większości systemów AI występuje niewielkie opóźnienie za każdym razem, gdy oprogramowanie nakazuje sprzętowi wykonanie nowego obliczenia. Te luki mierzy się w mikrosekundach, ale sumują się one, gdy wykonuje się miliardy obliczeń.

TileRT utrzymuje cały proces obliczeniowy w pamięci GPU przez cały czas. Eliminuje to naturę „start-stop” tradycyjnego przetwarzania AI. To usprawnione podejście gwarantuje, że układy graficzne nigdy nie pozostają bezczynne, czekając na kolejną instrukcję. Ta kombinacja skompresowanych danych, trafnego zgadywania i bezprzestojowego potoku pozwala standardowemu serwerowi działać jak warty wiele milionów dolarów dedykowany superkomputer.

Co to oznacza dla Twojej codziennej technologii

Dla przeciętnego użytkownika te rekordy prędkości mogą wydawać się abstrakcyjną konkurencją korporacyjną. Jednak wpływ na technologię konsumencką jest namacalny. Gdy AI jest tak szybka, zmienia się z chatbota, z którym rozmawiasz, w narzędzie, które pracuje dla Ciebie w tle.

Rozważmy aplikację do tłumaczenia języka w czasie rzeczywistym. Obecne prędkości często charakteryzują się zauważalnym opóźnieniem, które utrudnia naturalną rozmowę. Przy 1000 tokenów na sekundę AI mogłaby wysłuchać pełnego zdania, przetłumaczyć je na trzy różne języki i sprawdzić gramatykę wszystkich trzech w czasie krótszym niż mrugnięcie okiem. Eliminuje to niezręczne pauzy w międzynarodowych spotkaniach biznesowych czy podróżach.

Od strony rynkowej jest to przełomowy ruch dla kosztów AI. Xiaomi wycenia testową wersję UltraSpeed na trzykrotność swojej standardowej stawki, ale zapewnia dziesięciokrotnie większą wydajność. Dla programistów budujących nowe aplikacje oznacza to, że mogą wykonać znacznie więcej pracy za każdego dolara wydanego na obliczenia w chmurze. Niższe koszty dla deweloperów zazwyczaj prowadzą do tańszych lub bardziej zaawansowanych aplikacji dla użytkownika końcowego.

Praktyczne prognozy

Sukces Xiaomi sugeruje, że niedobór sprzętu w ostatnich latach mógł być w rzeczywistości problemem z oprogramowaniem. W miarę jak firmy zdają sobie sprawę, że mogą uzyskać ogromne zyski wydajności dzięki lepszemu kodowaniu, presja na kupowanie najdroższych, wyspecjalizowanych czipów może zacząć słabnąć. Wkraczamy w okres, w którym wydajność matematyki ma takie samo znaczenie, jak moc krzemu.

Należy spodziewać się fali funkcji AI działających w czasie rzeczywistym, które trafią na urządzenia do końca tego roku. Nie będą to tylko szybsze chatboty. Szukaj funkcji wymagających od AI przemyślenia dziesiątek możliwości naraz, takich jak zaawansowani asystenci kodowania piszący całe programy w kilka sekund czy postacie w grach prowadzące nieskryptowane, natychmiastowe rozmowy. Wąskim gardłem nie jest już to, jak szybko komputer potrafi myśleć. Jest nim to, jak szybko potrafimy dać mu coś użytecznego do zrobienia.

Źródła:
Xiaomi MiMo Developer Documentation (April 2026)
Artificial Analysis LLM Leaderboard (June 2026)
TileRT Technical Whitepaper (May 2026)
Cerebras and Groq Performance Benchmarks (2025)