„OpenAI“ kuria savo silicio smegenis, kad pašalintų tarpininką

Kiekvieną kartą, kai prašote pokalbių roboto apibendrinti susitikimą ar parašyti eilėraštį, prasideda fizinė grandininė reakcija. Tekstas jūsų ekrane prasideda kaip užklausa, kuri keliauja mylias šviesolaidiniu kabeliu, kol pasiekia duomenų centrą. Ten silicio ir vario plokštė sunaudoja tiek elektros energijos, kiek užtektų lemputei šviesti kelias minutes, vien tam, kad atspėtų kitus tris jūsų atsakymo žodžius. Šis procesas vadinamas išvada (angl. inference). Metų metus „OpenAI“ pasikliovė „Nvidia“ technine įranga šiai užduočiai atlikti. Dabar „OpenAI“ atskleidė pirmuosius duomenis apie „Jalapeño“ – pagal užsakymą sukurtą lustą, skirtą atlikti pagrindinį DI darbą viduje.

Konferencijoje „Hot Chips“ „OpenAI“ pasidalijo pirmaisiais viešais „Jalapeño“ našumo testais. Duomenys rodo, kad ši nauja techninė įranga atlieka daugiau darbo su mažesnėmis energijos sąnaudomis nei dabartiniai pramonės standartai. Naudojant „SemiAnalysis“ „InferenceX“ testą, „Jalapeño“ sugeneravo daugiau žodžių, arba žetonų (angl. tokens), kiekvienam vartotojui, sunaudodamas mažiau elektros energijos nei „Nvidia Blackwell“ architektūra. Richardas Ho, „OpenAI“ techninės įrangos vadovas, teigia, kad sistema suteikia reikšmingą našumo šuolį. Tikslas – pasiekti, kad sąveika su DI atrodytų momentinė, kartu suvaldant milžiniškas duomenų centrų elektros sąskaitas.

Skaitmeninės virtuvės kliūtis

Norėdami suprasti, kodėl „OpenAI“ kuria savo techninę įrangą, įsivaizduokite DI išvadų procesą kaip užimtą restorano virtuvę. Kai išsiunčiate užklausą, sistema pereina dvi fazes. Pirmoji yra užpildymo (angl. prefill) fazė, kurios metu DI perskaito visą jūsų žinutę ir sutvarko savo mintis. Tai panašu į tai, kaip šefas skaito ilgą, sudėtingą receptą. Antroji fazė yra dekodavimo fazė, kurios metu DI iš tikrųjų rašo atsakymą po vieną žodį. Tai panašu į tai, kaip šefas patiekia maistą į lėkštę.

Dauguma šiuolaikinių lustų puikiai susitvarko su patiekimo dalimi, tačiau stringa skaitymo etape. Kai užklausa yra labai ilga, sistema sulėtėja, nes duomenys turi judėti pirmyn ir atgal tarp procesoriaus ir atminties. Šis judėjimas sukelia karštį ir švaisto laiką. „Jalapeño“ sprendžia šią trintį pakeisdamas lusto bendravimą su atmintimi. „OpenAI“ sukūrė lustą taip, kad modelio būsena būtų lokali. Paprastai tariant, šefui nebereikia vaikščioti per visą virtuvę į sandėliuką kiekvieno ingrediento. Viskas lieka ant stalviršio, paruošta neatidėliotinam naudojimui.

Šis pilno ciklo (angl. full-stack) požiūris įmanomas tik todėl, kad „OpenAI“ vienu metu kuria ir programinę, ir techninę įrangą. Nors bendrosios paskirties „Nvidia“ lustas turi tikti visoms įmonėms – nuo automobilių gamintojų iki orų prognozuotojų, „Jalapeño“ turi vieną darbą. Jis paleidžia „OpenAI“ modelius. Ši specializacija leidžia įmonei sumažinti duomenų judėjimą ir ryšio vėlavimus, kurie paprastai tampa kliūtimis didelio masto DI sistemose.

Besivejant kintantį technologijų lyderį

„Jalapeño“ testų rezultatai įspūdingi, tačiau jie pasiekti nepastovioje rinkoje. „OpenAI“ palygino savo naująjį silicį su „Nvidia Blackwell“ sistema, kuri šiuo metu yra duomenų centrų karalienė. „Jalapeño“ rodo geresnį pralaidumą vienam kilovatui, o tai yra pagrindinis efektyvumo rodiklis sunkiojoje pramonėje. Tačiau diegimo terminas yra ilgas. Richardas Ho pažymėjo, kad „Jalapeño“ pasirodys tik labai mažais kiekiais 2026 m. pabaigoje. Reikšmingas diegimas įvyks ne anksčiau kaip 2027 m.

Kol ateis 2027-ieji, konkurencinė aplinka bus pasikeitusi. „Nvidia“ nestovi vietoje. Lustų pramonė juda ciklinėmis bangomis, ir „Nvidia“ tikriausiai kuria dar dvi techninės įrangos kartas, kol „Jalapeño“ pasieks pilną mastą. „OpenAI“ iš esmės žaidžia „šokimo per galvas“ žaidimą. Norėdami laimėti, jie turi užtikrinti, kad jų specializuotas silicis būtų tiek efektyvesnis jų specifiniams modeliams, kad pateisintų milijardus dolerių, išleistų kūrimui. Istoriškai tokios įmonės kaip „Google“ ir „Amazon“ sulaukė sėkmės taikydamos šią strategiją, tačiau tam reikia esminio posūkio programinės įrangos įmonės veikloje.

„OpenAI“ glaudžiai bendradarbiavo su „Broadcom“, kad įgyvendintų „Jalapeño“ projektą. „Broadcom“ turi ilgą patirtį padedant technologijų milžinams kurti specializuotus lustus, jungiančius skirtingas duomenų centro dalis. Įdomu tai, kad „OpenAI“ netgi naudojo savo DI modelius, padedančius projektuoti lustą. Taip sukuriamas grįžtamojo ryšio ciklas, kuriame DI padeda kurti tas pačias smegenis, kuriose jis galiausiai apsigyvens. Dėl to techninė įranga atspindi specifinius matematinius didžiųjų kalbos modelių poreikius, o ne yra „visų galų meistras“ procesorius.

Ką tai reiškia jūsų kasdieniams pokalbiams

Vidutiniam vartotojui pranešimas apie lustą skamba kaip foninis triukšmas technologijų pasaulyje. Tačiau praktiškai „Jalapeño“ efektyvumas lemia, kaip ateityje bendrausite su DI. Jei išvadų sąnaudos išliks didelės, DI įmonės turės riboti, kiek galite naudotis jų įrankiais. Galite susidurti su žinučių kiekio apribojimais arba mokėti didesnius mėnesinius mokesčius, kad padengtumėte elektros ir techninės įrangos išlaidas.

Jei „Jalapeño“ ištesės pažadą dėl didesnio pralaidumo vienam kilovatui, atsakymo generavimo kaina sumažės. Tai gali lemti apčiuopiamus pokyčius DI produktų kainodaroje. Vietoj fiksuoto mėnesinio mokesčio galime pamatyti dosnesnius nemokamus planus arba galimybę atlikti daug ilgesnes, sudėtingesnes užduotis sistemai nesulėtėjant. Galutinis tikslas yra mažas vėlavimas (angl. low latency). Kalbėdami su DI asistentu, norite, kad atsakymas atrodytų kaip natūralus pokalbis, o ne taip, lyg lauktumėte paštu ateinančio laiško.

Rinkos požiūriu šis žingsnis rodo, kad „OpenAI“ nori mažiau priklausyti nuo kitų įmonių tiekimo grandinių. Pasaulinė aukščiausios klasės DI lustų rinka yra decentralizuota, tačiau joje dominuoja keli pagrindiniai žaidėjai. Kurdama savo silicį, „OpenAI“ įgyja daugiau kontrolės savo likimui. Jie gali tiksliai pasirinkti, kada atnaujinti ir kaip optimizuoti savo duomenų centrus, nelaukdami trečiųjų šalių pristatymo tvarkaraščių. Šis atsparumas yra gyvybiškai svarbus įmonei, kuri kiekvieną savaitę aptarnauja šimtus milijonų žmonių.

Nematomas DI eros stuburas

Mes dažnai vertiname DI kaip magiją, tačiau iš tikrųjų tai yra pramoninis procesas. Jam reikia fizinių medžiagų, didžiulių kiekių aušinimo vandens ir milijonų tranzistorių, veikiančių vieningai. „Jalapeño“ yra ta nematomojo stuburo dalis. Optimizuodama užpildymo ir ryšio fazes, „OpenAI“ bando padaryti skaitmeninį praktikantą greitesnį ir pigesnį įdarbinti. Įmonė planuoja, kad tai taps kelių kartų platforma, o tai reiškia, kad „Jalapeño“ yra tik ilgalaikio plano pradžia.

Žvelgiant plačiau, perėjimas prie specializuoto silicio reiškia sisteminį pokytį technologijų pramonėje. Mes tolstame nuo bendrosios paskirties kompiuterių eros link aukštai specializuotų mašinų pasaulio. Lygiai taip pat, kaip sunkiasvoris sunkvežimis sukonstruotas kitaip nei sportinis automobilis, DI serverių lustai skiriasi nuo jūsų nešiojamojo kompiuterio lustų. Būtent ši specializacija leidžia DI iš gražaus triuko tapti patikimu įrankiu kasdieniam gyvenimui.

Galiausiai „Jalapeño“ sėkmė priklauso nuo to, ar „OpenAI“ sugebės neatsilikti nuo milžiniško techninės įrangos inovacijų greičio. Sukurti lustą yra viena; jį pagaminti ir įdiegti dideliu mastu pasauliniuose duomenų centruose yra visiškai kitas iššūkis. 2027 m. diegimo langas suteikia likusiai pramonės daliai pakankamai laiko reaguoti. Kol kas „OpenAI“ parodė, kad nebesitenkina vien programinės įrangos rašymu. Ji nori valdyti patį pagrindą, ant kurio stovi programinė įranga.

Vartotojo požiūriu turėtumėte stebėti, kaip šie pokyčiai paveiks jūsų mėgstamų programėlių greitį. Jei atsakymai staiga taps spartesni arba jei galėsite įkelti ištisas knygas analizei be laukimo laiko, priežastis bus darbas, vykstantis po tokių lustų kaip „Jalapeño“ gaubtu. Bendrosios DI techninės įrangos era baigiasi, o tikslingai sukurto silicio smegenų era prasidėjo.

Šaltiniai: OpenAI Press Briefing, Hot Chips 2026 Presentation, SemiAnalysis InferenceX Benchmark Report.