Kodėl „Google“ kuria specializuotą „smegenų“ lustą savo DI modeliams?

Kiekvieną kartą, kai prašote DI apibendrinti ilgą dokumentą arba sugeneruoti kodo fragmentą, prasideda tylus pramoninis procesas. Žodžiai jūsų ekrane yra galutinis produktas, tačiau žaliavos yra elektra ir silicis. Norint sukurti vieną teksto pastraipą, serverių ūkis tokioje vietoje kaip Ajova ar Suomija sunaudoja tiek energijos, kiek pakaktų buitiniam prietaisui veikti kelias minutes. Šie serveriai remiasi lustais, kurie veikia kaip skaitmeninė mūsų eros nafta, maitinanti kiekvieną paieškos užklausą ir automatizuotą atsakymą.

Šiuo metu šių skaitmeninių medžiagų paklausa yra tokia didelė, kad tiekimo grandinės neatlaiko apkrovos. „Google“ dabar bando apeiti šią kliūtį iš esmės keisdama savo aparatinės įrangos veikimo principus. Bendrovė kuria naują serverio lustą, neoficialiai pavadintą „Frozen v2“, kuris tiesiogiai į fizinę įrangą įtraukia jos „Gemini“ DI modelio elementus. Tai yra nukrypimas nuo įprasto kompiuterių veikimo būdo. Tradiciškai lustas yra bendrosios paskirties įrankis, kuris vykdo bet kokią jūsų pateiktą programinę įrangą. „Google“ dabar kuria lustą, kuris tam tikra prasme yra iš anksto suformuotas taip, kad atitiktų specifinę jos pačios DI logiką.

skaitmeninės minties kaina

Norėdami suprasti, kodėl „Google“ žengia šį žingsnį, turime pažvelgti į vieno DI leksemos (angl. token) efektyvumą. Leksema yra apytiksliai lygi žodžiui arba žodžio daliai. Kai toks modelis kaip „Gemini“ apdoroja informaciją, jis perkelia šias leksemas per matematinių skaičiavimų sluoksnius. Standartinėje sąrankoje aparatinė įranga sunaudoja milžinišką kiekį energijos vien tik duomenų perkėlimui pirmyn ir atgal tarp procesoriaus ir atminties. Šis judėjimas sukuria šilumą ir sunaudoja elektrą, o tai virsta didesnėmis sąnaudomis įmonei ir, galiausiai, vartotojui.

„Google Cloud“ neseniai atsisakė išorinių klientų užsakymų, nes tiesiog neturėjo pakankamai skaičiavimo galios visiems poreikiams patenkinti. Šis pajėgumų trūkumas yra pramoninė realybė, kurios dauguma vartotojų niekada nemato. Kai debesijos paslaugų teikėjas atsisako sutarties, tai nutinka todėl, kad jų duomenų centrai yra fiziškai užpildyti arba jų sąskaitos už energiją tampa nepakeliamos. „The Information“ praneša, kad būtent ši vidinė įtampa paskatino „Frozen v2“ kūrimą. Tikslas – sukurti lustą, kuris būtų nuo šešių iki dešimties kartų efektyvesnis už dabartinius modelius, vertinant pagal aptarnaujamų leksemų skaičių vienam galios vienetui.

Praktiškai kalbant, jei „Google“ gali pateikti 10 kartų daugiau DI atsakymų su tuo pačiu elektros kiekiu, ji vienu metu išsprendžia dvi problemas. Tai sumažina astronomines „Gemini“ palaikymo išlaidas ir leidžia bendrovei aptarnauti daugiau vartotojų nestatant dešimt kartų daugiau duomenų centrų. Vidutiniam vartotojui tai gali reikšti skirtumą tarp nemokamo DI įrankio ir tokio, kuris paslėptas už dvidešimties dolerių mėnesinio mokesčio.

debesija pasiekia savo fizinę ribą

Istoriškai technologijų įmonės sprendė greičio problemas mažindamos lustus ir talpindamos jų daugiau vienoje patalpoje. Pasiekėme tašką, kai ši strategija duoda vis mažesnę grąžą. Šiuolaikiniai DI modeliai yra tokie dideli, kad jiems reikia tūkstančių lustų, dirbančių tobulai sinchronizuotai. Jei vienas lustas veikia lėtai, laukia visa sistema.

„Google“ jau naudoja savo tenzorinio apdorojimo įrenginius (TPU) didžiajai daliai DI darbų. Tai specializuoti lustai, tačiau jie vis dar pakankamai lankstūs, kad galėtų paleisti daugybę skirtingų tipų modelių. „Frozen v2“ yra kitoks, nes jis yra mažiau bendrosios paskirties įrankis ir daugiau specializuotas „Gemini“ karkasas. „Google“, įsiliedama specifines modelio dalis tiesiai į silicį, sumažina poreikį lustui „galvoti“, kaip apdoroti duomenis. Instrukcijos jau yra ten, įrašytos pačioje aparatinėje įrangoje.

Šis požiūris turi reikšmingą kompromisą. Jei inžinieriai po trejų metų iš esmės pakeis „Gemini“ modelį, toks lustas gali tapti nebeaktualus. Tai didelės rizikos statymas, kad dabartinė „Gemini“ architektūra yra pamatas ateinančiam dešimtmečiui. Inžinieriai vis dar tikslina, kiek modelio informacijos bus nuolatinė aparatinėje įrangoje – šis sprendimas nulems, koks standus ar lankstus bus lustas, kai jis pagaliau pasirodys 2028 metais.

kaip „frozen v2“ keičia lustų rinką

Žvelgiant iš rinkos pusės, šis žingsnis yra akivaizdus bandymas sumažinti priklausomybę nuo išorinių tiekėjų, tokių kaip „Nvidia“. Nors „Google“ kuria savo TPU, didžioji pasaulio dalis vis dar remiasi „Nvidia“ H100 ir H200 procesoriais. Sukurdama lustą, kuris iš esmės yra neatsiejamas nuo jos programinės įrangos, „Google“ sukuria uždarą ciklą. Dėl to konkurentams tampa labai sunku pasivyti jų efektyvumą, nes konkurentas turi tik programinę įrangą, o „Google“ turi ir programinę įrangą, ir specializuotą variklį, sukurtą jai veikti.

Žvelgiant į bendrą vaizdą, šis projektas yra atsakas į nepastovią rinką, kurioje visi medžioja tą pačią ribotą silicio pasiūlą. Po ataskaitos „Alphabet“ akcijos pakilo 3,3 %, o tai rodo, kad investuotojai šiuo metu savarankiškumą vertina labiau už viską. Rinka pripažįsta, kad įmonė, turinti efektyviausią aparatinę įrangą, laimi maržų karą. Jei „OpenAI“ atsakymas į klausimą kainuoja penkis centus, o „Google“ – pusę cento, „Google“ turi sisteminį pranašumą, kurį beveik neįmanoma įveikti vien tik programinės įrangos atnaujinimais.

kelias nuo programinės iki aparatinės įrangos

Atitolę galime pamatyti, kaip tai veikia produkto gyvavimo ciklą. Ankstyvosiose naujos technologijos stadijose programinė įranga yra greita, o aparatinė – lėta. Kūrėjai keičia savo kodą kiekvieną savaitę, todėl aparatinė įranga turi būti kaip tuščias lapas, galintis prisitaikyti. Technologijai bręstant, programinė įranga nusistovi stabilia forma. Tai taškas, kuriame prasminga „įkepti“ programinę įrangą į aparatinę.

Tai matėme su vaizdo žaidimais. Dešimtajame dešimtmetyje kompiuteriai viskam naudojo bendruosius procesorius. Galiausiai įmonės sukūrė vaizdo plokštes (GPU), kurios buvo pritaikytos daryti vieną dalyką: skaičiuoti trikampius ir šviesą. DI šiuo metu išgyvena tą patį perėjimą. „Frozen v2“ yra ryškėjantis ženklas, kad DI nebėra eksperimentinis programinės įrangos projektas. Jis tampa pamatine paslauga, pavyzdžiui, elektra ar vandeniu, kur prioritetas yra ekonomiškas pristatymas masiniu mastu.

Įdomu tai, kad „Bloomberg“ neseniai pranešė, jog „Google“ teko atidėti naujausią „Gemini“ modelį, nes jis neatitiko vidinių tikslų. Tai pabrėžia trintį šiame perėjime. Jei programinė įranga dar nėra tobula, jos įliejimas į lustą yra pavojingas žingsnis. Vėlavimas rodo, kad „Google“ vis dar tobulina savo DI „formą“, prieš skirdama jai milijardus dolerių kainuojančią silicio gamybos seriją. Aparatinės įrangos dizaino klaidos negalima ištaisyti greitu pataisymu ar naktiniu atnaujinimu.

ilgas kelias iki 2028-ųjų

Vidutiniam vartotojui 2028-ieji atrodo kaip ilgas laikas laukti greitesnio pokalbių roboto. Pramoninės aparatinės įrangos pasaulyje ketveri metai yra standartinis kūrimo ciklas. Lustų projektavimas, architektūros testavimas ir laiko rezervavimas gamykloje, tokioje kaip TSMC, užtrunka ne vienerius metus. Tai reiškia, kad „Google“ šiandien priima sprendimus dėl DI, kurį naudosite dešimtmečio pabaigoje.

Už techninio žargono slypi atsparumas. „Google“ bando užtikrinti, kad jos paslaugos išliktų prieinamos net jei pasaulinė lustų pasiūla išliktų įtempta. Gamindami savo specializuotą aparatinę įrangą, jie yra mažiau pažeidžiami puslaidininkių pramonės cikliškumo. Jie stato savo jėgainę, užuot pirkę elektrą iš tinklo. Toks vertikalios integracijos lygis yra brangus, tačiau jis suteikia kontrolę, kurios trūksta daugumai kitų technologijų įmonių.

Vartotojo požiūriu, nebūtinai pamatysite „Frozen v2“ logotipą savo telefone ar naršyklėje. Poveikis bus nematomas. Pastebėsite, kad „Gemini“ atsako greičiau, apdoroja ilgesnius dokumentus be vėlavimo ir galbūt siūlo daugiau pažangių funkcijų nemokamai. Sunkioji pramonė, vykstanti fone – silicio liejimas ir elektros tinklų optimizavimas – yra tai, kas leidžia egzistuoti lengvai skaitmeninei patirčiai.

ką tai reiškia jūsų mėnesinei prenumeratai

Galiausiai, „Frozen v2“ kūrimas primena, kad DI nėra tik skaitmeninis reiškinys. Tai fizinis reiškinys. Modeliams augant ir sudėtingėjant, aparatinė įranga turi tapti labiau specializuota, kad neatsiliktų. Tai praktinis poslinkis link ateities, kurioje mūsų įrenginiai ne tik naudoja DI, bet yra fiziškai sukurti iš DI.

Kol kas geriausias būdas pasiruošti – stebėti, kaip šie įrankiai integruojami į jūsų kasdienius įpročius. Gerėjant efektyvumui, DI tikriausiai persikels iš atskiros pokalbių dėžutės į kiekvienos jūsų naudojamos programėlės foną. Atkreipkite dėmesį į išlaidas. Jei aparatinės įrangos efektyvumas tikrai šoktelės dešimt kartų, turėtume tikėtis, kad dabartinė kylančių prenumeratos kainų tendencija stabilizuosis ar net pasisuks priešinga linkme. Turėtumėte ieškoti paslaugų, kurios gali įrodyti savo tvarumą, nes būtent jos išgyvens ateinančią energijos ir pajėgumų krizę. Nematomas interneto stuburas keičiasi, o rezultatas bus labiau supaprastinta, nors galbūt ir uždaresnė, skaitmeninė ekosistema.

Šaltiniai: The Information, Bloomberg News, Alphabet Investor Relations, Google Cloud Official Communications.