„Anthropic“ kuria savo silicio smegenis, kad išvengtų pasaulinės techninės įrangos kliūčių

„Anthropic“ kuria savo silicio smegenis, kad išvengtų pasaulinės techninės įrangos kliūčių

Kitą kartą, kai paprašysite „Claude“ pokalbių roboto apibendrinti teisinį dokumentą ar parašyti kodo fragmentą, ekrane pasirodęs atsakymas bus paskutinė brangios pasaulinės grandinės dalis. Kiekvienas žodis sukuria nedideles išlaidas, mažą šilumos pliūpsnį duomenų centre ir dalį cento autorinio atlygio įmonėms, kurioms priklauso techninė įranga. Šios grandinės gale stovi mikrochema, dažnai sukurta „Nvidia“ ir pagaminta Taivane. Įmonei „Anthropic“ ši priklausomybė nuo išorinės techninės įrangos yra didžiulės išlaidos. Norėdama tai ištaisyti, bendrovė dabar samdo specialią komandą savo specializuotiems DI lustams kurti.

Žvelgiant į platesnį vaizdą, šis žingsnis yra perėjimas nuo technologijų nuomos prie nuosavos gamyklos. Metų metus DI startuoliai beveik visiškai susikoncentravo į kodą. Jie kūrė didelius kalbos modelius ir naudojo juos bendrosios paskirties techninėje įrangoje, nes tai buvo greičiausias būdas patekti į rinką. Tačiau DI tampant nuolatine ekonomikos dalimi, tos techninės įrangos nuomos kaina yra didžiausias jų banko sąskaitų nutekėjimas. Kurdama savo silicį, „Anthropic“ nori sukurti lustą, kuris būtų specialiai pritaikytas tam, kaip mąsto „Claude“. Tai nėra bandymas sukurti lustą, kuris daro viską. Tai bandymas sukurti lustą, kuris vieną dalyką – DI modelių vykdymą – atlieka išskirtinai gerai.

Nematomas mokestis už kiekvieną užklausą

Norint suprasti, kodėl programinės įrangos įmonė nori įsitraukti į sudėtingą techninės įrangos verslą, reikia pažvelgti į išvadų (angl. inference) matematiką. Išvados yra procesas, kurio metu apmokytas DI modelis priima vartotojo užklausą ir generuoja atsakymą. Šis procesas vyksta milijardus kartų per dieną. Šiuo metu didžioji dalis šio darbo atliekama naudojant „Nvidia“ GPU. Šie lustai yra skaitmeninė žalioji nafta šiuolaikinėje ekonomikoje. Jie yra neįtikėtinai galingi, tačiau taip pat brangūs ir reikalaujantys daug energijos, nes yra sukurti būti lankstūs. Jie gali apmokyti modelį, atvaizduoti vaizdo įrašą arba imituoti oro sąlygas.

„Anthropic“ nereikia tokio lankstumo kiekvienai užduočiai. Kai tiesiog naudojate jau sukurtą modelį, bendrosios paskirties GPU naudojimas yra tarsi didžiulio krovininio sunkvežimio naudojimas vienam vokui pristatyti. Darbas atliekamas, bet mokate už didelę variklio galią, kurios nenaudojate. Specializuotas silicis leidžia įmonei pašalinti tas lusto dalis, kurios nebūtinos DI išvadoms. Tai sumažina kiekvienai užklausai reikalingą elektros kiekį ir padidina greitį, kuriuo modelis gali atsakyti. Vidutiniam vartotojui tai reiškia trumpesnį laukimą, kol tekstas pasirodys ekrane.

Rinkos pusėje šių lustų paklausa yra tokia didelė, kad laukimo laikas gali tęstis mėnesius. „Anthropic“ pasirašė didžiulius sandorius su „Amazon“ ir „Google“, kad galėtų naudotis jų infrastruktūra, tačiau net ir šie technologijų milžinai turi savo prioritetus. Kurdama specializuotą silicio komandą, „Anthropic“ bando apsisaugoti nuo nepastovios tiekimo grandinės. Jei įmonė turės savo projektus, ji galės tiesiogiai derėtis su gamintojais, tokiais kaip „Samsung“ ar TSMC. Šis žingsnis suteikia jiems vietą prie derybų stalo, o ne vietą eilės gale.

Sekant pramonės lyderių pėdomis

„Anthropic“ prisijungia prie klubo, kuris kažkada buvo prieinamas tik turtingiausioms technologijų įmonėms. Istoriškai tik tokie milžinai kaip „Apple“ ar „Google“ turėjo išteklių kurti savo procesorius. „Apple“ pakeitė visą nešiojamųjų kompiuterių rinką, kai atsisakė „Intel“ lustų ir perėjo prie savo „M“ serijos silicio. Ji įgijo visišką kontrolę, kaip jos programinė ir techninė įranga veikia kartu. „Anthropic“ siekia to paties vertikalios integracijos lygio. Bendrovė neseniai patvirtino, kad planuoja kartu projektuoti savo techninę įrangą ir modelius. Tai reiškia, kad inžinieriai, kuriantys „Claude“, kalbėsis su inžinieriais, kuriančiais lustus, kad užtikrintų tobulą jų suderinamumą.

Kiti šios srities žaidėjai jau seniai dalyvauja šiame procese. „Google“ jau daugelį metų naudoja savo tenzorinio apdorojimo įrenginius (TPU), kad palaikytų viską – nuo paieškos iki savo „Gemini“ modelių. „Meta“ sukūrė MTIA greitintuvą, kad susidorotų su didžiuliais DI darbo krūviais savo socialinės žiniasklaidos srautuose. Pranešama, kad net „OpenAI“ dirbo su „Broadcom“ kurdama lustą kodiniu pavadinimu „Jalapeño“. Kad „Anthropic“ išliktų konkurencinga, ji turi pasiekti tokį patį efektyvumo lygį. Be savo techninės įrangos ji visada mokėtų didesnę kainą, kurios jos konkurentai galiausiai galės išvengti. Tai išlikimo strategija rinkoje, kurioje skaičiavimo kaina yra pagrindinis barjeras patekti į rinką.

Už specializuoto silicio žargono

Kai įmonė kalba apie savo specializuoto silicio komandą, ji ieško labai specifinio tipo talentų. Šie inžinieriai ne tik rašo kodą. Jie nubraižo fizinius elektros kelius ant silicio gabalo. Jie turi nuspręsti, kiek atminties turėtų būti šalia procesoriaus ir kaip duomenys turėtų judėti tarp jų. DI pasaulyje didžiausia kliūtis dažnai yra ne tai, kaip greitai lustas gali mąstyti, o tai, kaip greitai jis gali perkelti duomenis iš atminties į procesorių. Tai žinoma kaip „atminties siena“ (angl. memory wall).

Praktiškai kalbant, specializuotas lustas gali įveikti šią spragą pastatydamas atmintį daug arčiau procesoriaus branduolių nei standartinis GPU. „Anthropic“ ieško inžinierių, galinčių išspręsti šiuos fizinius galvosūkius. Pranešimai, rodantys partnerystę su „Samsung“, yra reikšmingi, nes „Samsung“ yra viena iš nedaugelio įmonių pasaulyje, galinti tiek projektuoti, tiek gaminti šiuos sudėtingus komponentus. Partnerystė suteiktų „Anthropic“ supaprastintą kelią nuo skaitmeninio brėžinio iki fizinio lusto. Tai sumažina trintį pereinant nuo programinės įrangos idėjos prie techninės įrangos realybės.

Ką tai reiškia paprastam vartotojui

Asmeniui, naudojančiam „Claude“ el. laiškų rašymui ar duomenų analizei, šie korporatyviniai manevrai gali atrodyti tolimi. Tačiau poveikis yra apčiuopiamas. Šiuo metu didelė DI modelių veikimo kaina yra priežastis, kodėl daugelis geriausių funkcijų yra pasiekiamos tik už dvidešimties dolerių per mėnesį prenumeratą. Tai taip pat yra priežastis, kodėl nemokamos šių modelių versijos dažnai turi griežtus apribojimus, kiek žinučių galite išsiųsti. Jei „Anthropic“, naudodama specializuotą silicį, galės sumažinti techninės įrangos sąnaudas 30 % ar 40 %, tai sudarys galimybių dosnesniems nemokamiems planams arba galingesnėms funkcijoms už tą pačią kainą.

Patikimumas yra dar vienas veiksnys. Piko valandomis daugelis DI paslaugų sulėtėja arba patiria trikdžių, nes duomenų centrai dirba visu pajėgumu. Nuosavas techninės įrangos dizainas leidžia įmonei sutalpinti daugiau skaičiavimo galios toje pačioje erdvėje. Tai reiškia, kad paslauga išlieka pasiekiama ir greita net tada, kai ja vienu metu naudojasi milijonai žmonių. Galiausiai tai skirta tam, kad technologija atrodytų ne kaip sunkus pramoninis įrankis, o kaip vientisa kasdienio darbo dalis. Silicis yra nematomas stuburas, nulemiantis, ar DI jaučiamas kaip nepavargstantis praktikantas, ar kaip lėtas, senstantis kompiuteris.

Žvelgiant į platesnį vaizdą, žengiame į specializuotų skaičiavimų erą. Universalių procesorių era baigiasi. Ateinančiais metais jūsų telefonas, automobilis ir DI asistentas veiks su lustais, kurie buvo sukurti jų specifinėms užduotims. „Anthropic“ samdymo bumas yra aiškus signalas, kad bendrovė ketina tapti nuolatine šio kraštovaizdžio dalimi. Nebepakanka turėti išmaniausią modelį. Taip pat turite turėti išmaniausias smegenis, kuriose jis veiktų.

DI lustų lenktynių santrauka

Vartotojo požiūriu ši konkurencija yra grynas pozityvas. Ji griauna techninės įrangos, kuri valdo mūsų skaitmeninį gyvenimą, monopolį. Kai kelios įmonės konkuruoja kurdamas efektyviausią lustą, rezultatas yra greitesnės inovacijos ir mažesnės išlaidos. Mes tolstame nuo pasaulio, kuriame visi priklauso nuo vieno ateities variklių tiekėjo. Ši diversifikacija daro visą technologijų ekosistemą atsparesnę.

Galiausiai „Anthropic“ sprendimas samdyti techninės įrangos komandą yra žingsnis brandos link. Tai rodo, kad DI nebėra tik tyrimų projektas ar spekuliacinis statymas. Tai pramoninė realybė, kuriai reikalinga sava specializuota infrastruktūra. Šiems specializuotiems lustams persikėlus iš projektavimo fazės į duomenų centrą, mūsų sąveika su DI pasikeis. Jis taps greitesnis, pigesnis ir giliau integruotas į įrenginius, kuriais naudojamės kasdien. Galbūt niekada nepamatysite lusto, kurį kuria „Anthropic“, bet tikrai pajusite jo poveikį kitą kartą, kai paspausite „siųsti“ užklausą.

Šaltiniai:

• „Business Insider“ ataskaita apie „Anthropic“ samdomus techninės įrangos inžinierius.
• „TechCrunch“ patvirtinimas apie „Anthropic“ specializuoto silicio komandą.
• „The Information“ ataskaita apie potencialią „Samsung“ ir „Anthropic“ partnerystę.
• Istoriniai duomenys apie „Google TPU“ ir „Meta MTIA“ kūrimo ciklus.