Anthropic ehitab oma räniajusid, et pääseda globaalsest riistvara kitsaskohast

Järgmine kord, kui palute Claude'i vestlusbotil juriidilist dokumenti kokku võtta või koodijuppi kirjutada, on teie ekraanile ilmuv vastus kalli globaalse ahela viimane lüli. Iga sõna tekitab väikese kulu, pisikese soojuspahvaku andmekeskuses ja murdosa sendist litsentsitasudena ettevõtetele, kellele kuulub riistvara. Selle ahela lõpus asub mikrokiip, mille on sageli projekteerinud Nvidia ja mis on valmistatud Taiwanis. Anthropicu jaoks on see sõltuvus välisest riistvarast tohutu kulu. Selle lahendamiseks värbab ettevõte nüüd pühendunud meeskonda, et projekteerida oma kohandatud tehisintellekti kiipe.

Suurt pilti vaadates on see samm nihe tehnoloogia rentimiselt tehase omamisele. Aastaid keskendusid tehisintellekti idufirmad peaaegu täielikult koodile. Nad ehitasid suuri keelemudeleid ja käitasid neid üldotstarbelisel riistvaral, sest see oli kiireim viis turule jõudmiseks. Kuid kuna tehisintellekt muutub majanduse püsivaks osaks, on selle riistvara rentimise kulu suurim kuluallikas nende pangakontodel. Oma räni projekteerimisega soovib Anthropic luua kiibi, mis on kujundatud spetsiaalselt Claude'i mõtlemisviisi jaoks. See ei tähenda kiibi loomist, mis teeb kõike. See tähendab sellise kiibi loomist, mis teeb ühte asja — käitab tehisintellekti mudeleid — erakordselt hästi.

Nähtamatu maks igal vestlusviibal

Mõistmaks, miks tarkvaraettevõte soovib siseneda keerulisse riistvaraärisse, peate vaatama inferentsi (järeldamise) matemaatikat. Inferents on protsess, kus treenitud tehisintellekti mudel võtab kasutaja päringu ja genereerib vastuse. See protsess toimub miljardeid kordi päevas. Praegu töötab suurem osa sellest tööst Nvidia graafikaprotsessoritel (GPU). Need kiibid on kaasaegse majanduse digitaalne toornafta. Nad on uskumatult võimsad, kuid samas ka kallid ja energiakulukad, sest need on loodud olema paindlikud. Nad suudavad treenida mudelit, renderdada videot või simuleerida ilmastikumustreid.

Anthropic ei vaja seda paindlikkust iga ülesande jaoks. Kui käitate lihtsalt mudelit, mis on juba valmis ehitatud, on üldotstarbelise GPU kasutamine nagu hiiglasliku kaubaveoki kasutamine ühe ümbriku kohaletoimetamiseks. See teeb töö ära, kuid te maksate mootori eest, mida te ei kasuta. Kohandatud räni võimaldab ettevõttel eemaldada kiibi osad, mis on tehisintellekti inferentsi jaoks mittevajalikud. See vähendab iga päringu jaoks vajalikku elektrienergiat ja suurendab kiirust, millega mudel suudab vastata. Tavakasutaja jaoks tähendab see vähem ootamist teksti ekraanile ilmumisel.

Turu poolelt on nõudlus nende kiipide järele nii suur, et ooteajad võivad venida kuudepikkuseks. Anthropic on sõlminud massiivsed tehingud Amazoni ja Google'iga nende infrastruktuuri kasutamiseks, kuid isegi neil tehnoloogiahiidudel on oma prioriteedid. Luues kohandatud ränimeeskonna, püüab Anthropic end isoleerida ebastabiilsest tarneahelast. Kui ettevõttel on oma projektid, saab ta rääkida otse tootjatega nagu Samsung või TSMC. See samm annab neile koha läbirääkimiste laua taga, mitte koha järjekorra lõpus.

Tööstusharu liidrite jälgedes

Anthropic liitub klubiga, mis oli kunagi reserveeritud vaid rikkaimatele tehnoloogiaettevõtetele. Ajalooliselt on vaid sellistel hiidudel nagu Apple või Google olnud ressursse oma protsessorite projekteerimiseks. Apple muutis kogu sülearvutiturgu, kui loobus Inteli kiipidest oma M-seeria räni kasuks. Ta saavutas täieliku kontrolli selle üle, kuidas tema tarkvara ja riistvara koos töötavad. Anthropic taotleb samasugust vertikaalset integratsiooni. Ettevõte kinnitas hiljuti, et kavatseb oma riistvara ja mudelid koos projekteerida. See tähendab, et Claude'i ehitavad insenerid suhtlevad kiipe ehitavate inseneridega, et tagada nende täielik kooskõla.

Teised valdkonna osalised on selles protsessis juba kaugele jõudnud. Google on aastaid kasutanud oma Tensor-protsessoreid (TPU), et toita kõike alates otsingust kuni oma Gemini mudeliteni. Meta on välja töötanud MTIA kiirendi, et tulla toime massiivsete tehisintellekti töökoormustega oma sotsiaalmeediavoogude taga. Isegi OpenAI on väidetavalt teinud koostööd Broadcomiga kiibi kallal, mille koodnimi on Jalapeño. Konkurentsivõime säilitamiseks peab Anthropic saavutama samasuguse tõhususe taseme. Ilma oma riistvarata maksaks ta alati lisatasu, mida tema konkurendid saavad lõpuks vältida. See on ellujäämisstrateegia turul, kus arvutusvõimsuse kulu on peamine sisenemisbarjäär.

Kohandatud räni žargooni taga

Kui ettevõte räägib oma kohandatud ränimeeskonnast, otsib ta väga spetsiifilist tüüpi talente. Need insenerid ei kirjuta lihtsalt koodi. Nad kaardistavad elektri füüsilisi teid ränitükil. Nad peavad otsustama, kui palju mälu peaks asuma protsessori kõrval ja kuidas andmed nende vahel liikuma peaksid. Tehisintellekti maailmas ei ole suurimaks kitsaskohaks sageli see, kui kiiresti kiip suudab mõelda, vaid see, kui kiiresti suudab ta andmeid mälust protsessorisse liigutada. See on tuntud kui mälusein (memory wall).

Praktiliselt võttes saab kohandatud kiip seda lõhet ületada, paigutades mälu töötlemistuumadele palju lähemale kui standardne GPU. Anthropic otsib insenere, kes suudavad lahendada neid füüsilisi mõistatusi. Teated, mis viitavad partnerlusele Samsungiga, on märkimisväärsed, kuna Samsung on üks väheseid ettevõtteid maailmas, mis suudab neid keerulisi komponente nii projekteerida kui ka toota. Partnerlus seal annaks Anthropicule voolujoonelise tee digitaalsest joonisest füüsilise kiibini. See vähendab hõõrdumist tarkvaraliselt ideelt riistvaralise reaalsuseni jõudmisel.

Mida see tähendab tavakasutajale

Inimesele, kes kasutab Claude'i e-kirjade koostamiseks või andmete analüüsimiseks, võivad need korporatiivsed manöövrid tunduda kauged. Mõju on aga käegakatsutav. Praegu on tehisintellekti mudelite käitamise kõrge kulu põhjus, miks paljud parimad funktsioonid on lukustatud kahekümne dollarilise kuutellimuse taga. See on ka põhjus, miks nende mudelite tasuta versioonidel on sageli ranged piirangud saadetavate sõnumite arvule. Kui Anthropic suudab kohandatud räni abil vähendada oma riistvarakulusid 30% või 40%, loob see ruumi heldematele tasuta pakettidele või võimsamatele funktsioonidele sama hinna juures.

Töökindlus on veel üks tegur. Tipptundidel aeglustuvad paljud tehisintellekti teenused või esineb katkestusi, kuna andmekeskused on täisvõimsusel. Riistvara disaini omamine võimaldab ettevõttel mahutada samasse ruumi rohkem töötlemisvõimsust. See tähendab, et teenus püsib töös ja kiirena ka siis, kui miljoneid inimesi kasutab seda korraga. Lõppkokkuvõttes on eesmärk muuta tehnoloogia vähem raskeks tööstuslikuks tööriistaks ja rohkem sujuvaks osaks igapäevasest töövoost. Räni on nähtamatu selgroog, mis määrab, kas tehisintellekt tundub väsimatu praktikandina või aeglase, vananeva arvutina.

Suurt pilti vaadates oleme sisenemas spetsialiseeritud arvutustehnika ajastusse. Universaalsete protsessorite ajastu on lõppemas. Järgmistel aastatel töötavad teie telefon, auto ja tehisintellekti assistent kiipidel, mis on loodud just nende konkreetsete ülesannete jaoks. Anthropicu värbamislaine on selge signaal, et ettevõte kavatseb jääda sellele maastikule püsivalt. Enam ei piisa sellest, et teil on kõige targem mudel. Teil peab olema ka kõige targem aju, millel seda käitada.

Tehisintellekti kiipide võidujooksu kokkuvõte

Tarbija seisukohast on see konkurents puhas võit. See murrab monopoli riistvaral, mis toidab meie digitaalset elu. Kui mitu ettevõtet võistlevad kõige tõhusama kiibi ehitamise nimel, on tulemuseks kiirem innovatsioon ja madalamad kulud. Me liigume eemale maailmast, kus kõik sõltuvad tuleviku mootorite osas ühest tarnijast. See mitmekesistamine muudab kogu tehnoloogia ökosüsteemi vastupidavamaks.

Lõppkokkuvõttes on Anthropicu otsus palgata riistvarameeskond samm küpsuse poole. See näitab, et tehisintellekt ei ole enam uurimisprojekt või spekulatiivne panus. See on tööstuslik reaalsus, mis nõuab oma spetsialiseeritud infrastruktuuri. Kui need kohandatud kiibid liiguvad projekteerimisfaasist andmekeskusesse, muutub viis, kuidas me tehisintellektiga suhtleme. See muutub kiiremaks, odavamaks ja sügavamalt integreerituks seadmetesse, mida kasutame iga päev. Te ei pruugi kunagi näha kiipi, mida Anthropic ehitab, kuid te tunnete kindlasti selle mõju järgmine kord, kui vajutate päringu saatmise nuppu.

Allikad:

• Business Insideri raport Anthropicu riistvarainseneride värbamise kohta.
• TechCrunchi kinnitus Anthropicu kohandatud ränimeeskonna kohta.
• The Informationi raport Samsungi ja Anthropicu potentsiaalse partnerluse kohta.
• Ajaloolised andmed Google TPU ja Meta MTIA arendustsüklite kohta.