Gludā, melnā šasija, kas atrodas uz skatuves izstādē "Internationale Funkausstellung" Berlīnē, izskatās pēc standarta augstas klases darbstacijas. Tomēr šī mašīna, ko sauc par Threadripper Halo Station, ir blīvs modernās tehnoloģiju pasaules dārgāko un retāko materiālu apkopojums. AMD vecākais viceprezidents Džeks Huins (Jack Huynh) iepazīstināja ar ierīci kā ar personālo superdatoru — apzīmējums, kas maina definīciju tam, ko spēj paveikt galddators. Ievietojot komponentus, kas parasti rezervēti masīvām serveru fermām, vienā kastē, AMD mēģina mainīt to, kā uzņēmumi pērk un izmanto mākslīgo intelektu.
Lai saprastu, kāpēc viens dators var maksāt vairāk nekā luksusa sedans, materiālu izcelsme ir jāizseko līdz pat silīcija plāksnei. Zem pārsega Halo Station ir divi MI350P datu centra paātrinātāji. Tās nav standarta grafiskās kartes spēlēm. Tie ir specializēti procesori, kas paredzēti lielo valodu modeļu matemātisko svaru apstrādei. Šīs mikroshēmas ir pašreizējās ekonomikas digitālā jēlnafta. To ražošanai nepieciešami progresīvi procesi, ko spēj nodrošināt tikai dažas rūpnīcas pasaulē. Pievienojot Threadripper Pro procesora 96 kodolus, mašīnai ir pietiekami daudz neapstrādātas matemātiskās jaudas, lai simulētu sarežģītu fiziku vai ģenerētu augstas precizitātes 3D vidi no viena teksta uzvednes.
Dārgākais fiziskais materiāls šajā mašīnā, visticamāk, ir atmiņa. Halo Station ir 576 gigabaiti augstas joslas platuma atmiņas, konkrēti HBM3E veids. Ikdienas izteiksmē iedomājieties standarta datora atmiņu kā šauru priekšnamu, kur datiem jāgaida sava kārta, lai sasniegtu procesoru. HBM3E ir masīva, daudzjoslu maģistrāle, kas izbūvēta tieši virs mikroshēmas. Šāds dizains ļauj datiem pārvietoties ātrumā, kādu standarta galddatora atmiņa nevar sasniegt. Mašīnai ir arī divi terabaiti sistēmas atmiņas, nodrošinot masīvu darba vietu, kur datoram glabāt informāciju.
Šis atmiņas apjoms ir iemesls, kāpēc Halo Station var lokāli darbināt MI modeļus ar vairāk nekā triljonu parametru. Parametrs būtībā ir savienojums MI smadzenēs. Jo vairāk parametru ir modelim, jo niansētāks un spējīgāks tas ir. Lielākajai daļai mājas datoru ir grūtības darbināt modeļus ar 70 miljardiem parametru, jo tiem trūkst vietas datu glabāšanai, kamēr procesors pie tiem strādā. Piedāvājot vairāk nekā trīs reizes lielāku atmiņas ietilpību nekā tā tuvākajam sāncensim Nvidia DGX Station, AMD nodrošina lielāku darba vietu mākslīgajam intelektam. Tas nozīmē, ka uzņēmums var darbināt masīvu, privātu tāda rīka versiju kā GPT-4, nenosūtot nevienu datu baitu uz ārēju serveri.
Raugoties uz kopējo ainu, centieni pēc lokāliem superdatoriem ir reakcija uz pieaugošajām mākoņpakalpojumu izmaksām. Pēdējo desmit gadu laikā tehnoloģiju nozare visu pārcēla uz attāliem serveriem, kas pieder Amazon, Microsoft vai Google. Tomēr lielu MI modeļu darbināšana šajās platformās ir dārga. Uzņēmumi maksā abonēšanas vai lietošanas maksu, kas nekad nebeidzas. Šīs izmaksas ir kā lēna noplūde riepā, kas galu galā atstāj uzņēmumu ceļa malā. Firma, kas tērē 5000 eiro mēnesī MI mākoņa maksām, trīs gadu laikā iztērēs 180 000 eiro.
AMD liek likmi uz to, ka iestādes dos priekšroku samaksāt 100 000 eiro uzreiz, lai iegūtu aparatūru savā īpašumā. Šīs izmaiņas nozīmē virzību uz decentralizētu jaudu. Kad uzņēmumam pieder Halo Station, tam ir nenogurdināms praktikants, kurš strādā par elektrības izmaksām. Viņiem nav jāuztraucas par to, ka mākoņpakalpojumu sniedzējs paaugstinās cenas vai mainīs pakalpojumu sniegšanas noteikumus. Tas ir īpaši pievilcīgi tādām nozarēm kā veselības aprūpe, aizsardzība vai juridiskie pakalpojumi, kur datu privātums ir juridiska prasība. Datu glabāšana ēkas iekšienē fiziskā mašīnā ir drošākais veids, kā rīkoties ar sensitīvu informāciju.
AMD ienāk tirgū, kuru Nvidia ir aizņēmusi jau vairākus gadus. Nvidia DGX Station ir pašreizējais standarts lokālai MI izstrādei. Tirgus pusē Nvidia ir ievērojamas priekšrocības, jo tās programmatūra ir nozares standarts. Lielākā daļa MI pētnieku raksta kodu, kas vislabāk darbojas uz Nvidia aparatūras. Nvidia arī atvieglo darba pārcelšanu no lokāla galddatora uz masīvu mākoņa klasteri. Šī nemanāmā pāreja ir būtisks pārdošanas arguments izstrādātājiem, kuri sāk ar mazumiņu un paplašinās.
| Funkcija | AMD Threadripper Halo Station | Nvidia DGX Station (Pašreizējā paaudze) |
|---|---|---|
| Kodolu skaits | 96 kodoli (Threadripper Pro) | Mainīgs (Intel/AMD bāze) |
| Augsta joslas platuma atmiņa | 576GB HBM3E | 160GB - 320GB HBM |
| Sistēmas atmiņa | Līdz 2TB | Līdz 512GB - 1TB |
| MI modeļa ietilpība | 1 triljons+ parametru | ~500 miljardi parametru |
| Dzesēšana | Šķidruma dzesēšana | Šķidruma dzesēšana |
| Programmatūras ekosistēma | Augoša (ROCm) | Nobriedusi (CUDA) |
AMD stratēģija ir uzvarēt ar neapstrādātu jaudu. Piedāvājot ievērojami vairāk atmiņas, tie ļauj lietotājiem darbināt lielākus modeļus, nekā spēj apstrādāt Nvidia mašīna. Ja pētniekam ir jāstrādā ar triljona parametru modeli, AMD mašīna pašlaik ir vienīgā galddatora opcija, kas var ietilpināt šo modeli savā atmiņā. Tomēr šīs aparatūras panākumi būs atkarīgi no AMD programmatūras platformas, ko sauc par ROCm. Vēsturiski AMD ir cīnījusies, lai sasniegtu Nvidia programmatūras lietošanas ērtumu. Vidējam lietotājam korporatīvajā vidē aparatūra ir tikai tik laba, cik labas ir lietojumprogrammas, kas uz tās darbojas.
Praktiski runājot, lielākā daļa personu nepirks datoru par 100 000 eiro. Threadripper Halo Station ir rūpniecisks instruments, nevis sadzīves tehnika. Jums vajadzētu uztvert šo mašīnu tāpat kā lieljaudas celtni vai specializētu ķirurģisko robotu. Tas ir neredzamais mugurkauls, kas palīdzēs izveidot programmatūru, kuru jūs lietosiet savā tālrunī nākamgad. Kad izstrādātājam uz galda ir tik liela jauda, viņš var eksperimentēt ātrāk. Viņi var apmācīt mazākus, efektīvākus MI aģentus, kas galu galā darbosies lētākos patērētāju klēpjdatoros.
No patērētāja viedokļa šis izlaidums signalizē, ka laikmets, kad pilnībā paļāvāmies uz mākoni, beidzas. Mēs novērojam ciklisku atgriešanos pie lokālās apstrādes. Tā kā šo superdatoru komponenti kļūst lētāki un vieglāk izgatavojami, tehnoloģija pakāpeniski kļūs pieejama visiem. Augsta joslas platuma atmiņa, kas padara Halo Station tik dārgu šodien, visticamāk, būs standarts vidējas klases spēļu datoros līdz 2030. gadam. Tā darbojas tehnoloģiju demokratizācija. Mūsdienu luksusa rīki kļūst par rītdienas budžeta ierīču pamata komponentiem.
Halo Station palaišana ir taustāma zīme, ka MI nozare nobriest. Mēs virzāmies pāri ažiotāžas fāzei, kurā katrs uzņēmums vienkārši īrē vietu serverī. Uzņēmumi tagad meklē mērogojamus, noturīgus risinājumus, kurus tie var kontrolēt. AMD nodrošina fizisko infrastruktūru šai neatkarībai. Lai gan cena ir augsta, ilgtermiņa ietaupījumu potenciāls un datu drošība ir spēcīgs stimuls lielām iestādēm.
Galu galā jums vajadzētu vērot, kā jūsu darbavieta rīkojas ar datiem nākamā gada laikā. Ja jūsu uzņēmums sāk runāt par "lokālo MI" (on-premise AI) vai "lokālo secināšanu" (local inference), tie runā par tādām mašīnām kā Halo Station. Šī pāreja uz lokālo jaudu mainīs to, kā tiek izstrādāta programmatūra un kā tiek aizsargāti jūsu personīgie dati. Jūs esat liecinieki brīdim, kad apstrādes jaudas digitālā jēlnafta tiek iepakota birojam, padarot sarežģīto MI pasauli nedaudz vairāk balstītu fiziskajā realitātē.
Avoti:



Mūsu end-to-end šifrētais e-pasta un mākoņdatu glabāšanas risinājums nodrošina visefektīvākos līdzekļus drošai datu apmaiņai, garantējot jūsu datu drošību un konfidencialitāti.
/ Izveidot bezmaksas kontu