Elegantiškas juodas korpusas, stovintis Berlyno „Internationale Funkausstellung“ parodos scenoje, atrodo kaip standartinė aukščiausios klasės darbo stotis. Tačiau ši mašina, pavadinta „Threadripper Halo Station“, yra tankus brangiausių ir rečiausių šiuolaikinio technologijų pasaulio medžiagų rinkinys. AMD vyresnysis viceprezidentas Jack Huynh pristatė įrenginį kaip asmeninį superkompiuterį – apibūdinimą, kuris keičia supratimą apie tai, ką gali stalinis kompiuteris. Įdėdama komponentus, paprastai skirtus didžiuliams serverių ūkiams, į vieną korpusą, AMD bando pakeisti tai, kaip verslas perka ir naudoja dirbtinį intelektą.
Norint suprasti, kodėl vienas kompiuteris gali kainuoti daugiau nei prabangus sedanas, reikia atsekti medžiagų kilmę iki pat silicio plokštelės. Po gaubtu „Halo Station“ turi du „MI350P“ duomenų centrų greitintuvus. Tai nėra standartinės vaizdo plokštės žaidimams. Tai specializuoti procesoriai, skirti skaičiuoti didelių kalbos modelių matematinius svorius. Šie lustai yra dabartinės ekonomikos skaitmeninė žalia nafta. Jiems reikalingi pažangūs gamybos procesai, kuriuos gali užtikrinti tik kelios gamyklos pasaulyje. Pridėjus 96 „Threadripper Pro“ procesoriaus branduolius, mašina turi pakankamai grynos matematinės galios imituoti sudėtingą fiziką arba generuoti aukštos kokybės 3D aplinkas iš vienos teksto užklausos.
Brangiausia fizinė medžiaga šiame įrenginyje tikriausiai yra atmintis. „Halo Station“ turi 576 gigabaitus didelio pralaidumo atminties, konkrečiai „HBM3E“ tipo. Paprastais žodžiais tariant, standartinę kompiuterio atmintį įsivaizduokite kaip siaurą koridorių, kuriame duomenys turi laukti savo eilės, kad pasiektų procesorių. „HBM3E“ yra masyvus, daugiajuostis greitkelis, nutiestas tiesiai ant lusto. Tokia konstrukcija leidžia duomenims judėti greičiu, kurio standartinė stalinio kompiuterio atmintis negali pasiekti. Mašina taip pat turi du terabaitus sisteminės atminties, suteikiančios milžinišką darbo erdvę kompiuteriui saugoti informaciją.
Būtent toks atminties kiekis yra priežastis, kodėl „Halo Station“ gali lokaliai paleisti DI modelius su daugiau nei trilijonu parametrų. Parametras iš esmės yra jungtis DI smegenyse. Kuo daugiau parametrų turi modelis, tuo jis subtilesnis ir pajėgesnis. Dauguma namų kompiuterių sunkiai susidoroja su modeliais, turinčiais 70 milijardų parametrų, nes jiems trūksta vietos duomenims saugoti, kol procesorius su jais dirba. Siūlydama daugiau nei tris kartus didesnę atminties talpą nei artimiausias konkurentas „Nvidia DGX Station“, AMD suteikia didesnę darbo erdvę dirbtiniam intelektui. Tai reiškia, kad įmonė gali naudoti masyvią, privačią tokio įrankio kaip „GPT-4“ versiją, neišsiųsdama nė vieno baito duomenų į išorinį serverį.
Žvelgiant plačiau, asmeninių superkompiuterių poreikis yra reakcija į augančias debesijos išlaidas. Pastarąjį dešimtmetį technologijų pramonė viską perkėlė į nuotolinius serverius, priklausančius „Amazon“, „Microsoft“ ar „Google“. Tačiau didelių DI modelių naudojimas šiose platformose yra brangus. Įmonės moka prenumeratos arba vienkartinį mokestį už kiekvieną panaudojimą, kuris niekada nesibaigia. Šios išlaidos yra tarsi lėtas oro nuotėkis iš padangos, kuris galiausiai sustabdo verslą. Įmonė, išleidžianti 5 000 eurų per mėnesį DI debesijos mokesčiams, per trejus metus išleis 180 000 eurų.
AMD lažinasi, kad institucijos mieliau sumokės 100 000 eurų iš anksto, kad turėtų nuosavą techninę įrangą. Šis pokytis reiškia judėjimą decentralizuotos galios link. Kai įmonė turi „Halo Station“, ji turi nepavargstantį praktikantą, kuris dirba už elektros kainą. Jiems nereikia jaudintis dėl to, kad debesijos paslaugų teikėjas padidins kainas ar pakeis paslaugų teikimo sąlygas. Tai ypač patrauklu tokiems sektoriams kaip sveikatos apsauga, gynyba ar teisinės paslaugos, kur duomenų privatumas yra teinis reikalavimas. Duomenų laikymas pastato viduje, fizinėje mašinoje, yra saugiausias būdas tvarkyti jautrią informaciją.
AMD žengia į rinką, kurioje „Nvidia“ dominuoja jau kelerius metus. „Nvidia DGX Station“ šiuo metu yra vietinio DI kūrimo standartas. Rinkos atžvilgiu „Nvidia“ turi didelį pranašumą, nes jos programinė įranga yra pramonės standartas. Dauguma DI tyrėjų rašo kodą, kuris geriausiai veikia su „Nvidia“ įranga. „Nvidia“ taip pat leidžia lengvai perkelti darbą iš vietinio kompiuterio į didžiulį debesijos klasterį. Šis sklandus perėjimas yra pagrindinis privalumas kūrėjams, kurie pradeda nuo mažų projektų ir vėliau juos plečia.
| Funkcija | AMD Threadripper Halo Station | Nvidia DGX Station (Dabartinė karta) |
|---|---|---|
| Branduolių skaičius | 96 branduoliai (Threadripper Pro) | Kintamas (Intel/AMD procesorius) |
| Didelio pralaidumo atmintis | 576GB HBM3E | 160GB - 320GB HBM |
| Sisteminė atmintis | Iki 2TB | Iki 512GB - 1TB |
| DI modelio talpa | 1 trilijonas+ parametrų | ~500 milijardų parametrų |
| Aušinimas | Aušinimas skysčiu | Aušinimas skysčiu |
| Programinė ekosistema | Auganti (ROCm) | Brandi (CUDA) |
AMD strategija – laimėti grynąja talpa. Siūlydami žymiai daugiau atminties, jie leidžia vartotojams naudoti didesnius modelius nei gali apdoroti „Nvidia“ mašina. Jei tyrėjui reikia dirbti su trilijono parametrų modeliu, AMD mašina šiuo metu yra vienintelis stalinis variantas, galintis sutalpinti tokį modelį savo atmintyje. Tačiau šios įrangos sėkmė priklausys nuo AMD programinės įrangos platformos, vadinamos „ROCm“. Istoriškai AMD sunkiai sekėsi pasivyti „Nvidia“ programinės įrangos naudojimo paprastumą. Vidutiniam vartotojui korporatyvinėje aplinkoje techninė įranga yra tiek gera, kiek geros yra joje veikiančios programos.
Praktiškai kalbant, dauguma asmenų nepirks 100 000 eurų kainuojančio kompiuterio. „Threadripper Halo Station“ yra pramoninis įrankis, o ne buitinis prietaisas. Į šią mašiną turėtumėte žiūrėti taip pat, kaip į galingą kraną ar specializuotą chirurginį robotą. Tai nematomas stuburas, kuris padės sukurti programinę įrangą, kurią kitais metais naudosite savo telefone. Kai kūrėjas ant savo stalo turi tiek galios, jis gali eksperimentuoti greičiau. Jie gali apmokyti mažesnius, efektyvesnius DI agentus, kurie galiausiai veiks pigesniuose vartotojų nešiojamuosiuose kompiuteriuose.
Vartotojo požiūriu, šis išleidimas signalizuoja, kad visiško priklausymo nuo debesijos era baigiasi. Matome ciklišką grįžimą prie vietinio apdorojimo. Kai šių superkompiuterių komponentai taps pigesni ir lengviau pagaminami, technologija pasieks ir paprastus vartotojus. Didelio pralaidumo atmintis, dėl kurios „Halo Station“ šiandien yra tokia brangi, iki 2030 m. tikriausiai taps standartu vidutinės klasės žaidimų kompiuteriuose. Taip veikia technologijų demokratizacija. Šiandienos prabangos įrankiai tampa rytojaus biudžetinių įrenginių pagrindiniais komponentais.
„Halo Station“ pasirodymas yra apčiuopiamas ženklas, kad DI pramonė bręsta. Mes pereiname iš „hype“ fazės, kai kiekviena įmonė tiesiog nuomojosi vietą serveryje. Verslas dabar ieško keičiamo dydžio, atsparių sprendimų, kuriuos galėtų kontroliuoti. AMD suteikia fizinę infrastruktūrą šiai nepriklausomybei. Nors kaina yra didelė, ilgalaikio taupymo ir duomenų saugumo potencialas yra galingas stimulas didelėms institucijoms.
Galiausiai, stebėkite, kaip jūsų darbo vieta tvarko duomenis per ateinančius metus. Jei jūsų įmonė pradeda kalbėti apie „vietinį DI“ (on-premise AI) arba „vietinę išvadą“ (local inference), jie kalba apie tokias mašinas kaip „Halo Station“. Šis posūkis link vietinės galios pakeis tai, kaip kuriama programinė įranga ir kaip saugomi jūsų asmeniniai duomenys. Jūs esate liudininkai momento, kai skaitmeninė apdorojimo galios žalia nafta yra pakuojama biurui, paverčiant sudėtingą DI pasaulį šiek tiek labiau pagrįstu fizine realybe.
Šaltiniai:



Pašto ir debesies saugojimo sprendimas suteikia galingiausias saugaus keitimosi duomenimis priemones, užtikrinančias jūsų duomenų saugumą ir privatumą.
/ Sukurti nemokamą paskyrą