Naująjį „Meta“ DI modelį galima atsisiųsti nemokamai, tačiau jo paleidimas kainuoja trisdešimt tūkstančių dolerių

Mums dažnai sakoma, kad atvirojo kodo programinė įranga yra didysis skaitmeninio amžiaus lygintuvas. Markas Zuckerbergas nori, kad visuomenė tikėtų, jog naujasis „Meta“ „Muse Spark Open“ modelis suteikia pasaulinio lygio intelektą kiekvienam be kasmėnesinio debesijos prenumeratos mokesčio. Nors modelio kodą techniškai galima nemokamai atsisiųsti iš „Hugging Face“, techninė įranga, reikalinga jam faktiškai naudoti, pasakoja kitokią istoriją. Vidutiniam vartotojui šis naujausias leidimas yra ne tiek dovana, kiek priminimas, kad fizinės techninės įrangos ribos vis dar diktuoja, kas gali dalyvauti DI revoliucijoje.

„Meta“ neseniai išleido „Muse Spark Open“ – 800 milijardų parametrų modelį, kurį bendrovė apibūdina kaip pajėgiausią iki šiol JAV atviro svorio modelį. Tai masyvi programinė įranga, skirta sudėtingam vizualiniam mąstymui ir autonominėms užduotims atlikti. Tai taip pat pirmasis didelis modelis, optimizuotas būtent „Apple“ aukščiausios klasės procesoriams. Tačiau patekimo kaina yra stulbinantis 1 TB jungtinės atminties kiekis. Norėdamas pasiekti šį skaičių, vartotojas turi turėti bent du sujungtus „Mac Studio“ kompiuterius su dar neišleistais „M5 Ultra“ procesoriais. Rezultatas – sąranka, kuri veikia kaip asmeninis superkompiuteris, tačiau jos kaina prilygsta vidutinio dydžio sedanui.

Aštuonių šimtų milijardų parametrų svoris

Norint suprasti, kodėl šiam modeliui reikia tokios ekstremalios techninės įrangos, padeda DI įsivaizdavimas kaip nepavargstančio praktikanto su labai didele informacine biblioteka. 800 milijardų parametrų modelis iš esmės yra milžiniška svorių arba jungčių kolekcija. Kiekvieną kartą, kai DI užduodate klausimą, jis turi pasikonsultuoti su šiais milijardais taškų, kad nustatytų labiausiai tikėtiną atsakymą. Jei biblioteka yra per didelė, kad tilptų ant praktikanto stalo, jis turi eiti į rūsio saugyklą dėl kiekvieno parašyto žodžio. Skaičiavimo technikoje tas stalas yra operatyvioji atmintis (RAM).

Dauguma šiuolaikinių vartotojų nešiojamųjų kompiuterių parduodami su 8 GB arba 16 GB operatyviosios atminties. Aukščiausios klasės profesionalios mašinos gali turėti 64 GB arba 128 GB. „Meta“ „Muse Spark Open“ reikia 1 000 GB. Kai modelis yra toks didelis, jis negali būti standartiniame kietajame diske ar įprastoje vaizdo plokštėje. Kad veiktų tinkamu greičiu, jis turi visas tilpti greitosios prieigos kompiuterio atmintyje. Jei atminties nepakanka, sistema sulėtėja iki vėžlio greičio arba tiesiog sugenda. „Meta“ sukūrė skaitmenines smegenis, kurios tiesiog per didelės beveik bet kuriam šiuo metu egzistuojančiam stalui.

Istoriškai tokio masto modelių paleidimas buvo išskirtinė milžiniškų duomenų centrų, užpildytų „Nvidia H100“ klasteriais, sritis. Šios sąrankos kainuoja milijonus dolerių ir sunaudoja tiek elektros energijos, kad jos užtektų mažam rajonui. Optimizuodama „Apple Silicon“, „Meta“ bando perkelti šias galimybes į biurą. Tačiau net ir su „Apple“ efektyvumu, dėl didžiulio duomenų kiekio tai išlieka nišinis įrankis turtingiesiems arba institucijoms.

Kodėl „Apple Silicon“ yra pasirinkta platforma

„Apple“ turi unikalų pranašumą šiose aukščiausios klasės lenktynėse dėl savo jungtinės atminties architektūros. Tradiciniame asmeniniame kompiuteryje procesorius ir vaizdo plokštė turi atskirus atminties rezervus. Tai sukuria kliūtį, kai masyviam DI modeliui reikia perkelti duomenis tarp jų. „Apple“ M serijos lustai leidžia centriniam procesoriui (CPU) ir vaizdo procesoriui (GPU) dalytis vienu dideliu labai greitos atminties rezervu. Tai leidžia „Mac Studio“ atlikti daug duomenų reikalaujančias užduotis, kurioms paprastai prireiktų kelių brangių įmonės lygio vaizdo plokščių.

„Meta“ paaiškino, kad du „Mac Studio“ kompiuteriai su „M5 Ultra“ lustais gali veikti kaip vienas vienetas. Kiekvienas įrenginys gali turėti iki 512 GB atminties. Sujungti jie veikia kaip vienas kompiuteris su 1 TB jungtinės atminties. Ši sąranka yra vienintelis būdas vartotojui prieinamam įrenginiui vienu metu išlaikyti visą „Muse Spark Open“ modelį. Tai protingas inžinerinis sprendimas problemai, kuriai paprastai reikia serverių spintos.

Žvelgiant plačiau, šis optimizavimas yra strateginis žingsnis abiem bendrovėms. „Meta“ įrodo, kad jos atvirojo kodo modeliai gali veikti nepasikliaujant beveik visiška „Nvidia“ monopolija DI lustų rinkoje. „Apple“ gauna progą parduoti savo brangiausią techninę įrangą naujai kūrėjų ir tyrėjų grupei. Tačiau vartotojui tai sukuria naują „pro“ techninės įrangos lygį, kuris yra labiau nepasiekiamas nei bet kada anksčiau. Atotrūkis tarp standartinio „Mac“ ir techninės įrangos, reikalingos aukščiausio lygio DI, dabar yra tarsi kanjonas.

Tikroji vietinio DI suvereniteto kaina

Praktiškai kalbant, investicijos, reikalingos „Muse Spark Open“ paleidimui, yra reikšmingos. Remiantis dabartinėmis kainų struktūromis ir pačios „Meta“ skaičiavimais, sąranka, galinti paleisti modelį visu greičiu, kainuos maždaug 38 000 USD. Šioje konfigūracijoje naudojami keturi „Mac Studio“ su 256 GB atminties kiekviename. Nors tai pigiau nei pirkti specializuotą DI serverį iš tokių tiekėjų kaip „Dell“ ar „Hewlett Packard“, vienam kūrėjui tai vis tiek yra astronominė suma.

Didelėms organizacijoms ši matematika iš tikrųjų turi prasmę. Daugelis įmonių šiuo metu kas mėnesį išleidžia tūkstančius dolerių „žetonams“ (tokens), kurie yra vienetai, naudojami mokant už DI paslaugas, tokias kaip „GPT-4“ ar „Claude“. Šios išlaidos laikui bėgant kaupiasi ir nesuteikia jokios nuosavybės teisės į pagrindinę technologiją. Išleidusi 38 000 USD „Mac Studio“ klasteriui, įmonė gali nemokamai naudoti „Meta“ modelį daugelį metų. Jie valdo techninę įrangą, o duomenys lieka jų pačių sienose. Rinkos požiūriu tai yra kapitalo išlaidos, kurios ilgainiui atsiperka panaikinus pasikartojančius prenumeratos mokesčius.

Individualiam entuziastui ar programuotojui tai yra kitokia realybė. Svajonė paleisti pažangiausią DI asmeniniame nešiojamajame kompiuteryje išlieka tik svajone. Žengiame į erą, kai programinė įranga yra atvira ir nemokama, tačiau techninė įranga veikia kaip naujos rūšies prižiūrėtojas. Decentralizuota DI ateitis ateina, tačiau šiuo metu ji rezervuota tiems, kurie turi įmonių biudžetus.

Testų rezultatai ir kova su Kinija

„Meta“ išleidžia šį modelį ne tik dėl techninės įrangos pardavimų. Šiame pristatyme yra geopolitinis elementas. Bendrovė aiškiai pareiškė, kad JAV neturėtų leisti Kinijos laboratorijoms dominuoti atvirojo kodo DI srityje. „Meta“ paskelbti testų rezultatai rodo, kad „Muse Spark Open“ lenkia pirmaujančius Kinijos modelius, tokius kaip „GLM 5.3“ ir „Kimi K3“. Šie palyginimai sutelkti į agentines užduotis, kai DI atlieka veiksmus vartotojo vardu, ir vizualinį mąstymą.

Kasdieniame gyvenime tokio pajėgumo modelis galėtų veikti kaip sudėtingas asmeninis asistentas, matantis, kas yra jūsų ekrane, ir sąveikaujantis su jūsų programėlėmis. Jis galėtų analizuoti sudėtingus architektūrinius brėžinius arba padėti gydytojui interpretuoti medicininius vaizdus. Kadangi tai yra atviro svorio modelis, kūrėjai gali patikrinti jo kodą ir įsitikinti, kad jis nesiunčia privačių duomenų į centrinį serverį. Šis skaidrumas yra pagrindinis pardavimo argumentas organizacijoms, tvarkančioms jautrią informaciją.

Keista, tačiau „Meta“ deklaruojamas našumo pranašumas kai kuriose srityse yra nedidelis. Kinijos modeliai tampa vis efektyvesni, dažnai reikalaujantys mažiau atminties panašiems rezultatams pasiekti. „Meta“ požiūris yra paremtas brutalia jėga. Sukurdami 800 milijardų parametrų milžiną, jie lažinasi, kad mastelis nugalės efektyvumą. Tai užkrauna naštą vartotojui suteikti reikiamą galią. Tai statymas, kad techninė įranga galiausiai pasivys programinės įrangos poreikius.

Ką tai reiškia paprastam vartotojui

Žvelgiant giliau, „Muse Spark Open“ reprezentuoja poslinkį tame, kaip mes suprantame kompiuterio galią. Pastarąjį dešimtmetį viską perkėlėme į debesiją. Mes žiūrime filmus, saugome nuotraukas debesyje ir naudojame DI per interneto naršyklę. „Meta“ bando pakeisti šią tendenciją. Jie nori, kad galingiausi įrankiai būtų ant jūsų stalo, o ne duomenų centre, priklausančiame konkurentams, pavyzdžiui, „Google“ ar „Microsoft“.

Vartotojo požiūriu, šiandien neturėtumėte jausti poreikio bėgti ir pirkti „Mac Studio“. Tikėtina, kad su „Muse Spark Open“ sąveikausite per trečiųjų šalių programėles ir paslaugas, kurios priglobia šį modelį už jus. Tačiau šio modelio egzistavimas turės įtakos funkcijoms, kurios galiausiai pasieks jūsų telefoną ir nešiojamąjį kompiuterį. Kai „Meta“ išmoks, kaip priversti šį masyvų modelį veikti su „Apple Silicon“, jie ras būdų jį sumažinti. Metodai, sukurti 1 TB versijai, galiausiai padarys 10 GB versiją jūsų kitame „iPhone“ daug išmanesnę.

Galų gale, „Muse Spark Open“ yra pamatinė technologija, nustatanti naujas galimybių lubas už milžiniškų serverių ūkių ribų. Tai tvirtas įrankis, teikiantis pirmenybę privatumui ir vietinei kontrolei, o ne patogumui. Nors patekimo kaina yra didelė, jis suteikia gaires ateičiai, kurioje aukščiausios klasės intelektas yra privati komunalinė paslauga, o ne nuomojama paslauga. Atminties kainoms svyruojant ir atsirandant naujiems lustams, šio intelekto kaina kris. Kol kas tai išlieka galingas signalas, kuria linkme juda pramonė.

Stebėkite savo skaitmeninius įpročius ir atkreipkite dėmesį, kiek jūsų duomenų šiuo metu gyvena debesyje. Masyvių vietinių modelių atsiradimas rodo ateitį, kurioje jūsų svarbiausios užduotys vėl gali būti atliekamos tik jūsų pačių įrenginyje. Techninė įranga šiandien gali būti brangi, tačiau poslinkis skaitmeninio suvereniteto link oficialiai prasidėjo.

Šaltiniai:
Meta Newsroom Official Release Statement
Apple Machine Learning Research Documentation
Hugging Face Model Repository for Muse Spark Open
Market Analysis on M-Series Silicon Pricing for 2026
Comparative Benchmark Reports for GLM 5.3 and Kimi K3