Meta jaunais AI modelis ir bezmaksas lejupielādei, taču tā darbināšana maksā trīsdesmit tūkstošus dolāru

Mums bieži saka, ka atvērtā pirmkoda programmatūra ir digitālā laikmeta lielais izlīdzinātājs. Marks Cukerbergs vēlas, lai sabiedrība ticētu, ka Meta jaunais Muse Spark Open modelis nodod pasaules līmeņa intelektu ikviena rokās bez mākoņpakalpojumu abonēšanas ikmēneša nodokļa. Lai gan modeļa kodu tehniski var bez maksas lejupielādēt no Hugging Face, aparatūra, kas nepieciešama tā faktiskai izmantošanai, stāsta citu stāstu. Vidusmēra lietotājam šis jaunākais izlaidums ir ne tik daudz dāvana, cik atgādinājums, ka aparatūras fiziskie ierobežojumi joprojām nosaka to, kurš drīkst piedalīties AI revolūcijā.

Meta nesen izlaida Muse Spark Open — 800 miljardu parametru modeli, ko uzņēmums raksturo kā līdz šim spējīgāko ASV atvērtā svara (open-weight) modeli. Tā ir masīva programmatūra, kas izstrādāta sarežģītu vizuālo spriedumu un autonomu uzdevumu veikšanai. Tas ir arī pirmais lielais modelis, kas optimizēts tieši Apple augstākās klases procesoriem. Tomēr "ieejas biļete" ir satriecošs 1 TB vienotās atmiņas apjoms. Lai sasniegtu šādu skaitli, lietotājam ir nepieciešamas vismaz divas Apple vēl neizlaistās M5 Ultra aprīkotās Mac Studio ierīces, kas savienotas kopā. Rezultāts ir iestatījums, kas darbojas kā personālais superdators, taču tā cena ir līdzvērtīga vidēja izmēra sedanam.

Astoņsimt miljardu parametru svars

Lai saprastu, kāpēc šim modelim nepieciešama tik ekstrēma aparatūra, palīdz uzlūkot AI kā nenogurdināmu praktikantu ar ļoti lielu uzziņu bibliotēku. 800 miljardu parametru modelis būtībā ir milzīga svaru vai savienojumu kolekcija. Katru reizi, kad uzdodat AI jautājumu, tam ir jākonsultējas ar šiem miljardiem punktu, lai noteiktu ticamāko atbildi. Ja bibliotēka ir pārāk liela, lai ietilptu uz praktikanta galda, viņam ir jādodas uz pagraba noliktavu pēc katra vārda, ko viņš raksta. Skaitļošanā šis galds ir operatīvā atmiņa (RAM).

Lielākā daļa mūsdienu patērētāju klēpjdatoru tiek piegādāti ar 8 GB vai 16 GB RAM. Augstas klases profesionālajām mašīnām var būt 64 GB vai 128 GB. Meta Muse Spark Open ir nepieciešami 1000 GB. Ja modelis ir tik liels, tas nevar atrasties standarta cietajā diskā vai parastā grafiskajā kartē. Tam ir pilnībā jāatrodas datora ātrās piekļuves atmiņā, lai tas darbotos lietojamā ātrumā. Ja atmiņa ir nepietiekama, sistēma paliek ļoti lēna vai vienkārši avarē. Meta ir izveidojusi digitālās smadzenes, kas ir vienkārši pārāk lielas gandrīz jebkuram pašlaik eksistējošam galdam.

Vēsturiski šāda mēroga modeļu darbināšana bija ekskluzīvs domēns masīviem datu centriem, kas piepildīti ar Nvidia H100 klasteriem. Šīs konfigurācijas maksā miljonus dolāru un patērē tik daudz elektrības, lai nodrošinātu enerģiju nelielam mikrorajonam. Optimizējot Apple Silicon, Meta mēģina pārvietot šo jaudu uz biroju. Taču pat ar Apple efektivitāti, iesaistītais milzīgais datu apjoms padara šo par nišas rīku turīgajiem vai institūcijām.

Kāpēc Apple Silicon ir izvēlētā platforma

Apple ir unikāla priekšrocība šajās augstākā līmeņa sacensībās, pateicoties tās vienotās atmiņas arhitektūrai. Tradicionālā personālajā datorā procesoram un grafiskajai kartei ir atsevišķi atmiņas pūli. Tas rada sastrēgumu, kad masīvam AI modelim ir jāpārvieto dati starp abiem. Apple M sērijas mikroshēmas ļauj CPU un GPU koplietot vienu lielu ļoti ātras atmiņas pūlu. Tas ļauj Mac Studio apstrādāt datu ietilpīgus uzdevumus, kuriem parasti būtu nepieciešamas vairākas dārgas uzņēmuma līmeņa grafiskās kartes.

Meta paskaidroja, ka divas Mac Studio ierīces, kas aprīkotas ar M5 Ultra mikroshēmām, var darboties kā viena vienība. Katra mašīna var saturēt līdz 512 GB atmiņas. Savienotas tās uzvedas kā viens dators ar 1 TB vienotās atmiņas. Šī konfigurācija ir vienīgais veids, kā patērētāju līmeņa ierīce var vienlaikus saturēt visu Muse Spark Open modeli. Tas ir gudrs inženiertehniskais risinājums problēmai, kurai parasti nepieciešams serveru statīvs.

Raugoties uz kopējo ainu, šī optimizācija ir stratēģisks solis abiem uzņēmumiem. Meta var pierādīt, ka tās atvērtā pirmkoda modeļi var darboties, nepaļaujoties uz Nvidia gandrīz pilnīgo monopolu AI mikroshēmu tirgū. Apple var pārdot savu dārgāko aparatūru jaunai izstrādātāju un pētnieku grupai. Tomēr patērētājam tas rada jaunu "pro" aparatūras līmeni, kas ir tālāk nekā jebkad agrāk. Plaisa starp standarta Mac un aparatūru, kas nepieciešama augstākā līmeņa AI, tagad ir milzīga.

Vietējās AI suverenitātes reālās izmaksas

Praktiski runājot, Muse Spark Open darbināšanai nepieciešamās investīcijas ir ievērojamas. Pamatojoties uz pašreizējām cenu struktūrām un Meta aplēsēm, iestatījums, kas spēj darbināt modeli pilnā ātrumā, izmaksās aptuveni 38 000 USD. Šajā konfigurācijā tiek izmantoti četri Mac Studio ar 256 GB atmiņu katrā. Lai gan tas ir lētāk nekā iegādāties speciālu AI serveri no tādiem pārdevējiem kā Dell vai Hewlett Packard, tas joprojām ir astronomisks skaitlis vienam izstrādātājam.

Lielai organizācijai šī matemātika patiešām ir loģiska. Daudzi uzņēmumi pašlaik katru mēnesi tērē tūkstošiem dolāru par "žetoniem" (tokens), kas ir vienības, ko izmanto, lai maksātu par AI pakalpojumiem, piemēram, GPT-4 vai Claude. Šīs izmaksas laika gaitā uzkrājas un nepiedāvā nekādas īpašumtiesības uz pamatā esošo tehnoloģiju. Iztērējot 38 000 USD par Mac Studio klasteri, uzņēmums var gadiem ilgi bez maksas darbināt Meta modeli. Viņiem pieder aparatūra, un dati paliek viņu pašu sienās. No tirgus viedokļa tie ir kapitāliedevumi, kas galu galā atmaksājas, novēršot regulāras abonēšanas maksas.

Individuālam entuziastam jeb "vibe coder" tā ir cita realitāte. Sapnis par progresīvākā līmeņa AI darbināšanu personālajā klēpjdatorā joprojām paliek tikai sapnis. Mēs ieejam laikmetā, kurā programmatūra ir atvērta un bezmaksas, bet aparatūra darbojas kā jauna veida vārtu sargs. Decentralizētā AI nākotne tuvojas, taču pašlaik tā ir rezervēta tiem, kam ir korporatīvie budžeti.

Veiktspējas testi un cīņa ar Ķīnu

Meta neizlaiž šo modeli tikai aparatūras pārdošanas dēļ. Šim izlaidumam ir ģeopolitisks elements. Uzņēmums skaidri norādīja, ka ASV nevajadzētu ļaut Ķīnas laboratorijām kļūt par līderiem atvērtā pirmkoda AI jomā. Meta publicētie veiktspējas testi rāda, ka Muse Spark Open pārspēj vadošos Ķīnas modeļus, piemēram, GLM 5.3 un Kimi K3. Šajos salīdzinājumos galvenā uzmanība pievērsta aģentu uzdevumiem, kas ietver AI darbību veikšanu lietotāja vārdā, un vizuālajiem spriedumiem.

Ikdienas dzīvē modelis ar šādām iespējām varētu darboties kā sarežģīts personīgais asistents, kas redz to, kas atrodas jūsu ekrānā, un mijiedarbojas ar jūsu lietotnēm. Tas varētu analizēt sarežģītus arhitektūras rasējumus vai palīdzēt ārstam interpretēt medicīniskos attēlus. Tā kā tas ir atvērtā svara modelis, izstrādātāji var pārbaudīt tā kodu un pārliecināties, ka tas nesūta privātus datus uz centrālo serveri. Šī pārredzamība ir galvenais pārdošanas punkts organizācijām, kas strādā ar sensitīvu informāciju.

Interesanti, ka Meta apgalvotais veiktspējas pārsvars dažās jomās ir neliels. Ķīnas modeļi kļūst arvien efektīvāki, bieži vien prasot mazāk atmiņas līdzīgiem rezultātiem. Meta pieeja ir "brutāls spēks". Izveidojot 800 miljardu parametru milzi, viņi liek likmi uz to, ka mērogs uzvarēs efektivitāti. Tas uzliek slogu lietotājam nodrošināt nepieciešamo jaudu. Tā ir likme, ka aparatūra galu galā panāks programmatūras prasības.

Ko tas nozīmē parastajam patērētājam

Zem pārsega Muse Spark Open atspoguļo maiņu tajā, kā mēs domājam par datora jaudu. Pēdējo desmitgadi mēs esam virzījušies uz mākoni visās jomās. Mēs straumējam filmas, glabājam fotoattēlus mākonī un izmantojam AI, izmantojot tīmekļa pārlūkprogrammu. Meta mēģina mainīt šo tendenci. Viņi vēlas, lai jaudīgākie rīki atrastos uz jūsu galda, nevis datu centrā, kas pieder konkurentam, piemēram, Google vai Microsoft.

No patērētāja viedokļa jums nevajadzētu just nepieciešamību šodien skriet un pirkt Mac Studio. Jūs, visticamāk, mijiedarbosieties ar Muse Spark Open, izmantojot trešo pušu lietotnes un pakalpojumus, kas mitina modeli jūsu vietā. Tomēr šī modeļa eksistence ietekmēs funkcijas, kas galu galā nonāks jūsu tālrunī un klēpjdatorā. Kad Meta iemācīsies, kā likt šim masīvajam modelim darboties uz Apple Silicon, viņi atradīs veidus, kā to samazināt. Metodes, kas izstrādātas 1 TB versijai, galu galā padarīs 10 GB versiju jūsu nākamajā iPhone daudz viedāku.

Galu galā Muse Spark Open ir fundamentāla tehnoloģija, kas nosaka jaunus griestus tam, kas ir iespējams ārpus masīvām serveru fermām. Tas ir spēcīgs rīks, kas dod priekšroku privātumam un lokālai kontrolei, nevis ērtībām. Lai gan ieejas cena ir augsta, tas sniedz projektu nākotnei, kurā augstākā līmeņa intelekts ir privāts resurss, nevis īrēts pakalpojums. Mainoties atmiņas cenām un parādoties jaunām mikroshēmām, šī intelekta izmaksas kritīsies. Pagaidām tas paliek spēcīgs signāls par to, kurp virzās nozare.

Vērojiet savus digitālos ieradumus un ievērojiet, cik daudz jūsu datu pašlaik atrodas mākonī. Masīvu lokālo modeļu ierašanās liecina par nākotni, kurā jūsu svarīgākie uzdevumi atkal varētu notikt pilnībā jūsu ierīcē. Aparatūra šodien var būt dārga, taču pāreja uz digitālo suverenitāti ir oficiāli sākusies.

Avoti:
Meta Newsroom Official Release Statement
Apple Machine Learning Research Documentation
Hugging Face Model Repository for Muse Spark Open
Market Analysis on M-Series Silicon Pricing for 2026
Comparative Benchmark Reports for GLM 5.3 and Kimi K3