Meta uus tehisintellekti mudel on tasuta allalaaditav, kuid selle käitamine maksab kolmkümmend tuhat dollarit

Meile öeldakse sageli, et avatud lähtekoodiga tarkvara on digiajastu suur võrdsustaja. Mark Zuckerberg soovib, et avalikkus usuks, et Meta uus Muse Spark Open mudel toob maailmatasemel intelligentsuse igaühe kätte ilma pilvetellimuse igakuise maksuta. Kuigi mudeli kood on tehniliselt Hugging Face'ist tasuta allalaaditav, räägib selle tegelikuks kasutamiseks vajalik riistvara teist lugu. Tavakasutaja jaoks on see uusim väljalase vähem kingitus ja pigem meeldetuletus, et riistvara füüsilised piirid määravad endiselt selle, kes saab tehisintellekti revolutsioonis osaleda.

Meta andis hiljuti välja Muse Spark Openi, 800 miljardi parameetriga mudeli, mida ettevõte kirjeldab kui seni võimekaimat USA avatud kaaludega (open-weight) mudelit. See on massiivne tarkvaratükk, mis on loodud keeruliste visuaalsete arutluskäikude ja autonoomsete ülesannete lahendamiseks. See on ka esimene suur mudel, mis on optimeeritud spetsiaalselt Apple'i tipptasemel kiipidele. Sissepääsupiletiks on aga jahmatav 1 TB ühtset mälu. Selle numbrini jõudmiseks vajab kasutaja vähemalt kahte Apple'i veel avaldamata M5 Ultra kiibiga varustatud Mac Studio arvutit, mis on omavahel ühendatud. Tulemuseks on seadistus, mis toimib nagu isiklik superarvuti, kuid mille hinnasilt konkureerib keskklassi sedaaniga.

Kaheksasaja miljardi parameetri raskus

Mõistmaks, miks see mudel nõuab nii ekstreemset riistvara, aitab see, kui vaadata tehisintellekti kui väsimatut praktikanti, kellel on väga suur teatmeteoste raamatukogu. 800 miljardi parameetriga mudel on sisuliselt massiivne kaalude ehk seoste kogum. Iga kord, kui esitate tehisintellektile küsimuse, peab see konsulteerima nende miljardite punktidega, et määrata kõige tõenäolisem vastus. Kui raamatukogu on praktikandi laua jaoks liiga suur, peavad nad iga kirjutatud sõna jaoks keldris asuvasse hoidlasse kõndima. Arvutiteaduses on see laud muutmälu (RAM).

Enamik tänapäeva tarbearvuteid tarnitakse 8 GB või 16 GB mäluga. Tipptasemel professionaalsetel masinatel võib olla 64 GB või 128 GB. Meta Muse Spark Open vajab 1000 GB. Kui mudel on nii suur, ei saa see asuda tavalisel kõvakettal ega tüüpilisel graafikakaardil. Kasutatava kiiruse saavutamiseks peab see asuma täielikult arvuti kiire juurdepääsuga mälus. Kui mälu on ebapiisav, aeglustub süsteem teosammuleni või lihtsalt jookseb kokku. Meta on ehitanud digitaalse aju, mis on peaaegu iga praegu olemasoleva laua jaoks lihtsalt liiga suur.

Ajalooliselt oli sellises mahus mudelite käitamine ainult massiivsete andmekeskuste pärusmaa, mis olid täidetud Nvidia H100 klastritega. Need seadistused maksavad miljoneid dollareid ja tarbivad piisavalt elektrit, et toita väikesed elamurajooni. Optimeerides tarkvara Apple Siliconi jaoks, üritab Meta tuua selle võimekuse kontorisse. Kuid isegi Apple'i tõhususe juures teeb asjaomaste andmete tohutu maht sellest nišitööriista rikastele või institutsioonidele.

Miks Apple Silicon on valitud platvorm

Apple'il on tänu oma ühtsele mäluarhitektuurile (unified memory architecture) selles tipptasemel võidujooksus ainulaadne eelis. Traditsioonilises arvutis on protsessoril ja graafikakaardil eraldi mälufondid. See tekitab pudelikaela, kui massiivne tehisintellekti mudel peab andmeid nende kahe vahel liigutama. Apple'i M-seeria kiibid võimaldavad protsessoril (CPU) ja graafikaprotsessoril (GPU) jagada ühte suurt väga kiire mälu kogumit. See võimaldab Mac Studiol tulla toime andmemahukate ülesannetega, mis tavaliselt nõuaksid mitut kallist ettevõtte taseme graafikakaarti.

Meta selgitas, et kaks M5 Ultra kiipidega varustatud Mac Studio masinat saavad toimida ühtse üksusena. Iga masin võib mahutada kuni 512 GB mälu. Ühendatuna käituvad nad nagu üks arvuti, millel on 1 TB ühtset mälu. See seadistus on ainus viis, kuidas tarbijataseme seade suudab korraga mahutada kogu Muse Spark Open mudeli. See on kaval insenertehniline lahendus probleemile, mis tavaliselt nõuab serverikappi.

Suurt pilti vaadates on see optimeerimine strateegiline samm mõlema ettevõtte jaoks. Meta saab tõestada, et tema avatud lähtekoodiga mudelid saavad töötada ilma toetumata Nvidia peaaegu täielikule monopolile tehisintellekti kiipide turul. Apple saab turundada oma kõige kallimat riistvara uuele arendajate ja teadlaste rühmale. Tarbija jaoks loob see aga uue "pro"-riistvara taseme, mis on kättesaamatum kui kunagi varem. Lõhe tavalise Maci ja tipptasemel tehisintellekti jaoks vajaliku riistvara vahel on nüüd kuristik.

Kohaliku tehisintellekti suveräänsuse tegelik hind

Praktiliselt võttes on Muse Spark Openi käitamiseks vajalik investeering märkimisväärne. Praeguste hinnastruktuuride ja Meta enda hinnangute põhjal maksab seadistus, mis on võimeline mudelit täiskiirusel käitama, umbes 38 000 dollarit. See konfiguratsioon kasutab nelja Mac Studiot, millest igaühel on 256 GB mälu. Kuigi see on odavam kui spetsiaalse tehisintellekti serveri ostmine sellistelt tarnijatelt nagu Dell või Hewlett Packard, on see üksikarendaja jaoks siiski astronoomiline summa.

Suure organisatsiooni jaoks on see matemaatika tegelikult loogiline. Paljud ettevõtted kulutavad praegu iga kuu tuhandeid dollareid "tokenitele", mis on ühikud, mida kasutatakse tehisintellekti teenuste, nagu GPT-4 või Claude, eest tasumiseks. Need kulud ajapikku kuhjuvad ega paku omandiõigust alustehnoloogia üle. Kulutades 38 000 dollarit Mac Studio klastrile, saab ettevõte Meta mudelit aastaid tasuta käitada. Nad omavad riistvara ja andmed jäävad nende endi seinte vahele. Turu poolelt vaadatuna on see kapitalikulu, mis tasub end lõpuks ära, kaotades korduvad tellimistasud.

Üksiku harrastusarendaja jaoks on see aga teistsugune reaalsus. Unistus käitada tipptasemel tehisintellekti isiklikus sülearvutis jääbki vaid selleks — unistuseks. Oleme sisenemas ajastusse, kus tarkvara on avatud ja tasuta, kuid riistvara toimib uut tüüpi väravavahina. Tehisintellekti detsentraliseeritud tulevik on saabumas, kuid praegu on see reserveeritud neile, kellel on ettevõtte eelarve.

Võrdlustestid ja lahing Hiinaga

Meta ei väljasta seda mudelit ainult riistvara müügi eesmärgil. Sellel turuletoomisel on geopoliitiline element. Ettevõte märkis selgesõnaliselt, et USA ei tohiks lubada Hiina laboritel avatud lähtekoodiga tehisintellekti vallas juhtpositsiooni haarata. Meta avaldatud võrdlustestid näitavad, et Muse Spark Open ületab juhtivaid Hiina mudeleid nagu GLM 5.3 ja Kimi K3. Need võrdlused keskenduvad agentilistele ülesannetele, mis hõlmavad tehisintellekti tegevust kasutaja nimel, ja visuaalsele arutlusvõimele.

Igapäevaelus võiks selliste võimetega mudel toimida keeruka isikliku assistendina, mis näeb teie ekraanil olevat ja suhtleb teie rakendustega. See võib analüüsida keerulisi arhitektuurseid jooniseid või aidata arstil tõlgendada meditsiinilist kuvamist. Kuna tegemist on avatud kaaludega mudeliga, saavad arendajad kontrollida selle koodi ja tagada, et see ei saadaks privaatseid andmeid keskserverisse. See läbipaistvus on peamine müügiargument organisatsioonidele, mis käitlevad tundlikku teavet.

Huvitaval kombel on Meta väidetav edumaa mõnes valdkonnas väike. Hiina mudelid muutuvad üha tõhusamaks, nõudes sarnaste tulemuste saavutamiseks sageli vähem mälu. Meta lähenemisviis on toore jõu meetod. Ehitades 800 miljardi parameetriga hiiglase, panustavad nad sellele, et mastaap võidab tõhususe. See paneb kasutajale koormuse pakkuda vajalikku võimsust. See on kihlvedu, et riistvara jõuab lõpuks tarkvara nõudmistele järele.

Mida see tähendab tavatarbija jaoks

Kapoti all tähistab Muse Spark Open nihet selles, kuidas me mõtleme arvutusvõimsusest. Viimase kümnendi jooksul oleme liikunud kõige puhul pilve suunas. Me voogedastame filme, salvestame fotosid pilves ja kasutame tehisintellekti veebibrauseri kaudu. Meta üritab seda suunda muuta. Nad tahavad, et kõige võimsamad tööriistad asuksid teie laual, mitte konkurendi nagu Google või Microsoft andmekeskuses.

Tarbija seisukohast ei tohiks te tunda vajadust minna täna Mac Studiot ostma. Tõenäoliselt suhtlete Muse Spark Openiga kolmandate osapoolte rakenduste ja teenuste kaudu, mis mudelit teie jaoks majutavad. Kuid selle mudeli olemasolu mõjutab funktsioone, mis jõuavad lõpuks teie telefoni ja sülearvutisse. Kui Meta õpib, kuidas panna see massiivne mudel Apple Siliconil tööle, leiavad nad viise selle vähendamiseks. 1 TB versiooni jaoks välja töötatud tehnikad muudavad lõpuks teie järgmise iPhone'i 10 GB versiooni palju nutikamaks.

Lõppkokkuvõttes on Muse Spark Open alustehnoloogia, mis seab uue lae sellele, mis on võimalik väljaspool massiivset serveriparki. See on jõuline tööriist, mis eelistab privaatsust ja kohalikku kontrolli mugavusele. Kuigi sissepääsuhind on kõrge, pakub see tegevuskava tulevikuks, kus tipptasemel intelligentsus on privaatne kommunaalteenus, mitte renditud teenus. Kuna mäluhinnad kõiguvad ja ilmuvad uued kiibid, siis selle intelligentsuse hind langeb. Praegu jääb see võimsaks signaaliks sellest, kuhu tööstus on teel.

Jälgige oma digitaalseid harjumusi ja pange tähele, kui suur osa teie andmetest asub praegu pilves. Massiivsete kohalike mudelite saabumine viitab tulevikule, kus teie kõige olulisemad ülesanded võivad taas toimuda täielikult teie enda seadmes. Riistvara võib täna olla kallis, kuid nihe digitaalse suveräänsuse suunas on ametlikult alanud.

Allikad:
Meta Newsroom Official Release Statement
Apple Machine Learning Research Documentation
Hugging Face Model Repository for Muse Spark Open
Market Analysis on M-Series Silicon Pricing for 2026
Comparative Benchmark Reports for GLM 5.3 and Kimi K3