Pasaulē jaudīgākais mākslīgais intelekts drīzumā varētu atrasties sociālo tīklu lietotnē

Tehnoloģiju pasaulē izplatīts uzskats vēsta, ka vadošajām ASV mākslīgā intelekta laboratorijām ir nepārspējamas priekšrocības salīdzinājumā ar pārējo pasauli. Kamēr tādi uzņēmumi kā Anthropic un OpenAI dominē ziņu virsrakstos ar savām Mythos un GPT sērijām, uzņēmuma, kas stāv aiz TikTok, datu centros notiek klusas pārmaiņas. ByteDance pašlaik apmāca masīvu MI modeli ar 10 triljoniem parametru. Salīdzinājumam – šī sistēma ir trīs reizes lielāka par lielāko esošo Ķīnas modeli un, iespējams, apjomīgāka par vismodernākajām sistēmām, kas pašlaik pieejamas Rietumos.

Raugoties uz kopējo ainu, šis solis ir tehniskās neatkarības deklarācija. Gadiem ilgi daudzi topošie MI uzņēmumi paļāvās uz saīsni, ko sauc par destilāciju. Šis process ietver konkurenta augstas veiktspējas modeļa izmantošanu un mazākas versijas apmācīšanu, lai tā atdarinātu tā uzvedību. Tas ir digitālais ekvivalents tam, kā skolēns noraksta mājasdarbu no izcila teicamnieka, lai iegūtu sekmīgu atzīmi. ByteDance dibinātājs Džans Jimings ir noraidījis šo ceļu. Viņš nesen paziņoja saviem pētniekiem, ka uzņēmumam ir jāmērķē uz pasaules līmeņa spējām, izmantojot oriģinālu izstrādi. Būtībā ByteDance būvē savas digitālās smadzenes no pamatiem, lai nodrošinātu, ka tās galu galā spēj pārspēt skolotājus, no kuriem kādreiz mācījās.

Desmit triljonu parametru nozīmes izpratne

Aiz žargona par parametriem slēpjas vienkārša digitālās atmiņas un jaudas koncepcija. Domājiet par MI modeli kā par nenogurdināmu praktikantu. Parametri ir atsevišķu savienojumu vai digitālo sinapšu skaits, ko praktikants izmanto informācijas glabāšanai un modeļu atpazīšanai. Modelis ar 1 miljardu parametru ir kā parasts kalkulators. Modelis ar 100 miljardiem parametru ir kompetents pētnieks. 10 triljonu parametru modelis ir bibliotēka, kas spēj domāt.

Nozares aplēses liecina, ka Anthropic vismodernākajam modelim Mythos 5 ir aptuveni 8 triljoni parametru. Fable 5, modelim, ko šodien izmanto daudzi profesionāli izstrādātāji, ir aptuveni 5 triljoni. ByteDance mērķē uz 10 triljoniem. Lai gan tīrais izmērs nav vienīgais faktors, kas nosaka, cik gudrs kļūst MI, tas nosaka fundamentālo robežu tam, ko mašīna var iemācīties. Lielākam modelim ir augstāki griesti spriešanai, sarežģītai programmēšanai un cilvēku valodas nianšu izpratnei dažādās kultūrās.

Šāds mērogs prasa milzīgu fizisko infrastruktūru. ByteDance trīs gadus ir agresīvi veidojis savu datu centru tīklu. Uzņēmums pārvalda mākoņpakalpojumu vienību Volcano Engine, kas kalpo kā neredzamais mugurkauls šīm MI ambīcijām. Šī vienība dara vairāk nekā tikai izmitina modeli; tā nodrošina specializētu skaitļošanas jaudu, kas nepieciešama, lai apstrādātu datu kalnus, ko pieprasa 10 triljonu parametru sistēma. Šāda izmēra modeļa apmācība parasti prasa trīs līdz sešus mēnešus nepārtrauktas skaitļošanas, pirms vispār sākas precizēšanas process.

Kāpēc oriģināla pētniecība ir riskanta, bet nepieciešama izvēle

Vēsturiski ātrākais ceļš uz tirgu bija pilnveidot to, kas jau darbojās. Izvēloties izvairīties no destilācijas, ByteDance ir pieņēmis lēnāku izstrādes ciklu. Šis lēmums izriet no pārliecības, ka kopēts modelis nekad nevar būt labāks par oriģinālu. Ja apmācāt savu MI atdarināt konkurenta rezultātus, jūs mantojat arī visas šī konkurenta kļūdas un neobjektivitāti.

"Zem pārsega" ByteDance komandu vada Vu Junhui, bijušais Google DeepMind zinātnieks. Viņa 2000 cilvēku komandā ir infrastruktūras inženieri un datu marķēšanas speciālisti visā pasaulē. Veidojot savu arhitektūru, viņi rada sistēmu, kas ir specializēta konkrētiem ByteDance piederošajiem datu veidiem. Tas ietver milzīgo video satura apjomu no TikTok un liela apjoma sarunu datus no Doubao – uzņēmuma vadošā MI asistenta Ķīnā.

No patērētāju viedokļa šīs pētniecības rezultāti jau sāk parādīties. ByteDance modelis SeeDance pašlaik ir viens no modernākajiem rīkiem reālistisku video ģenerēšanai. Kamēr ASV konkurentus ierobežo drošības aizliegumi vai ierobežota piekļuve to augstākā līmeņa modeļiem, ByteDance virza savu tehnoloģiju tieši simtiem miljonu lietotāju rokās. Doubao jau ir 324 miljoni ikmēneša aktīvo lietotāju, kuri katru dienu mijiedarbojas ar MI. Lielāks, spējīgāks modelis liks šīm mijiedarbībām justies mazāk kā sarunai ar robotu un vairāk kā sadarbībai ar cilvēku-ekspertu.

Aparatūras dzinējs un pielāgoto mikroshēmu sacensība

Augstākās klases MI modeļi ir tikai tik labi, cik labi ir procesori, uz kuriem tie darbojas. Šobrīd globālā MI mikroshēmu piegāde ir svārstīga un stingri regulēta. ByteDance ir reaģējis, mēģinot izstrādāt savas pielāgotās MI mikroshēmas. Šī stratēģija atspoguļo to, ko Apple un Google ir darījuši ar savu aparatūru. Izstrādājot mikroshēmu un MI modeli vienlaicīgi, uzņēmums var padarīt sistēmu daudz ātrāku, vienlaikus patērējot mazāk elektrības.

Šeit makroekonomiskā realitāte skar ikdienas lietotāju. MI darbināšana ir neticami dārga. Elektroenerģijas izmaksas vien 10 triljonu parametru modelim ir astronomiskas. Ja uzņēmums var samazināt šīs izmaksas, izmantojot pielāgotu aparatūru, tas var piedāvāt savus MI pakalpojumus par zemāku cenu vai pat bez maksas. ByteDance pozicionē sevi kā zemu izmaksu un augstas veiktspējas līderi šajā jomā. Viņi ne tikai būvē gudru modeli; viņi būvē mērogojamu intelekta rūpnīcu.

Turpretī paļaušanās uz masīviem aparatūras klasteriem rada sistēmisku ievainojamību. Ja modernu mikroshēmu piegāde tiks vēl vairāk ierobežota, pat labākajai pētnieku komandai pasaulē būs grūtības pabeigt apmācības procesu. Tas rada sacensību ar laiku. Trīs līdz sešu mēnešu apmācības logs šim jaunajam modelim ir augstu likmju periods, kurā visam jānotiek perfekti. Viena aparatūras kļūme vai izmaiņas starptautiskajā tirdzniecības politikā var atsviest projektu atpakaļ par mēnešiem.

Praktiskā ietekme uz ikdienas lietotāju

Tas nozīmē, ka MI rīki, ko izmantojat video montāžai, rakstīšanai vai meklēšanai tīmeklī, drīz kļūs ievērojami jaudīgāki, neizmantojot jaunu tālruni vai datoru. Smagais darbs notiek mākonī. Tā kā ByteDance integrē šīs 10 triljonu parametru spējas savās lietotnēs, robeža starp profesionāla līmeņa saturu un amatieru radīto izzudīs. Pusaudzim ar viedtālruni būs pieejama tāda pati radošā jauda, kāda pirms desmit gadiem bija Holivudas studijai.

Tirgus pusē šī konkurence spiež ASV laboratorijas ieviest jauninājumus ātrāk. Kad konkurents parāda, ka spēj izveidot lielāku, neatkarīgāku modeli, tas salauž monopolu uz augstākās klases MI. Lietotājam šī konkurence ir viennozīmīgs ieguvums. Tā nodrošina labākas funkcijas, caurspīdīgāku privātuma kontroli un pieejamākus abonementus, uzņēmumiem cīnoties par jūsu uzmanību.

Galu galā modeļa izmērs ir tikai skaitlis, līdz tas sniedz taustāmus rezultātus. Reālais pārbaudījums ByteDance būs tas, vai šis 10 triljonu parametru titāns spēs atrisināt problēmas, ko mazāki modeļi nespēj. Neatkarīgi no tā, vai tā ir tirgus tendenču prognozēšana vai nevainojams tiešraides video tulkojums, MI lietderība ir vienīgais rādītājs, kam patiesi ir nozīme personai, kura tur tālruni.

Raugoties plašāk, globālā MI ainava vairs nav viena dalībnieka sacensība. Pāreja uz neatkarīgu, masveida izstrādi Ķīnā iezīmē jaunu nodaļu tehnoloģiju vēsturē. Lietotājiem jāsagatavojas digitālajai videi, kurā izklaidei izmantotās lietotnes ir arī vismodernākie rīki viņu profesionālajā arsenālā. Vērojiet savus digitālos paradumus nākamo dažu mēnešu laikā. Jūs varat pamanīt, ka jūsu iecienītākā video lietotne kļūst pārsteidzoši labāka, saprotot tieši to, ko vēlaties, vēl pirms esat pabeidzis rakstīt savu pieprasījumu. Digitālo titānu ēra ir klāt.

Avoti:

• Latepost Tech Analysis Report on ByteDance Internal Strategy
• The Information: ByteDance Project Seed Development Briefing
• Volcano Engine Enterprise Solutions Product Roadmap
• Moonshot AI Research Benchmarks for Kimi K3
• Industry Estimates for Anthropic Mythos and Fable Parameter Counts