Maailma võimsaim tehisintellekt võib peagi elada sotsiaalmeedia rakenduses

Tehnoloogiamaailmas levinud narratiiv viitab sellele, et USA juhtivatel tehisintellekti laboritel on ülejäänud maailma ees ületamatu eelis. Kuigi sellised ettevõtted nagu Anthropic ja OpenAI domineerivad pealkirjades oma Mythos ja GPT seeriatega, on TikToki taga oleva ettevõtte andmekeskustes toimumas vaikne nihe. ByteDance treenib praegu massiivset 10 triljoni parameetriga tehisintellekti mudelit. Perspektiivi loomiseks olgu öeldud, et see süsteem on kolm korda suurem kui suurim olemasolev Hiina mudel ja potentsiaalselt suurem kui kõige arenenumad süsteemid, mis on praegu läänes saadaval.

Suurt pilti vaadates on see samm deklaratsioon tehnilisest iseseisvusest. Aastaid tuginesid paljud tärkavad tehisintellekti ettevõtted otseteele, mida nimetatakse destilleerimiseks. See protsess hõlmab konkurendi eduka mudeli võtmist ja väiksema versiooni treenimist selle käitumise matkimiseks. See on digitaalne ekvivalent õpilasele, kes kopeerib tipptasemel teadlase kodutööd, et saada rahuldav hinne. ByteDance'i asutaja Zhang Yiming on selle tee tagasi lükanud. Ta ütles hiljuti oma teadlastele, et ettevõte peab sihtima maailma juhtivaid võimekusi algupärase arendustöö kaudu. Sisuliselt ehitab ByteDance oma digitaalset aju nullist üles, et tagada võimalus lõpuks ületada õpetajaid, keda ta kunagi uuris.

Kümne triljoni parameetri kaalu mõistmine

Parameetrite žargooni taga peitub lihtne digitaalse mälu ja mahu kontseptsioon. Mõelge tehisintellekti mudelist kui väsimatust praktikandist. Parameetrid on individuaalsete ühenduste või digitaalsete sünapside arv, mida praktikant kasutab teabe salvestamiseks ja mustrite tuvastamiseks. 1 miljardi parameetriga mudel on nagu tavaline kalkulaator. 100 miljardi parameetriga mudel on pädev teadur. 10 triljoni parameetriga mudel on raamatukogu, mis suudab mõelda.

Tööstusharu hinnangul on Anthropicu kõige arenenum mudel, Mythos 5, umbes 8 triljoni parameetriga. Fable 5, mudel, mida paljud professionaalsed arendajad täna kasutavad, on umbes 5 triljonit. ByteDance sihib 10 triljonit. Kuigi pelk suurus ei ole ainus tegur selles, kui targaks tehisintellekt muutub, seab see fundamentaalse piiri sellele, mida masin suudab õppida. Suuremal mudelil on kõrgem lagi arutlemiseks, keerukaks kodeerimiseks ja inimkeele nüansside mõistmiseks erinevates kultuurides.

See skaala nõuab tohutul hulgal füüsilist infrastruktuuri. ByteDance on kolm aastat agressiivselt välja ehitanud oma andmekeskuste võrku. Ettevõte opereerib pilveüksust nimega Volcano Engine, mis toimib nende tehisintellekti ambitsioonide nähtamatu selgroona. See üksus teeb enamat kui lihtsalt mudeli majutamine; see pakub spetsialiseeritud arvutusvõimsust, mis on vajalik 10 triljoni parameetriga süsteemi nõutavate andmemägede töötlemiseks. Sellise suurusega mudeli treenimine võtab tavaliselt kolm kuni kuus kuud pidevat arvutustööd, enne kui peenhäälestusprotsess üldse algab.

Miks algupärane uurimistöö on riskantne, kuid vajalik panus

Ajalooliselt oli kiireim tee turule juba toiminud lahenduste täiustamine. Vältides destilleerimist, on ByteDance aktsepteerinud aeglasemat arendustsüklit. See otsus tuleneb uskumusest, et kopeeritud mudel ei saa kunagi olla parem kui originaal. Kui treenite oma tehisintellekti matkima rivaali väljundeid, pärite ka kõik selle rivaali vead ja eelarvamused.

Kapoti all juhib ByteDance'i meeskonda Wu Yonghui, endine Google DeepMindi teadlane. Tema 2000-liikmelisse meeskonda kuuluvad infrastruktuuriinsenerid ja andmete märgistamise spetsialistid üle kogu maailma. Ehitades oma arhitektuuri, loovad nad süsteemi, mis on spetsialiseerunud ByteDance'i valduses olevatele konkreetsetele andmetüüpidele. See hõlmab tohutul hulgal videosisu TikTokist ja suuremahulisi vestlusandmeid Doubaost, mis on ettevõtte lipulaevast tehisintellekti assistent Hiinas.

Tarbija seisukohast on selle uurimistöö tulemused juba pinnale kerkimas. ByteDance'i SeeDance mudel on praegu üks arenenumaid tööriistu realistliku video genereerimiseks. Samal ajal kui USA konkurendid on piiratud ohutuskeeldude või piiratud juurdepääsuga oma tipptasemel mudelitele, lükkab ByteDance oma tehnoloogia otse sadade miljonite kasutajate kätte. Doubaol on juba 324 miljonit igakuist aktiivset kasutajat, kes suhtlevad tehisintellektiga iga päev. Suurem ja võimekam mudel muudab need interaktsioonid vähem robotiga rääkimise ja rohkem inimeksperdiga koostöö tegemise sarnaseks.

Riistvaramootor ja kohandatud kiipide võidujooks

Tipptasemel tehisintellekti mudelid on vaid nii head kui räni, millel nad jooksevad. Praegu on globaalne tehisintellekti kiipide tarnimine ebakindel ja rangelt reguleeritud. ByteDance on vastanud sellele katsega arendada oma kohandatud tehisintellekti kiipe. See strateegia peegeldab seda, mida Apple ja Google on teinud oma riistvaraga. Disainides kiibi ja tehisintellekti mudeli samal ajal, saab ettevõte panna süsteemi jooksma palju kiiremini, kasutades samal ajal vähem elektrit.

Siinkohal tabab makromajanduslik tegelikkus tavakasutajat. Tehisintellekti käitamine on uskumatult kallis. Ainuüksi 10 triljoni parameetriga mudeli elektrikulud on astronoomilised. Kui ettevõte suudab neid kulusid kohandatud riistvara abil vähendada, saavad nad pakkuda oma tehisintellekti teenuseid madalama hinnaga või isegi tasuta. ByteDance positsioneerib end selles valdkonnas madalate kuludega ja suure jõudlusega liidriks. Nad ei ehita lihtsalt tarkat mudelit; nad ehitavad skaleeritavat intelligentsuse tehast.

Vastupidi, sõltuvus massiivsetest riistvaraklastritest tekitab süsteemse haavatavuse. Kui arenenud kiipide tarnimist veelgi piiratakse, on isegi maailma parimal uurimisrühmal raskusi treeningprotsessi lõpuleviimisega. See tekitab võidujooksu ajaga. Selle uue mudeli kolme- kuni kuuekuuline treeningaken on kõrgete panustega periood, kus kõik peab laabuma täiuslikult. Üksainus riistvaratõrge või muutus rahvusvahelises kaubanduspoliitikas võib projekti kuude võrra tagasi paisata.

Praktiline mõju tavakasutajale

See tähendab, et tehisintellekti tööriistad, mida kasutate video monteerimiseks, kirjutamiseks või veebist otsimiseks, muutuvad oluliselt võimsamaks, ilma et vajaksite uut telefoni või arvutit. Raske töö tehakse ära pilves. Kuna ByteDance integreerib need 10 triljoni parameetriga võimekused oma rakendustesse, kaob barjäär professionaalse tasemega sisu ja amatöörlooming vahel. Nutitelefoniga teismelisel on juurdepääs samale loomingulisele jõule, mis oli Hollywoodi stuudiol kümme aastat tagasi.

Turu poolelt sunnib see konkurents USA laboreid kiiremini uuendusi tegema. Kui rivaal näitab, et suudab ehitada suurema ja iseseisvama mudeli, murrab see tipptasemel tehisintellekti monopoli. Kasutaja jaoks on see konkurents puhas võit. See toob kaasa paremad funktsioonid, läbipaistvamad privaatsuskontrollid ja taskukohasemad tellimused, kuna ettevõtted võistlevad teie tähelepanu pärast.

Lõppkokkuvõttes on mudeli suurus vaid number, kuni see annab käegakatsutavaid tulemusi. ByteDance'i tegelik test on see, kas see 10 triljoni parameetriga titaan suudab lahendada probleeme, mida väiksemad mudelid ei suuda. Olgu selleks turusuundumuste ennustamine või otseülekandes video sujuv tõlkimine – tehisintellekti kasulikkus on ainus mõõdik, mis telefoni hoidvale inimesele tegelikult korda läheb.

Suuremas pildis ei ole globaalne tehisintellekti maastik enam ühe hobuse võidujooks. Nihe iseseisva ja massiivse arendustöö suunas Hiinas tähistab uut peatükki tehnoloogia ajaloos. Kasutajad peaksid valmistuma digitaalseks keskkonnaks, kus meelelahutuseks kasutatavad rakendused on ühtlasi nende professionaalse tööriistakomplekti kõige keerukamad vahendid. Jälgige oma digiharjumusi järgmise paari kuu jooksul. Võite märgata, et teie lemmikvideorakendus muutub üllatavalt osavaks mõistmaks täpselt, mida te soovite, juba enne, kui olete päringu tippimise lõpetanud. Digitaalsete titaanide ajastu on käes.

Allikad:

• Latepost Tech Analysis Report on ByteDance Internal Strategy
• The Information: ByteDance Project Seed Development Briefing
• Volcano Engine Enterprise Solutions Product Roadmap
• Moonshot AI Research Benchmarks for Kimi K3
• Industry Estimates for Anthropic Mythos and Fable Parameter Counts