Vai jūsu nākamais MI asistents darbosies uz trim vecajiem datoriem jūsu viesu istabā?

Vai jums atvilktnē krāj putekļus vecs spēļu klēpjdators, kamēr jūsu pašreizējais dators pūlas darbināt jaunākos lokālos MI modeļus? Lielākā daļa lietotāju pret aparatūru izturas kā pret vienreizlietojamām kāpnēm, kur katrs jauns pakāpiens padara iepriekšējo par novecojušu. Nvidia tagad vēlas, lai jūs šīs vecās mašīnas uztvertu kā daļu no vienotas komandas. Uzņēmums nesen izlaida beta versiju savam Personālajam MI maršrutētājam, kas pazīstams kā PAIR. Šī programmatūra savieno vairākus datorus lokālajā tīklā, lai kopīgi veiktu smagos mākslīgā intelekta uzdevumus.

Tehniski tas ir solis decentralizētas skaitļošanas virzienā vidusmēra cilvēkam. Gadiem ilgi jaudīga Lielā valodas modeļa darbināšanai mājās bija nepieciešama viena dārga grafiskā karte ar milzīgu video atmiņas apjomu. Ja modelis bija pārāk liels jūsu kartei, tas vienkārši nedarbojās. PAIR maina šo matemātiku, ļaujot lietotājam sadalīt šo darba slodzi starp vairākām dažādām ierīcēm. Tas darbojas kā datu satiksmes kontrolieris. Tas vienlaikus nosūta MI pieprasījuma daļas jūsu galddatoram, vecajam klēpjdatoram un pat noteiktām Mac ierīcēm. Šāda pieeja pārvērš atsevišķu rīku kolekciju par improvizētu privāto mākoni.

Kā digitālās satiksmes kontrolieris pārvalda jūsu aparatūru

"Zem pārsega" PAIR darbojas citādi nekā tradicionālie serveru klasteri. Profesionālā datu centrā inženieri bieži sasaista GPU kopā, lai izveidotu vienu milzīgu virtuālu atmiņas kopumu. Nvidia norāda, ka PAIR to nedara. Tas nepārvērš jūsu trīs atsevišķos datorus par vienu milzīgu virtuālu GPU. Tā vietā tas darbojas pēc paralēlās apstrādes principa. Kad jūs lūdzat MI apkopot garu dokumentu vai ģenerēt kodu, PAIR sadala šo uzdevumu mazākos fragmentos. Tas novirza šos fragmentus pieejamajiem procesoriem jūsu tīklā, apkopo rezultātus un prezentē tos vienotā saskarnē.

Praktiski tas nozīmē, ka jums nav nepieciešama identiska aparatūra, lai gūtu labumu. Programmatūra atbalsta Windows, macOS un Linux. Jūs varat sasaistīt augstas klases galddatoru ar RTX 50. sērijas karti ar vecāku RTX 30. sērijas klēpjdatoru un Mac Mini. Sistēma atpazīst katras ierīces specifiskās stiprās puses. Tā uztic smagākos darbus ātrākajai kartei, kamēr vecākā mašīna tiek galā ar mazākiem apakšuzdevumiem. Šāda uzstādīšana pārvērš MI par nenogurstošu praktikantu, kurš izmanto katru biroja rīku, lai darbu paveiktu ātrāk.

Skatoties uz kopējo ainu, šī programmatūra atrisina VRAM sašaurinājumu. VRAM jeb video brīvpiekļuves atmiņa ir digitālā darba vieta, kur MI modeļi atrodas darba laikā. Ja modelim nepieciešami 24 gigabaiti vietas un jūsu kartei ir tikai 12, modelis nedarbojas. Novirzot uzdevumus starp vairākām mašīnām, PAIR ļauj lietotājiem darbināt sarežģītākus modeļus, kas parasti izraisītu viena mājas datora avāriju. Jūsu tīkla kopējā jauda kļūst par jauno robežu tam, ko varat sasniegt lokāli.

Pāreja no mākoņa uz viesistabu

Privātums ir šīs maiņas pamatā. Lielākā daļa cilvēku pašlaik izmanto MI caur tīmekļa pārlūkprogrammām, kas nozīmē, ka viņu dati ceļo uz uzņēmuma serveri. Uzņēmumi izmanto šos datus, lai apmācītu nākamos modeļus vai izsekotu lietotāju uzvedību. PAIR visu patur aiz jūsu mājas maršrutētāja. Dati nekad nepamet jūsu lokālo tīklu. Mazā uzņēmuma īpašniekam vai rakstniekam, kurš strādā pie sensitīva manuskripta, tas rada drošu burbuli. Jūs iegūstat mūsdienu MI ātrumu bez datu noplūdes riska vai pakalpojumu sniedzēja pakalpojumu sniegšanas noteikumu izmaiņām.

No patērētāja viedokļa tas maina arī vecās aparatūras vērtības piedāvājumu. Trīs gadus vecu klēpjdatoru tālākpārdošanas tirgus bieži vien ir sarūgtinošs. Tomēr šāda klēpjdatora vērtība kā speciālam MI mezglam ir diezgan augsta. Tā vietā, lai pārdotu vecu ierīci par daļu no tās sākotnējās vērtības, varat to pievienot strāvas kontaktligzdai skapī un ļaut tai dot ieguldījumu jūsu mājas MI klasterī. Tas pagarina elektronikas lietderīgās lietošanas laiku un palēnina pastāvīgo uzlabojumu ciklu.

Lokālo MI klasteru slēptās izmaksas

Šai decentralizētajai pieejai ir praktisks kompromiss. Lai gan programmatūra ir bezmaksas, elektrība tāda nav. Trīs datoru darbināšana ar pilnu jaudu, lai apstrādātu vienu MI pieprasījumu, patērē ievērojami vairāk enerģijas nekā vienas optimizētas mašīnas izmantošana. Karstuma radīšana ir vēl viens faktors. Trīs datoru klasteris pārvērtīs nelielu mājas biroju par saunu ilgas datu analīzes sesijas laikā. Lietotājiem ir jāizvērtē savs elektrības rēķins pret mākoņa MI pakalpojumu ikmēneša abonēšanas maksu.

Aizkave ir otrs šķērslis. Tā kā datiem ir jāceļo pa jūsu mājas Wi-Fi vai Ethernet kabeļiem, rodas neliela kavēšanās. Šo aizkavi parasti mēra milisekundēs, taču tā uzkrājas. Viena jaudīga GPU vienmēr būs ātrāka par trīs lēnāku GPU klasteri, kas savienoti tīklā. PAIR ir risinājums jaudai, nevis obligāti neapstrādātam, tūlītējam ātrumam. Runa ir par spēju vispār palaist modeli, nevis palaist to visātrāk.

Kāpēc uzņēmumi vēro mājas lietotāju rīku

Nvidia apgalvo, ka PAIR ir paredzēts lietošanai mājās, taču ietekme uz biroju ir skaidra. Lielākajai daļai mūsdienu uzņēmumu ir desmitiem dīkstāvē esošu galddatoru, kas pa nakti stāv kabinetos. Šīm mašīnām bieži ir pieklājīgas iekšējās grafiskās mikroshēmas vai mūsdienīgi procesori, kas stāv neizmantoti sešpadsmit stundas dienā. Uzņēmums teorētiski varētu izmantot PAIR, lai sasaistītu šīs dīkstāvē esošās mašīnas pagaidu superdatorā iekšējai pētniecībai.

Vēsturiski uzņēmumiem šādam darbam bija jāpērk speciāli serveru statīvi. Šie statīvi maksā desmitiem tūkstošu dolāru un prasa specializētu dzesēšanu. Esošās galddatoru jaudas izmantošana ir graujošs veids, kā pazemināt ienākšanas barjeru korporatīvajam MI. Nvidia arī minēja, ka PAIR darbojas ar DGX Spark galddatoru superdatoriem. Tas liecina, ka programmatūra ir tilts starp entuziastu mājas uzstādījumiem un profesionālām industriālajām vidēm. Tas ļauj uzņēmumam pārbaudīt MI darbplūsmas uz lētas, esošas aparatūras, pirms tie apņemas veikt vairāku miljonu dolāru ieguldījumus datu centros.

Secinājumi jūsu digitālajiem paradumiem

Vidusmēra lietotājam PAIR izlaišana ir signāls, ka vientuļā datora ēra beidzas. Mēs virzāmies uz modulāru dzīvesveidu, kur mūsu ierīces darbojas kopā, nevis izolēti. Ja jums bēniņos ir vecs dators, ir pienācis laiks pārbaudīt tā specifikācijas. Iespējams, jums jau pieder puse no superdatora, pašam to neapzinoties.

Galu galā šī programmatūra liek mainīt to, kā mēs skatāmies uz skaitļošanas jaudu. Mums jāpārtrauc uzskatīt aparatūru par vienu vienību un jāsāk to uztvert kā plūstošu resursu. Tāpat kā jūs varētu koplietot datu plānu vairākos ģimenes tālruņos, drīz jūs koplietosiet savu datoru domāšanas jaudu visā mājā. Nākamās desmitgades digitālā nafta ir apstrādes jauda, un Nvidia tikko deva ikvienam veidu, kā uzbūvēt savu pārstrādes rūpnīcu.

Praktiski runājot, jums vajadzētu sākt ar sava tīkla auditu. Vadu Ethernet savienojums šāda veida uzdevumiem vienmēr pārspēs Wi-Fi. Ja plānojat izveidot lokālo klasteri, apsveriet iespēju ieguldīt pamata tīkla slēdzī. Tas nodrošina datu pārvietošanos starp jūsu mašīnām ar pēc iespējas mazāku berzi. Vērojiet, kā jūsu pašreizējais dators šodien tiek galā ar MI uzdevumiem. Ja pamanāt biežu palēnināšanos vai atmiņas trūkuma kļūdas, otrās, vecākas mašīnas pievienošana, izmantojot PAIR, varētu būt izmaksu ziņā efektīvākais uzlabojums, ko varat veikt.

Avoti: Nvidia Technical Documentation, RTX AI User Guide, DGX Spark Product Specifications.