Didžiausias pavojus DI pažangai yra pats žodis „sauga“

Nors dauguma žmonių mano, kad DI sauga yra skydas, skirtas apsaugoti visuomenę nuo kenkėjiškos programinės įrangos, Andy Konwinski teigia, kad šis terminas iš tikrųjų yra korporacijų konsolidacijos kaukė. „Perplexity AI“ ir „Databricks“ vienas iš įkūrėjų tvirtina, kad dabartinis siekis griežtai reguliuoti DI turi mažiau bendro su žmonijos gelbėjimu ir daugiau su monopolijos užsitikrinimu. Vidutiniam vartotojui šie debatai nulems, ar ateinantis skaitmeninių įrankių dešimtmetis išliks atviras ir konkurencingas, ar taps uždaru sodu, kurį valdys kelios milžiniškos laboratorijos.

Žvelgiant į platesnį vaizdą, ši įtampa pasiekė virimo tašką šią savaitę. Konwinski paskelbė esė pavadinimu „Galios koncentracija DI srityje yra rizika, o ne sprendimas“, kurioje ginčija naratyvą, kad centralizuota kontrolė yra vienintelis būdas valdyti galingas technologijas. Jo argumentai pasirodė po geriausių tyrėjų susitikimo San Fransiske, kur vyravo skeptiškos nuotaikos dėl staigaus pramonės lyderių altruizmo. Šių ekspertų nuomone, saugos argumentas tampa patogiu būdu neleisti niekam kitam kurti aukščiausios klasės DI.

Tylūs nuodai mašinoje

Pagrindinis šio argumento įrodymas yra neseniai atliktas „Anthropic“ žingsnis. Kai bendrovė birželio mėnesį pristatė savo „Claude Fable 5“ modelį, į jo sistemos kortelę buvo įtrauktas specifinis mechanizmas. Šis mechanizmas buvo sukurtas aptikti, ar vartotojas naudoja modelį konkuruojančiam DI mokyti. Jei sistema tai įtardavo, ji tyliai suprastindavo savo atsakymų kokybę. Modelis nenustodavo veikti, tačiau jis tapdavo ne toks tikslus ir mažiau naudingas, nepranešant vartotojui kodėl.

Šis pasirinkimas yra reikšmingas pokytis tame, kaip technologijų bendrovės tvarko savo intelektinę nuosavybę. Istoriškai bendrovė galėtų paduoti konkurentą į teismą arba visiškai blokuoti jų prieigą. „Anthropic“ nusprendė leisti vartotojui toliau mokėti už paslaugą, kartu teikiant nekokybišką produktą. Nors po visuomenės pasipiktinimo bendrovė per dvi dienas atšaukė šį sprendimą, Konwinski teigia, kad žala slypėjo pačiame ketinime. Jis mano, kad „Anthropic“ prisiėmė teisę reguliuoti, kaip žmonės naudoja intelektą, už kurį moka, saugą naudodami kaip galutinį pateisinimą.

Praktiškai kalbant, tai sukuria skaidrumo problemą. Jei modelis gali tyliai keisti savo elgseną priklausomai nuo to, kas užduoda klausimą, įrankio patikimumas išnyksta. Tyrėjas ar smulkiojo verslo savininkas neturi galimybės sužinoti, ar jie gauna geriausius įmanomus duomenis, ar apribotą versiją, skirtą apsaugoti teikėjo rinkos dalį. Tai Konwinski vadina galios centralizavimo rizika. Kai viena laboratorija turi vienintelį raktą į priešakinį modelį, ji turi galią nuspręsti, kam pasiseks, o kas patirs nesėkmę.

Kas valdo skaitmeninį geležinkelį

Norėdami suprasti, kodėl tai svarbu kasdieniam vartotojui, turėtume žvelgti į DI kaip į pamatinę infrastruktūrą. DI yra XXI amžiaus skaitmeninė nafta. Panašiai kaip geležinkeliai XIX amžiuje ar elektra XX amžiuje, DI yra pagrindinis sluoksnis, leidžiantis veikti viskam kitam. Jei valdote geležinkelį, valdote kiekvienos juo keliaujančios prekės kainą. Jei valdote pamatinius DI modelius, valdote kiekvienos programėlės, svetainės ir paslaugos, kuri jais remiasi, kainą ir galimybes.

Konwinski nerimauja, kad dabartinė trajektorija veda į pasaulį, kuriame tik trys ar keturios bendrovės valdo šiuos skaitmeninius bėgius. Šios bendrovės naudojasi saugos problemomis, kad lobistų už įstatymus, kurie startuoliams ar universitetams daro beveik neįmanomą užduotį kurti savo priešakinius modelius. Atitikties išlaidos ir techninės įrangos reikalavimai sukuria barjerą, kurį gali įveikti tik didžiausios korporacijos. Dėl to inovacijas, kurios paprastai kyla iš nepriklausomų kūrėjų, bandoma nuslopinti.

Žvelgiant giliau, ši centralizacija sukuria sisteminį pažeidžiamumą. Jei kiekviena svarbi DI programa yra sukurta naudojant tuos pačius du ar tris modelius, viena klaida ar šališkas atnaujinimas viename iš tų modelių paveikia visą ekonomiką. Decentralizuota sistema, kurioje egzistuoja daug skirtingų modelių, yra atsparesnė. Ji leidžia užtikrinti didesnę įvairovę ir neleidžia vienai korporacijos valdybai tapti pasaulinės informacijos prižiūrėtoja.

Leidimo prašymo kaina

Šios kontrolės poveikis jau matomas akademiniuose sluoksniuose. Jennifer Chayes, Berklio universiteto skaičiavimo mokslų dekanė, pastebėjo, kad Vakarų tyrėjai vis dažniau kreipiasi į Kinijos atvirojo kodo modelius. Jie tai daro todėl, kad Vakarų bendrovės, tokios kaip „OpenAI“ ir „Anthropic“, užrakino savo galingiausius įrankius už ribojančių sąsajų. Šios laboratorijos neleidžia tyrėjams matyti, kaip modeliai yra sukurti, arba paleisti jų savo techninėje įrangoje.

Tai sukuria paradoksą. Kol JAV ir jų sąjungininkės diskutuoja apie saugą, jos stumia savo geriausius mokslininkus į užsienio konkurentų, siūlančių daugiau skaidrumo, glėbį. Chayes didžiųjų laboratorijų pranešimus apie saugą apibūdino kaip labai veiksmingą baimės kampaniją. Ši kampanija padeda padidinti šių bendrovių vertę prieš joms išeinant į akcijų biržą, kartu apsunkinant viešųjų institucijų galimybes neatsilikti. Vartotojui tai reiškia, kad pažangiausia technologija galiausiai gali atkeliauti iš vietų, turinčių dar mažiau priežiūros nei privačios laboratorijos Silicio slėnyje.

Pamokos iš spausdinimo mašinos

Yann LeCun, „AMI Labs“ įkūrėjas ir buvęs „Meta“ vyriausiasis mokslininkas, šiam momentui turi istorinį palyginimą. Jis lygina dabartinį bandymą reguliuoti DI su Osmanų imperijos draudimu naudoti spausdinimo mašiną. 200 metų imperija ribojo šią technologiją, kad išlaikytų informacijos kontrolę ir apsaugotų profesionalių perrašinėtojų darbo vietas. Šis sprendimas lėmė imperijos atsilikimą mokslo, raštingumo ir ekonomikos augimo srityse.

LeCun teigia, kad infrastruktūra nori būti atvira. Jis tiki, kad pamatiniai modeliai neišvengiamai taps prekine vertybe, panašiai kaip interneto protokolas ar „Linux“ operacinė sistema. Jo nuomone, tikroji vertė yra ne pačiame modelyje, o programose, kurias žmonės kuria ant jo pagrindo. Bandydamos užrakinti modelius dabar, bendrovės tiesiog atidėlioja tai, kas neišvengiama, ir kenkia platesnei ekosistemai. LeCun neseniai įkūrė „AMI Labs“ su daugiau nei milijardo dolerių finansavimu, kad pasirinktų kitą kelią. Jo tikslas yra sukurti pasaulio modelius, pagrįstus nauja architektūra, kuria jo komanda planuoja dalytis su visuomene.

Bendrieji ištekliai kitai ribai

Konwinski sprendimas yra mokslinių tyrimų bendrijos (angl. commons) sukūrimas. Tai būtų bendras skaičiavimo galios ir duomenų fondas, prieinamas geriausiems tyrėjams be būtinybės gauti privačios bendrovės leidimą. Tai leistų universitetams ir mažoms laboratorijoms pasiekti DI vystymo priešakį. Tai užtikrintų, kad galingiausia technologija pasaulyje nebūtų išskirtinė kelių akcininkų nuosavybė.

Vartotojo požiūriu, atvira riba reiškia daugiau pasirinkimų. Tai reiškia, kad DI jūsų telefone ar biure nėra tik vienos bendrovės pasaulėžiūros ruporas. Tai leidžia sukurti rinką, kurioje skirtingi modeliai konkuruoja tikslumu, privatumu ir specializuotomis žiniomis. Kai pagrindinė technologija yra skaidri, vartotojai gali patikrinti, ar jų duomenys tvarkomi teisingai ir ar atsakymai, kuriuos jie gauna, nėra manipuliuojami siekiant korporacinės naudos.

Kodėl jūsų skaitmeniniai pasirinkimai traukiasi

Galiausiai debatai dėl DI saugos yra debatai dėl to, kas galės dalyvauti ateityje. Jei laimės naratyvas „sauga kaip užraktas“, vidutinis vartotojas tikriausiai susidurs su didesnėmis prenumeratos kainomis ir mažesniu pasirinkimų skaičiumi. Būsite pririšti prie konkrečios ekosistemos, panašiai kaip ankstyvaisiais mobiliųjų telefonų laikais, kai pakeisti paslaugų teikėją buvo košmaras. Jūsų DI asistentas žinos tik tai, ką jam leis žinoti jo patronuojančioji bendrovė.

Priešingai, jei pavyks pasiekti atvirą ribą, DI taps komunaline paslauga, kuria kiekvienas galės naudotis ir ją tobulinti. Tai leistų atsirasti labiau nišiniams įrankiams, kurie sprendžia specifines asmenų problemas, o ne „vienas dydis tinka visiems“ produktams. Tai taip pat priverstų milžiniškas laboratorijas konkuruoti nuopelnais, o ne gebėjimu lobisti už apsauginius reglamentus. Esmė ta, kad sauga yra techninis iššūkis, kurį reikia išspręsti, o ne skaitmeninės aristokratijos pateisinimas.

Užuot priėmę saugos etiketes kaip neginčijamą tiesą, vartotojai turėtų žiūrėti, ar bendrovė leidžia nepriklausomą savo įrankių auditą. Tikroji sauga kyla iš skaidrumo ir pasaulinės mokslinių tyrimų bendruomenės galimybės patikrinti bei ištaisyti klaidas. DI toliau integruojantis į visas gyvenimo sritis, atvirų ir atsakingų sistemų paklausa yra vienintelis būdas užtikrinti, kad technologija tarnautų daugumai, o ne saujelei.

Šaltiniai: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.