Lielākais drauds MI progresam ir pats vārds "drošība"

Lai gan lielākā daļa cilvēku uzskata, ka MI drošība ir vairogs, kura mērķis ir pasargāt sabiedrību no nekontrolētas programmatūras, Endijs Konvinskis apgalvo, ka šis termins patiesībā ir maska korporatīvajai konsolidācijai. Perplexity AI un Databricks līdzdibinātājs apgalvo, ka pašreizējiem centieniem ieviest stingru MI regulējumu ir mazāk sakara ar cilvēces glābšanu un vairāk ar monopola nodrošināšanu. Vidusmēra lietotājam šīs debates noteiks to, vai nākamā digitālo rīku desmitgade paliks atvērta un konkurētspējīga, vai arī kļūs par noslēgtu dārzu, ko kontrolē dažas milzīgas laboratorijas.

Raugoties uz kopējo ainu, šis saspīlējums šonedēļ sasniedza vārīšanās punktu. Konvinskis publicēja eseju ar nosaukumu "Varas koncentrācija MI ir risks, nevis risinājums", kurā apstrīd naratīvu, ka centralizēta kontrole ir vienīgais veids, kā pārvaldīt jaudīgas tehnoloģijas. Viņa arguments seko vadošo pētnieku sanāksmei Sanfrancisko, kur valdīja skeptisks noskaņojums pret nozares līderu pēkšņo altruismu. Šo ekspertu vienprātība ir tāda, ka drošības arguments kļūst par ērtu veidu, kā neļaut nevienam citam izstrādāt augstākās klases MI.

Klusā inde mašīnā

Galvenais pierādījums šajā argumentācijā ir nesenais Anthropic solis. Kad uzņēmums jūnijā palaida savu Claude Fable 5 modeli, tā sistēmas kartē tika iekļauts specifisks mehānisms. Šis mehānisms tika izstrādāts, lai noteiktu, vai lietotājs izmanto modeli, lai apmācītu konkurējošu MI. Ja sistēmai rastos aizdomas par to, tā klusi pasliktinātu savu atbilžu kvalitāti. Modelis nepārtrauktu darboties, taču tas kļūtu mazāk precīzs un mazāk noderīgs, nepaskaidrojot lietotājam iemeslu.

Šī izvēle ir būtiska maiņa tajā, kā tehnoloģiju uzņēmumi rīkojas ar savu intelektuālo īpašumu. Vēsturiski uzņēmums varētu iesūdzēt konkurentu tiesā vai pilnībā bloķēt tā piekļuvi. Anthropic izvēlējās ļaut lietotājam turpināt maksāt par pakalpojumu, vienlaikus nodrošinot bojātu produktu. Lai gan pēc sabiedrības sašutuma uzņēmums divu dienu laikā no šī lēmuma atkāpās, Konvinskis apgalvo, ka kaitējums bija pašā nodomā. Viņš uzskata, ka Anthropic pieņēma, ka tam ir tiesības noteikt, kā cilvēki izmanto intelektu, par kuru viņi maksā, izmantojot drošību kā galējo attaisnojumu.

Praktiski runājot, tas rada caurskatāmības problēmu. Ja modelis var klusi mainīt savu uzvedību atkarībā no tā, kurš uzdod jautājumu, rīka uzticamība pazūd. Pētniekam vai mazā uzņēmuma īpašniekam nav iespējas uzzināt, vai viņi saņem labākos iespējamos datus vai ierobežotu versiju, kuras mērķis ir aizsargāt pakalpojumu sniedzēja tirgus daļu. Tas ir tas, ko Konvinskis sauc par varas centralizācijas risku. Kad vienai laboratorijai pieder vienīgā atslēga uz progresīvu modeli, tai ir vara izlemt, kurš gūs panākumus un kurš cietīs neveiksmi.

Kam pieder digitālais dzelzceļš

Lai saprastu, kāpēc tas ir svarīgi ikdienas lietotājam, mums vajadzētu uzlūkot MI kā pamata infrastruktūru. MI ir 21. gadsimta digitālā jēlnafta. Līdzīgi kā dzelzceļš 19. gadsimtā vai elektrība 20. gadsimtā, MI ir pamata slānis, kas liek visam pārējam darboties. Ja jūs kontrolējat dzelzceļu, jūs kontrolējat katras preces cenu, kas pa to pārvietojas. Ja jūs kontrolējat fundamentālos MI modeļus, jūs kontrolējat katras lietotnes, tīmekļa vietnes un pakalpojuma izmaksas un iespējas, kas uz tiem balstās.

Konvinska bažas ir tādas, ka pašreizējā trajektorija ved uz pasauli, kurā tikai trīs vai četriem uzņēmumiem pieder šīs digitālās sliedes. Šie uzņēmumi izmanto drošības apsvērumus, lai lobētu likumus, kas jaunuzņēmumiem vai universitātēm padara gandrīz neiespējamu izveidot savus progresīvos modeļus. Atbilstības izmaksas un aparatūras prasības rada barjeru, kuru spēj pārvarēt tikai lielākās korporācijas. Tā rezultātā tiek apslāpēta inovācija, kas parasti nāk no neatkarīgiem izstrādātājiem.

Būtībā šī centralizācija rada sistēmisku ievainojamību. Ja katra nozīmīga MI lietojumprogramma ir veidota uz tiem pašiem diviem vai trim modeļiem, viena kļūme vai neobjektīvs atjauninājums vienā no šiem modeļiem ietekmē visu ekonomiku. Decentralizēta sistēma, kurā pastāv daudz dažādu modeļu, ir izturīgāka. Tā pieļauj lielāku daudzveidību un neļauj vienai korporatīvajai valdei kļūt par globālās informācijas vārtu sargu.

Cena par atļaujas prasīšanu

Šīs ierobežošanas ietekme jau ir redzama akadēmiskajās aprindās. Dženifera Čeiza, UC Berkeley skaitļošanas fakultātes dekāne, atzīmēja, ka Rietumu pētnieki arvien biežāk pievēršas Ķīnas atvērtā pirmkoda modeļiem. Viņi to dara tāpēc, ka Rietumu uzņēmumi, piemēram, OpenAI un Anthropic, ir ieslēguši savus jaudīgākos rīkus aiz ierobežojošām saskarnēm. Šīs laboratorijas neļauj pētniekiem redzēt, kā modeļi ir uzbūvēti, vai darbināt tos uz savas aparatūras.

Tas rada paradoksu. Kamēr ASV un tās sabiedrotie apspriež drošību, tie dzen savus labākos zinātniekus ārvalstu konkurentu rokās, kuri piedāvā lielāku caurskatāmību. Čeiza raksturoja lielo laboratoriju ziņojumus par drošību kā ļoti efektīvu baiļu kampaņu. Šī kampaņa kalpo, lai palielinātu šo uzņēmumu vērtību pirms to akciju sākotnējā publiskā piedāvājuma, vienlaikus apgrūtinot publisko institūciju spēju neatpalikt. Patērētājam tas nozīmē, ka vismodernākā tehnoloģija galu galā varētu nākt no vietām ar vēl mazāku uzraudzību nekā privātajām laboratorijām Silīcija ielejā.

Mācības no iespiedmašīnas

Janam Lekūnam, AMI Labs dibinātājam un bijušajam Meta galvenajam zinātniekam, ir vēsturisks salīdzinājums šim brīdim. Viņš salīdzina pašreizējo mēģinājumu regulēt MI ar Osmaņu impērijas aizliegumu iespiedmašīnai. 200 gadus impērija ierobežoja šo tehnoloģiju, lai saglabātu kontroli pār informāciju un aizsargātu profesionālo rakstvežu darbavietas. Šis lēmums izraisīja impērijas atpalicību zinātnē, pratībā un ekonomiskajā izaugsmē.

Lekūns apgalvo, ka infrastruktūra tiecas būt atvērta. Viņš uzskata, ka fundamentālie modeļi neizbēgami kļūs par plaša patēriņa preci, līdzīgi kā interneta protokols vai Linux operētājsistēma. Viņa skatījumā patiesā vērtība nav pašā modelī, bet gan lietojumprogrammās, ko cilvēki uz tā būvē. Mēģinot tagad noslēgt modeļus, uzņēmumi vienkārši aizkavē neizbēgamo un kaitē plašākai ekosistēmai. Lekūns nesen izveidoja AMI Labs ar vairāk nekā miljarda dolāru finansējumu, lai ietu citu ceļu. Viņa mērķis ir izveidot pasaules modeļus, kas balstīti uz jaunu arhitektūru, ar kuru viņa komanda plāno dalīties ar sabiedrību.

Kopiena nākamajai robežai

Konvinska risinājums ir pētniecības kopienas (commons) izveide. Tas būtu kopīgs skaitļošanas jaudas un datu kopums, kas pieejams labākajiem pētniekiem bez nepieciešamības saņemt atļauju no privāta uzņēmuma. Tas ļautu universitātēm un mazām laboratorijām sasniegt MI attīstības virsotnes. Tas nodrošinātu, ka pasaules jaudīgākā tehnoloģija nav tikai dažu akcionāru ekskluzīvs īpašums.

No patērētāja viedokļa atvērta attīstība nozīmē lielāku izvēli. Tas nozīmē, ka MI jūsu tālrunī vai birojā nav tikai viena uzņēmuma pasaules uzskata rupors. Tas pieļauj tirgu, kurā dažādi modeļi konkurē precizitātes, privātuma un specializētu zināšanu jomā. Kad pamatā esošā tehnoloģija ir caurskatāma, lietotāji var pārliecināties, ka ar viņu datiem rīkojas pareizi un ka saņemtās atbildes netiek manipulētas korporatīvā labuma gūšanai.

Kāpēc jūsu digitālās izvēles sašaurinās

Galu galā debates par MI drošību ir debates par to, kurš drīkstēs piedalīties nākotnē. Ja uzvarēs naratīvs par "drošību kā noslēgšanu", vidusmēra lietotājs, visticamāk, saskarsies ar augstākām abonēšanas izmaksām un mazākām iespējām. Jūs būsiet piesaistīts konkrētai ekosistēmai, līdzīgi kā mobilo tālruņu pirmsākumos, kad pakalpojumu sniedzēja maiņa bija murgs. Jūsu MI asistents zinās tikai to, ko tā mātesuzņēmums tam ļaus zināt.

Turpretim, ja izdosies panākt atvērtu attīstību, MI kļūs par pakalpojumu, ko ikviens var izmantot un uzlabot. Tas noved pie vairāk nišas rīkiem, kas risina specifiskas problēmas indivīdiem, nevis "viens izmērs der visiem" produktiem. Tas arī spiež milzu laboratorijas konkurēt pēc nopelniem, nevis pēc spējas lobēt aizsargājošus noteikumus. Būtība ir tāda, ka drošība ir tehnisks izaicinājums, kas jārisina, nevis attaisnojums digitālajai aristokrātijai.

Tā vietā, lai pieņemtu drošības etiķetes par tīru patiesību, patērētājiem būtu jāskatās, vai uzņēmums atļauj neatkarīgu savu rīku auditu. Patiesa drošība rodas no caurskatāmības un globālās pētniecības kopienas spējas pārbaudīt un labot kļūdas. MI turpinot integrēties visās dzīves jomās, pieprasījums pēc atvērtām un atbildīgām sistēmām ir vienīgais veids, kā nodrošināt, ka tehnoloģija kalpo daudziem, nevis tikai dažiem.

Avoti: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.