Neutralumo iliuzija: kodėl „Google Gemini“ protestas yra kova už programinės įrangos žmogiškąją sielą

Šiuolaikinis technologijų kraštovaizdis žada nenutrūkstamo ryšio ateitį, kurioje dirbtinis intelektas veikia kaip skaitmeninis palydovas, palengvinantis mūsų kognityvinę naštą ir supantis fragmentuotas kasdienybės gijas į nuoseklų, optimizuotą žmonijos pažangos gobeleną. Mums sakoma, kad šios sistemos yra galutiniai demokratizacijos įrankiai, galintys išspręsti klimato kaitos problemas, išgydyti ligas ir puoselėti pasaulinę bendruomenę per gryną generatyvinės sintezės galią. Tačiau ši vizija išlieka trapi iliuzija, nebent pripažinsime realybę, kad tie patys įrankiai algoritmiškai priklauso nuo tų, kurie juos finansuoja, prioritetų, o tai neišvengiamai veda prie savarankiškumo praradimo, kai „neutralus“ kodas pritaikomas mirtiniems tikslams po nacionalinio saugumo priedanga. Žengiant gilyn į 2026-uosius, trintis tarp silicio pažado ir plieninės karo realybės pasiekė lūžio tašką, kuris išryškėjo atvirame laiške, kurį daugiau nei 600 „Google“ darbuotojų adresavo generaliniam direktoriui Sundarui Pichai.

Sėdėdamas sausakimšoje kavinėje praėjusį antradienį, stebėjau jauną vyrą – tikriausiai programuotoją, sprendžiant iš lipdukais apklijuoto nešiojamojo kompiuterio – įtemptai tobulinantį LLM užklausą. Jis kūrė efektyvesnę logistikos grandinę mažam verslui. Jam šis kodas buvo kasdienė priemonė, inkaras, laikantis jo profesinį gyvenimą sisteminio chaoso fone. Tačiau žvelgiant makro lygmeniu, pati architektūra, kurią jis naudoja padėti vietiniam gėlininkui, po kelių parametrų pakeitimų įslaptintoje aplinkoje galėtų tapti taikinių atpažinimo sistemos pagrindu. Tai yra tas egzistencinis nerimas, kuris persmelkė „Google DeepMind“ ir „Cloud“ padalinių koridorius. Šis laiškas nėra tik protestas; tai gilus atmetimas atomizacijos, kuri leidžia darbuotojui būti atskirtam nuo galutinių jo darbo pasekmių.

Lingvistinis mūšio laukas: „nežmoniška“ prieš „teisėta“

Kalbiškai tariant, konfliktas tarp „Google“ darbuotojų ir Pentagono yra apibrėžimų karas. Kai darbuotojai vartoja žodį „nežmoniška“ apibūdindami galimą „Gemini“ karinį pritaikymą, jie įsitraukia į specifinę diskurso analizę. Jie ne tik vartoja moralizuojantį būdvardį; jie bando nubrėžti ribą tam, kas sudaro „žmogišką“ technologiją. Priešingai, Pentagono siekis vartoti frazę „visi teisėti naudojimo būdai“ yra klasikinis pavyzdys, kaip kalba gali būti naudojama kaip kultūrinė nejautra. „Teisėtas“ yra sisteminis terminas, kuris kinta kartu su politiniais vėjais ir suteikia nepermatomą skydą nuo visuomenės kontrolės. Jei įstatymas leidžia masinį sekimą ar autonominį taikymąsi, tada elgesys pagal apibrėžimą yra teisėtas, nepaisant jo tiesioginio poveikio civiliams.

Istoriškai šis semantinis virvės traukimas yra giliai įsišaknijęs karinio-pramoninio-skaitmeninio komplekso evoliucijoje. Kalba čia veikia kaip archeologinė vietovė, kurioje kiekviena nauja sutarties sąlyga atskleidžia kintančios galios dinamikos sluoksnius. Reikalaudamas „operacinio lankstumo“, Gynybos departamentas siekia paversti daugialypį „Gemini“ potencialą vienu mirtinu instrumentu. Darbuotojai, kurių daugelis yra filologijos ir kompiuterių mokslo ekspertai, supranta, kad išplėtus sutarties kalbą, galimybė užtikrinti etines apsaugos priemones tampa efemeriška. Paradoksalu, bet kuo „lankstesnė“ kalba, tuo griežtesnis ir neišvengiamesnis tampa žalingas pritaikymas.

Šiuolaikinės darbo jėgos archipelagas

Kultūrine prasme mes dažnai vertiname dideles technologijų įmones kaip monolitus, tačiau jos labiau primena visuomenę kaip archipelagą – tūkstančiai asmenų, gyvenančių tankiai apgyvendintoje skaitmeninėje ekosistemoje, tačiau dažnai besijaučiančių visiškai atskirti nuo savo „salų“ sprendimų priėmimo centrų. Šis protestas yra reta akimirka, kai atskiros salos nutiesė tiltus, kad suformuotų bendrą balsą. Tai, kad šį laišką pasirašė daugiau nei 20 direktorių ir viceprezidentų, yra simptomas gilesnio struktūrinio poslinkio tame, kaip technologijų darbuotojai vertina savo habitus. Jie nebėra patenkinti būdami pasyvūs sraigteliai mašinoje; jie gina savo teisę formuoti etinę savo kūrinių trajektoriją.

Šis kolektyvinis veiksmas primena man pokalbį su anoniminiu vyresniuoju tyrėju, kuris dešimtmetį praleido dirbdamas su DI. Jis apibūdino „moralinės žalos“ jausmą – terminą, paprastai skirtą kariams – kai suprato, kad jo darbas vaizdų atpažinimo srityje buvo pritaikytas dronų karui. Individualiu lygmeniu tyrėjas jautė gilų išdavystės jausmą. Kasdienis veiksmas mokant modelį atpažinti „pėsčiąjį“ staiga įgavo gyvybės ar mirties sprendimo svorį. Per šią prizmę protestas nėra tik dėl sutarties; tai įveikos mechanizmas profesionalams, bandantiems suderinti asmeninę etiką su sisteminiu spaudimu, kurį kelia kelių milijardų dolerių vertės gynybos sandoris.

Nuo „Project Maven“ iki „Gemini“ paradokso

Už šios tendencijos užkulisių slypi persekiojantis 2018-ųjų prisiminimas. Laiške aiškiai nurodomas „Project Maven“ – ankstesnis bandymas integruoti „Google“ DI į Pentagono dronų programą. Tas sėkmingas maištas paskatino sukurti „Google“ DI principus – dokumentą, skirtą tarnauti kaip moralinis kompasas. Tačiau takiojo modernumo kontekste – koncepcijos, kurią išplėtojo Zygmuntas Baumanas, apibūdindamas mūsų dabartinę nuolatinių pokyčių ir netikrumo būseną – net ir patys tvirčiausi principai gali atrodyti laikini. De facto tai, kas 2018 m. buvo laikoma „raudona linija“, dabar, 2026 m., tampa derybų objektu, nes „dėmesio ekonomika“ perkelia savo dėmesį į nacionalinį saugumą kaip naują pelno frontą.

Įdomu tai, kad „Anthropic“ iškilimas kaip atsvara „Google“ šiam pasakojimui suteikia naują sluoksnį. Kai generalinis direktorius Dario Amodei atmetė Pentagono prašymą suteikti neribotą prieigą, jis sugriovė mitą, kad visiškas bendradarbiavimas yra neišvengiamas. Jo teiginys, kad DI tam tikrais atvejais gali „pakenkti, o ne ginti demokratines vertybes“, yra niuansuotas technologijos prigimtinio trapumo pripažinimas. Todėl vėlesnis dabartinės administracijos draudimas naudoti „Anthropic“ įrankius pabrėžia didelę šios etinės pozicijos riziką. Kitaip tariant, kai kurie atsisako lengvų vyriausybinių sutarčių „skaitmeninio greitojo maisto dietos“ vardan maistingesnės, nors ir finansiškai rizikingesnės, etinės laikysenos.

Veidrodžių karalystė: sekimas ir pilietinių laisvių praradimas

Viena iš labiausiai atliepiančių baimių, išreikštų laiške, yra „Gemini“ naudojimas masiniam sekimui ir individualiam profiliavimui. Visuomeniniu požiūriu mes vis dažniau gyvename veidrodžių karalystėje, kur mūsų skaitmeniniai pėdsakai atsispindi mums per algoritmus, kurie prognozuoja – o kartais ir diktuoja – mūsų elgesį. Kasdienybėje tai atrodo kaip personalizuotos reklamos ar socialinių tinklų srautai. Tačiau kai tie patys įrankiai pritaikomi „įslaptintiems darbo krūviams“, veidrodžiai tampa vienpusiu stiklu. Skaidrumo trūkumas reiškia, kad nėra galimybės užtikrinti, jog nekalti civiliai nebūtų profiliuojami remiantis fragmentiškais duomenų taškais.

Iš esmės darbuotojai įspėja apie visur esančios sekimo valstybės sukūrimą, maitinamą tais pačiais įrankiais, kuriuos jie sukūrė padėti žmonėms rasti informaciją. Ironija jiems puikiai suprantama. Tai šiuolaikinio miesto paradoksas: mes demonstruojame savo kintančias socialines tapatybes viešose ir privačiose skaitmeninėse erdvėse, nesuvokdami, kad pati scena gali įrašinėti kiekvieną mūsų judesį „mirtinam autonominiam“ tikslui. Mūsų gyvenimo „skiautinių antklodė“ – mūsų buvimo vietos duomenys, paieškos istorija, privatūs susirašinėjimai – yra susiuvama į taikinio profilį be mūsų sutikimo ar žinios.

Žmogiškojo pasakojimo susigrąžinimas

Galiausiai „Google“ darbuotojų protestas yra bandymas susigrąžinti žmogiškąjį pasakojimą vis labiau automatizuotame pasaulyje. Jie teigia, kad „Google“ neturėtų užsiimti „karo verslu“ – tai jausmas, kuris dabartiniame geopolitiniame klimate atrodo ir nostalgiškas, ir radikalus. Nostalgija šiuo atveju tarnauja kaip kultūrinė nejautra prieš netikros ateities nerimą; ji grąžina į epochą, kai šūkis „Don't be evil“ (liet. „Nebūk blogas“) atrodė kaip tikras pažadas, o ne rinkodaros reliktas.

Žvelgiant plačiau, ši istorija yra apie daugiau nei vieną įmonę ar vieną sutartį. Tai apie sisteminę įtampą tarp spartaus technologinių inovacijų tempo ir lėto, apgalvoto žmogiškosios etikos darbo. Tai verčia mus susimąstyti, ar esame pasirengę priimti pasaulį, kuriame mūsų pažangiausi įrankiai naudojami griauti tas pačias pilietines laisves, kurias jie turėjo sustiprinti. Užkulisiuose derybininkai Pentagone ir vadovai „Google“ sveria operacinį lankstumą prieš žmogaus teises. Tačiau vietoje dirbantys darbuotojai mums primena, kad kodas niekada nėra tik kodas – tai mūsų kolektyvinių vertybių atspindys.

Penas apmąstymams

Naršydami šioje sudėtingoje technologijų ir moralės sankirtoje, galėtume apsvarstyti šias įžvalgas savo skaitmeniniam gyvenimui:

• Kaip dažnai mes susimąstome apie naudojamų programėlių „archeologiją“? Kas jas finansavo ir kokie buvo pradiniai jų kūrimo tikslai?
• Kur savo profesiniame gyvenime mes brėžiame „raudonas linijas“? Ar suvokiame, kaip mūsų kasdienės užduotys gali prisidėti prie didesnių, potencialiai žalingų sistemų?
• Ar galime susigrąžinti agentiškumą „dėmesio ekonomikoje“ reikalaudami daugiau skaidrumo iš platformų, kurios saugo mūsų asmeniškiausius duomenis?
• Jei savo skaitmeninę sąveiką vertiname kaip savo tapatybės „skiautinių antklodę“, kas norėtume, kad laikytų adatą?

Uždarydami šį skirtuką ir grįždami prie savo kasdienybės, galbūt akimirką stebėkite visur esantį DI savo aplinkoje. Suabejokite giliai įsišaknijusia norma, kad technologinė pažanga visada turi vykti etinio aiškumo sąskaita. Kartais giliausias pažangos veiksmas yra drąsa pasakyti „ne“.

Šaltiniai:

• Bauman, Z. (2000). Liquid Modernity. Cambridge: Polity Press.
• Google AI Principles (Official Internal Document, Updated 2025).
• Open Letter from Google Employees to Sundar Pichai (April 2026).
• Statement by Dario Amodei, CEO of Anthropic, regarding Department of Defense negotiations (March 2026).
• U.S. Department of Defense, Directive 3000.09: Autonomy in Weapon Systems (Reviewed 2024).