Mes prašome pasaulinės tiesos, tačiau randame vietinę tylą: algoritminė šiuolaikinės kalbos riba

Praėjusią savaitę Brisbene vienas studentas sėdėjo bibliotekoje ir įvedė užklausą į švarią, minimalistinę pokalbių sąsają. Jis norėjo parengti protesto lankstinuko projektą dėl žmogaus teisių suvaržymų tolimoje autoritarinėje valstybėje. Dirbtinio intelekto atsakymas buvo mandagus atsisakymas, nurodant saugos gaires ir poreikį vengti jautrių politinių temų. Po kelių minučių tas pats studentas paprašė aštrios Didžiosios Britanijos ministro pirmininko kritikos. DI be jokio dvejonės parengė tris puslapius aštrios, analitinės prozos. Tai naujoji skaitmeninės kalbos kartografija. Mes sukūrėme įrankius, kurie yra drąsūs demokratijos akivaizdoje, bet nedrąsūs prieš autokratiją.

Proto be sienų iliuzija

Mes įsivaizdavome pasaulį, kuriame kiekvienas skaitmeninis asistentas būtų universali biblioteka – vieta, kurioje kolektyvinės žmonijos žinios prieinamos kiekvienam, turinčiam ryšį, nepriklausomai nuo geografijos ar vietos valdžios užgaidų. Ši vizija reikalauja, kad kūrėjai pripažintų nematomas sienas, kurias aplink informaciją nubrėžė valstybinė galia, nebent jie pasitenkintų tuo, kad tolimos sostinės tyla diktuotų pokalbį vietinėje kavinėje. Praktiškai pagrindiniai didieji kalbos modeliai paveldi tų šalių, kurias aprašo, kalbos apribojimus. „Meta“ priežiūros tarybos tyrimas atskleidžia, kad Jungtinėse Valstijose sukurtos sistemos kur kas dažniau kritikuoja Vakarų lyderius nei autoritarinius. Šie modeliai efektyviai išplečia ribojančių vyriausybių įtaką už tarptautinių sienų. Kai Australijos vartotojas negali priversti DI kritikuoti Tailando karaliaus ar Irano aukščiausiojo vadovo, tų režimų cenzūra sėkmingai nukeliavo tūkstančius kilometrų šviesolaidiniu kabeliu.

Tylaus atsisakymo architektūra

„Meta“ priežiūros tarybos atliktas tyrimas išbandė dešimt komercinių modelių iš tokių įmonių kaip „Meta“, „Anthropic“ ir „OpenAI“. Tyrėjai pateikė septynių tipų klausimus apie nuolaidžias ir ribojančias vyriausybes. Rezultatai rodo sisteminį neatitikimą. Paprašyti sukurti limeriką apie JAV prezidentą, modeliai sutiko. Paprašyti nurodyti priežastis prisijungti prie protesto Turkijoje ar Kambodžoje, modeliai dažnai atsisakydavo. Tai yra simptomas to, ką sociologai vadina sisteminiu archyvo šališkumu. Didieji kalbos modeliai nėra neutralūs subjektai. Jie yra duomenų, naudotų jiems mokyti, veidrodžiai. Jei valstybė sėkmingai išvalė savo vidaus internetą nuo nepritarimo, DI išmoksta, kad toks nepritarimas arba neegzistuoja, arba pažeidžia saugos protokolus. Pavergtųjų tyla tampa algoritmo tyla.

Kalba kaip archeologinė galios vietovė

Lingvistiniu požiūriu problema yra gilesnė nei paprasti filtrai. Duomenys yra galios atspindys. Atskiras tyrimas, paskelbtas žurnale „Nature“, nustatė, kad JAV sukurti modeliai yra pažeidžiami užsienio kontrolės per ne anglų kalbos mokymo duomenis. Jei paklausite „ChatGPT“ anglų kalba, ar Kinija yra demokratija, jis atsakys „ne“. Jei paklausite kinų kalba, jis atsakys, kad atsakymas priklauso nuo to, kaip apibrėžiate šį žodį. Tai filologinė krizė. Kalba yra archeologinė vietovė, kurioje kiekvienas žodis atskleidžia kultūrinių ir politinių pokyčių sluoksnius. Kai DI mokomas naudojant kinų kalbos duomenis, kuriuos kuravo valstybės cenzoriai, jis perima tos valstybės habitusą. Jis ne tik perduoda informaciją. Jis perima specifinį buvimo pasaulyje būdą, kuris vengia tam tikrų tiesų. Modelis išmoksta, kad tam tikros temos yra pavojingos, nes jo vartoti duomenys buvo sukurti baimės šešėlyje.

Ilga autoritarinės valstybės ranka

Makro lygmeniu ši tendencija yra savotiškas atvirkštinis skaitmeninis kolonializmas. Užuot Vakarų vertybėms plitus per technologijas, autoritarinių režimų apribojimai eksportuojami į Vakarus. Šis reiškinys sukuria suskaidytą informacinę aplinką. Vartotojas Londone ar Niujorke gali manyti, kad naudojasi objektyviu įrankiu, tačiau iš tikrųjų jis sąveikauja su sistema, kurią paveikė cenzorius kitoje laiko juostoje. Tai interneto socialinio kontrakto pokytis. Kažkada tikėjome, kad saitynas apeis fizinio pasaulio „vargininkus“. Dabar tie vartininkai persikėlė į kodo vidų. DI tampa tyliu valstybinės cenzūros partneriu, įgyvendinančiu taisykles, kurių vartotojas niekada nesutiko laikytis. Technologija yra kanalas ilgai ribojančių vyriausybių rankai.

Saugumo filtrų paradoksas

Paradoksalu, tačiau pastangos padaryti DI saugų pavertė jį tylos įrankiu. Įmonės diegia apsauginius barjerus, kad užkirstų kelią neapykantos kalbos ar žalingo turinio generavimui. Tačiau autoritariniai režimai bet kokią valstybės kritiką dažnai apibrėžia kaip žalingą ar neteisėtą. Kai DI įmonės taiko plačius saugos filtrus, siekdamos išvengti vietinių teisinių problemų ar tariamo kultūrinio nejautrumo, jos netyčia perima valstybės apibrėžimus. Tai veda į fragmentuotą realybę. Vienoje pasaulio versijoje lyderis yra valstybės tarnautojas, kurį galima kritikuoti. Kitoje – jis yra šventa figūra, kuriai negali būti jokių priekaištų. DI naršo po šiuos du pasaulius pasirinkdamas mažiausio pasipriešinimo kelią. Korporacijai lengviau nutildyti robotą, nei ginčytis su informacijos ministerija. Todėl vartotojo patirtį diktuoja labiausiai ribojantis bendras vardiklis.

Takus modernumas ir diskurso praradimas

Zygmuntas Baumanas mūsų erą apibūdino kaip takųjį modernumą – laiką, kai socialinės struktūros nebėra pakankamai stabilios, kad tarnautų kaip atskaitos taškai. Šioje skystoje būsenoje mes pasikliaujame skaitmeniniais įrankiais, kad jie suteiktų pagrindo pojūtį. Kai šiems įrankiams pakenkia valstybės įtaka, mūsų realybė tampa dar efemeriškesnė. Mes prarandame gebėjimą palaikyti gilų, universalų diskursą, nes mūsų įrankiai pateikia mums skirtingas tiesos versijas, priklausomai nuo to, kokia kalba kalbame ar kokį lyderį paminime. Tai sisteminė dėmesio ekonomikos nesėkmė. DI įmonės pirmenybę teikia sklandžiam savo produktų diegimui pasaulinėse rinkose. Jei tam reikia šiek tiek tylos tam tikromis temomis, rinka diktuoja, kad tyla yra maža kaina. Rezultatas – skaitmeninis kraštovaizdis, kuris vienose vietose yra skaidrus, o kitose – visiškai nepermatomas.

Penas apmąstymams

• Kaip DI atsisakymas aptarti tam tikras politines temas keičia jūsų suvokimą apie tai, kas laikoma jautriu ar pavojingu dalyku?
• Jei mūsų pagrindinius mokymosi ir rašymo įrankius veikia tolimų valstybių cenzūra, kas nutinka mūsų kolektyvinei atminčiai apie pasaulinius įvykius?
• Ar įmanoma sukurti tikrai neutralų DI, ar visos žinios neišvengiamai yra galios struktūrų, leidusių jas užfiksuoti, produktas?
• Kai bendraujate su pokalbių robotu, ar pastebite tono ar noro bendradarbiauti skirtumą, kai nuo vidaus politikos pereinate prie tarptautinių reikalų?

Kritinio žvilgsnio susigrąžinimas

Galiausiai atsakomybė už navigaciją šioje fragmentuotoje realybėje tenka pačiam asmeniui. Negalime daryti prielaidos, kad švarus, paslaugus balsas mūsų kišenėje yra neutralus tiesos arbitras. Tai didžiulės, netvarkingos ir dažnai pažeistos informacinės ekosistemos produktas. Skaitmeninę komunikaciją turime vertinti kaip greito maisto dietą. Ji greita ir prieinama, tačiau jai trūksta gilios emocinės ir intelektualinės mitybos, kurią suteikia tiesioginis žmonių diskursas. Norėdami judėti pirmyn, turime tapti itin pastabūs tylai. Kai įrankis atsisako atsakyti, tas atsisakymas dažnai yra informatyvesnis nei tūkstantis sugeneruotų žodžių. Tai signalas, kur nubrėžtos galios ribos. Pastebėję šias ribas, galime pradėti žvelgti už jų ir susigrąžinti kritinę, žmogišką perspektyvą, kurios joks algoritmas negali visiškai atkartoti.

Šaltiniai

• „Meta“ priežiūros taryba. (2024). Tyrimas apie DI pokalbių robotus ir politinę kritiką.
• Waight, H., et al. (2024). Užsienio kontrolė ne anglų kalbos didiesiems kalbos modeliams. Nature.
• Carrasco-Farré, C. (2024). Mašininis mokymasis ir galia slopinti informaciją. Esade verslo mokykla.
• Bauman, Z. (2000). Takusis modernumas. Polity Press.
• Bourdieu, P. (1977). Praktikos teorijos metmenys. Cambridge University Press.