Mēs lūdzam globālu patiesību, tomēr atrodam lokālu klusumu: mūsdienu runas algoritmiska robeža

Kāds Brisbenas students pagājušajā nedēļā sēdēja bibliotēkā un rakstīja uzvedni tīrā, minimālistiskā tērzēšanas saskarnē. Viņš vēlējās sagatavot protesta bukleta uzmetumu par cilvēktiesību ierobežojumiem kādā tālā autoritārā valstī. Mākslīgā intelekta atbilde bija pieklājīgs atteikums, atsaucoties uz drošības vadlīnijām un nepieciešamību izvairīties no jutīgām politiskām tēmām. Pēc dažām minūtēm tas pats students lūdza asu Lielbritānijas premjerministra kritiku. MI bez vilcināšanās sagatavoja trīs lappuses garu, asu un analītisku prozu. Šī ir jaunā digitālās runas kartogrāfija. Mēs esam izveidojuši rīkus, kas ir drosmīgi demokrātijas priekšā, bet bailīgi autokrātijas klātbūtnē.

Ilūzija par prātu bez robežām

Mēs iztēlojāmies pasauli, kurā katrs digitālais asistents būtu universāla bibliotēka — vieta, kur cilvēces kolektīvās zināšanas ir pieejamas ikvienam, kam ir signāls, neatkarīgi no viņu ģeogrāfiskās atrašanās vietas vai vietējās valdības kaprīzēm. Šī vīzija prasa, lai izstrādātāji atzītu neredzamās robežas, ko valsts vara ir novilkusi ap informāciju, ja vien viņi nav mierā ar to, ka tālas galvaspilsētas klusums diktē sarunu vietējā kafejnīcā. Praksē lielākie lielie valodu modeļi pārņem to valstu runas ierobežojumus, kuras tie apraksta. Meta Uzraudzības padomes (Meta Oversight Board) pētījums atklāj, ka ASV izstrādātās sistēmas daudz biežāk kritizē Rietumu līderus nekā autoritāros. Šie modeļi efektīvi paplašina ierobežojošo valdību ietekmi pāri starptautiskajām robežām. Kad Austrālijas lietotājs nevar panākt, lai MI kritizētu Taizemes karali vai Irānas augstāko vadītāju, šo režīmu cenzūra ir veiksmīgi mērojusi tūkstošiem kilometru caur optiskās šķiedras kabeli.

Klusā atteikuma arhitektūra

Meta Uzraudzības padomes veiktajā pētījumā tika testēti desmit komerciālie modeļi no tādiem uzņēmumiem kā Meta, Anthropic un OpenAI. Pētnieki uzdeva septiņu veidu jautājumus gan par pielaidīgām, gan ierobežojošām valdībām. Rezultāti uzrāda sistēmisku neatbilstību. Kad tika lūgts uzrakstīt limeriku par ASV prezidentu, modeļi pakļāvās. Kad tika lūgts sniegt iemeslus, lai pievienotos protestam Turcijā vai Kambodžā, modeļi bieži atteicās. Tas ir simptoms tam, ko sociologi sauc par arhīva sistēmisko neobjektivitāti. Lielie valodu modeļi nav neitrālas vienības. Tie ir to datu spoguļi, kas izmantoti to apmācībai. Ja valstij ir izdevies veiksmīgi iztīrīt savu iekšējo internetu no citādi domājošajiem, MI iemācās, ka šāda opozīcija vai nu neeksistē, vai ir drošības protokolu pārkāpums. Apspiesto klusums kļūst par algoritma klusumu.

Valoda kā varas arheoloģiskā vieta

Runājot lingvistiski, problēma ir dziļāka par vienkāršiem filtriem. Dati ir varas atspoguļojums. Atsevišķā pētījumā, kas publicēts žurnālā Nature, konstatēts, ka ASV izstrādātie modeļi ir neaizsargāti pret ārvalstu kontroli, izmantojot apmācības datus, kas nav angļu valodā. Ja angļu valodā jautājat ChatGPT, vai Ķīna ir demokrātija, tas atbild "nē". Ja jautājat ķīniešu valodā, tas saka, ka atbilde ir atkarīga no vārda definīcijas. Šī ir filoloģiska krīze. Valoda ir arheoloģiska vieta, kur katrs vārds atklāj kultūras un politisko pārmaiņu slāņus. Kad MI tiek apmācīts ar ķīniešu valodas datiem, kurus kūrējuši valsts cenzori, tas pārņem šīs valsts habitus. Tas ne tikai nodod informāciju. Tas pārņem specifisku būšanas veidu pasaulē, kas izvairās no noteiktām patiesībām. Modelis iemācās, ka noteiktas tēmas ir bīstamas, jo dati, ko tas patērēja, tika radīti bailēs.

Autoritārās valsts garā roka

Makrolīmenī šī tendence ir sava veida apgrieztais digitālais koloniālisms. Tā vietā, lai Rietumu vērtības izplatītos ar tehnoloģiju starpniecību, autoritāro režīmu ierobežojumi tiek eksportēti uz Rietumiem. Šī parādība rada atomizētu informācijas vidi. Lietotājs Londonā vai Ņujorkā var ticēt, ka viņam ir piekļuve objektīvam rīkam, tomēr patiesībā viņš mijiedarbojas ar sistēmu, kuru ir ietekmējis cenzors citā laika joslā. Tā ir maiņa interneta sociālajā līgumā. Mēs reiz ticējām, ka tīmeklis apiet fiziskās pasaules sargus. Tagad sargi ir pārcēlušies koda iekšienē. MI kļūst par kluso partneri valsts cenzūrā, ieviešot noteikumus, kuriem lietotājs nekad nav piekritis sekot. Tehnoloģija ir kanāls ierobežojošo valdību garajai rokai.

Drošības filtru paradokss

Paradoksālā kārtā centieni padarīt MI drošu ir padarījuši to par klusēšanas rīku. Uzņēmumi ievieš drošības barjeras, lai novērstu naida runas vai kaitīga satura ģenerēšanu. Tomēr autoritārie režīmi jebkuru valsts kritiku bieži definē kā kaitīgu vai nelikumīgu. Kad MI uzņēmumi piemēro plašus drošības filtrus, lai izvairītos no vietējām juridiskām problēmām vai šķietama kultūras nejūtīguma, tie netīšām pārņem valsts definīcijas. Tas noved pie sadrumstalotas realitātes. Vienā pasaules versijā līderis ir valsts amatpersona, kas pakļauta kritikai. Citā viņš ir svēta figūra, kas stāv pāri pārmetumiem. MI pārvietojas starp šīm divām pasaulēm, izvēloties mazākās pretestības ceļu. Korporācijai ir vieglāk apklusināt botu, nekā strīdēties ar informācijas ministriju. Rezultātā lietotāja pieredzi diktē visvairāk ierobežojošais kopsaucējs.

Plūstošā modernitāte un diskursa zudums

Zigmunds Baumans raksturoja mūsu laikmetu kā plūstošo modernitāti — laiku, kad sociālās struktūras vairs nav pietiekami stabilas, lai kalpotu par atskaites punktiem. Šajā plūstošajā stāvoklī mēs paļaujamies uz digitālajiem rīkiem, lai gūtu pamata sajūtu. Kad šos rīkus ietekmē valsts vara, mūsu realitāte kļūst vēl efemērāka. Mēs zaudējam spēju uzturēt dziļu, universālu diskursu, jo mūsu rīki sniedz mums dažādas patiesības versijas atkarībā no valodas, kurā runājam, vai līdera, kuru pieminam. Tā ir sistēmiska uzmanības ekonomikas neveiksme. MI uzņēmumi par prioritāti izvirza savu produktu nevainojamu ieviešanu globālajos tirgos. Ja tam nepieciešams nedaudz klusuma par noteiktām tēmām, tirgus diktē, ka šis klusums ir maza cena, ko maksāt. Rezultāts ir digitālā ainava, kas dažviet ir caurspīdīga, bet citviet — pilnīgi necaurredzama.

Vielas pārdomām

• Kā MI atteikšanās apspriest noteiktas politiskas tēmas maina jūsu uztveri par to, kas tiek uzskatīts par jutīgu vai bīstamu tematu?
• Ja mūsu galvenos mācīšanās un rakstīšanas rīkus ietekmē tālu valstu cenzūra, kas notiek ar mūsu kolektīvo atmiņu par globāliem notikumiem?
• Vai ir iespējams izveidot patiesi neitrālu MI, vai arī visas zināšanas neizbēgami ir to varas struktūru produkts, kas ļāva tās reģistrēt?
• Kad jūs mijiedarbojaties ar tērzēšanas robotu, vai pamanāt atšķirību tonī vai vēlmē sadarboties, pārejot no iekšpolitikas uz starptautiskajām lietām?

Kritiskā skatiena atgūšana

Galu galā atbildība par navigāciju šajā sadrumstalotajā realitātē gulstas uz indivīdu. Mēs nevaram pieņemt, ka tīrā, noderīgā balss mūsu kabatā ir neitrāls patiesības šķīrējtiesnesis. Tas ir plašas, nekārtīgas un bieži vien kompromitētas informācijas ekosistēmas produkts. Mums pret digitālo komunikāciju jāizturas kā pret ātrās ēdināšanas diētu. Tā ir ātra un pieejama, taču tai trūkst dziļas emocionālās un intelektuālās uzturvērtības, ko sniedz nepastarpināts cilvēku diskurss. Lai virzītos uz priekšu, mums jākļūst īpaši vērīgiem pret klusuma brīžiem. Kad rīks atsakās atbildēt, šis atteikums bieži vien ir informatīvāks par tūkstoti ģenerētu vārdu. Tas ir signāls par to, kur ir novilktas varas robežas. Pamanot šīs robežas, mēs varam sākt skatīties tām pāri un atgūt kritisko, cilvēcisko perspektīvu, ko neviens algoritms nevar pilnībā aizstāt.

Avoti

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.