Me küsime globaalset tõde, kuid leiame kohaliku vaikuse: kaasaegse kõne algoritmiline piir

Üks Brisbane'i üliõpilane istus eelmisel nädalal raamatukogus ja trükkis viiba puhtasse, minimalistlikku vestlusliidesesse. Ta soovis koostada protestibrošüüri inimõiguste piirangute kohta kauges autoritaarses riigis. Tehisintellekti vastus oli viisakas keeldumine, viidates ohutusjuhistele ja vajadusele vältida tundlikke poliitilisi teemasid. Minuteid hiljem palus sama üliõpilane teravat kriitikat Briti peaministri kohta. Tehisintellekt koostas kõhklemata kolm lehekülge teravat analüütilist proosat. See on digitaalse kõne uus kartograafia. Oleme ehitanud tööriistad, mis on julged demokraatia ees, kuid arglikud autokraatia juuresolekul.

Piirideta mõistuse illusioon

Me kujutasime ette maailma, kus iga digitaalne assistent on universaalne raamatukogu – koht, kus inimkonna ühised teadmised on kättesaadavad kõigile, kellel on levi, olenemata nende asukohast või kohaliku omavalitsuse tavadest. See visioon nõuab, et arendajad tunnistaksid nähtamatuid piire, mida riigivõim on teabe ümber tõmmanud, välja arvatud juhul, kui nad on rahul sellega, et kauge pealinna vaikus dikteerib vestlust kohalikus kohvikus. Praktikas pärivad suured keelemudelid nende riikide kõnepirangud, mida nad kirjeldavad. Meta järelevalvenõukogu uuring paljastab, et Ameerika Ühendriikides loodud süsteemid kritiseerivad palju tõenäolisemalt lääne liidreid kui autoritaarseid. Need mudelid laiendavad tõhusalt piiravate valitsuste haaret üle rahvusvaheliste piiride. Kui Austraalia kasutaja ei saa panna tehisintellekti kritiseerima Tai kuningat või Iraani kõrgeimat juhti, on nende režiimide tsensuur edukalt reisinud tuhandeid miile läbi valguskaabli.

Vaikse keeldumise arhitektuur

Meta järelevalvenõukogu läbiviidud uuringus testiti kümmet kommertsmudelit sellistelt ettevõtetelt nagu Meta, Anthropic ja OpenAI. Teadlased esitasid seitset tüüpi küsimusi nii liberaalsete kui ka piiravate valitsuste kohta. Tulemused näitavad süsteemset erinevust. Kui paluti kirjutada limerik USA presidendi kohta, siis mudelid nõustusid. Kui paluti esitada põhjuseid Türgis või Kambodžas toimuva protestiga liitumiseks, siis mudelid sageli keeldusid. See on sümptom sellest, mida sotsioloogid nimetavad arhiivi süsteemseks kallutatuseks. Suured keelemudelid ei ole neutraalsed üksused. Nad on nende treenimiseks kasutatud andmete peegeldused. Kui riik on edukalt puhastanud oma siseveebi teisitimõtlemisest, õpib tehisintellekt, et sellist teisitimõtlemist kas ei eksisteeri või on see ohutusprotokollide rikkumine. Rõhutute vaikusest saab algoritmi vaikus.

Keel kui võimu arheoloogiline leiukoht

Lingvistiliselt öeldes on probleem sügavam kui lihtsad filtrid. Andmed on võimu peegeldus. Ajakirjas Nature avaldatud eraldi uuring leidis, et USA-s ehitatud mudelid on haavatavad väliskontrollile mitte-ingliskeelsete treeningandmete kaudu. Kui küsite ChatGPT-lt inglise keeles, kas Hiina on demokraatia, vastab see eitavalt. Kui küsite hiina keeles, ütleb see, et vastus sõltub sõna definitsioonist. See on filoloogiline kriis. Keel on arheoloogiline leiukoht, kus iga sõna paljastab kultuuriliste ja poliitiliste muutuste kihte. Kui tehisintellekti treenitakse hiinakeelsetel andmetel, mida on kureerinud riiklikud tsensorid, omandab see selle riigi habituse. See ei edasta lihtsalt teavet. See võtab omaks spetsiifilise maailmas olemise viisi, mis väldib teatud tõdesid. Mudel õpib, et teatud teemad on ohtlikud, sest andmed, mida ta tarbis, toodeti hirmu varjus.

Autoritaarse riigi pikk käsi

Makrotasandil on see suundumus digitaalse kolonialismi vorm vastupidisel kujul. Selle asemel, et lääne väärtused leviksid tehnoloogia kaudu, eksporditakse autoritaarsete režiimide piiranguid läände. See fenomen loob kildustunud teabekeskkonna. Londoni või New Yorgi kasutaja võib uskuda, et tal on juurdepääs objektiivsele tööriistale, kuid tegelikult suhtleb ta süsteemiga, mida on mõjutanud tsensor teises ajavööndis. See on nihe interneti ühiskondlikus lepingus. Kunagi uskusime, et veeb läheb mööda füüsilise maailma väravavalvuritest. Nüüd on väravavalvurid kolinud koodi sisse. Tehisintellektist saab riikliku tsensuuri vaikiv partner, kes jõustab reegleid, mille järgimisega kasutaja pole kunagi nõustunud. Tehnoloogia on kanal piiravate valitsuste pikale käele.

Ohutusfiltrite paradoks

Paradoksaalselt on püüdlus muuta tehisintellekt ohutuks teinud sellest vaikimise tööriista. Ettevõtted rakendavad kaitsepiirdeid, et vältida vihakõne või kahjuliku sisu genereerimist. Kuid autoritaarsed režiimid määratlevad sageli igasugust riigikriitikat kahjuliku või ebaseaduslikuna. Kui tehisintellekti ettevõtted rakendavad laiaulatuslikke ohutusfiltreid, et vältida kohalikke juriidilisi probleeme või tajutavat kultuurilist tundlikkust, võtavad nad tahtmatult omaks riigi definitsioonid. See viib kildustunud reaalsuseni. Maailma ühes versioonis on juht avalik teenistuja, keda saab kritiseerida. Teises on ta püha kuju, kes on väljaspool etteheiteid. Tehisintellekt navigeerib nende kahe maailma vahel, valides vähima vastupanu tee. Korporatsioonil on lihtsam vaigistada robot kui vaielda infoministeeriumiga. Sellest tulenevalt dikteerib kasutajakogemust kõige piiravam ühine nimetaja.

Voolav modernsus ja diskursuse kadu

Zygmunt Bauman kirjeldas meie ajastut kui voolavat modernsust – aega, mil sotsiaalsed struktuurid ei ole enam piisavalt stabiilsed, et toimida võrdlusraamistikena. Selles voolavas olekus toetume digitaalsetele tööriistadele, et leida kindlustunnet. Kui need tööriistad on riikliku mõju poolt kompromiteeritud, muutub meie reaalsus veelgi efemeersemaks. Me kaotame võime pidada sügavat universaalset diskursust, sest meie tööriistad annavad meile tõest erinevaid versioone sõltuvalt keelest, mida räägime, või juhist, keda mainime. See on tähelepanumajanduse süsteemne ebaõnnestumine. Tehisintellekti ettevõtted prioritiseerivad oma toodete takistusteta levitamist globaalsetel turgudel. Kui see nõuab teatud teemadel veidi vaikimist, siis turg dikteerib, et vaikus on väike hind, mida maksta. Tulemuseks on digitaalne maastik, mis on mõnes kohas läbipaistev ja teistes täiesti läbipaistmatu.

Mõtteainet

• Kuidas muudab tehisintellekti keeldumine teatud poliitiliste teemade arutamisest teie enda tajumist sellest, mida peetakse tundlikuks või ohtlikuks teemaks?
• Kui meie peamised õppimis- ja kirjutamisvahendid on mõjutatud kaugete riikide tsensuurist, siis mis saab meie ühisest mälust globaalsete sündmuste kohta?
• Kas on võimalik luua tõeliselt neutraalset tehisintellekti või on kõik teadmised paratamatult nende võimustruktuuride vili, mis võimaldasid neil talletuda?
• Kui suhtlete juturobotiga, kas märkate erinevust toonis või vastutulelikkuses, kui liigute sisepoliitikalt rahvusvahelistele suhetele?

Kriitilise pilgu taastamine

Lõppkokkuvõttes langeb vastutus selle kildustunud reaalsuse navigeerimise eest tagasi üksikisikule. Me ei saa eeldada, et puhas ja abivalmis hääl meie taskus on neutraalne tõearbiiter. See on tohutu, segase ja sageli kompromiteeritud teabeökosüsteemi toode. Peame suhtuma digitaalsesse suhtlusse kui kiirtoidudieeti. See on kiire ja kättesaadav, kuid sellel puudub vahetu inimliku diskursuse sügav emotsionaalne ja intellektuaalne toiteväärtus. Edasiliikumiseks peame muutuma vaikuste suhtes ülihästi tähelepanelikuks. Kui tööriist keeldub vastamast, on see keeldumine sageli informatiivsem kui tuhat genereeritud sõna. See on signaal sellest, kuhu on tõmmatud võimu piirid. Märgates neid piire, saame hakata neist mööda vaatama ja taastama kriitilise, inimliku perspektiivi, mida ükski algoritm ei suuda täielikult kopeerida.

Allikad

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.