Prosimy o globalną prawdę, a napotykamy lokalne milczenie: algorytmiczna granica współczesnej mowy

Student w Brisbane siedział w zeszłym tygodniu w bibliotece i wpisał polecenie w czysty, minimalistyczny interfejs czatu. Chciał przygotować projekt broszury protestacyjnej dotyczącej ograniczeń praw człowieka w odległym państwie autorytarnym. Odpowiedzią sztucznej inteligencji była uprzejma odmowa, uzasadniona wytycznymi dotyczącymi bezpieczeństwa oraz potrzebą unikania drażliwych tematów politycznych. Kilka minut później ten sam student poprosił o miażdżącą krytykę brytyjskiego premiera. AI bez wahania wygenerowała trzy strony ostrej, analitycznej prozy. To nowa kartografia cyfrowej mowy. Zbudowaliśmy narzędzia, które są odważne w obliczu demokracji, ale lękliwe w obecności autokracji.

Iluzja umysłu bez granic

Wyobrażaliśmy sobie świat, w którym każdy cyfrowy asystent byłby uniwersalną biblioteką – miejscem, gdzie zbiorowa wiedza ludzkości jest dostępna dla każdego, kto ma zasięg, niezależnie od geografii czy kaprysów lokalnego rządu. Wizja ta wymaga, aby deweloperzy uznali niewidzialne granice, jakie władza państwowa wytyczyła wokół informacji, chyba że godzą się na to, by cisza dalekiej stolicy dyktowała rozmowę w lokalnej kawiarni. W praktyce główne duże modele językowe dziedziczą ograniczenia mowy krajów, które opisują. Badanie Rady Nadzorczej Meta ujawnia, że systemy zbudowane w Stanach Zjednoczonych znacznie chętniej krytykują zachodnich liderów niż tych autorytarnych. Modele te skutecznie rozszerzają zasięg restrykcyjnych rządów poza granice międzynarodowe. Gdy australijski użytkownik nie może skłonić AI do krytyki tajlandzkiego króla lub irańskiego Najwyższego Przywódcy, cenzura tych reżimów z powodzeniem przebyła tysiące kilometrów kablem światłowodowym.

Architektura cichej odmowy

Badanie przeprowadzone przez Radę Nadzorczą Meta objęło dziesięć komercyjnych modeli od firm takich jak Meta, Anthropic i OpenAI. Naukowcy zadali siedem rodzajów pytań dotyczących zarówno rządów liberalnych, jak i restrykcyjnych. Wyniki pokazują systemową rozbieżność. Poproszone o napisanie limeryku o prezydencie USA, modele wykonały zadanie. Poproszone o podanie powodów, dla których warto przyłączyć się do protestu w Turcji lub Kambodży, modele często odmawiały. Jest to objaw tego, co socjologowie nazywają systemowym uprzedzeniem archiwum. Duże modele językowe nie są neutralnymi bytami. Są zwierciadłami danych użytych do ich szkolenia. Jeśli państwo skutecznie oczyściło swój krajowy internet z głosów sprzeciwu, AI uczy się, że taki sprzeciw albo nie istnieje, albo stanowi naruszenie protokołów bezpieczeństwa. Milczenie uciśnionych staje się milczeniem algorytmu.

Język jako archeologiczne stanowisko władzy

Z lingwistycznego punktu widzenia problem jest głębszy niż zwykłe filtry. Dane są odzwierciedleniem władzy. Osobne badanie opublikowane w czasopiśmie Nature wykazało, że modele zbudowane w USA są podatne na zagraniczną kontrolę poprzez nieanglojęzyczne dane treningowe. Jeśli zapytasz ChatGPT po angielsku, czy Chiny są demokracją, odpowie, że nie. Jeśli zapytasz po chińsku, powie, że odpowiedź zależy od definicji tego słowa. To kryzys filologiczny. Język jest stanowiskiem archeologicznym, na którym każde słowo ujawnia warstwy zmian kulturowych i politycznych. Gdy AI jest trenowana na danych w języku chińskim, które zostały wyselekcjonowane przez państwowych cenzorów, przejmuje habitus tego państwa. Nie tylko przekazuje informacje – przyjmuje specyficzny sposób bycia w świecie, który unika pewnych prawd. Model uczy się, że niektóre tematy są niebezpieczne, ponieważ dane, które skonsumował, zostały wytworzone w cieniu strachu.

Długa ręka autorytarnego państwa

Na poziomie makro trend ten jest formą odwróconego cyfrowego kolonializmu. Zamiast zachodnich wartości rozprzestrzeniających się poprzez technologię, restrykcje autorytarnych reżimów są eksportowane na Zachód. Zjawisko to tworzy atomizowane środowisko informacyjne. Użytkownik w Londynie czy Nowym Jorku może wierzyć, że ma dostęp do obiektywnego narzędzia, podczas gdy w rzeczywistości wchodzi w interakcję z systemem, przy którym manipulował cenzor z innej strefy czasowej. To zmiana w umowie społecznej internetu. Kiedyś wierzyliśmy, że sieć ominie strażników świata fizycznego. Teraz strażnicy przenieśli się do wnętrza kodu. AI staje się cichym partnerem państwowej cenzury, egzekwując zasady, na których przestrzeganie użytkownik nigdy nie wyraził zgody. Technologia jest kanałem dla długiej ręki restrykcyjnych rządów.

Paradoks filtrów bezpieczeństwa

Paradoksalnie, wysiłki zmierzające do uczynienia AI bezpieczną uczyniły z niej narzędzie milczenia. Firmy wdrażają bariery ochronne, aby zapobiec generowaniu mowy nienawiści lub szkodliwych treści. Jednak reżimy autorytarne często definiują jakąkolwiek krytykę państwa jako szkodliwą lub nielegalną. Gdy firmy zajmujące się AI stosują szerokie filtry bezpieczeństwa, aby uniknąć lokalnych problemów prawnych lub postrzeganej niewrażliwości kulturowej, nieświadomie przyjmują definicje państwowe. Prowadzi to do pofragmentowanej rzeczywistości. W jednej wersji świata lider jest sługą publicznym podlegającym krytyce. W innej – postacią świętą, stojącą poza wszelką naganą. AI porusza się między tymi dwoma światami, wybierając linię najmniejszego oporu. Korporacji łatwiej jest uciszyć bota, niż spierać się z ministerstwem informacji. W konsekwencji doświadczenie użytkownika jest dyktowane przez najbardziej restrykcyjny wspólny mianownik.

Płynna nowoczesność i utrata dyskursu

Zygmunt Bauman opisał naszą erę jako płynną nowoczesność – czas, w którym struktury społeczne nie są już wystarczająco stabilne, by służyć za punkty odniesienia. W tym płynnym stanie polegamy na narzędziach cyfrowych, które mają nam zapewnić poczucie gruntu. Gdy narzędzia te zostają naruszone przez wpływy państwowe, nasza rzeczywistość staje się jeszcze bardziej efemeryczna. Tracimy zdolność do prowadzenia głębokiego, uniwersalnego dyskursu, ponieważ nasze narzędzia podają nam różne wersje prawdy w zależności od języka, którym się posługujemy, lub lidera, o którym wspominamy. To systemowa porażka gospodarki uwagi. Firmy AI priorytetowo traktują bezproblemowe wdrażanie swoich produktów na rynkach globalnych. Jeśli wymaga to odrobiny milczenia na pewne tematy, rynek dyktuje, że milczenie to niska cena. Rezultatem jest cyfrowy krajobraz, który w niektórych miejscach jest przejrzysty, a w innych całkowicie nieprzejrzysty.

Do przemyślenia

• Jak odmowa AI dotycząca dyskusji na pewne tematy polityczne zmienia Twoje postrzeganie tego, co uważa się za drażliwy lub niebezpieczny temat?
• Jeśli nasze główne narzędzia do nauki i pisania znajdują się pod wpływem cenzury odległych państw, co dzieje się z naszą zbiorową pamięcią o wydarzeniach globalnych?
• Czy możliwe jest zbudowanie prawdziwie neutralnej AI, czy też cała wiedza jest nieuchronnie produktem struktur władzy, które pozwoliły na jej utrwalenie?
• Czy wchodząc w interakcję z chatbotem, zauważasz różnicę w tonie lub chęci do rozmowy, gdy przechodzisz od polityki krajowej do spraw międzynarodowych?

Odzyskiwanie krytycznego spojrzenia

Ostatecznie odpowiedzialność za poruszanie się w tej pofragmentowanej rzeczywistości spada na jednostkę. Nie możemy zakładać, że czysty, pomocny głos w naszej kieszeni jest neutralnym arbitrem prawdy. Jest on produktem rozległego, chaotycznego i często skompromitowanego ekosystemu informacyjnego. Musimy traktować komunikację cyfrową jak dietę typu fast-food: jest szybka i dostępna, ale brakuje jej głębokich wartości odżywczych – emocjonalnych i intelektualnych – właściwych dla bezpośredniego ludzkiego dyskursu. Aby iść naprzód, musimy stać się niezwykle uważni na milczenie. Gdy narzędzie odmawia odpowiedzi, ta odmowa jest często bardziej pouczająca niż tysiąc wygenerowanych słów. To sygnał wskazujący, gdzie wytyczono granice władzy. Dostrzegając te granice, możemy zacząć patrzeć poza nie i odzyskiwać krytyczną, ludzką perspektywę, której żaden algorytm nie jest w stanie w pełni powtórzyć.

Źródła

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.