Akloji dėmė balsavimo kabinoje: kodėl Nyderlandų duomenų apsaugos tarnyba įspėja dėl DI balsavimo padėjėjų

Kadangi rinkėjai vis dažniau kreipiasi į didžiuosius kalbos modelius (LLM), norėdami gauti greitas sudėtingo politinio kraštovaizdžio santraukas, Nyderlandų duomenų apsaugos tarnyba („Autoriteit Persoonsgegevens“ arba AP) pateikė blaivų realybės patikrinimą. Neseniai reguliuotojo atliktas tyrimas atskleidė, kad populiarūs DI pokalbių robotai, įskaitant rinkos lyderius, tokius kaip „ChatGPT“ ir „Claude“, yra visiškai nepasiruošę orientuoti rinkėjus vietos rinkimuose, dažnai ignoruodami pačias vietos bendruomenių partijas, kurios formuoja savivaldos valdymą.

Tyrimas pasirodė kritiniu skaitmeninei demokratijai momentu. Artėjant 2026 m. savivaldybių rinkimams, AP siekė nustatyti, ar DI gali pasitarnauti kaip patikimas skaitmeninis „Stemwijzer“ (populiarus Nyderlandų balsavimo kompasas). Rezultatai rodo, kad nors šie įrankiai techniškai įspūdingi, jų priklausomybė nuo pasaulinių duomenų rinkinių sukuria pavojingą atotrūkį nuo vietos realybės.

Vietos partijų ištrynimas

Nyderlanduose savivaldybių rinkimuose dažnai dominuoja vietos interesų partijos, kurios neturi nacionalinio atstovavimo. Šios grupės dažnai surenka didelę balsų dalį, spręsdamos itin lokalias problemas – nuo kaimynystės zonavimo iki regioninio tranzito. Tačiau AP atliktas penkių pagrindinių modelių – „ChatGPT“, „Claude“, „Gemini“, „Grok“ ir „Mistral“ – testavimas atskleidė sukrečiantį aplaidumą: mažiau nei vienas procentas pokalbių robotų balsavimo rekomendacijų paminėjo konkrečią vietos partiją.

Šis „ištrynimas“ sukuria iškreiptą skaitmeninį kraštovaizdį. Kai rinkėjas klausia DI patarimo vietos klausimais, modelis linkęs pagal nutylėjimą pateikti gerai žinomas nacionalines jėgas, tokias kaip VVD, PVV arba „GroenLinks-PvdA“, nes šios partijos turi didesnį skaitmeninį pėdsaką. Vietos partijai, kuri egzistuoja tik konkrečioje savivaldybėje, DI mokymo duomenų dažnai nepakanka, kad būtų pateiktas tikslus vaizdas, o tai veiksmingai nutildo vietos balsus demokratiniame procese.

Haliucinacijos ir neutralumo iliuzija

Be vietos partijų ignoravimo, AP tyrimas pabrėžė nuolatinę „haliucinacijų“ problemą. Keliais atvejais pokalbių robotai priskyrė politines nuostatas partijoms, kurios buvo arba visiškai išgalvotos, arba tiesiogiai prieštaravo tikrajam partijos manifestui.

Pavojus čia slypi pateikime. Skirtingai nei tradicinė paieškos sistema, pateikianti šaltinių sąrašą vartotojui patikrinti, pokalbių robotas pateikia conversational (pokalbio formos), autoritetingą atsakymą. Ši „neutralumo iliuzija“ gali paskatinti rinkėjus priimti neteisingą informaciją kaip objektyvų faktą. AP pažymi, kad kadangi vidinė šių modelių logika yra „juodoji dėžė“, piliečiui beveik neįmanoma atsekti, kaip buvo suformuota konkreti rekomendacija, arba nustatyti mokymo duomenyse slypintį šališkumą.

Rizika demokratiniam procesui

Pasak AP, DI naudojimas kaip pagrindinės balsavimo pagalbos priemonės kelia tris skirtingas rizikas demokratiniam procesui:

1. Informacijos monopolijos: Jei saujelė JAV ar Prancūzijos DI modelių taps pagrindiniais politinės informacijos vartų sargais, kyla pavojus Nyderlandų politinio kraštovaizdžio įvairovei.
2. Pažeidžiamumas manipuliacijoms: Nors tyrimas sutelktas į bendrą modelių elgseną, galimybė subtiliai nukreipti pokalbių robotus link tam tikrų politinių rezultatų – per užklausų inžineriją arba šališkus mokymo rinkinius – išlieka aukšto lygio saugumo problema.
3. Atsakomybės erozija: Jei rinkėjas priima sprendimą remdamasis haliucinuota politika, nėra jokios galimybės kreiptis dėl žalos atlyginimo. DI įmonės paprastai pateikia atsakomybės atsisakymus dėl tikslumo, tačiau jie dažnai būna paslėpti paslaugų teikimo sąlygose, kurias vartotojai retai skaito prieš prašydami greito patarimo balsuojant.

Dalyvių palyginimas

Nors visiems modeliams sunkiai sekėsi su vietos niuansais, AP pastebėjo nedidelius skirtumus, kaip jie apdorojo politines užklausas.

Pastaba: „Žemas“ reiškia mažiau nei 1 % vietos partijų paminėjimų visuose testavimo scenarijujuose.

Praktiniai patarimai skaitmeniniams piliečiams

Jei ieškote politinio aiškumo, AP siūlo, kad DI geriausiu atveju turėtų būti tik atspirties taškas platesniam tyrimui, o ne galutinis tikslas. Štai kaip saugiai naršyti skaitmeninėje balsavimo kabinoje:

• Tikrinkite pirminiuose šaltiniuose: Visada sutikrinkite DI teiginius su oficialiomis partijų svetainėmis arba nustatytais, skaidriais balsavimo įrankiais, tokiais kaip „Stemwijzer“ arba „Kieskompas“.
• Ieškokite vietos atstovų: Aiškiai paklauskite DI apie vietos partijas jūsų konkrečioje savivaldybėje. Jei DI negali jų įvardyti, tai aiškus ženklas, kad modeliui trūksta būtino konteksto patarimams teikti.
• Saugokitės užtikrinto tono: Tai, kad pokalbių robotas skamba užtikrintai, nereiškia, kad jis yra teisus. Kiekvieną DI politinį teiginį vertinkite kaip hipotezę, kurią reikia patikrinti išoriškai.
• Praneškite apie netikslumus: Dauguma DI platformų turi grįžtamojo ryšio mechanizmus. Pranešimai apie politines haliucinacijas gali padėti kūrėjams tobulinti savo modelius, kad jie būtų atsargesni jautriuose kontekstuose.

Kelias į priekį

Nyderlandų duomenų apsaugos tarnybos išvados yra raginimas veikti tiek kūrėjams, tiek reguliuotojams. Pradedant formuotis Europos DI aktui, demokratiniuose procesuose naudojamų modelių skaidrumas greičiausiai bus tikrinamas griežčiau. Kol kas AP žinutė aiški: kai kalbama apie balsadėžę, žmogaus intelektas ir vietos žinios išlieka nepakeičiami.

Šaltiniai:

• Autoriteit Persoonsgegevens (Official Website)
• European Data Protection Board (EDPB) Guidelines on AI
• Dutch Municipal Elections Archive (Kiesraad)