Anapus dirbtuvių: kodėl dalyvaujamasis DI turi pergyventi projektavimo etapą

Nepaisant precedento neturinčio pasaulinių iniciatyvų, kuriomis siekiama padaryti dirbtinį intelektą įtraukesnį, antplūdžio, išryškėjo stulbinantis paradoksas: nors dalyvavimo terminija tampa visur esanti, faktinė visuomenės įtaka išlieka pastebimai fragmentuota. Neseniai atlikta aštuoniasdešimties dalyvaujamojo DI projektų apžvalga atskleidė, kad nors bendruomenės dažnai kviečiamos prie stalo pradiniuose duomenų rinkimo ar projektavimo etapuose, jos beveik visiškai nedalyvauja, kai sistema iš tikrųjų įdiegiama. Mes įvaldėme įvadinių dirbtuvių meną, tačiau dar neišmokome, kaip palikti duris atviras, kai kodas pradeda veikti.

Atvirų durų iliuzija

Neseniai praleidau popietę bendruomenės centre, kur vietos taryba pristatė naują DI pagrįstą išteklių paskirstymo įrankį. Kambarys buvo užpildytas tikros pilietinės energijos šurmulio. Gyventojų buvo prašoma spalvomis žymėti žemėlapius ir diskutuoti, ką jiems reiškia teisingumas. Tai buvo vadovėlinis dalyvaujamojo projektavimo pavyzdys – gyvas, nuoširdus ir giliai įsišaknijęs vietos kontekste. Tačiau sesijai pasibaigus, šalia manęs sėdinti moteris uždavė skaudų klausimą: „Kas nutiks po šešių mėnesių, kai algoritmas nuspręs, kad mano gatvei nebereikia autobuso? Su kuo tada man pasikalbėti?“

Fasilitatoriaus pauzė buvo iškalbinga. Tą akimirką sisteminis atotrūkis mūsų dabartiniame požiūryje į DI valdyseną tapo apčiuopiamas. Mes vertiname dalyvavimą kaip atskirą įvykį – algoritmo juostelės perkirpimo ceremoniją – o ne kaip nuolatinius santykius. Kai dalyvaujamojo projektavimo etapas baigiasi, sistemos valdymas beveik nekintamai grįžta į nepermatomus kūrėjų ar užsakančiųjų agentūrų koridorius. Bendruomenė, atlikusi savo, kaip duomenų taško ar patariamosios grupės, paskirtį, faktiškai nustumiama į šalį.

Gyvavimo ciklo atotrūkis: nuo projektavimo iki įdiegimo

Makro lygmeniu ši tendencija atspindi platesnį sociologinį poslinkį link to, ką galėtume pavadinti „konsultacijų ekonomika“. Šiame modelyje įsitraukimas vertinamas kaip atitikties varnelė, o ne kaip galios perskirstymas. EBPO DI principai ir ES DI aktas pabrėžia suinteresuotųjų šalių įtraukimą kaip patikimo DI pagrindą. Tačiau praktikoje šis įsitraukimas dažnai būna sutelktas tik pradžioje. Mes kviečiame suinteresuotąsias šalis padėti sukonstruoti automobilį, bet retai suteikiame jiems vietą transporto priemonėje, kai ši jau kelyje.

Šis gyvavimo ciklo atotrūkis nėra tik procedūrinis aplaidumas; tai struktūrinis trūkumas. DI sistemos nėra statiški įrankiai; tai dinamiški subjektai, kurie vystosi per grįžtamojo ryšio kilpas, pakartotinį mokymą ir kintantį aplinkos kontekstą. Kai suinteresuotųjų šalių dalyvavimas baigiasi įdiegimo etape, sistema praranda socialinį ryšį. Todėl tos pačios bendruomenės, kurios padėjo suformuoti pradinį modelį, atsiduria nuošalyje, kai sistema pradeda rodyti nenumatytą šališkumą arba kai jos veikimo sritis išsiplečia už pradinio susitarimo ribų.

Kalbiškai tariant: dalyvavimo semantika

Žvelgdami plačiau, matome šią įtampą atsispindinčią mūsų vartojamoje kalboje. Technologijų pramonėje terminas „vartotojas“ ilgą laiką buvo dominuojantis apibūdinimas. Kalbiškai tariant, vartotojas yra pasyvus paslaugos gavėjas. Perėjimas prie „suinteresuotosios šalies“ (angl. stakeholder) turėjo reikšti veiksnumą ir tiesioginį interesą. Tačiau jei suinteresuotoji šalis turi balsą tik devyniasdešimties minučių tikslinės grupės diskusijoje, šis terminas tampa simboliniu gestu, o ne funkcine realybe.

Per šią prizmę dabartinė dalyvaujamojo DI būklė atrodo ne tiek kaip demokratinė revoliucija, kiek kaip teatro scena. Mes atliekame įtraukties ritualus – lipnūs lapeliai, vieši susirinkimai, etikos chartijos – tačiau scenarijus dažnai būna parašytas iš anksto. Kad diskursas būtų tikrai dalyvaujamasis, jis turi peržengti trumpalaikį „paleidimo“ jaudulį ir pereiti prie kasdienio, ilgalaikio stebėsenos ir sistemos evoliucijos darbo.

Valdysenos archipelagas

Istoriškai galėtume tai palyginti su tuo, kaip šiuolaikiniai miestai tapo atomizuotų erdvių archipelagu. Mes gyvename arti vieni kitų, tačiau mūsų valdysenos sistemos dažnai yra izoliuotos salos. Viena sala rūpinasi techniniu vystymu, kita – teisine atitiktimi, o maža, laikina sala pastatoma „bendruomenės įtraukimui“. Kai projektas baigiamas, tiltas į bendruomenės salą išardomas.

Paradoksalu, tačiau kritiškiausi momentai suinteresuotųjų šalių įtakai atsiranda po to, kai sistema pradeda veikti. Būtent tada išryškėja realaus poveikio niuansai. Be nuolatinio dalyvavimo mechanizmo grįžtamojo ryšio kilpa nutrūksta. Sistema tampa „veidrodžių karalyste“, atspindinčia tik vidinius kūrėjų rodiklius, o ne žmonių, kuriems ji daro poveikį, gyvenimišką patirtį.

Naratyvo susigrąžinimas: tęstinis veiksnumas

Galiausiai, dalyvaujamojo DI tikslas turėtų būti tęstinio veiksnumo (angl. longitudinal agency) nustatymas. Tai reiškia struktūrų kūrimą, kuriose suinteresuotosios šalys būtų ne tik konsultantai, bet ir bendravaldžiai per visą technologijos gyvavimo laikotarpį. Tam reikia pereiti nuo „vienkartinio“ įsitraukimo prie „tvaraus“ dalyvavimo.

Kasdienėje praktikoje tai galėtų atrodyti kaip bendruomenės vadovaujamos audito tarybos, turinčios galią inicijuoti sistemos peržiūrą, arba „žmogaus įsikišimo“ (angl. human-in-the-loop) mechanizmai, teikiantys pirmenybę vietos žinioms, o ne algoritminiam efektyvumui. Tai apima pripažinimą, kad gyventojo, suprantančio savo kaimynystės socialinį audinį, kompetencija yra tokia pat svarbi, kaip ir duomenų mokslininko, suprantančio neuroninio tinklo architektūrą, kompetencija.

Maistas apmąstymams

Naviguodami šiame kintančiame kraštovaizdyje, turime užduoti sau nepatogius klausimus apie galios prigimtį skaitmeniniame amžiuje. Jei dalyvaujate technologiniame projekte, apsvarstykite šias įžvalgas:

• Kas valdo evoliuciją? Jei DI sistema rytoj pakeis savo elgseną, ar bendruomenei yra aiškus ir prieinamas kelias įsikišti?
• Ar dalyvavimas yra transformuojantis, ar tik parodomasis? Ar suinteresuotųjų šalių indėlis turi galią sustabdyti projektą, ar tik pakoreguoti jo paraštes?
• Ar galime žengti toliau nei dirbtuvės? Kaip galime sukurti skaitmenines infrastruktūras, kurios sudarytų sąlygas nuolatiniam, o ne epizodiniam pilietiniam įsitraukimui?

Vertindami DI valdyseną kaip gyvą, kvėpuojančią socialinę sutartį, o ne kaip statišką techninį reikalavimą, galime pradėti mažinti atotrūkį tarp dalyvavimo pažado ir galios realybės. Tikslas yra ne tik sukurti geresnį DI, bet ir sukurti visuomenę, kurioje technologijos tarnautų kolektyviniam žmonių atsparumui, o ne tik mašinos efektyvumui.

Šaltiniai

• 80 dalyvaujamojo DI iniciatyvų analizė ir „dalyvavimo imitavimo“ (angl. participation wash) fenomenas.
• EBPO DI principai dėl suinteresuotųjų šalių įtraukimo ir patikimo DI.
• ES DI akto nuostatos dėl poveikio pagrindinėms teisėms vertinimo ir suinteresuotųjų šalių įtraukimo.
• Sociologinės „skystosios modernybės“ ir pilietinio gyvenimo atomizacijos sistemos.
• Lingvistiniai tyrimai apie „vartotojo“ ir „suinteresuotosios šalies“ evoliuciją technologiniame diskurse.