Aiz darbnīcas robežām: kāpēc līdzdalīgajam MI jāturpinās arī pēc izstrādes posma

Neraugoties uz nepieredzēto globālo iniciatīvu pieaugumu, kuru mērķis ir padarīt mākslīgo intelektu iekļaujošāku, ir izveidojies pārsteidzošs paradokss: lai gan līdzdalības vārdnīca kļūst visuresoša, sabiedrības faktiskā ietekme joprojām ir ievērojami sadrumstalota. Nesenā astoņdesmit līdzdalīgo MI projektu pārskatā atklājās, ka, lai gan kopienas bieži tiek aicinātas pie galda sākotnējos datu vākšanas vai izstrādes posmos, tās gandrīz pilnībā nav klātesošas, kad sistēma tiek faktiski ieviesta. Mēs esam apguvuši atklāšanas darbnīcu mākslu, taču mums vēl ir jāsaprot, kā saglabāt durvis atvērtas, kad kods sāk darboties.

Atvērto durvju ilūzija

Nesen es pavadīju pēcpusdienu kopienas centrā, kur vietējā padome prezentēja jaunu, uz MI balstītu resursu sadales rīku. Telpa bija piepildīta ar patiesas pilsoniskās enerģijas dūkoņu. Iedzīvotājiem lūdza ar krāsām iezīmēt kartes un apspriest, ko viņiem nozīmē taisnīgums. Tas bija mācību grāmatas piemērs līdzdalīgai izstrādei — dinamisks, nopietns un dziļi sakņots vietējā kontekstā. Tomēr, sesijai beidzoties, kāda sieviete, kas sēdēja man blakus, uzdeva smeldzīgu jautājumu: “Kas notiks pēc sešiem mēnešiem, kad algoritms nolems, ka manai ielai autobuss vairs nav vajadzīgs? Ar ko es tad runāšu?”

Fasilitatora pauze bija daiļrunīga. Tajā brīdī sistēmiskā plaisa mūsu pašreizējā pieejā MI pārvaldībai kļuva fiziski jūtama. Mēs uztveram līdzdalību kā atsevišķu notikumu — algoritma lentītes pārgriešanas ceremoniju —, nevis kā nepārtrauktas attiecības. Tiklīdz līdzdalīgās izstrādes posms noslēdzas, sistēmas pārvaldība gandrīz nemainīgi atgriežas izstrādātāju vai pasūtītāju aģentūru necaurredzamajos gaiteņos. Kopiena, izpildījusi savu mērķi kā datu punkts vai viedokļu sniedzējs, tiek faktiski nostumta malā.

Dzīves cikla plaisa: no izstrādes līdz ieviešanai

Makrolīmenī šī tendence atspoguļo plašāku socioloģisku pāreju uz to, ko mēs varētu saukt par “konsultāciju ekonomiku”. Šajā modelī iesaistīšanās tiek uztverta kā atbilstības atzīme, nevis varas pārdale. Gan ESAO MI principi, gan ES MI akts uzsver ieinteresēto pušu iesaisti kā uzticama MI stūrakmeni. Tomēr praksē šī iesaiste bieži tiek koncentrēta sākumā. Mēs aicinām ieinteresētās puses palīdzēt uzbūvēt automašīnu, bet mēs reti kad atvēlam tām vietu transportlīdzeklī, kad tas jau atrodas uz ceļa.

Šī dzīves cikla plaisa nav tikai procesuāla neuzmanība; tas ir strukturāls trūkums. MI sistēmas nav statiski rīki; tās ir dinamiskas vienības, kas attīstās caur atgriezeniskās saites cilpām, atkārtotu apmācību un mainīgiem vides kontekstiem. Kad ieinteresēto pušu iesaiste beidzas ieviešanas posmā, sistēma zaudē savu sociālo saikni. Tā rezultātā tās pašas kopienas, kas palīdzēja veidot sākotnējo modeli, nonāk marginalizētā stāvoklī, kad sistēma sāk uzrādīt neparedzētus aizspriedumus vai kad tās darbības joma paplašinās ārpus sākotnējās vienošanās.

Lingvistiski runājot: līdzdalības semantika

Raugoties plašāk, mēs redzam šo spriedzi atspoguļotu valodā, ko lietojam. Tehnoloģiju nozarē termins “lietotājs” jau sen ir bijis dominējošais apzīmējums. Lingvistiski runājot, lietotājs ir pasīvs pakalpojuma saņēmējs. Pāreja uz terminu “ieinteresētā puse” bija paredzēta, lai norādītu uz rīcībspēju un ieinteresētību. Tomēr, ja ieinteresētajai pusei ir balss tiesības tikai deviņdesmit minūšu fokusa grupas laikā, šis termins kļūst par simbolisku žestu, nevis funkcionālu realitāti.

Caur šo prizmu pašreizējais līdzdalīgā MI stāvoklis izskatās mazāk pēc demokrātiskas revolūcijas un vairāk pēc teātra skatuves. Mēs izpildām iekļaušanas rituālus — līmlapiņas, iedzīvotāju sapulces, ētikas hartas —, taču scenārijs bieži ir uzrakstīts iepriekš. Lai līdzdalība būtu patiesa, diskursam ir jāpāriet no “palaišanas” īslaicīgā sajūsmas brīža uz ikdienišķu, ilgtermiņa darbu pie uzraudzības un sistēmas evolūcijas.

Pārvaldības arhipelāgs

Vēsturiski mēs to varētu salīdzināt ar veidu, kā mūsdienu pilsētas ir kļuvušas par atomizētu telpu arhipelāgu. Mēs dzīvojam ciešā tuvumā, tomēr mūsu pārvaldības sistēmas bieži ir izolētas salas. Viena sala nodarbojas ar tehnisko izstrādi, cita — ar juridisko atbilstību, un neliela, pagaidu sala tiek uzbūvēta “kopienas iesaistei”. Tiklīdz projekts ir pabeigts, tilts uz kopienas salu tiek nojaukts.

Paradoksāli, bet kritiskākie brīži ieinteresēto pušu ietekmei rodas pēc tam, kad sistēma ir sākusi darboties. Tieši tad kļūst redzamas reālās pasaules ietekmes nianses. Bez mehānisma pastāvīgai iesaistei atgriezeniskās saites cilpa tiek pārtraukta. Sistēma kļūst par “spoguļu zāli”, kas atspoguļo tikai izstrādātāju iekšējos rādītājus, nevis to cilvēku dzīves pieredzi, kurus tā ietekmē.

Narratīva atgūšana: gareniskā rīcībspēja

Galu galā līdzdalīgā MI mērķim vajadzētu būt gareniskās rīcībspējas nodibināšanai. Tas nozīmē tādu struktūru izveidi, kurās ieinteresētās puses nav tikai konsultanti, bet gan līdzpārvaldnieki visā tehnoloģijas dzīves laikā. Tam nepieciešama pāreja no “vienreizējas” iesaistīšanās uz “noturīgu” līdzdalību.

Ikdienas izteiksmē tas varētu izskatīties kā kopienas vadītas audita padomes, kurām ir pilnvaras ierosināt sistēmas pārskatīšanu, vai “cilvēks-cilpā” (human-in-the-loop) mehānismi, kas par prioritāti izvirza vietējās zināšanas, nevis algoritmisko efektivitāti. Tas ietver atzīšanu, ka iedzīvotāja zināšanas, kurš izprot savas apkaimes sociālo struktūru, ir tikpat svarīgas kā datu zinātnieka zināšanas, kurš izprot neironu tīkla arhitektūru.

Vielas pārdomām

Navigējot šajā mainīgajā ainavā, mums sev jāuzdod neērti jautājumi par varas raksturu digitālajā laikmetā. Ja esat iesaistīts tehnoloģiju projektā, apsveriet šīs pārdomas:

• Kas pārvalda evolūciju? Ja MI sistēma rīt mainīs savu uzvedību, vai kopienai ir skaidrs un pieejams ceļš, kā iejaukties?
• Vai līdzdalība ir transformējoša vai performatīva? Vai ieinteresēto pušu ieguldījumam ir spēks apturēt projektu vai tikai pielabot tā detaļas?
• Vai mēs varam doties tālāk par darbnīcu? Kā mēs varam izveidot digitālās infrastruktūras, kas pieļauj nepārtrauktu, nevis epizodisku pilsonisko līdzdalību?

Uztverot MI pārvaldību kā dzīvu, elpojošu sociālo līgumu, nevis statisku tehnisku prasību, mēs varam sākt mazināt plaisu starp līdzdalības solījumu un varas realitāti. Mērķis nav tikai izveidot labāku MI, bet gan veidot sabiedrību, kurā tehnoloģijas kalpo cilvēku kolektīvajai noturībai, nevis tikai mašīnas efektivitātei.

Avoti

• Analysis of 80 participatory AI initiatives and the “participation wash” phenomenon.
• The OECD AI Principles on stakeholder engagement and trustworthy AI.
• The EU AI Act’s provisions on fundamental rights impact assessments and stakeholder involvement.
• Sociological frameworks on “Liquid Modernity” and the atomization of civic life.
• Linguistic studies on the evolution of “user” vs. “stakeholder” in technological discourse.