Töötoast kaugemale: miks osalev tehisintellekt peab kestma kauem kui disainifaas

Hoolimata enneolematust ülemaailmsete algatuste kasvust, mille eesmärk on muuta tehisintellekt kaasavamaks, on tekkinud silmapaistev paradoks: samal ajal kui osaluse sõnavara muutub üldlevinuks, jääb avalikkuse tegelik mõju märkimisväärselt killustatuks. Hiljutine ülevaade kaheksast kümnest osaleva tehisintellekti projektist paljastas, et kuigi kogukondi kutsutakse sageli laua taha andmete kogumise või disaini algetappides, puuduvad nad peaaegu täielikult pärast süsteemi tegelikku juurutamist. Oleme omandanud avaürituse töötoa kunsti, kuid me pole veel välja mõelnud, kuidas hoida ust lahti siis, kui kood tööle hakkab.

Avatud ukse illusioon

Veetsin hiljuti pärastlõuna kogukonnakeskuses, kus kohalik omavalitsus tutvustas uut tehisintellektil põhinevat ressursside jaotamise tööriista. Ruum oli täis ehedat kodanikuenergiat. Elanikel paluti kaarte värvikoodidega märgistada ja arutada, mida õiglus nende jaoks tähendab. See oli õpikunäide osalevast disainist — elav, tõsine ja sügavalt kohalikku konteksti juurdunud. Sessiooni lõppedes esitas aga minu lähedal istuv naine tabava küsimuse: „Mis saab kuue kuu pärast, kui algoritm otsustab, et minu tänav ei vaja enam bussi? Kellega ma siis räägin?“

Läbiviija paus oli kõnekas. Sel hetkel muutus meie praeguse tehisintellekti juhtimise lähenemisviisi süsteemne lünk käegakatsutavaks. Me käsitleme osalust kui eraldiseisvat sündmust — algoritmi lindi lõikamise tseremooniat —, mitte kui pidevat suhet. Kui osaleva disaini faas lõpeb, nihkub süsteemi juhtimine peaaegu eranditult tagasi arendajate või tellivate asutuste läbipaistmatutesse koridoridesse. Kogukond, kes on täitnud oma eesmärgi andmepunkti või kõlakojana, jäetakse sisuliselt kõrvale.

Elutsükli lõhe: disainist juurutamiseni

Makrotasandil peegeldab see suundumus laiemat sotsioloogilist nihket selle poole, mida võiksime nimetada „konsultatsioonimajanduseks“. Selles mudelis käsitletakse kaasatust kui nõuetele vastavuse kontrollnimekirja, mitte kui võimu ümberjaotamist. Nii OECD tehisintellekti põhimõtted kui ka ELi tehisintellekti määrus rõhutavad sidusrühmade kaasamist kui usaldusväärse tehisintellekti nurgakivi. Praktikas on see kaasamine aga sageli koondatud algusesse. Kutsume sidusrühmi aitama autot ehitada, kuid harva anname neile koha sõidukis, kui see on juba teel.

See elutsükli lõhe ei ole pelgalt protseduuriline spikker; see on struktuurne viga. Tehisintellektisüsteemid ei ole staatilised tööriistad; need on dünaamilised üksused, mis arenevad tagasisideahelate, ümberõppe ja muutuvate keskkonnakontekstide kaudu. Kui sidusrühmade kaasamine lõpeb juurutamisetapis, kaotab süsteem oma sotsiaalse sideme. Sellest tulenevalt leiavad needsamad kogukonnad, kes aitasid esialgset mudelit kujundada, end marginaliseerituna, kui süsteem hakkab näitama ettenägematuid kallutatust või kui selle tegevusulatus laieneb esialgsest kokkuleppest kaugemale.

Lingvistiliselt rääkides: osaluse semantika

Kaugemalt vaadates näeme seda pinget peegeldumas meie kasutatavas keeles. Tehnoloogiatööstuses on termin „kasutaja“ olnud pikka aega domineeriv kirjeldus. Lingvistiliselt öeldes on kasutaja teenuse passiivne saaja. Nihe „sidusrühma“ suunas pidi viitama tegevusvõimele ja huvile. Kui aga sidusrühmal on hääl vaid üheksakümneminutilise fookusgrupi ajal, muutub termin pigem sümboolseks žestiks kui funktsionaalseks reaalsuseks.

Sellest vaatenurgast vaadatuna sarnaneb osaleva tehisintellekti praegune seis vähem demokraatliku revolutsiooni ja rohkem teatrilavaga. Me sooritame kaasamise rituaale — kleepmärkmed, rahvakoosolekud, eetikahartad —, kuid stsenaarium on sageli ette kirjutatud. Et olla tõeliselt osalev, peab diskursus liikuma kaugemale „käivitamise“ üürikesest põnevusest ja asuma igapäevasele pikaajalisele tööle seire ja süsteemi arendamise valdkonnas.

Juhtimise saarestik

Ajalooliselt võiksime seda võrrelda viisiga, kuidas tänapäeva linnad on muutunud atomiseeritud ruumide saarestikuks. Me elame tihedas läheduses, kuid meie juhtimissüsteemid on sageli isoleeritud saared. Üks saar tegeleb tehnilise arendusega, teine juriidilise vastavusega ja väike ajutine saar ehitatakse „kogukonna kaasamiseks“. Kui projekt on lõppenud, lammutatakse sild kogukonna saarele.

Paradoksaalsel kombel ilmnevad kõige kriitilisemad hetked sidusrühmade mõjutamiseks pärast süsteemi käivitamist. See on aeg, mil reaalse maailma mõju nüansid muutuvad nähtavaks. Ilma pideva kaasamise mehhanismita on tagasisideahel katki. Süsteemist saab „peegelsaal“, mis peegeldab ainult arendajate sisemisi mõõdikuid, mitte inimeste tegelikke kogemusi, keda see mõjutab.

Narratiivi tagasivõtmine: pikaajaline tegutsemisvõime

Lõppkokkuvõttes peaks osaleva tehisintellekti eesmärk olema pikaajalise tegutsemisvõime (longitudinal agency) kehtestamine. See tähendab struktuuride loomist, kus sidusrühmad ei ole lihtsalt konsultandid, vaid kaasjuhtijad kogu tehnoloogia eluea jooksul. See nõuab nihket ühekordselt kaasamiselt „vastupidavale“ osalusele.

Igapäevaselt võib see tähendada kogukonna juhitavaid auditikogusid, millel on õigus algatada süsteemi läbivaatamine, või „inimene-tsüklis“ (human-in-the-loop) mehhanisme, mis seavad kohalikud teadmised algoritmi tõhususest ettepoole. See hõlmab tunnistamist, et elaniku asjatundlikkus, kes mõistab oma naabruskonna sotsiaalset kude, on sama oluline kui andmeteadlase asjatundlikkus, kes mõistab närvivõrgu arhitektuuri.

Mõtteainet

Sellel muutuval maastikul navigeerides peame endalt küsima ebamugavaid küsimusi võimu olemuse kohta digiajastul. Kui olete seotud tehnoloogiaprojektiga, kaaluge neid mõtteid:

• Kes juhib arengut? Kui tehisintellektisüsteem muudab homme oma käitumist, kas kogukonnal on selge ja kättesaadav tee sekkumiseks?
• Kas osalus on transformatiivne või performatiivne? Kas sidusrühmade panusel on võim projekt peatada või ainult selle piire veidi kohendada?
• Kas suudame liikuda töötoast kaugemale? Kuidas saame ehitada digitaalseid infrastruktuure, mis võimaldavad pidevat, mitte episoodilist kodanikuaktiivsust?

Käsitledes tehisintellekti juhtimist kui elavat ja hingavat sotsiaalset lepingut, mitte kui staatilist tehnilist nõuet, saame hakata ületama lõhet osaluse lubaduse ja võimu tegelikkuse vahel. Eesmärk ei ole ainult ehitada paremat tehisintellekti, vaid ehitada ühiskonda, kus tehnoloogia teenib inimeste kollektiivset vastupidavust, mitte ainult masina tõhusust.

Allikad

• 80 osaleva tehisintellekti algatuse analüüs ja „osaluse pesemise“ (participation wash) fenomen.
• OECD tehisintellekti põhimõtted sidusrühmade kaasamise ja usaldusväärse tehisintellekti kohta.
• ELi tehisintellekti määruse sätted põhiõiguste mõju hindamise ja sidusrühmade kaasamise kohta.
• Sotsioloogilised raamistikud „voolava modernsuse“ (Liquid Modernity) ja kodanikuelu atomiseerumise kohta.
• Lingvistilised uuringud terminite „kasutaja“ vs. „sidusrühm“ evolutsiooni kohta tehnoloogilises diskursuses.