Poza warsztatami: Dlaczego sztuczna inteligencja partycypacyjna musi przetrwać fazę projektowania

Pomimo bezprecedensowego wzrostu globalnych inicjatyw mających na celu uczynienie sztucznej inteligencji bardziej inkluzywną, pojawił się uderzający paradoks: podczas gdy słownictwo dotyczące partycypacji staje się wszechobecne, rzeczywisty wpływ opinii publicznej pozostaje rażąco rozproszony. Niedawny przegląd osiemdziesięciu projektów partycypacyjnych w obszarze AI ujawnił, że choć społeczności są często zapraszane do rozmów na początkowych etapach gromadzenia danych lub projektowania, są niemal całkowicie nieobecne po faktycznym wdrożeniu systemu. Opanowaliśmy do perfekcji sztukę warsztatów inauguracyjnych, ale wciąż nie wymyśliliśmy, jak utrzymać drzwi otwarte, gdy kod zaczyna już działać.

Iluzja otwartych drzwi

Spędziłem niedawno popołudnie w centrum społecznościowym, gdzie lokalna rada prezentowała nowe narzędzie do alokacji zasobów oparte na AI. Sala wypełniona była autentyczną energią obywatelską. Mieszkańcy zostali poproszeni o kolorowanie map i dyskusję nad tym, co oznacza dla nich sprawiedliwość. Był to podręcznikowy przykład projektowania partycypacyjnego – żywy, szczery i głęboko zakorzeniony w lokalnym kontekście. Jednak gdy sesja dobiegła końca, siedząca obok mnie kobieta zadała przejmujące pytanie: „Co się stanie za sześć miesięcy, gdy algorytm zdecyduje, że moja ulica nie potrzebuje już autobusu? Z kim mam wtedy porozmawiać?”.

Chwila milczenia prowadzącego była wymowna. W tym momencie systemowa luka w naszym obecnym podejściu do zarządzania AI stała się namacalna. Traktujemy partycypację jako odrębne wydarzenie – ceremonię przecięcia wstęgi dla algorytmu – a nie jako ciągłą relację. Po zakończeniu fazy projektowania partycypacyjnego zarządzanie systemem niemal niezmiennie przenosi się z powrotem do nieprzejrzystych korytarzy deweloperów lub agencji zlecających. Społeczność, odegrawszy swoją rolę jako punkt danych lub grupa doradcza, zostaje skutecznie odsunięta na boczny tor.

Luka w cyklu życia: od projektu do wdrożenia

W skali makro trend ten odzwierciedla szerszą zmianę socjologiczną w kierunku czegoś, co moglibyśmy nazwać „gospodarką konsultacyjną”. W tym modelu zaangażowanie jest traktowane jako pole do odhaczenia w celu zapewnienia zgodności, a nie jako redystrybucja władzy. Zarówno Zasady OECD dotyczące AI, jak i Akt o AI Unii Europejskiej podkreślają zaangażowanie interesariuszy jako fundament godnej zaufania sztucznej inteligencji. Jednak w praktyce zaangażowanie to jest często skumulowane na początku procesu. Zapraszamy interesariuszy, by pomogli zbudować samochód, ale rzadko oferujemy im miejsce w pojeździe, gdy ten wyjedzie już na drogę.

Ta luka w cyklu życia nie jest jedynie niedopatrzeniem proceduralnym; to wada strukturalna. Systemy AI nie są statycznymi narzędziami; to dynamiczne jednostki, które ewoluują poprzez pętle zwrotne, ponowne trenowanie i zmieniające się konteksty środowiskowe. Gdy zaangażowanie interesariuszy kończy się na fazie wdrożenia, system traci swoje społeczne zakotwiczenie. W rezultacie te same społeczności, które pomogły ukształtować początkowy model, czują się zmarginalizowane, gdy system zaczyna wykazywać nieprzewidziane uprzedzenia lub gdy jego zakres operacyjny wykracza poza pierwotne ustalenia.

Z perspektywy lingwistycznej: semantyka partycypacji

Patrząc szerzej, widzimy to napięcie odzwierciedlone w języku, którego używamy. W branży technologicznej termin „użytkownik” od dawna jest dominującym określeniem. Z lingwistycznego punktu widzenia użytkownik jest pasywnym odbiorcą usługi. Przejście w stronę terminu „interesariusz” miało sugerować sprawczość i żywotny interes. Jeśli jednak interesariusz ma głos tylko podczas dziewięćdziesięciominutowej grupy fokusowej, termin ten staje się gestem symbolicznym, a nie funkcjonalną rzeczywistością.

Przez ten pryzmat obecny stan partycypacyjnej AI wygląda mniej jak demokratyczna rewolucja, a bardziej jak scena teatralna. Odgrywamy rytuały inkluzji – karteczki samoprzylepne, spotkania z mieszkańcami, karty etyczne – ale scenariusz jest często napisany z góry. Aby partycypacja była prawdziwa, dyskurs musi wyjść poza ulotną ekscytację „premierą” i przejść do prozaicznej, długoterminowej pracy nad monitorowaniem i ewolucją systemu.

Archipelag zarządzania

Historycznie moglibyśmy porównać to do sposobu, w jaki nowoczesne miasta stały się archipelagiem zatomizowanych przestrzeni. Żyjemy w bliskiej odległości, a jednak nasze systemy zarządzania są często odizolowanymi wyspami. Jedna wyspa zajmuje się rozwojem technicznym, inna zgodnością prawną, a mała, tymczasowa wyspa jest budowana na potrzeby „zaangażowania społeczności”. Po zakończeniu projektu most na wyspę społeczności zostaje rozebrany.

Paradoksalnie, najbardziej krytyczne momenty dla wpływu interesariuszy następują po uruchomieniu systemu. To wtedy uwidaczniają się niuanse rzeczywistego wpływu. Bez mechanizmu stałego zaangażowania pętla zwrotna zostaje przerwana. System staje się „gabinetem luster”, odzwierciedlającym jedynie wewnętrzne metryki deweloperów, a nie żywe doświadczenia ludzi, na których wpływa.

Odzyskiwanie narracji: sprawczość długofalowa

Ostatecznie celem partycypacyjnej AI powinno być ustanowienie sprawczości długofalowej. Oznacza to tworzenie struktur, w których interesariusze nie są tylko konsultantami, ale współzarządzającymi przez cały okres istnienia technologii. Wymaga to przejścia od zaangażowania „jednorazowego” do zaangażowania „trwałego”.

W codziennych realiach mogłoby to wyglądać jak rady audytorskie prowadzone przez społeczność, które mają prawo do zainicjowania przeglądu systemu, lub mechanizmy „human-in-the-loop”, które przedkładają lokalną wiedzę nad wydajność algorytmiczną. Wiąże się to z uznaniem, że wiedza mieszkańca, który rozumie tkankę społeczną swojej dzielnicy, jest równie istotna jak wiedza naukowca o danych, który rozumie architekturę sieci neuronowej.

Do przemyślenia

Poruszając się po tym zmieniającym się krajobrazie, musimy zadawać sobie niewygodne pytania o naturę władzy w erze cyfrowej. Jeśli jesteś zaangażowany w projekt technologiczny, rozważ te refleksje:

• Kto zarządza ewolucją? Jeśli system AI zmieni swoje zachowanie jutro, czy istnieje jasna, dostępna ścieżka dla społeczności, aby interweniować?
• Czy partycypacja jest transformacyjna czy performatywna? Czy wkład interesariuszy ma moc zatrzymania projektu, czy tylko skorygowania jego marginesów?
• Czy możemy wyjść poza warsztaty? Jak możemy budować cyfrowe infrastruktury, które pozwalają na ciągłe, a nie epizodyczne zaangażowanie obywatelskie?

Traktując zarządzanie AI jako żywy, oddychający kontrakt społeczny, a nie statyczny wymóg techniczny, możemy zacząć zasypywać przepaść między obietnicą partycypacji a rzeczywistością władzy. Celem nie jest tylko budowanie lepszej sztucznej inteligencji, ale budowanie społeczeństwa, w którym technologia służy zbiorowej odporności ludzi, a nie tylko wydajności maszyny.

Źródła

• Analiza 80 inicjatyw partycypacyjnych AI i zjawisko „participation wash”.
• Zasady OECD dotyczące AI w zakresie zaangażowania interesariuszy i godnej zaufania AI.
• Przepisy Aktu o AI UE dotyczące oceny wpływu na prawa podstawowe i zaangażowania interesariuszy.
• Ramy socjologiczne dotyczące „płynnej nowoczesności” i atomizacji życia obywatelskiego.
• Badania lingwistyczne nad ewolucją pojęć „użytkownik” vs „interesariusz” w dyskursie technologicznym.