JT įsteigia 40 narių pasaulinę dirbtinio intelekto saugos komisiją augant viešai prabilusių darbuotojų įspėjimams

Siekdamas užpildyti spragą tarp sparčios technologinės pažangos ir tarptautinės priežiūros, Jungtinių Tautų Generalinis Sekretorius António Guterres oficialiai atidarė 40 narių pasaulinę mokslinę komisiją, skirtą dirbtinio intelekto saugai. A. Guterreso apibūdinta kaip „pamatinis žingsnis link pasaulinio mokslinio DI supratimo“, ši komisija yra įpareigota tirti egzistencines ir sistemines rizikas, kurias kelia pažangūs mašininio mokymosi modeliai.

Šios institucijos suformavimas vyksta lemiamu momentu. Per pastaruosius metus vis gausėjantis pranešėjų ir buvusių darbuotojų būrys iš tokių pramonės lyderių kaip „OpenAI“, „Anthropic“ bei „Google DeepMind“ išreiškė susirūpinimą dėl skaidrumo trūkumo ir greičio, kuriuo diegiami pažangiausi modeliai. Ši JT iniciatyva yra pirmosios suderintos pastangos centralizuoti mokslinį konsensusą dėl DI pasauliniu mastu, nepriklausomai nuo korporacijų įtakos.

Katalizatorius: pavojaus signalai iš pramonės vidaus

Postūmį sukurti centralizuotą JT instituciją gerokai paspartino judėjimas „Teisė įspėti“ (angl. „Right to Warn“). Ši technologijų srities darbuotojų grupė teigė, kad dabartinės pelno siekiančios paskatos neleidžia bendrovėms atskleisti tikrojo rizikos, susijusios su bendruoju dirbtiniu intelektu (BDI), masto. Jie pabrėžė problemas, pradedant demokratinių procesų erozija dėl manipuliacijų vaizdais (angl. deepfakes) ir baigiant autonominių sistemų galimybe apeiti žmogaus kontrolę.

Įsteigdama šią komisiją, JT siekia sukurti platformą, kurioje pasaulinį saugumo naratyvą diktuotų moksliniai įrodymai, o ne korporacijų viešieji ryšiai. Tikimasi, kad 40 narių, atrinktų iš akademinės bendruomenės, pilietinės visuomenės ir techninių tyrimų centrų iš įvairių geografinių regionų, veiks kaip neutralūs tiesos arbitrai vis labiau poliarizuotame technologijų kraštovaizdyje.

Navigacija geopolitinėje trintyje

Komisijos veiklos pradžia neapsiėjo be kontroversijų. Jungtinės Valstijos kartu su keliais svarbiais sąjungininkais iš pradžių išreiškė griežtą nepritarimą šiam žingsniui. Trintis kyla dėl esminio nesutarimo, kur turėtų būti DI galios centras. Nors JAV pasisakė už pramonės vadovaujamas saugos sistemas ir G7 vadovaujamą Hirosimos DI procesą, JT požiūris pabrėžia įtraukesnį, daugiašalį valdymo modelį.

Kritikai Vašingtone teigia, kad JT vadovaujama institucija gali įstrigti biurokratijoje arba būti panaudota konkuruojančių valstybių siekiant slopinti Vakarų inovacijas. Priešingai, komisijos šalininkai teigia, kad DI yra „be sienų“ egzistuojanti technologija, panašiai kaip klimato kaita, reikalaujanti pasaulinio atsako, įtraukiančio ir globalius Pietus, kurie dažnai lieka nuošalyje nuo į Silicio slėnį orientuotų diskusijų.

Mokslinis „DI IPCC“

Norint suprasti komisijos misiją, galima pažvelgti į Tarpvyriausybinę klimato kaitos komisiją (IPCC). Panašiai kaip IPCC nenustato politikos, bet teikia mokslinius duomenis, kuriais grindžiamos pasaulinės klimato sutartys, JT DI komisija siekia sukurti bendrą „Mokslo būklės“ ataskaitą. Ši ataskaita taps pagrindu šalims kurti savo vidaus reglamentus, neišradinėjant dviračio iš naujo.

Pagrindinės komisijos dėmesio sritys:

• Rizikos kiekybinis įvertinimas: Standartizuotų rodiklių kūrimas, skirtų matuoti modelio potencialą apgaulėms ar žalingiems rezultatams.
• Duomenų suverenitetas: Klausimų, kaip gaunami mokymo duomenys ir koks jų poveikis intelektinei nuosavybei skirtingose jurisdikcijose, sprendimas.
• Sąveika: Užtikrinimas, kad vienoje šalyje taikomi saugos standartai galėtų būti pripažįstami ir įgyvendinami kitoje.

Praktinės pasekmės technologijų sektoriui

Kūrėjams, startuoliams ir įmonių vadovams JT dalyvavimas signalizuoja perėjimą nuo savanoriškų „saugumo pažadų“ prie labiau struktūruotos reguliavimo aplinkos. Nors komisija neturi galios priimti įstatymų, jos išvados tikriausiai turės įtakos būsimiems tarptautinės prekybos susitarimams ir nacionaliniams saugos auditams.

Ką daryti toliau: ruošimasis pasauliniams standartams

Komisijai pradedant darbą, organizacijos turėtų peržengti reaktyvų požiūrį į DI saugą. Štai praktiniai žingsniai, kuriuos turėtų apsvarstyti technologijų lyderiai:

1. Skaidrumo auditas: Peržiūrėkite savo vidinius DI kūrimo procesus. Ar galite paaiškinti, kaip jūsų modeliai prieina prie konkrečių išvadų? JT komisija tikriausiai rekomenduos aukštus „paaiškinamumo“ standartus.
2. Tarptautinių lyginamųjų standartų stebėjimas: Sekite komisijos ketvirtines ataskaitas. Jos tikriausiai taps būsimų atitikties reikalavimų gairėmis ES, Azijoje, o galiausiai ir JAV.
3. Dalyvavimas daugiašaliuose dialoguose: Nepasikliaukite vien pramonės grupėmis. Dalyvaukite forumuose, kuriuose dalyvauja pilietinė visuomenė ir akademiniai tyrėjai, kad įgytumėte platesnį požiūrį į DI poveikį.
4. Saugos tyrimų prioritizavimas: Skirkite tam tikrą procentą mokslinių tyrimų ir plėtros (MTEP) lėšų būtent saugai ir suderinamumui. Atotrūkis tarp „galimybių“ ir „saugos“ yra pagrindinis naujosios JT institucijos rūpestis.

Ilgas kelias į priekį

Šios 40 narių komisijos įsteigimas yra pripažinimas, kad DI nebėra tik komercinis produktas; tai pasaulinė komunalinė paslauga, turinti galią pertvarkyti visuomenes. Nors politinis kelias į priekį išlieka duobėtas, įsipareigojimas laikytis mokslinio, įrodymais pagrįsto požiūrio suteikia vilties spindulį ateičiai, kurioje technologijos tarnauja žmonijai saugiai ir teisingai.

Šaltiniai:

• United Nations: Secretary-General's High-level Advisory Body on Artificial Intelligence
• Reuters: UN appoints global panel to study AI risks
• The Guardian: Tech whistleblowers call for right to warn on AI risks
• UN News: Guterres announces 40-member AI advisory body