ANO izveido 40 locekļu globālu mākslīgā intelekta drošības ekspertu grupu, pieaugot nozares iekšējiem brīdinājumiem

Cenšoties pārvarēt plaisu starp straujo tehnoloģisko progresu un starptautisko uzraudzību, Apvienoto Nāciju Organizācijas ģenerālsekretārs Antoniu Gutērrešs ir oficiāli atklājis 40 locekļu globālu zinātnisko ekspertu grupu, kas veltīta mākslīgā intelekta drošībai. Gutērrešs to raksturoja kā "pamatakmeni globālai zinātniskai izpratnei par MI", un šīs grupas uzdevums ir pētīt eksistenciālos un sistēmiskos riskus, ko rada progresīvi mašīnmācīšanās modeļi.

Šīs institūcijas izveide notiek izšķirošā brīdī. Pēdējā gada laikā pieaugošs trauksmes cēlēju un bijušo darbinieku skaits no tādiem nozares līderiem kā OpenAI, Anthropic un Google DeepMind ir pauduši bažas par pārredzamības trūkumu un ātrumu, kādā tiek ieviesti progresīvie modeļi. Šī ANO iniciatīva ir pirmais saskaņotais mēģinājums centralizēt zinātnisko konsensu par MI globālā mērogā, neatkarīgi no korporatīvās ietekmes.

Katalizators: trauksmes signāli no nozares iekšienes

Centienus izveidot centralizētu ANO institūciju ievērojami paātrināja kustība "Tiesības brīdināt" (Right to Warn). Šī tehnoloģiju nozares pārstāvju grupa apgalvoja, ka pašreizējie uz peļņu orientētie stimuli neļauj uzņēmumiem atklāt patieso risku apjomu, kas saistīts ar vispārīgo mākslīgo intelektu (AGI). Viņi uzsvēra bažas, sākot no demokrātisko procesu erozijas ar dziļviltojumu palīdzību līdz pat autonomu sistēmu potenciālam apiet cilvēka kontroli.

Izveidojot šo ekspertu grupu, ANO tiecas nodrošināt platformu, kurā globālo drošības naratīvu diktē zinātniski pierādījumi, nevis korporatīvās sabiedriskās attiecības. Paredzams, ka 40 locekļi, kas pārstāv akadēmiskās aprindas, pilsonisko sabiedrību un tehniskās pētniecības centrus no dažādiem reģioniem, darbosies kā neitrāli patiesības arbitri arvien polarizētākajā tehnoloģiju vidē.

Navigācija ģeopolitiskajās berzēs

Ekspertu grupas darbības uzsākšana nepagāja bez domstarpībām. Amerikas Savienotās Valstis kopā ar vairākiem galvenajiem sabiedrotajiem sākotnēji pauda stingru iebildumu pret šo soli. Berze rodas no fundamentālām nesaskaņām par to, kur būtu jāatrodas MI varas centram. Kamēr ASV ir atbalstījušas nozares vadītus drošības ietvarus un G7 vadīto Hirosimas MI procesu, ANO pieeja uzsver iekļaujošāku, daudzpusēju pārvaldības modeli.

Kritiķi Vašingtonā apgalvo, ka ANO vadīta institūcija varētu ieslīgt birokrātijā vai tikt izmantota no sāncenšu valstu puses, lai ierobežotu Rietumu inovācijas. Turpretī grupas atbalstītāji norāda, ka MI ir "bezrobežu" tehnoloģija, līdzīgi kā klimata pārmaiņas, kam nepieciešama globāla reakcija, iekļaujot globālos dienvidus, kas bieži tiek atstāti novārtā Silīcija ielejas centrētajās diskusijās.

Zinātniskais "IPCC priekš MI"

Lai saprastu ekspertu grupas misiju, var skatīties uz Klimata pārmaiņu starpvaldību padomi (IPCC). Tāpat kā IPCC nenosaka politiku, bet sniedz zinātniskos datus, kas kalpo par pamatu globāliem klimata nolīgumiem, ANO MI ekspertu grupas mērķis ir izveidot kopīgu ziņojumu par "Zinātnes stāvokli". Šis ziņojums kalpos par pamatu valstīm, lai izstrādātu savus vietējos noteikumus, neizgudrojot riteni no jauna.

Galvenās jomas, kurām pievērsīsies ekspertu grupa, ir:

• Riska kvantificēšana: Standartizētu rādītāju izstrāde, lai izmērītu modeļa potenciālu maldināšanai vai kaitīgu rezultātu radīšanai.
• Datu suverenitāte: Jautājumu risināšana par to, kā tiek iegūti apmācības dati, un ietekme uz intelektuālo īpašumu dažādās jurisdikcijās.
• Savietojamība: Nodrošināšana, ka vienā valstī noteiktie drošības standarti var tikt atzīti un īstenoti citā valstī.

Praktiskā ietekme uz tehnoloģiju sektoru

Izstrādātājiem, jaunuzņēmumiem un uzņēmumu vadītājiem ANO iesaistīšanās signalizē par pāreju no brīvprātīgiem "drošības solījumiem" uz strukturētāku regulatīvo vidi. Lai gan ekspertu grupai nav pilnvaru pieņemt likumus, tās secinājumi, visticamāk, ietekmēs turpmākos starptautiskos tirdzniecības nolīgumus un nacionālos drošības auditus.

Ko darīt tālāk: sagatavošanās globālajiem standartiem

Kamēr ekspertu grupa sāk darbu, organizācijām vajadzētu atteikties no reaktīvas nostājas attiecībā uz MI drošību. Šeit ir praktiski soļi, kas tehnoloģiju līderiem būtu jāapsver:

1. Pārredzamības audits: Pārskatiet savus iekšējos MI izstrādes procesus. Vai varat izskaidrot, kā jūsu modeļi nonāk pie konkrētiem secinājumiem? ANO grupa, visticamāk, ieteiks augstus standartus "skaidrojamībai".
2. Sekojiet starptautiskajiem kritērijiem: Esiet informēti par grupas ceturkšņa ziņojumiem. Tie, visticamāk, kļūs par paraugu nākotnes atbilstības prasībām ES, Āzijā un galu galā arī ASV.
3. Iesaistieties daudzpusējos dialogos: Nepaļaujieties tikai uz nozares grupām. Piedalieties forumos, kuros piedalās pilsoniskā sabiedrība un akadēmiskie pētnieki, lai iegūtu plašāku skatījumu uz MI ietekmi.
4. Prioritizējiet drošības pētniecību: Piešķiriet noteiktu procentuālo daļu no pētniecības un attīstības budžeta tieši drošībai un saskaņošanai. Plaisa starp "spējām" un "drošību" ir jaunās ANO institūcijas galvenā rūpe.

Tāls ceļš priekšā

Šīs 40 locekļu grupas izveide ir atzīšana tam, ka MI vairs nav tikai komerciāls produkts; tas ir globāls resurss ar spēju pārveidot sabiedrības. Lai gan politiskais ceļš uz priekšu joprojām ir akmeņains, apņemšanās ievērot zinātnisku, uz pierādījumiem balstītu pieeju sniedz cerības staru nākotnei, kurā tehnoloģijas kalpo cilvēcei droši un taisnīgi.

Avoti:

• United Nations: Secretary-General's High-level Advisory Body on Artificial Intelligence
• Reuters: UN appoints global panel to study AI risks
• The Guardian: Tech whistleblowers call for right to warn on AI risks
• UN News: Guterres announces 40-member AI advisory body