ÜRO moodustab sisehoiatuste valguses 40-liikmelise ülemaailmse tehisintellekti ohutuse paneeli

Sammuna, mille eesmärk on ületada lõhe kiire tehnoloogilise arengu ja rahvusvahelise järelevalve vahel, on Ühinenud Rahvaste Organisatsiooni peasekretär António Guterres ametlikult avanud 40-liikmelise ülemaailmse teaduspaneeli, mis on pühendunud tehisintellekti ohutusele. Guterrese sõnul on see "aluspõhine samm tehisintellekti ülemaailmse teadusliku mõistmise suunas" ning paneeli ülesandeks on uurida eksistentsiaalseid ja süsteemseid riske, mida põhjustavad arenenud masinõppemudelid.

Selle organi moodustamine toimub otsustaval hetkel. Viimase aasta jooksul on üha suurem hulk vilepuhujaid ja endisi töötajaid sellistest valdkonna liidritest nagu OpenAI, Anthropic ja Google DeepMind väljendanud muret läbipaistvuse puudumise ja tipptasemel mudelite juurutamise kiiruse pärast. See ÜRO algatus kujutab endast esimest kooskõlastatud jõupingutust teadusliku konsensuse tsentraliseerimiseks tehisintellekti küsimustes ülemaailmsel tasandil, sõltumatult ettevõtete mõjust.

Katalüsaator: alarmid tööstuse seest

Survet tsentraliseeritud ÜRO organi loomiseks kiirendas märkimisväärselt liikumine "Right to Warn" (õigus hoiatada). See tehnoloogiasektori siseringi kuuluv rühm väitis, et praegused kasumipõhised stiimulid takistavad ettevõtetel avalikustamast üldise tehisintellektiga (AGI) seotud riskide tegelikku ulatust. Nad rõhutasid murekohti alates demokraatlike protsesside murendamisest süvavõltsingute (deepfakes) kaudu kuni autonoomsete süsteemide potentsiaalini väljuda inimkontrolli alt.

Selle paneeli loomisega püüab ÜRO luua platvormi, kus ülemaailmset ohutusnarratiivi dikteerivad teaduslikud tõendid, mitte ettevõtete suhtekorraldus. 40 liiget, kes on pärit akadeemilistest ringkondadest, kodanikuühiskonnast ja tehnilistest uurimiskeskustest üle kogu maailma, peaksid tegutsema neutraalse tõearbiitrina üha polariseeruval tehnoloogiamaastikul.

Navigeerimine geopoliitilistes hõõrdumistes

Paneeli käivitamine ei möödunud ilma vastuoludeta. Ameerika Ühendriigid koos mitme peamise liitlasega väljendasid esialgu algatusele tugevat vastuseisu. Hõõrdumine tuleneb põhimõttelisest erimeelsusest selle üle, kus peaks asuma tehisintellekti võimukese. Kuigi USA on toetanud tööstuse juhitud ohutusraamistikke ja G7 juhitud Hiroshima tehisintellekti protsessi, rõhutab ÜRO lähenemisviis kaasavamat, mitmepoolset valitsemismudelit.

Washingtoni kriitikud väidavad, et ÜRO juhitud organ võib takerduda bürokraatiasse või et rivaalitsevad riigid võivad seda kasutada Lääne innovatsiooni pärssimiseks. Vastupidi, paneeli pooldajad väidavad, et tehisintellekt on "piirideta" tehnoloogia, sarnaselt kliimamuutustele, mis nõuab ülemaailmset vastust, mis hõlmab ka globaalset lõunat, mis jääb sageli Silicon Valley kesksetest aruteludest välja.

Teaduslik "tehisintellekti IPCC"

Paneeli missiooni mõistmiseks võib vaadata Valitsustevahelist Kliimamuutuste Paneeli (IPCC). Nii nagu IPCC ei kehtesta poliitikat, vaid pakub teaduslikke andmeid, mis on aluseks ülemaailmsetele kliimalepingutele, on ÜRO tehisintellekti paneeli eesmärk luua ühine "teaduse seisukorra" aruanne. See aruanne on riikidele lähtepunktiks oma siseriiklike eeskirjade väljatöötamisel, ilma et peaks ratast uuesti leiutama.

Paneeli peamised fookusvaldkonnad on järgmised:

• Riski kvantifitseerimine: Standardiseeritud meetrikate väljatöötamine mudeli pettusepotentsiaali või kahjuliku väljundi mõõtmiseks.
• Andmesuveräänsus: Tegelemine sellega, kuidas treeningandmeid hankitakse ja milline on mõju intellektuaalomandile eri jurisdiktsioonides.
• Koostalitlusvõime: Tagamine, et ühes riigis kehtestatud ohutusstandardeid tunnustataks ja rakendataks ka teises.

Praktiline mõju tehnoloogiasektorile

Arendajate, idufirmade ja ettevõtete juhtide jaoks annab ÜRO kaasamine märku nihkest vabatahtlikelt "ohutuslubadustelt" struktureerituma regulatiivse keskkonna poole. Kuigi paneelil ei ole volitusi seadusi vastu võtta, mõjutavad selle järeldused tõenäoliselt tulevasi rahvusvahelisi kaubanduslepinguid ja riiklikke ohutusauditeid.

Mida teha järgmiseks: valmistumine ülemaailmseteks standarditeks

Kuna paneel alustab tööd, peaksid organisatsioonid liikuma tehisintellekti ohutuse küsimustes reageerivalt positsioonilt kaugemale. Siin on praktilised sammud, mida tehnoloogiajuhid peaksid kaaluma:

1. Läbipaistvuse audit: Vaadake üle oma sisemised tehisintellekti arendusprotsessid. Kas suudate selgitada, kuidas teie mudelid konkreetsete järeldusteni jõuavad? ÜRO paneel soovitab tõenäoliselt kõrgeid standardeid "selgitatavuse" osas.
2. Jälgige rahvusvahelisi võrdlusaluseid: Olge kursis paneeli kvartaliülevaadetega. Need saavad tõenäoliselt aluseks tulevastele vastavusnõuetele EL-is, Aasias ja lõpuks ka USA-is.
3. Osalege mitme sidusrühmaga dialoogides: Ärge toetuge ainult tööstusgruppidele. Osalege foorumitel, mis hõlmavad kodanikuühiskonda ja akadeemilisi teadlasi, et saada laiem perspektiiv tehisintellekti mõjule.
4. Prioritiseerige ohutusuuringuid: Eraldage teadus- ja arendustegevuse eelarvest teatud protsent spetsiaalselt ohutusele ja joondamisele (alignment). Lõhe "võimekuse" ja "ohutuse" vahel on uue ÜRO organi peamine murekoht.

Pikk tee ees

Selle 40-liikmelise paneeli loomine on tunnustus sellele, et tehisintellekt ei ole enam lihtsalt kommertstoode; see on ülemaailmne ressurss, millel on võim ühiskondi ümber kujundada. Kuigi poliitiline edasiliikumine on endiselt konarlik, pakub pühendumine teaduslikule, tõenduspõhisele lähenemisviisile lootust tulevikuks, kus tehnoloogia teenib inimkonda ohutult ja õiglaselt.

Allikad:

• United Nations: Secretary-General's High-level Advisory Body on Artificial Intelligence
• Reuters: UN appoints global panel to study AI risks
• The Guardian: Tech whistleblowers call for right to warn on AI risks
• UN News: Guterres announces 40-member AI advisory body