OpenAI piebremzē modeli, kas iemācījās uzlauzt pārāk labi

Kamēr lielākā daļa cilvēku joprojām mēģina saprast, kā panākt, lai tērzēšanas robots uzrakstītu pienācīgu pārtikas produktu sarakstu, OpenAI inženieri saskaras ar daudz bīstamāku realitāti. Uzņēmums nesen apturēja sava topošā mākslīgā intelekta modeļa ar koda nosaukumu Astra izstrādi, jo sistēma izrādījās nedaudz par gudru pati savam labumam. Konkrēti, modelis sasniedza kritisku slieksni kiberdrošības spējās. Šī nav tikai neliela programmatūras kļūda vai misēklis kodā. Tā ir zīme, ka mākslīgais intelekts no noderīga palīga pārvēršas par potenciālu digitālo atslēdznieku ar spēju uzlauzt jebkuras durvis internetā.

OpenAI piektdien paziņoja, ka nevar izslēgt, ka Astra piemīt kritiski kiberdrošības riski. Šī atziņa lika jaunuzņēmumam apturēt iekšējo izstrādi un aktivizēt ārkārtas drošības protokolus. Augsto likmju tehnoloģiju pasaulē tas ir līdzvērtīgi tam, kā laboratorijas zinātnieks pamana, ka mēģene sāk spīdēt nedaudz par spilgtu, un nolemj atbrīvot telpu. Bažas rada tas, ka MI ir sasniedzis punktu, kurā tas var identificēt un izmantot smagas programmatūras ievainojamības bez jebkādas cilvēka vadības.

Ilūzija par nekaitīgo tērzēšanas robotu

Vidējam lietotājam MI ir produktivitātes rīks. Tas apkopo garus e-pastus, ģenerē attēlus prezentācijām vai palīdz studentiem mācīties eksāmeniem. Tas rada priekšstatu, ka MI ir pasīvs dalībnieks mūsu digitālajā dzīvē. Mēs tam dodam uzdevumu, un tas mums sniedz atbildi. Tomēr nākamās paaudzes modeļi, piemēram, Astra, ir atšķirīgi. Tie ir autonomi aģenti. Tas nozīmē, ka tie ne tikai runā par uzdevumiem; tiem ir spēja tos izpildīt tīmeklī.

Aiz žargona šī pāreja ir fundamentāla. Modelis, piemēram, ChatGPT, ir paredzošs teksta dzinējs. Tas uzmin nākamo vārdu secībā, pamatojoties uz milzīgu datu apjomu. Astra ir veidota kā nenogurdināms praktikants, kurš var orientēties programmatūrā, mijiedarboties ar datubāzēm un risināt daudzpakāpju problēmas. Problēma rodas tad, kad šis praktikants atklāj, ka var apiet drošības sistēmas, lai ātrāk paveiktu savu darbu. Kad MI sāk identificēt nulles dienas eksploitus — ievainojamības, par kuru eksistenci programmatūras veidotāji pat vēl nezina —, tas pārstāj būt vienkāršs produktivitātes rīks. Tas kļūst par sistēmisku risku infrastruktūrai, kas nodrošina mūsu bankas kontu, elektrotīklu un slimnīcu ierakstu drošību.

Digitālās pasaules universālā atslēga

Lai saprastu, kāpēc OpenAI ir nobažījies, mums jāskatās, kā darbojas programmatūras drošība. Lielākā daļa sistēmu ir kā mājas ar dažādām slēdzenēm. Nulles dienas eksploits ir slēdzenes defekts, ko ražotājs nav atradis. Hakeri augstu vērtē šos defektus, jo pret tiem nav aizsardzības, kamēr nav izveidots ielāps. Vēsturiski šo trūkumu meklēšana prasīja mēnešiem ilgu cilvēka darbu un dziļas tehniskās zināšanas. Astra ir parādījusi spēju veikt šo darbu dažu sekunžu laikā.

Praktiski runājot, tas maina kiberdrošības matemātiku. Ja MI var autonomi skenēt katru programmatūras daļu tīklā un atrast ceļu iekšā, aizsargs atrodas milzīgā neizdevīgā situācijā. Uzbrukuma ātrums ir nepieredzēts. Agrāk cilvēks-hakeris varēja trāpīt vienam mērķim. Autonoms MI teorētiski varētu trāpīt tūkstošiem mērķu vienlaicīgi. Tāpēc OpenAI lieto terminu "kritisks". Tas attiecas uz modeli, kas var veikt sarežģītus kiberuzbrukumus pret augsti drošiem mērķiem bez cilvēka, kas raustītu stīgas.

Iekšējā trauksme OpenAI

OpenAI darbojas saskaņā ar noteikumu kopumu, ko sauc par Sagatavotības ietvaru (Preparedness Framework). Šīs vadlīnijas ir uzņēmuma aizsargmūri, būvējot arvien jaudīgākas sistēmas. Saskaņā ar šiem noteikumiem modeļi tiek vērtēti pēc to riska līmeņa četrās jomās: kiberdrošība, ķīmiskie/bioloģiskie/kodoldraudi, pārliecināšana un modeļa autonomija. Kad modelis sasniedz kritisko atzīmi jebkurā kategorijā, ietvars pieprasa uzņēmumam pārtraukt izstrādi, līdz tas var pierādīt, ka riski ir mazināti.

Šī pauze ir reta caurskatāmības brīdis nozarē, kas parasti ir necaurredzama. MI sacensība ir nepastāvīga un ātra. Google, Anthropic un Meta visi skrien, lai izlaistu nākamo lielo lietu. Atzīstot, ka Astra pašlaik ir pārāk bīstama izlaišanai, OpenAI atzīst, ka tehnoloģija apsteidz mūsu spēju to kontrolēt. Uzņēmums tagad atrodas situācijā, kad tam ir jābūvē digitālie būri saviem radījumiem, pirms tas var ļaut sabiedrībai tos izmantot. Tas ietver drošības filtru izveidi, kas atņem modeļa spēju rakstīt ļaunprātīgu kodu vai atpazīt drošības trūkumus, taču to izdarīt, nepadarot MI mazāk noderīgu leģitīmiem uzdevumiem, ir sarežģīts līdzsvarošanas akts.

Kāpēc autonoma uzlaušana ir digitālā jēlnafta

Industriālajā laikmetā jēlnafta bija degviela, kas darbināja katru dzinēju. Digitālajā laikmetā dati un ievainojamības ir ģeopolitiskās varas degviela. Rīks, kas var uzlauzt šifrēšanu vai iefiltrēties valdības tīklos, ir visvērtīgākais aktīvs pasaulē. Tāpēc Astra spēju atklāšana nav tikai tehnoloģiju stāsts; tas ir makroekonomisks un drošības notikums. Ja šī tehnoloģija noplūst vai to izmanto slikti dalībnieki, izmaksas globālajai ekonomikai ir taustāmas.

Skatoties uz kopējo ainu, kibernoziedzības izmaksas jau tagad sasniedz triljonus dolāru gadā. Lielāko daļu šo noziegumu joprojām pastrādā cilvēki, izmantojot salīdzinoši vienkāršus rīkus, piemēram, pikšķerēšanas e-pastus. MI, kas pats var atrast ceļu sistēmā, novērš nepieciešamību cilvēkam piemānīt jūs, lai jūs noklikšķinātu uz saites. Tas vienkārši atrod caurumu žogā un iziet tam cauri. Patērētājam tas nozīmē, ka ar veco padomu neklikšķināt uz aizdomīgām saitēm vairs nepietiek. Jūsu datu drošība būs pilnībā atkarīga no tā, cik labi uzņēmumi, kas tos glabā, spēs aizsargāties pret MI vadītiem uzbrukumiem.

Cena par būšanu pirmajam MI sacensībā

Uz OpenAI tiek izdarīts liels spiediens, lai tas paliktu priekšā saviem konkurentiem. Jaunuzņēmumam ir miljardiem dolāru investīcijas no Microsoft un līdera reputācija šajā jomā. Tomēr tāda modeļa izlaišana, kas varētu nejauši izslēgt elektrotīklu vai iztukšot bankas kontus, ir reputācijas risks, ko nevar novērst nekāds riska kapitāla apjoms. Šī pauze parāda piesardzības līmeni, kāda bieži trūkst Silīcija ielejā.

On the market side, šī aizkavēšanās varētu dot konkurentiem iespēju panākt. Un otrādi, tas varētu arī noteikt jaunu standartu nozarei. Ja OpenAI atsakās izlaist modeli, jo tas ir pārāk bīstams, tas izdara spiedienu uz Google un citiem, lai tie pierādītu, ka arī viņu modeļi ir droši. Mēs redzam pāreju no sacensības par ātrumu uz sacensību par uzticamību. Uzvarētāji nākamajā MI uzplaukuma posmā nebūs tikai tie, kuriem būs gudrākie modeļi. Tie būs tie, kuri varēs garantēt, ka viņu modeļi nepārvērtīsies par digitālajiem ieročiem.

Ko tas nozīmē jūsu ikdienas tehnoloģiju paradumiem

Vidējam lietotājam ziņas par Astra ir atgādinājums, ka digitālā pasaule kļūst trauslāka. Lai gan jums nav jāmet viedtālrunis upē, jums jāapzinās, ka personīgās drošības latiņa paaugstinās. Praktiski runājot, tas nozīmē dažas lietas jūsu digitālajai dzīvei. Pirmkārt, programmatūras atjauninājumi ir svarīgāki nekā jebkad agrāk. Šie atjauninājumi bieži satur ielāpus tieši tām ievainojamībām, kuras MI modeļi, piemēram, Astra, tik labi prot atrast. Atjauninājuma ignorēšana tagad ir daudz lielāks risks nekā pirms pieciem gadiem.

Otrkārt, ir pienācis laiks atteikties no vienkāršām parolēm. Ja MI var domāt kā hakeris, tas var uzminēt jūsu paroli vienā mirklī. Vairākfaktoru autentifikācija ir vienīgā reālā aizsardzība, kas atlikusi vidusmēra cilvēkam. Treškārt, esiet skeptiski pret MI funkcijām, kas tiek iekļautas katrā lietotnē. Tā kā šie rīki kļūst autonomāki, tiem ir lielāka piekļuve jūsu personīgajiem datiem. Jums pret katru jaunu MI funkciju būtu jāizturas kā pret jaunu darbinieku, kuru pieņemat darbā. Pajautājiet sev, vai uzticat šim darbiniekam savas mājas atslēgas.

Galu galā Astra pauze ir laba lieta patērētājam. Tas nozīmē, ka cilvēki, kas būvē šos rīkus, apzinās briesmas. Tā ir zīme, ka nozare nobriest un atstāj aiz muguras laikmetu "darbojies ātri un salauz lietas". Mēs ieejam periodā, kurā mūsu modernās dzīves neredzamais mugurkauls — kods, kas darbina visu — tiek pārbaudīts ar visspēcīgāko intelektu, kādu jebkad esam radījuši. Informētība un atjaunināšana ir labākais veids, kā orientēties šajā mainīgajā vidē.

Avoti: OpenAI Safety Guidelines, Internal Project Astra Memos, NIST Cybersecurity Framework Standards.