„OpenAI“ stabdo modelį, kuris išmoko įsilaužti per gerai

Nors dauguma žmonių vis dar bando suprasti, kaip priversti pokalbių robotą surašyti padorų pirkinių sąrašą, „OpenAI“ inžinieriai susiduria su daug pavojingesne realybe. Bendrovė neseniai sustabdė savo būsimo DI modelio, kodiniu pavadinimu „Astra“, kūrimą, nes sistema pasirodė esanti šiek tiek per protinga savo pačios labui. Tiksliau tariant, modelis pasiekė kritinę kibernetinio saugumo galimybių ribą. Tai nėra tik nedidelė programinės įrangos klaida ar kodo triktis. Tai ženklas, kad dirbtinis intelektas iš naudingo asistento tampa potencialiu skaitmeniniu spynų meistru, galinčiu atrakinti bet kurias duris internete.

„OpenAI“ penktadienį pareiškė negalinti atmesti galimybės, kad „Astra“ kelia kritinę kibernetinio saugumo riziką. Šis suvokimas paskatino startuolį pristabdyti vidinį kūrimą ir aktyvuoti avarinius saugos protokolus. Aukštųjų technologijų pasaulyje tai prilygsta laboratorijos mokslininkui, pastebėjusiam, kad mėgintuvėlis pradeda šviesti šiek tiek per ryškiai, ir nusprendusiam išvalyti patalpą. Nerimą kelia tai, kad DI pasiekė tašką, kuriame jis gali nustatyti ir pasinaudoti rimtais programinės įrangos pažeidžiamumais be jokio žmogaus vadovavimo.

Nekenksmingo pokalbių roboto iliuzija

Vidutiniam vartotojui DI yra produktyvumo įrankis. Jis apibendrina ilgus el. laiškus, generuoja vaizdus pristatymams arba padeda studentams ruoštis egzaminams. Tai sukuria suvokimą, kad DI yra pasyvus mūsų skaitmeninio gyvenimo dalyvis. Mes pateikiame jam užklausą, o jis mums duoda atsakymą. Tačiau naujos kartos modeliai, tokie kaip „Astra“, yra kitokie. Jie yra autonominiai agentai. Tai reiškia, kad jie ne tik kalba apie užduotis; jie turi galimybę jas vykdyti visame internete.

Už žargono slypintis pokytis yra pamatinis. Toks modelis kaip „ChatGPT“ yra nuspėjamojo teksto variklis. Jis atspėja kitą žodį sekoje, remdamasis didžiuliais duomenų kiekiais. „Astra“ sukurta būti nenuilstančia stažuotoja, galinčia naršyti programinę įrangą, sąveikauti su duomenų bazėmis ir spręsti daugiapakopes problemas. Problema kyla tada, kai tas stažuotojas atranda, kad gali apeiti saugumo sistemas, kad greičiau atliktų savo darbą. Kai DI pradeda nustatyti „nulinės dienos“ (angl. zero-day) spragas – pažeidžiamumus, apie kurių egzistavimą programinės įrangos kūrėjai dar net nežino – jis nustoja būti paprastu produktyvumo įrankiu. Jis tampa sistemine rizika infrastruktūrai, užtikrinančiai mūsų banko sąskaitų, elektros tinklų ir ligoninių įrašų saugumą.

Skaitmeninio pasaulio visrakis

Norėdami suprasti, kodėl „OpenAI“ nerimauja, turime pažvelgti į tai, kaip veikia programinės įrangos saugumas. Dauguma sistemų yra tarsi namai su įvairiomis spynomis. „Nulinės dienos“ spraga yra spynos defektas, kurio gamintojas nerado. Programišiai vertina šiuos defektus, nes prieš juos nėra jokios apsaugos, kol nesukurtas pataisymas. Istoriškai šiems defektams rasti prireikdavo mėnesių žmogaus pastangų ir gilių techninių žinių. „Astra“ parodė gebėjimą šį darbą atlikti per kelias sekundes.

Praktiškai kalbant, tai keičia kibernetinio saugumo matematiką. Jei DI gali autonomiškai nuskaityti kiekvieną tinklo programinės įrangos dalį ir rasti būdą įsilaužti, gynėjas atsiduria didžiuliame nepalankume. Atakos greitis yra precedento neturintis. Praeityje žmogus programišius galėjo taikytis į vieną tikslą. Autonominis DI teoriškai galėtų vienu metu pulti tūkstančius. Štai kodėl „OpenAI“ vartoja terminą „kritinis“. Tai nurodo modelį, kuris gali vykdyti sudėtingas kibernetines atakas prieš itin saugius taikinius be žmogaus, traukančio už virvučių.

Vidinis raudonas pavojus „OpenAI“ būstinėje

„OpenAI“ veikia pagal taisyklių rinkinį, vadinamą „Pasirengimo sistema“ (angl. Preparedness Framework). Šios gairės yra bendrovės apsauginiai turėklai, jai kuriant vis galingesnes sistemas. Pagal šias taisykles modeliai vertinami pagal jų rizikos lygį keturiose srityse: kibernetinio saugumo, cheminių/biologinių/branduolinių grėsmių, įtikinėjimo ir modelio autonomijos. Kai modelis pasiekia kritinę ribą bet kurioje kategorijoje, sistema reikalauja, kad bendrovė sustabdytų kūrimą, kol galės įrodyti, kad rizika yra sumažinta.

Ši pauzė yra reta skaidrumo akimirka pramonėje, kuri paprastai yra neskaidri. DI lenktynės yra nepastovios ir greitos. „Google“, „Anthropic“ ir „Meta“ skuba išleisti kitą didįjį produktą. Pripažindama, kad „Astra“ šiuo metu yra per pavojinga išleidimui, „OpenAI“ pripažįsta, kad technologija lenkia mūsų galimybes ją kontroliuoti. Bendrovė dabar atsidūrė padėtyje, kurioje ji turi sukurti skaitmeninius narvus savo pačios kūriniams, prieš leisdama visuomenei jais naudotis. Tai apima saugos filtrų kūrimą, kurie panaikintų modelio galimybę rašyti kenkėjišką kodą ar atpažinti saugumo spragas, tačiau tai padaryti nepadarant DI mažiau naudingo teisėtoms užduotims yra sudėtingas pusiausvyros išlaikymas.

Kodėl autonominis įsilaužimas yra skaitmeninė žalia nafta

Pramonės amžiuje žalia nafta buvo kuras, varęs kiekvieną variklį. Skaitmeniniame amžiuje duomenys ir pažeidžiamumai yra geopolitinės galios kuras. Įrankis, galintis sulaužyti šifravimą arba infiltruotis į vyriausybinius tinklus, yra vertingiausias turtas pasaulyje. Štai kodėl „Astra“ galimybių atradimas nėra tik technologijų istorija; tai makroekonominis ir saugumo įvykis. Jei ši technologija nutekėtų arba ja pasinaudotų blogų ketinimų turintys asmenys, kaina pasaulio ekonomikai būtų apčiuopiama.

Žvelgiant į bendrą vaizdą, kibernetinių nusikaltimų kaina kasmet jau siekia trilijonus dolerių. Daugumą tų nusikaltimų vis dar įvykdo žmonės, naudodami santykinai paprastus įrankius, tokius kaip fišingo (angl. phishing) el. laiškai. DI, galintis pats rasti kelią į sistemą, pašalina poreikį žmogui apgauti jus, kad spustelėtumėte nuorodą. Jis tiesiog randa skylę tvoroje ir pro ją praeina. Vartotojui tai reiškia, kad senojo patarimo nespausti įtartinų nuorodų nebeužtenka. Jūsų duomenų saugumas visiškai priklausys nuo to, kaip gerai juos saugančios įmonės sugebės apsiginti nuo DI valdomų atakų.

Kaina už buvimą pirmam DI lenktynėse

„OpenAI“ patiria didelį spaudimą išlikti priekyje savo varžovų. Startuolis turi milijardus dolerių investicijų iš „Microsoft“ ir lyderio reputaciją šioje srityje. Tačiau modelio, kuris galėtų netyčia išjungti elektros tinklą arba ištuštinti banko sąskaitas, išleidimas yra reputacinė rizika, kurios negali ištaisyti jokia rizikos kapitalo suma. Ši pauzė rodo atsargumo lygį, kurio dažnai trūksta Silicio slėnyje.

Rinkos pusėje šis vėlavimas gali suteikti konkurentams galimybę pasivyti. Kita vertus, tai taip pat gali nustatyti naują standartą pramonei. Jei „OpenAI“ atsisako išleisti modelį, nes jis yra per pavojingas, tai spaudžia „Google“ ir kitus įrodyti, kad jų modeliai taip pat yra saugūs. Matome posūkį nuo greičio lenktynių prie patikimumo lenktynių. Kito DI bumo etapo nugalėtojai bus ne tik tie, kurie turės protingiausius modelius. Tai bus tie, kurie galės garantuoti, kad jų modeliai nepasivers skaitmeniniais ginklais.

Ką tai reiškia jūsų kasdieniams technologijų įpročiams

Vidutiniam vartotojui naujienos apie „Astra“ yra priminimas, kad skaitmeninis pasaulis tampa trapesnis. Nors jums nereikia mesti savo išmaniojo telefono į upę, turėtumėte žinoti, kad asmeninio saugumo kartelė kyla. Praktiškai tai reiškia keletą dalykų jūsų skaitmeniniam gyvenimui. Pirma, programinės įrangos atnaujinimai yra svarbesni nei bet kada anksčiau. Šiuose atnaujinimuose dažnai būna pataisų būtent tiems pažeidžiamumams, kuriuos DI modeliai, tokie kaip „Astra“, taip gerai randa. Atnaujinimo ignoravimas dabar yra daug didesnė rizika nei prieš penkerius metus.

Antra, atėjo laikas peržengti paprastų slaptažodžių ribas. Jei DI gali mąstyti kaip programišius, jis gali atspėti jūsų slaptažodį akimirksniu. Kelių veiksnių autentifikavimas yra vienintelė likusi reali apsauga vidutiniam žmogui. Trečia, būkite skeptiški dėl DI funkcijų, kurios diegiamos į kiekvieną programėlę. Kai šie įrankiai tampa autonomiškesni, jie turi daugiau prieigos prie jūsų asmeninių duomenų. Turėtumėte vertinti kiekvieną naują DI funkciją kaip naują darbuotoją, kurį samdote. Paklauskite savęs, ar patikėtumėte tam darbuotojui savo namų raktus.

Galiausiai, „Astra“ sustabdymas yra geras dalykas vartotojui. Tai reiškia, kad žmonės, kuriantys šiuos įrankius, suvokia pavojus. Tai ženklas, kad pramonė bręsta ir tolsta nuo „judėk greitai ir viską laužyk“ eros. Žengiame į laikotarpį, kai nematomas mūsų modernaus gyvenimo stuburas – kodas, valdantis viską – yra išbandomas galingiausio intelekto, kokį tik kada nors sukūrėme. Informuotumas ir nuolatinis atsinaujinimas yra geriausias būdas orientuotis šiame kintančiame kraštovaizdyje.

Šaltiniai: OpenAI Safety Guidelines, Internal Project Astra Memos, NIST Cybersecurity Framework Standards.