OpenAI tõmbab pidurit mudelile, mis õppis liiga hästi häkkima

Samal ajal kui enamik inimesi püüab alles aru saada, kuidas panna vestlusrobotit koostama korralikku toidukaupade nimekirja, tegelevad OpenAI insenerid palju ohtlikuma reaalsusega. Ettevõte peatas hiljuti oma tulevase tehisintellekti mudeli, koodnimega Astra, arenduse, sest süsteem osutus omaenda hüvanguks veidi liiga targaks. Täpsemalt saavutas mudel küberturvalisuse võimekuses kriitilise künnise. See ei ole lihtsalt väike tarkvaraviga või tõrge koodis. See on märk sellest, et tehisintellekt on muutumas kasulikust assistendist potentsiaalseks digitaalseks lukksepaks, kellel on võime muukida lahti mis tahes uks internetis.

OpenAI teatas reedel, et ei saa välistada, et Astraga kaasnevad kriitilised küberturvalisuse riskid. See äratundmine viis idufirma sisearenduse peatamiseni ja hädaolukorra ohutusprotokollide aktiveerimiseni. Kõrgete panustega tehnoloogiamaailmas on see samaväärne olukorraga, kus laboriteadlane märkab, et katseklaas hakkab veidi liiga eredalt helendama, ja otsustab ruumi tühjendada. Murekoht on see, et tehisintellekt on jõudnud punkti, kus ta suudab tuvastada ja ära kasutada tõsiseid tarkvara haavatavusi ilma igasuguse inimpoolse juhendamiseta.

Illusioon kahjutust vestlusrobotist

Tavakasutaja jaoks on tehisintellekt tööriist produktiivsuse tõstmiseks. See võtab kokku pikki e-kirju, genereerib pilte esitlusteks või aitab õpilastel eksamiteks õppida. See loob ettekujutuse, et tehisintellekt on meie digitaalses elus passiivne osaline. Me anname sellele juhise ja see annab meile vastuse. Kuid järgmise põlvkonna mudelid, nagu Astra, on teistsugused. Need on autonoomsed agendid. See tähendab, et nad ei räägi ainult ülesannetest, vaid neil on võime neid veebis täide viia.

Erialaterminite taga on see muutus fundamentaalne. Mudel nagu ChatGPT on ennustav tekstimootor. See arvab tohutute andmehulkade põhjal ära järgmise sõna jadas. Astra on loodud olema väsimatu praktikant, kes suudab navigeerida tarkvaras, suhelda andmebaasidega ja lahendada mitmeetapilisi probleeme. Probleem tekib siis, kui see praktikant avastab, et suudab töö kiiremaks tegemiseks turvasüsteemidest mööda minna. Kui tehisintellekt hakkab tuvastama nullpäeva haavatavusi — turvaauke, mille olemasolust tarkvara loojad veel isegi ei tea —, lakkab see olemast lihtne produktiivsuse tööriist. Sellest saab süsteemne risk infrastruktuurile, mis hoiab meie pangakontosid, elektrivõrke ja haiglaandmeid turvalisena.

Digitaalmaailma peavõti

Mõistmaks, miks OpenAI on mures, peame vaatama, kuidas tarkvara turvalisus toimib. Enamik süsteeme on nagu majad erinevate lukkudega. Nullpäeva haavatavus on viga lukus, mida tootja pole veel leidnud. Häkkerid hindavad neid vigu kõrgelt, sest nende vastu puudub kaitse seni, kuni on loodud parandus. Ajalooliselt nõudis nende vigade leidmine kuude pikkust inimlikku pingutust ja sügavat tehnilist ekspertiisi. Astra has näidanud võimekust teha seda tööd sekunditega.

Praktiliselt võttes muudab see küberturvalisuse matemaatikat. Kui tehisintellekt suudab autonoomselt skannida igat tarkvarajuppi võrgus ja leida tee sisse, on kaitsja tohutus ebasoodsas olukorras. Rünnaku kiirus on enneolematu. Varem võis inimhäkker rünnata ühte sihtmärki. Autonoomne tehisintellekt võiks teoreetiliselt tabada tuhandeid sihtmärke üheaegselt. Seetõttu kasutab OpenAI terminit kriitiline. See viitab mudelile, mis suudab sooritada keerukaid küberrünnakuid kõrge turvalisusega sihtmärkide vastu ilma inimpoolse juhtimiseta.

OpenAI sisemine punane häire

OpenAI tegutseb reeglistiku alusel, mida nimetatakse valmisoleku raamistikuks (Preparedness Framework). Need suunised on ettevõttele piireteks, kui ehitatakse üha võimsamaid süsteeme. Nende reeglite kohaselt hinnatakse mudeleid nende riskitaseme järgi neljas valdkonnas: küberturvalisus, keemilised/bioloogilised/tuumaohud, veenmine ja mudeli autonoomsus. Kui mudel saavutab mis tahes kategoorias kriitilise tähise, nõuab raamistik, et ettevõte peataks arenduse, kuni suudetakse tõestada, et riskid on leevendatud.

See paus on haruldane läbipaistvuse hetk tööstuses, mis on tavaliselt läbipaistmatu. Tehisintellekti võidujooks on heitlik ja kiire. Google, Anthropic ja Meta tormavad kõik järgmist suurt asja välja andma. Tunnistades, et Astra on praegu avaldamiseks liiga ohtlik, möönab OpenAI, et tehnoloogia areneb kiiremini kui meie võime seda kontrollida. Ettevõte on nüüd olukorras, kus ta peab ehitama oma loomingule digitaalsed puurid, enne kui lubab avalikkusel neid kasutada. See hõlmab turvafiltrite loomist, mis eemaldavad mudeli võime kirjutada pahatahtlikku koodi või tuvastada turvavigu, kuid selle tegemine ilma tehisintellekti legitiimsete ülesannete jaoks vähem kasulikuks muutmata on keeruline tasakaalukunst.

Miks autonoomne häkkimine on digitaalne toornafta

Tööstusajastul oli toornafta kütus, mis pani tööle iga mootori. Digiajastul on andmed ja haavatavused geopoliitilise võimu kütuseks. Tööriist, mis suudab murda krüpteeringut või tungida valitsusvõrkudesse, on maailma kõige väärtuslikum vara. Seetõttu ei ole Astra võimekuste avastamine ainult tehnoloogiline uudislugu; see on makromajanduslik ja julgeolekualane sündmus. Kui see tehnoloogia lekib või satub halbade kavatsustega osapoolte kätte, on kulu maailmamajandusele käegakatsutav.

Suurt pilti vaadates ulatub küberkuritegevuse kulu juba praegu triljonite dollariteni aastas. Enamik neist kuritegudest pannakse toime inimeste poolt, kasutades suhteliselt lihtsaid vahendeid, nagu õngitsuskirjad. Tehisintellekt, mis suudab ise leida tee süsteemi, kaotab vajaduse inimese järele, kes meelitaks teid lingile klikkima. See lihtsalt leiab aia sees augu ja jalutab läbi. Tarbija jaoks tähendab see, et vana nõuanne mitte klikkida kahtlastele linkidele ei ole enam piisav. Teie andmete turvalisus sõltub täielikult sellest, kui hästi suudavad neid hoiustavad ettevõtted kaitsta end tehisintellektil põhinevate rünnakute eest.

Tehisintellekti võidujooksu esikoha hind

OpenAI-le avaldatakse suurt survet konkurentidest ees püsimiseks. Idufirmal on miljardite dollarite väärtuses investeeringuid Microsoftilt ja maine kui valdkonna liidril. Kuid sellise mudeli väljalaskmine, mis võib kogemata rivist välja lüüa elektrivõrgu või tühjendada pangakontosid, on mainerisk, mida ükski riskikapitali hulk ei suuda parandada. See paus näitab ettevaatlikkust, mis Silicon Valleys sageli puudub.

Turu poolelt vaadatuna võib see viivitus anda konkurentidele võimaluse järele jõuda. Vastupidiselt võib see aga seada tööstusele uue standardi. Kui OpenAI keeldub mudelit välja andmast, kuna see on liiga ohtlik, avaldab see survet ka Google'ile ja teistele tõestada, et nende mudelid on samuti ohutud. Me näeme nihket kiiruse võidujooksult usaldusväärsuse võidujooksule. Tehisintellekti buumi järgmise faasi võitjad ei ole ainult need, kellel on kõige targemad mudelid. Need on need, kes suudavad garanteerida, et nende mudelid ei muutu digitaalseteks relvadeks.

Mida see tähendab teie igapäevaste tehnoloogiaharjumuste jaoks

Tavakasutaja jaoks on uudis Astra kohta meeldetuletus, et digitaalne maailm muutub hapramaks. Kuigi te ei pea oma nutitelefoni jõkke viskama, peaksite teadvustama, et isikliku turvalisuse latt tõuseb. Praktiliselt tähendab see teie digitaalse elu jaoks paari asja. Esiteks on tarkvarauuendused olulisemad kui kunagi varem. Need uuendused sisaldavad sageli parandusi just nendele haavatavustele, mida Astra-sugused tehisintellekti mudelid nii hästi leida suudavad. Uuenduse eiramine on nüüd palju suurem risk kui viis aastat tagasi.

Teiseks on aeg liikuda edasi lihtsatest paroolidest. Kui tehisintellekt suudab mõelda nagu häkker, suudab ta teie parooli hetkega ära arvata. Mitmeastmeline autentimine on tavainimese jaoks ainus reaalne kaitse, mis on järele jäänud. Kolmandaks, suhtuge kriitiliselt tehisintellekti funktsioonidesse, mida igasse rakendusse lisatakse. Kuna need tööriistad muutuvad autonoomsemaks, on neil suurem juurdepääs teie isikuandmetele. Peaksite kohtlema iga uut tehisintellekti funktsiooni nagu uut töötajat, keda palkate. Küsige endalt, kas usaldate sellele töötajale oma kodu võtmed.

Lõppkokkuvõttes on paus Astraga tarbija jaoks hea asi. See tähendab, et inimesed, kes neid tööriistu ehitavad, on ohtudest teadlikud. See on märk sellest, et tööstus on küpsemas ja liikumas edasi "liigu kiiresti ja lõhu asju" ajastust. Oleme sisenemas perioodi, kus meie kaasaegse elu nähtamatut selgroogu — koodi, mis juhib kõike — testib kõige võimsam intellekt, mille oleme kunagi loonud. Informeeritud ja uuendustega kursis olemine on parim viis sellel muutuval maastikul navigeerimiseks.

Allikad: OpenAI Safety Guidelines, Internal Project Astra Memos, NIST Cybersecurity Framework Standards.