Miks teie arvuti on vähem turvaline, kuna tehisintellekti ettevõtted püüavad seda kaitsta

Avalik arvamus käsitleb tehisintellekti turvapiirdeid kui digitaalset kuulikindlat vesti. Loogika on lihtne: kui mudel keeldub kirjutamast pahatahtlikku koodi, on häkkeritel üks relv arsenalist vähem. Kuid korporatiivse turunduse ja valitsuse järelevalve taga pimestavad need turvameetmed praegu just neid inimesi, kes kaitsevad meie seadmeid reaalsete rünnakute eest. Püüdes uksi kurjategijate ees lukustada, lukustavad tehisintellekti laborid kogemata välja ka lukksepad.

Tehnoloogid ja turvauurijad löövad häirekella suundumuse pärast, mis seab näilise kuvandi tegelikust ohutusest ettepoole. Kuigi ettevõtted nagu Anthropic ja OpenAI turundavad oma mudeleid võimsate innovatsioonimootoritena, on nad mähkinud need ka piirava koodi kihtidesse, mis on loodud "väärkasutuse" vältimiseks. Tavakasutaja jaoks tähendab see, et tarkvara, millele te toetute — alates pangarakendusest kuni nutitelefoni operatsioonisüsteemini —, on muutumas raskemini kaitstavaks.

Digitaalse kuulikindla vesti müüt

Tehisintellekti turvapiirete põhiprobleem on see, et küberturvalisus on kahesuunaline tee. Seinas oleva augu parandamiseks peab müürsepp esmalt mõistma täpselt, kuidas seda seina on võimalik lõhkuda. Digimaailmas nimetatakse seda ründavaks uurimistööks. Seaduslikud turvaspetsialistid veedavad oma päevi häkkeritena tegutsedes, et leida haavatavusi enne, kui seda teevad tõelised kurjategijad.

Chris Anley, turvakonsultatsioonigigandi NCC Group peateadlane, kasutab selleks lihtsat analoogiat. Vasar on tööriist, mida on vaja maja ehitamiseks, kuid see on ka relv. Ilma selleta ei saa struktuuri ehitada. Kui keelustate vasarad vägivalla ennetamiseks, tagate ühtlasi selle, et ühtegi maja ei ehitata. Kui uurija palub tehisintellektil proovida viga ära kasutada, üritab ta tõestada haavatavuse olemasolu, et tootja saaks selle parandada. Kui tehisintellekt keeldub vastamast, sest palve tundub "pahatahtlik", jääb kaitsja ilma oma kõige tõhusamast tööriistast.

See tekitab paradoksi, kus seesama mehhanism, mis on mõeldud häkkeri takistamiseks, peatab ka kaitsja. Mõlemad rollid kasutavad täpselt samu meetodeid. Piirates juurdepääsu neile võimekustele, muudavad tehisintellekti ettevõtted võrgukaitsjate töö oluliselt raskemaks. Selle tulemusena jäävad tarkvaravead kauemaks avatuks, mis annab tegelikele kurjategijatele rohkem aega nende leidmiseks ja kasutamiseks.

Läbirääkimised väsimatu, kuid kangekaelse praktikandiga

Paljude uurijate jaoks on kaasaegse tehisintellekti mudeli kasutamine nagu töö väsimatu praktikandiga, kes on ühtlasi uskumatult paranoiline. Võite paluda praktikandil analüüsida koodilõiku vigade leidmiseks. Praktikant näeb sõna "eksploiteerimine" või "haavatavus" ja lõpetab kohe töö, pidades teile andmete esitamise asemel loengu eetikast.

RemoteThreati tegevjuht Chris Thompson märgib, et uurijad kulutavad nüüd tohutu osa oma päevast mudeliga läbirääkimistele. Selle asemel, et keskenduda turvaprobleemi tuumale, püüavad nad aru saada, miks mudel andis eile abistava vastuse, kuid keeldub täna rääkimast. Tehisintellekti väljundi selline ülemäärane saneerimine viib ebakindlate tulemusteni.

Mõnel juhul on turvapiirded nii tundlikud, et need käivituvad ainuüksi turvalisusega seotud teemade mainimisel. Üks suure nutitelefonikomponentide tootja heaks töötav uurija teatas, et nende tehisintellekti tööriistad on peaaegu kasutud, kuna piirangud on liiga ranged. Kui mudel haistab mis tahes turvalisusega seotud tegevust, lülitub see lihtsalt välja. See tekitab "produktiivsusmaksu" just neile inimestele, kes peaksid kaitsma ülemaailmset tarneahelat.

Sõelumisprogrammide bürokraatia

Tehisintellekti laborid ei ole selle probleemi suhtes pimedad, kuid nende lahendus on täiendav bürokraatiakiht. Anthropicil on oma "Cyber Verification Program" ja OpenAI pakub programmi "Trusted Access for Cyber". Need on kontrollitud programmid, kus uurijad saavad taotleda eriluba juurdepääsuks vähemate piirangutega mudelitele.

Kuid need programmid on sageli läbipaistmatud ja välistavad. Juurdepääs on tihti piiratud konkreetsete lääne organisatsioonidega või nendega, mis vastavad rangetele korporatiivsetele kriteeriumidele. Isegi kui uurija saab heakskiidu, võivad piirid ette teatamata muutuda. See "väravahoidmine" on eriti ilmne Anthropicu Mythos-mudeli puhul. Ettevõte on turundanud Mythost kui tipptasemel tööriista, mis on nii võimas, et vajab valitsustasandi järelevalvet.

Juunis kehtestas USA valitsus lühiajaliselt ekspordikontrolli Mythosele ja teisele mudelile nimega Fable. See samm järgnes teadetele, et mudelite turvapiiretest saab küberrünnakute läbiviimiseks mööda minna. Kuigi kontrollimeetmeid hiljem leevendati kontrollitud USA organisatsioonide jaoks, rõhutas vahejuhtum kasvavat suundumust käsitleda tehisintellekti kui kontrollitavat relva, mitte kui üldotstarbelist tööriista. Selline piiramine ei peata häkkereid, kes kasutavad oma riistvara, kuid loob tohutu takistuse seaduslikele ettevõtetele, kes püüavad ajaga kaasas käia.

Ränne avatud lähtekoodi ja välismaiste mudelite juurde

Kui USA-s asuvad tehisintellekti ettevõtted blokeerivad seaduslikke uurijaid, ei lõpeta nad lihtsalt tööd. Selle asemel otsivad nad tööriistu, millel pole neid piiravaid filtreid. See tähendab sageli kaugenemist lihvitud pilvemudelitest ja liikumist avatud lähtekoodiga alternatiivide poole, mida saab käitada privaatses riistvaras.

Crowdfense'i tehnoloogiajuht Paolo Stagno selgitab, et tema meeskond väldib tundliku töö puhul pilvepõhiseid mudeleid. Salajase tarkvaravea sisestamine pilvepõhisesse tehisintellekti kätkeb endas riski, et need andmed lekivad või imetakse tulevasse treeningtsüklisse. Privaatsuse säilitamiseks ja korporatiivsete turvapiirete "lapsehoidmise" vältimiseks kasutavad paljud spetsialistid nüüd avatud lähtekoodiga mudeleid, mida nad saavad käitada lokaalselt ilma igasuguse järelevalveta.

Siin peitub strateegiline risk. Kui USA uurijad leiavad, et kodumaised mudelid on kasulikkuse jaoks liiga piiravad, võivad nad pöörduda teistes riikides välja töötatud võimsate avatud lähtekoodiga mudelite poole. Chris Thompson märgib, et uurijaid tõugatakse juba Hiina mudelite, näiteks GLM-i poole. Need mudelid on vabalt allalaaditavad ja neil puuduvad kasutuspiirangud. See nihe viib innovatsiooni keskme USA juhtimise alt eemale keskkondadesse, kus lääne ohutusstandardid üldse ei kehti.

Miks pilvemudelid on turvaekspertidele privaatsusõudus

Privaatsus on kriitilise tähtsusega küsimus kõigile, kes töötavad kõrgete panustega küberturvalisuse valdkonnas. Kui uurija leiab "nullpäeva" haavatavuse (viga, millest tarkvaratootja veel ei tea), on see teave avatud turul väärt miljoneid dollareid. See on ka kriitiline luureandmetest koosnev osa valitsuste jaoks.

Selle teabe saatmine OpenAI-le või Anthropicule kuuluvasse serverisse on tohutu risk. Isegi spetsiaalsete juurdepääsuprogrammide puhul pole garantiid, et andmeid ei kasutata tehisintellekti järgmise versiooni treenimiseks. Mõned uurijad, nagu Giuseppe Cali, kasutavad tehisintellekti ainult töö igavamate osade jaoks, näiteks keerulise koodi tõlkimiseks loetavasse vormingusse. Nad keelduvad seda kasutamast tegelikuks vigade avastamiseks, sest soovivad hoida oma töö privaatsena.

See ettevaatus tähendab, et kõige arenenumaid tehisintellekti mudeleid kasutatakse praegu pigem madalama taseme ülesannete kui kõrgetasemelise analüüsi jaoks, mis võiks tegelikult parandada globaalset turvalisust. Turvapiirded ja nende tööriistade pilvepõhine olemus seavad piiri sellele, kui palju nad saavad tegelikult aidata inimesi, kes kaitsevad meie võrke.

Mida see tähendab teie digitaalse ohutuse jaoks

Tavatarbija jaoks on oluline see, et meie digitaalne kaitse ei pea sammu tehisintellekti abil toetatud rünnakute kiirusega. Kurjategijad ei järgi reegleid ega kasuta kontrollitud programme. Nad kasutavad tsenseerimata avatud lähtekoodiga mudeleid või oma kohandatud tehisintellekti, et automatiseerida sihtmärkide leidmise ja ründamise protsessi.

Samal ajal on "head tüübid" takerdunud lubade taotlemise ja vestlusrobotitega vaidlemise tsüklisse. Praktiliselt tähendab see, et teie telefonis ja sülearvutis olev tarkvara võib sisaldada haavatavusi, mis jäävad kauemaks parandamata. See tähendab ka, et küberturvalisuse hind tõuseb, kuna ettevõtted peavad kulutama rohkem aega manuaalsele tööle, millega tehisintellekt saaks teoreetiliselt hakkama sekunditega.

Digimaailma turvalisuse tagamiseks peavad tehisintellekti laborid loobuma ideest, et nad saavad iga kasutajat "kantseldada". Selle asemel, et ehitada müüre, mis blokeerivad kõik, peavad nad pakkuma vastutustundlikku ja kiiret juurdepääsu inimestele, kes on tegelikult eesliinil. Ilma selle nihketa palume me sisuliselt oma turvauurijatel võita kiire võidusõit ajal, mil me ise seome nende kingapaelu kokku.

Peamised järeldused tavakasutajale

• Tehisintellekt on kahese kasutusega tööriist: Seesama tehisintellekt, mis aitab arstil diagnoosida haigust, võib aidata häkkeril leida vea panga turvasüsteemis.
• Turvapiirded pole täiuslikud: Kuigi need peatavad madalama taseme väärkasutuse, saavad sihikindlad kurjategijad neist privaatset riistvara kasutades kergesti mööda.
• Kaitsjaid aeglustatakse: Inimesed, kes leiavad ja parandavad vigu teie rakendustes, näevad vaeva tehisintellekti kasutamisega, sest ohutusreeglid on liiga laialivalguvad.
• Privaatsus on takistus: Professionaalsed uurijad väldivad sageli kõige populaarsemaid tehisintellekti tööriistu, sest nad ei soovi tundlikke turvaandmeid pilve lekitada.
• Avatud lähtekood on alternatiiv: Tööstus liigub lokaalsete, piiranguteta mudelite poole, et teha tööd ilma korporatiivse sekkumiseta.

Allikad:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers