Kodėl jūsų kompiuteris yra mažiau saugus dėl to, kad DI įmonės bando jį apsaugoti

Viešoji nuomonė DI apsauginius barjerus vertina kaip skaitmeninę neperšaunamą liemenę. Logika paprasta: jei modelis atsisako rašyti kenkėjišką kodą, hakeriai savo arsenale turi viena priemone mažiau. Už korporatyvinės rinkodaros ir vyriausybinės priežiūros slepiasi faktas, kad šios saugumo priemonės šiuo metu akina būtent tuos žmones, kurie saugo mūsų įrenginius nuo realių atakų. Bandydamos užrakinti duris nuo nusikaltėlių, DI laboratorijos netyčia užrakina ir šaltkalvius.

Technologai ir saugumo tyrėjai skambina pavojaus varpais dėl tendencijos, kurioje įvaizdis vertinamas labiau nei tikrasis saugumas. Nors tokios įmonės kaip „Anthropic“ ir „OpenAI“ reklamuoja savo modelius kaip galingus inovacijų variklius, jos taip pat apgaubė juos ribojančio kodo sluoksniais, skirtais užkirsti kelią „piktnaudžiavimui“. Vidutiniam vartotojui tai reiškia, kad programinę įrangą, kuria pasikliaujate – nuo bankininkystės programėlės iki išmaniojo telefono operacinės sistemos – tampa vis sunkiau apginti.

Skaitmeninės neperšaunamos liemenės mitas

Pagrindinė DI apsauginių barjerų problema yra ta, kad kibernetinis saugumas yra dvipusis procesas. Norėdamas užtaisyti skylę sienoje, mūrininkas pirmiausia turi suprasti, kaip tiksliai tą sieną galima sugriauti. Skaitmeniniame pasaulyje tai vadinama puolamuoju tyrimu. Teisėti saugumo profesionalai leidžia dienas elgdamiesi kaip hakeriai, kad surastų pažeidžiamumus anksčiau nei tai padarys tikri nusikaltėliai.

Chrisas Anley, saugumo konsultacijų milžinės „NCC Group“ vyriausiasis mokslininkas, tam naudoja paprastą analogiją. Plaktukas yra įrankis, kurio reikia namui pastatyti, tačiau jis taip pat yra ir ginklas. Negalite pastatyti konstrukcijos be jo. Jei uždrausite plaktukus, kad išvengtumėte smurto, taip pat užtikrinsite, kad jokie namai nebus pastatyti. Kai tyrėjas prašo DI pabandyti pasinaudoti klaida, jis bando įrodyti, kad pažeidžiamumas yra tikras, kad gamintojas galėtų jį ištaisyti. Jei DI atsisako atsakyti, nes užklausa atrodo „kenkėjiška“, gynėjas lieka be savo efektyviausio įrankio.

Tai sukuria paradoksą, kai tas pats mechanizmas, skirtas sutrukdyti hakeriui, taip pat sustabdo ir gynėją. Abu vaidmenys naudoja tas pačias technikas. Ribodamos prieigą prie šių galimybių, DI įmonės gerokai apsunkina tinklo gynėjų darbą. Dėl to programinės įrangos spragos lieka atviros ilgesnį laiką, o tai suteikia tikriems nusikaltėliams daugiau laiko jas surasti ir jomis pasinaudoti.

Derybos su nepailstančiu, bet užsispyrusiu praktikantu

Daugeliui tyrėjų naudojimasis šiuolaikiniu DI modeliu primena darbą su nepailstančiu praktikantu, kuris kartu yra ir neįtikėtinai paranojiškas. Galite paprašyti praktikanto išanalizuoti kodo fragmentą ir rasti klaidų. Praktikantas pamato žodį „išnaudoti“ arba „pažeidžiamumas“ ir iškart nustoja dirbti, vietoj prašomų duomenų skaitydamas jums paskaitą apie etiką.

Chrisas Thompsonas, „RemoteThreat“ vadovas, pastebi, kad tyrėjai dabar didžiulę dienos dalį praleidžia derėdamiesi su modeliu. Užuot susikoncentravę į pagrindinę saugumo problemą, jie bando suprasti, kodėl modelis vakar pateikė naudingą atsakymą, o šiandien atsisako kalbėti. Toks perteklinis DI rezultatų „valymas“ lemia nenuoseklius rezultatus.

Kai kuriais atvejais apsauginiai barjerai yra tokie jautrūs, kad jie suveikia vos paminėjus su saugumu susijusias temas. Vienas tyrėjas, dirbantis dideliam išmaniųjų telefonų komponentų gamintojui, pranešė, kad jų DI įrankiai yra beveik nenaudingi, nes barjerai yra per griežti. Jei modelis pajunta bet kokią su saugumu susijusią veiklą, jis tiesiog išsijungia. Tai sukuria produktyvumo mokestį būtent tiems žmonėms, kurie turėtų saugoti pasaulinę tiekimo grandinę.

Patikros programų biurokratija

DI laboratorijos mato šią problemą, tačiau jų sprendimas yra biurokratijos sluoksnis. „Anthropic“ turi savo „Cyber Verification Program“, o „OpenAI“ siūlo „Trusted Access for Cyber“. Tai yra patikros programos, kuriose tyrėjai gali kreiptis dėl specialios prieigos prie modelių su mažiau apribojimų.

Tačiau šios programos dažnai yra neskaidrios ir atskiriančios. Prieiga dažnai ribojama konkrečiomis Vakarų organizacijomis arba tomis, kurios atitinka griežtus korporatyvinius kriterijus. Net kai tyrėjas patvirtinamas, ribos gali pasikeisti be įspėjimo. Ši kontrolė ypač akivaizdi „Anthropic“ „Mythos“ modelio atveju. Įmonė reklamavo „Mythos“ kaip aukščiausios klasės įrankį, tokį galingą, kad jam reikalinga valstybinio lygio priežiūra.

Birželio mėnesį JAV vyriausybė trumpam pritaikė eksporto kontrolę „Mythos“ ir kitam modeliui, pavadinimu „Fable“. Šis žingsnis buvo žengtas po pranešimų, kad modelių apsauginius barjerus galima apeiti vykdant kibernetines atakas. Nors vėliau kontrolė buvo sušvelninta patikrintoms JAV organizacijoms, šis incidentas išryškino augančią tendenciją DI vertinti kaip kontroliuojamą ginklą, o ne kaip bendrosios paskirties įrankį. Toks kontrolės lygis nesustabdo hakerių, kurie naudoja savo aparatinę įrangą, tačiau sukuria didžiulę kliūtį teisėtoms įmonėms, bandančioms neatsilikti nuo naujovių.

Migracija prie atvirojo kodo ir užsienio modelių

Kai teisėtus tyrėjus blokuoja JAV įsikūrusios DI įmonės, jie tiesiog nenustoja dirbti. Vietoj to jie ieško įrankių, kurie neturi šių ribojančių filtrų. Tai dažnai reiškia perėjimą nuo nušlifuotų debesijos modelių prie atvirojo kodo alternatyvų, kurios gali veikti privačioje aparatinėje įrangoje.

Paolo Stagno, „Crowdfense“ technologijų vadovas, aiškina, kad jo komanda vengia debesijos modelių jautriam darbui. Įkėlus slaptą programinės įrangos klaidą į debesijos DI, kyla rizika, kad tie duomenys nutekės arba bus įtraukti į būsimus mokymus. Norėdami išlaikyti privatumą ir išvengti korporatyvinių barjerų „auklėjimo“, daugelis profesionalų dabar naudoja atvirojo kodo modelius, kuriuos gali paleisti lokaliai be jokios priežiūros.

Čia kyla strateginė rizika. Jei JAV tyrėjai pastebės, kad vietiniai modeliai yra per daug ribojantys, kad būtų naudingi, jie gali kreiptis į galingus atvirojo kodo modelius, sukurtus kitose šalyse. Chrisas Thompsonas pažymi, kad tyrėjai jau dabar yra stumiami link kiniškų modelių, tokių kaip GLM. Šie modeliai yra laisvai atsisiunčiami ir neturi jokių naudojimo apribojimų. Šis poslinkis perkelia inovacijų centrą toliau nuo JAV valdymo į aplinkas, kuriose Vakarų saugumo standartai visiškai netaikomi.

Kodėl debesijos modeliai yra privatumo košmaras saugumo profesionalams

Privatumas yra esminis rūpestis visiems, dirbantiems aukšto lygio kibernetinio saugumo srityje. Jei tyrėjas randa „nulinės dienos“ klaidą – spragą, apie kurią programinės įrangos gamintojas dar nežino – ši informacija atviroje rinkoje verta milijonų dolerių. Tai taip pat yra kritinė žvalgybos informacija vyriausybėms.

Siųsti tokią informaciją į serverį, priklausantį „OpenAI“ ar „Anthropic“, yra didžiulė rizika. Net ir turint specializuotas prieigos programas, nėra garantijos, kad duomenys nebus panaudoti mokant kitą DI versiją. Kai kurie tyrėjai, pavyzdžiui, Giuseppe Cali, DI naudoja tik nuobodžioms darbo dalims, pavyzdžiui, sudėtingo kodo vertimui į skaitomą formatą. Jie atsisako jį naudoti pačiam klaidų aptikimui, nes nori išlaikyti savo darbą privatų.

Šis atsargumas reiškia, kad pažangiausi DI modeliai šiuo metu naudojami žemo lygio užduotims, o ne aukšto lygio mąstymui, kuris iš tikrųjų galėtų pagerinti pasaulinį saugumą. Apsauginiai barjerai ir šių įrankių debesijos pobūdis sukuria lubas tam, kiek jie gali padėti žmonėms, saugantiems mūsų tinklus.

Ką tai reiškia jūsų skaitmeniniam saugumui

Esmė vidutiniam vartotojui yra ta, kad mūsų skaitmeninė gynyba nespėja su DI padedamų atakų greičiu. Nusikaltėliai nesilaiko taisyklių ir nenaudoja patikros programų. Jie naudoja necenzūruotus, atvirojo kodo modelius arba savo pačių sukurtą DI, kad automatizuotų taikinių paieškos ir puolimo procesą.

Tuo tarpu „gerieji vyrukai“ yra įstrigę leidimų prašymo ir ginčų su pokalbių robotais cikle. Praktiškai tai reiškia, kad jūsų telefone ir nešiojamajame kompiuteryje esanti programinė įranga gali turėti pažeidžiamumų, kurie ilgiau lieka neištaisyti. Tai taip pat reiškia, kad kibernetinio saugumo kaina kyla, nes įmonės turi skirti daugiau laiko rankiniam darbui, kurį DI teoriškai galėtų atlikti per kelias sekundes.

Norėdamos išlaikyti skaitmeninį pasaulį saugų, DI laboratorijos turi atsisakyti idėjos, kad jos gali „auklėti“ kiekvieną vartotoją. Užuot statę sienas, kurios blokuoja visus, jos turi suteikti atsakingą, greitą prieigą žmonėms, kurie iš tikrųjų yra priešakinėse linijose. Be šio pokyčio mes iš esmės prašome savo saugumo tyrėjų laimėti greitąsias lenktynes, patys rišdami jų batų raištelius.

Pagrindinės įžvalgos kasdieniam vartotojui

• DI yra dvigubos paskirties įrankis: tas pats DI, kuris padeda gydytojui diagnozuoti ligą, gali padėti hakeriui rasti spragą banko saugumo sistemoje.
• Apsauginiai barjerai nėra tobuli: nors jie sustabdo kai kurį žemo lygio piktnaudžiavimą, juos lengvai apeina ryžtingi nusikaltėliai, naudojantys privačią aparatinę įrangą.
• Gynėjai yra stabdomi: žmonės, kurie randa ir taiso klaidas jūsų programėlėse, sunkiai sekasi naudoti DI, nes saugumo taisyklės yra per plačios.
• Privatumas yra kliūtis: profesionalūs tyrėjai dažnai vengia populiariausių DI įrankių, nes nenori nutekinti jautrių saugumo duomenų į debesiją.
• Atvirasis kodas yra alternatyva: pramonė juda link vietinių, neapribotų modelių, kad galėtų atlikti darbą be korporatyvinio įsikišimo.

Šaltiniai:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers