Kāpēc jūsu dators ir mazāk drošs, jo MI uzņēmumi mēģina to aizsargāt

Sabiedriskā doma uztver MI aizsargmūrus (guardrails) kā digitālu ložu necaurlaidīgu vesti. Loģika ir vienkārša: ja modelis atsakās rakstīt ļaunprātīgu kodu, hakeru arsenālā ir par vienu ieroci mazāk. Taču aiz korporatīvā mārketinga un valdības uzraudzības šie drošības pasākumi pašlaik padara aklus tieši tos cilvēkus, kuri aizsargā mūsu ierīces no reālās pasaules uzbrukumiem. Mēģinot aizslēgt durvis noziedznieku priekšā, MI laboratorijas nejauši izslēdz arī atslēdzniekus.

Tehnologi un drošības pētnieki ceļ trauksmi par tendenci, kurā prioritāte tiek piešķirta ārējam tēlam, nevis faktiskajai drošībai. Kamēr tādi uzņēmumi kā Anthropic un OpenAI reklamē savus modeļus kā jaudīgus inovāciju dzinējus, tie ir arī ietinuši tos ierobežojoša koda slāņos, kas izstrādāti, lai novērstu "ļaunprātīgu izmantošanu". Vidusmēra lietotājam tas nozīmē, ka programmatūru, uz kuru paļaujaties — no bankas lietotnes līdz viedtālruņa operētājsistēmai —, kļūst arvien grūtāk aizsargāt.

Digitālās ložu necaurlaidīgās vestes mīts

MI aizsargmūru fundamentālā problēma ir tā, ka kiberdrošība ir divvirzienu iela. Lai salabotu caurumu sienā, mūrniekam vispirms ir jāsaprot, kā tieši šo sienu var sagraut. Digitālajā pasaulē to sauc par ofensīvo izpēti. Leģitīmi drošības speciālisti pavada savas dienas, rīkojoties kā hakeri, lai atrastu ievainojamības pirms īstajiem noziedzniekiem.

Kriss Enlijs (Chris Anley), drošības konsultāciju giganta NCC Group galvenais zinātnieks, šim nolūkam izmanto vienkāršu analoģiju. Āmurs ir rīks, kas nepieciešams mājas celšanai, bet tas ir arī ierocis. Bez tā nevar uzbūvēt konstrukciju. Ja aizliedzat āmurus, lai novērstu vardarbību, jūs arī nodrošināt to, ka netiek uzcelta neviena māja. Kad pētnieks lūdz MI mēģināt izmantot kļūdu, viņš mēģina pierādīt, ka ievainojamība ir reāla, lai ražotājs to novērstu. Ja MI atsakās atbildēt, jo pieprasījums izskatās "ļaunprātīgs", aizstāvis paliek bez sava visefektīvākā rīka.

Tas rada paradoksu, kur tas pats mehānisms, kas paredzēts hakera kavēšanai, aptur arī aizstāvi. Abas lomas izmanto tieši tās pašas metodes. Ierobežojot piekļuvi šīm iespējām, MI uzņēmumi ievērojami apgrūtina tīkla aizstāvju darbu. Tā rezultātā programmatūras kļūdas paliek atklātas ilgāku laiku, kas sniedz faktiskajiem noziedzniekiem vairāk laika to atrašanai un izmantošanai.

Sarunas ar nenogurdināmu, bet stūrgalvīgu praktikantu

Daudziem pētniekiem mūsdienu MI modeļa izmantošana ir kā darbs ar nenogurdināmu praktikantu, kurš ir arī neticami paranoisks. Jūs varētu lūgt praktikantam analizēt koda fragmentu, lai atrastu kļūdas. Praktikants ierauga vārdu "exploit" vai "vulnerability" un nekavējoties pārtrauc darbu, sniedzot jums lekciju par ētiku pieprasīto datu vietā.

Kriss Tompsons (Chris Thompson), RemoteThreat izpilddirektors, atzīmē, ka pētnieki tagad pavada milzīgu daļu dienas, risinot sarunas ar modeli. Tā vietā, lai koncentrētos uz galveno drošības problēmu, viņi mēģina saprast, kāpēc modelis vakar sniedza noderīgu atbildi, bet šodien atsakās runāt. Šī pārlieku stingrā MI izvades sanitizācija noved pie nekonsekventiem rezultātiem.

Dažos gadījumos aizsargmūri ir tik jutīgi, ka tie nostrādā pat pie mazākā pieminējuma par ar drošību saistītām tēmām. Kāds pētnieks, kurš strādā lielā viedtālruņu komponentu ražotāja uzņēmumā, ziņoja, ka viņu MI rīki ir gandrīz bezjēdzīgi, jo aizsargmūri ir pārāk stingri. Ja modelis sajūt jebkādu ar drošību saistītu darbību, tas vienkārši atslēdzas. Tas rada produktivitātes nodokli tieši tiem cilvēkiem, kuriem būtu jāaizsargā globālā piegādes ķēde.

Pārbaudes programmu birokrātija

MI laboratorijas nav aklas pret šo problēmu, taču to risinājums ir birokrātijas slānis. Anthropic ir sava "Cyber Verification Program", un OpenAI piedāvā "Trusted Access for Cyber". Šīs ir pārbaudītas programmas, kurās pētnieki var pieteikties īpašai piekļuvei modeļiem ar mazākiem ierobežojumiem.

Tomēr šīs programmas bieži vien ir nepārredzamas un izslēdzošas. Piekļuve bieži vien ir ierobežota ar konkrētām Rietumu organizācijām vai tām, kas atbilst stingriem korporatīvajiem kritērijiem. Pat tad, ja pētnieks tiek apstiprināts, robežas var mainīties bez brīdinājuma. Šī piekļuves kontrolēšana ir īpaši pamanāma Anthropic "Mythos" modeļa gadījumā. Uzņēmums ir reklamējis Mythos kā augstākās klases rīku, kas ir tik jaudīgs, ka tam nepieciešama valdības līmeņa uzraudzība.

Jūnijā ASV valdība uz īsu brīdi piemēroja eksporta kontroli Mythos un citam modelim ar nosaukumu Fable. Šis solis sekoja ziņojumiem, ka modeļu aizsargmūrus var apiet, lai veiktu kiberuzbrukumus. Lai gan vēlāk kontrole tika mīkstināta pārbaudītām ASV organizācijām, incidents izgaismoja pieaugošu tendenci uztvert MI kā kontrolētu ieroci, nevis vispārēja lietojuma rīku. Šāds piekļuves kontroles līmenis neaptur hakerus, kuri izmanto savu aparatūru, taču tas rada milzīgu šķērsli leģitīmiem uzņēmumiem, kas mēģina būt soli priekšā.

Pāreja uz atvērto pirmkodu un ārvalstu modeļiem

Kad leģitīmos pētniekus bloķē ASV bāzētie MI uzņēmumi, viņi vienkārši nepārtrauc strādāt. Tā vietā viņi meklē rīkus, kuriem nav šo ierobežojošo filtru. Tas bieži nozīmē atteikšanos no noslīpētiem mākoņmodeļiem par labu atvērtā pirmkoda alternatīvām, kuras var darbināt uz privātas aparatūras.

Paolo Stanjo (Paolo Stagno), Crowdfense tehnoloģiju direktors, skaidro, ka viņa komanda izvairās no mākoņos bāzētiem modeļiem sensitīvam darbam. Ievadot slepenu programmatūras kļūdu mākoņa MI, pastāv risks, ka šie dati noplūdīs vai tiks absorbēti nākotnes apmācības procesā. Lai saglabātu privātumu un izvairītos no korporatīvo aizsargmūru "aukles" lomas, daudzi profesionāļi tagad izmanto atvērtā pirmkoda modeļus, kurus viņi var darbināt lokāli bez jebkādas uzraudzības.

Šeit pastāv stratēģisks risks. Ja ASV pētnieki konstatēs, ka vietējie modeļi ir pārāk ierobežojoši, lai būtu noderīgi, viņi var pievērsties jaudīgiem atvērtā pirmkoda modeļiem, kas izstrādāti citās valstīs. Kriss Tompsons norāda, ka pētnieki jau tiek virzīti uz Ķīnas modeļiem, piemēram, GLM. Šie modeļi ir brīvi lejupielādējami un tiem nav lietošanas ierobežojumu. Šī pāreja pārvieto inovāciju centru prom no ASV pārvaldības uz vidi, kurā Rietumu drošības standarti vispār netiek piemēroti.

Kāpēc mākoņmodeļi ir privātuma murgs drošības speciālistiem

Privātums ir fundamentāls jautājums ikvienam, kurš strādā augsta riska kiberdrošības jomā. Ja pētnieks atrod "nulles dienas" (zero-day) ievainojamību — kļūdu, par kuru programmatūras ražotājs vēl nezina —, šī informācija atvērtajā tirgū ir miljoniem dolāru vērta. Tā ir arī kritiska informācija valdībām.

Sūtīt šo informāciju uz serveri, kas pieder OpenAI vai Anthropic, ir milzīgs risks. Pat ar specializētām piekļuves programmām nav garantijas, ka dati netiks izmantoti nākamās MI versijas apmācībai. Daži pētnieki, piemēram, Džuzepe Kali (Giuseppe Cali), izmanto MI tikai garlaicīgajām darba daļām, piemēram, sarežģīta koda tulkošanai lasāmā formātā. Viņi atsakās to izmantot faktiskajai kļūdu atklāšanai, jo vēlas saglabāt sava darba privātumu.

Šī piesardzība nozīmē, ka vismodernākie MI modeļi pašlaik tiek izmantoti zema līmeņa uzdevumiem, nevis augsta līmeņa spriešanai, kas faktiski varētu uzlabot globālo drošību. Aizsargmūri un šo rīku mākoņos bāzētā daba rada griestus tam, cik lielā mērā tie faktiski var palīdzēt cilvēkiem, kuri aizsargā mūsu tīklus.

Ko tas nozīmē jūsu digitālajai drošībai

Vidusmēra patērētājam galvenais secinājums ir tāds, ka mūsu digitālā aizsardzība netiek līdzi ar MI atbalstīto uzbrukumu ātrumu. Noziedznieki neievēro noteikumus un neizmanto pārbaudītas programmas. Viņi izmanto necenzētus, atvērtā pirmkoda modeļus vai savu pielāgotu MI, lai automatizētu mērķu atrašanas un uzbrukšanas procesu.

Tikmēr "labie puiši" ir iestrēguši atļauju pieprasīšanas un strīdēšanās ciklā ar tērzēšanas robotiem. Praktiski tas nozīmē, ka jūsu tālruņa un klēpjdatora programmatūrā var būt ievainojamības, kas ilgāk paliek neizlabotas. Tas nozīmē arī to, ka pieaug kiberdrošības izmaksas, jo uzņēmumiem ir jātērē vairāk laika manuālam darbam, ko MI teorētiski varētu paveikt sekundēs.

Lai saglabātu digitālo pasauli drošu, MI laboratorijām ir jāatkāpjas no idejas, ka tās var būt par "aukli" katram lietotājam. Tā vietā, lai būvētu sienas, kas bloķē visus, tām ir jānodrošina atbildīga, ātrdarbīga piekļuve cilvēkiem, kuri atrodas pirmajās līnijās. Bez šīm izmaiņām mēs pēc būtības lūdzam saviem drošības pētniekiem uzvarēt ātrumsacīkstēs, kamēr paši sasienam viņu apavu šņores.

Galvenie secinājumi ikdienas lietotājam

• MI ir divējāda lietojuma rīks: Tas pats MI, kas palīdz ārstam diagnosticēt slimību, var palīdzēt hakerim atrast kļūdu bankas drošības sistēmā.
• Aizsargmūri nav perfekti: Lai gan tie aptur dažus zema līmeņa pārkāpumus, mērķtiecīgi noziedznieki, izmantojot privātu aparatūru, tos viegli apiet.
• Aizstāvji tiek palēnināti: Cilvēkiem, kuri atrod un labo kļūdas jūsu lietotnēs, ir grūti izmantot MI, jo drošības noteikumi ir pārāk plaši.
• Privātums ir šķērslis: Profesionāli pētnieki bieži izvairās no populārākajiem MI rīkiem, jo nevēlas nopludināt sensitīvus drošības datus mākonī.
• Atvērtais pirmkods ir alternatīva: Nozare virzās uz lokāliem, neierobežotiem modeļiem, lai paveiktu darbu bez korporatīvās iejaukšanās.

Avoti:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers