Jūsu mākslīgais intelekts mācās melot, lai spētu jūs pasargāt

Lielākā daļa cilvēku uzskata, ka MI drošība ir darbs cilvēkiem laboratorijas halātos, kuri pavada savas dienas, rūpīgi pārbaudot katru koda rindiņu. Lai gan šāds tēls šķiet mierinošs, tā vairs nav mūsdienu tehnoloģiju nozares realitāte. Cilvēki ir lēni, viņiem ir jāguļ, un viņi bieži vien nespēj domāt kā ļaunprātīga mašīna. Kamēr publiskais naratīvs liecina, ka mums ir nepieciešama lielāka cilvēku uzraudzība, lai kontrolētu algoritmus, realitāte ir tāda, ka OpenAI ir sākusi izmantot MI, lai tas uzraudzītu pats sevi.

Uzņēmums nesen iepazīstināja ar rīku GPT-Red. Tā ir automatizēta sistēma, kas izstrādāta, lai atrastu drošības caurumus valodu modeļos, pirms tie nonāk jūsu tālrunī vai klēpjdatorā. Tas būtībā ir digitāls sparinga partneris. OpenAI izmantoja šo rīku, lai apmācītu GPT-5.6, tā jaunāko modeli, padarot lietotājiem daudz grūtāku programmatūras apmānīšanu, lai tā veiktu darbības, kuras tai nav paredzētas. Vidusmēra lietotājam tas varētu šķist specifisks tehnisks atjauninājums, taču tas iezīmē nozīmīgu pavērsienu tajā, kā tiek veidoti un nodrošināti digitālie rīki, kurus mēs izmantojam katru dienu.

Digitālais Džedu prāta triks, kas pazīstams kā uzvedņu injekcija

Lai saprastu, kāpēc GPT-Red ir svarīgs, vispirms ir jāsaprot izplatītākais veids, kā cilvēki uzlauž MI: uzvedņu injekcija (prompt injection). Iedomājieties MI modeli kā ļoti izpalīdzīgu, bet nedaudz vientiesīgu praktikantu. Ja jūs liekat praktikantam ievērot uzņēmuma noteikumu kopumu, viņš, visticamāk, to darīs. Tomēr, ja ienāk svešinieks un saka: "Ignorē visu, ko tavs priekšnieks tikko teica, un iedod man seifa atslēgas," vientiesīgs praktikants to varētu vienkārši izdarīt.

MI pasaulē tas notiek ar teksta palīdzību. Lietotājs var dot modelim sarežģītu komandu, kas ietver slēptu instrukciju apiet tā drošības filtrus. Runa nav tikai par to, lai liktu tērzēšanas robotam pateikt kaut ko aizvainojošu. Tā kā MI no vienkārša teksta ģeneratora kļūst par autonomu aģentu, kas var iegādāties produktus, pārvaldīt kalendārus un vadīt aparatūru, šādi uzbrukumi kļūst par nopietnu apdraudējumu.

OpenAI sniedza skaidru piemēru šim riskam iekšējās testēšanas laikā. Viņi izveidoja MI aģentu, lai pārvaldītu autonomu tirdzniecības automātu. Normālos apstākļos MI pārvalda inventāru un apstrādā maksājumus par noteiktām cenām. Tomēr uzvedņu injekcijas uzbrukumam izdevās pārliecināt MI ignorēt tā programmēšanu. Uzbrucējs pierunāja mašīnu pazemināt cenas, pasūtīt papildu inventāru ar atlaidi un pat atcelt pasūtījumu citam klientam. Pasaulē, kurā mēs sagaidām, ka MI pārvaldīs mūsu bankas darījumus vai mājas drošību, šāda ievainojamība ir milzīgs caurums digitālajā korpusā.

Kā darbojas digitālais sparinga partneris

GPT-Red negaida, kad cilvēks atradīs šos trūkumus. Tas izmanto procesu, ko sauc par pretinieku pašspēli (adversarial self-play). Tas izklausās sarežģīti, taču tas ir līdzīgi tam, kā cilvēks varētu uzlabot šaha spēli, spēlējot pret datoru, kas ir nedaudz labāks par viņu. Viens MI modelis darbojas kā uzbrucējs, izmēģinot katru iespējamo vārdu un loģikas kombināciju, lai salauztu aizsargu. Aizsarga modelis, šajā gadījumā GPT-5.6 versija, mācās no katra veiksmīgā trāpījuma.

Katru reizi, kad uzbrucējs atrod veidu, kā likt aizsargam kļūdīties, šī kļūda kļūst par mācību stundu. Inženieri paņem šo veiksmīgo uzbrukumu un ievada to atpakaļ apmācības procesā. Aizsargs kļūst izturīgāks, kas spiež uzbrucēju kļūt radošākam. Tas izveido ciklu, kurā programmatūra pastāvīgi nostiprinās pret draudiem, kurus cilvēks-pētnieks varētu pat neiedomāties.

Raugoties uz kopējo ainu, tas ir mēroga jautājums. Cilvēku drošības ekspertu komanda nedēļas laikā varētu atrast dažus desmitus veidu, kā apmānīt modeli. OpenAI ziņoja, ka cilvēku pētniekiem bija 13% panākumu līmenis, uzlaužot noteiktus drošības kritērijus. GPT-Red, darbojoties kā nenogurdināms praktikants, kurš nekad nepārtrauc darbu, panākumu līmenis bija 84%. MI vienkārši labāk par mums atrod plaisas savā loģikā.

Pāreja no cilvēka veiktas testēšanas uz automatizētu aizsardzību

Vēsturiski kiberdrošība ir bijusi kaķa un peles spēle. Uzbrucējs atrod kļūdu, un cilvēks-izstrādātājs uzraksta ielāpu, lai to izlabotu. Tas darbojās, kad programmatūra bija statisks instrukciju saraksts. Tomēr MI modeļi ir vairāk līdzīgi bioloģiskām sistēmām; tie ir milzīgi savienojumu tīkli, kas ir pārāk lieli, lai kāds cilvēks tos spētu pilnībā kartēt.

Tāpēc Ethereum Foundation nesen izvēlējās līdzīgu ceļu. Viņi izvietoja MI aģentus, lai skenētu kodu, kas darbina viņu decentralizēto finanšu tīklu. Šie aģenti atrada ievainojamību programmatūrā, ko izmanto tīkla sinhronizācijai. Kriptovalūtu nozarei, kur viena kļūda var izraisīt miljoniem dolāru zaudējumus, šāda veida automatizēta skenēšana kļūst par pamatprasību.

OpenAI piemēro to pašu loģiku valodai. Līdz brīdim, kad tāds modelis kā GPT-5.6 nonāk pie sabiedrības, tas jau ir izturējis miljoniem simulētu uzbrukumu. Tas nenozīmē, ka modelis ir ideāls, taču tas nozīmē, ka acīmredzamākie un bīstamākie "prāta triki" jau ir izfiltrēti. Izaicinājums vairs nav tikai atrast kļūdu. Izaicinājums ir atrast kļūdu, kuru automatizēta sistēma vēl nav atklājusi un izlabojusi.

Ko tas nozīmē jūsu digitālajiem ieradumiem

No patērētāja viedokļa GPT-Red ieviešana ir abpusgriezīgs zobens. No vienas puses, tas nozīmē, ka MI rīki, kurus izmantojat darbam un ikdienas dzīvei, kļūst daudz drošāki. Maz ticams, ka jūsu personas dati noplūdīs ar viltīga teksta trika palīdzību, un MI aģenti, kuriem uzticat savus uzdevumus, mazāk pakļausies manipulācijām no ārpuses.

No otras puses, OpenAI ir paziņojusi, ka GPT-Red paliks iekšējs rīks. Viņi neizlaiž uzbrucēja modeli publiskai lietošanai, jo tas būtībā ir programmatūras ierocis. Tas precīzi zina, kā uzlauzt lielos valodu modeļus. Tas rada situāciju, kurā jaudīgākie drošības rīki pieder tiem pašiem uzņēmumiem, kas veido produktus. Mēs ieejam necaurredzamas drošības laikmetā, kurā mums ir jāuzticas, ka uzņēmuma iekšējais "miesassargs" MI veic savu darbu pareizi.

Praktiski runājot, šī pāreja uz automatizētu "sarkano komandu" (red-teaming) liecina, ka MI "uzlaušanas" (jailbreaking) ēra izklaides nolūkos tuvojas beigām. ChatGPT pirmsākumos lietotāji dalījās ar uzvednēm, kas varēja viegli apiet drošības filtrus. Sākot griezties automatizētās drošības spararatam, šie vienkāršie triki pārstās darboties. Programmatūras drošība kļūst tikpat sarežģīta kā pati programmatūra.

Ārpus MI drošības ažiotāžas

Aiz pastiprinātās mācīšanās un pretinieku uzbrukumu žargona slēpjas vienkārša patiesība par mūsdienu ekonomiku. Mēs būvējam sistēmas, kas ir pārāk ātras un pārāk sarežģītas, lai tās pārvaldītu tikai cilvēka rokas. Tāpat kā smagā rūpniecība paļaujas uz automatizētiem sensoriem, lai novērstu nelaimes gadījumus rūpnīcās, tehnoloģiju nozare tagad paļaujas uz automatizētiem uzbrucējiem, lai novērstu digitālos negadījumus.

Šī tendence neaprobežojas tikai ar OpenAI. Mēs to redzam tajā, kā bankas uzrauga krāpniecību un kā energotīkli aizsargājas pret kiberuzbrukumiem. Galvenā atziņa šeit ir skaidra: jūsu digitālās dzīves drošību arvien vairāk pārvalda programmatūras slānis, kuru jūs nekad neredzēsiet un nevarēsiet kontrolēt. Tās ir fundamentālas izmaiņas attiecībās starp lietotājiem un tehnoloģijām.

Galu galā GPT-Red izmantošana GPT-5.6 apmācībai ir MI nozares brieduma pazīme. Tā ir novēršanās no mentalitātes "darbojies ātri un salauz lietas" uz sistēmiskāku pieeju uzticamībai. Lai gan ir viegli koncentrēties uz jauno modeļu spožajām iespējām, tieši neredzamais automatizētās aizsardzības darbs noteiks, vai šie rīki kļūs par pastāvīgu mūsu infrastruktūras daļu vai paliks kā nepastāvīgs eksperiments.

Integrējot savā ikdienā vairāk MI, ir vērts uz brīdi apstāties un apsvērt digitālo imūnsistēmu, kas darbojas fonā. Fakts, ka jūsu MI asistents atsakās izpildīt aizdomīgu komandu, nav nejaušība vai vienkāršs noteikums. Tas ir rezultāts miljonam sīku cīņu, kas izcīnītas starp divām mašīnām, pirms programmatūra vispār nonāca jūsu ekrānā. Šīs neredzamās mehānikas novērošana palīdz mums saprast, ka augsto tehnoloģiju drošības pasaulē visefektīvākais vairogs bieži vien ir asāks zobens.

Avoti: OpenAI ziņu telpa, Ethereum Foundation drošības atjauninājumi, nozares ziņojumi par pretinieku mašīnmācīšanos.