Uzņēmuma aizsardzība pret mākslīgā intelekta ģenerētām ekspluatācijas ķēdēm

Vai jūsu incidentu reaģēšanas plānā ir paredzēts pretinieks, kurš ģenerē desmit unikālas ekspluatācijas ķēdes tajā laikā, kas jūsu drošības operāciju centram nepieciešams viena brīdinājuma šķirošanai? Šis vairs nav hipotētisks scenārijs sarkanajām komandām (red teams) vai valsts atbalstītiem dalībniekiem. GPT-5.6-Cyber izlaišana iezīmē atkāpšanos no piesardzīgā, vispārīgā mākslīgā intelekta ēras. Noņemot digitālos inhibitorus, kas iepriekš neļāva lielajiem valodas modeļiem palīdzēt ļaunprātīgās darbībās, OpenAI ir nodrošinājis ātrdarbīgu dzinēju ievainojamību pētniecībai.

Es pavadīju rītu, pārskatot šī jaunā modeļa tehniskās specifikācijas šifrētā Signal sarakstē ar kontaktu pētniecības grupā. Filozofijas maiņa ir krasa. Gadiem ilgi mēs paļāvāmies uz progresīvāko modeļu drošības barjerām, lai novērstu augstākā līmeņa ekspluatācijas izstrādes demokratizāciju. Ja lietotājs lūdza modelim uzrakstīt kaudzes pārpildes (heap overflow) ekspluatācijas kodu, sistēma atteicās. Autorizētiem lietotājiem šis drošības tīkls ir pazudis, un sekas plašākai draudu ainavai ir sistēmiskas.

Atteikumu ēras beigas

OpenAI tagad piedāvā GPT-5.6-Cyber kā specializētu rīku ievainojamību pētniecībai, ielaušanās testēšanai un incidentu reaģēšanai. Tas ir GPT-5.6 Sol arhitektūras atvasinājums, taču apmācība ir vērsta uz uzbrukuma drošības uzdevumiem. Būtiskākās izmaiņas ir atteikumu skaita samazināšana augsta riska, divējāda lietojuma kiberuzdevumiem. Agrāk aizsardzības pētnieki bieži cīnījās ar modeļiem, kas leģitīmu drošības testēšanu kļūdaini interpretēja kā ļaunprātīgu nodomu. Šis modelis šos šķēršļus novērš.

Modelis ir pieejams, izmantojot Daybreak Red — jaunu piekļuves līmeni pārbaudītiem uzņēmumiem. Šis līmenis ir atbilde realitātei, kurā uzbrucēji jau izmanto mazāk ierobežotus, atvērtā pirmkoda modeļus, lai automatizētu savas darba plūsmas. Nodrošinot sankcionētu vidi ekspluatācijas validācijai un drošības testēšanai, mērķis ir palīdzēt aizstāvjiem atrast trūkumus, pirms tie tiek izmantoti reālos uzbrukumos. No riska perspektīvas šī ir aprēķināta azartspēle, ka caurskatāmība aizstāvjiem atsvērs modeļa ļaunprātīgas izmantošanas risku.

Atļaujošo izmaiņu kvantitatīvais novērtējums

Lai saprastu šo izmaiņu mērogu, mums jāaplūko Uzlabotais kiberdrošības izpildes rādītājs (Advanced Cybersecurity Completion Rate). Tas ir iekšējs OpenAI rādītājs, ko izmanto, lai izsekotu, cik bieži modelis veiksmīgi atbild uz uzvednēm, kas saistītas ar autentifikācijas apiešanu, privilēģiju eskalāciju un ekspluatācijas ķēžu izstrādi. Rezultāti ir modinātāja zvans ikvienam, kurš joprojām uzskata MI par nekaitīgu tērzēšanas robotu.

GPT-5.6-Cyber izpildīja 95,0% no šiem uzlabotajiem pieprasījumiem. Salīdzinājumam, vispārējas nozīmes GPT-5.6 Sol modelis izpildīja tikai 1,5%. Pat iepriekšējais specializētais modelis, GPT-5.5-Cyber, spēja sasniegt tikai 57,3% izpildes rādītāju. Tas nav nebūtisks uzlabojums. Tā ir pilnīga modeļa lietderības transformācija ekspluatācijas izstrādei. Modelis ir digitāls Trojas zirgs tradicionālajam drošības perimetram, jo tas ļauj strauji ģenerēt kodu, kas iepriekš bija specializētu cilvēku-pētnieku sfēra.

Aizkulisēs modelis izmanto arī jaunu etalonuzdevumu, ko sauc par ExploitGym. Šis novērtējums rāda, ka modelis ir ātrāks un precīzāks nulles dienas ievainojamību atrašanā nekā tā priekšgājēji. Tomēr pastāv kompromiss. Lai gan tas lieliski identificē konkrētus trūkumus, pašlaik tas ir mazāk efektīvs atvērtos uzdevumos, piemēram, apjomīgu repozitoriju auditēšanā vai augstas kvalitātes, formatētu ievainojamību ziņojumu rakstīšanā. Modelis mēdz būt lakonisks. Tas prioritizē funkcionālu ekspluatāciju, nevis administratīvo dokumentāciju.

Izlaušanās no smilškastes V8 dzinējā

Konkrētākais modeļa jaudas piemērs ir CVE-2026-15903. Tā ir augstas prioritātes ievainojamība V8 JavaScript dzinējā ar CVSS rādītāju 8,8. Modelis identificēja ārpus robežām lasīšanas un rakstīšanas kļūdu, kas ļāva izpildīt patvaļīgu kodu smilškastē. Vēl iespaidīgāk ir tas, ka modelis pēc tam atrada otru, iepriekš nezināmu ievainojamību, ko sasaistīt ar pirmo. Šī ķēde ļāva pilnībā izkļūt no V8 kaudzes (heap) smilškastes.

Google izlaboja šo kļūdu 2026. gada jūlija vidū, taču šeit svarīgs ir atklāšanas process. Modelis atrada šīs problēmas, pateicoties specializētai apmācībai. Tas nevis vienkārši uzminēja, bet loģiski izsprieda dzinēja atmiņas pārvaldības loģiku. Modelis ir arī atzīmējis vairāk nekā 400 ievainojamības populārā operētājsistēmas kodolā, kas varētu izraisīt privilēģiju eskalāciju. Tipiskā uzņēmumā šie 400 trūkumi ir 400 potenciāli ieejas punkti, kurus slēpts uzbrucējs varētu izmantot, lai pārvietotos laterāli caur tīklu.

Cīņa par salauztā labošanu

Šīs tehnoloģijas pamatā ir bīstams paradokss. Kamēr MI kļūst par meistaru trūkumu atrašanā un izmantošanā, tas joprojām ir iesācējs to labošanā. Dati no 1Password atklāj satraucošu plaisu modeļa aizsardzības spējās. Viņu testos LLM ģenerētie labojumi pilnībā novērsa ievainojamību, nemainot lietojumprogrammas darbību, tikai 26,0% gadījumu. Vairāk nekā 53% gadījumu MI ģenerētais labojums vai nu nespēja novērst kļūdu, vai arī ieviesa jaunu ievainojamību.

Tā ir kritiska kļūme mūsu sistēmu integritātei. Ja mēs automatizējam trūkumu atklāšanu, bet paļaujamies uz kļūdainiem automatizētiem labojumiem, mēs radām trauslāku programmatūras ekosistēmu. Labošana ir kā caurumu aizbāšana kuģa korpusā. Ja aizbāznis ir nepareiza izmēra, kuģis tik un tā nogrimst. Izstrādātājiem ir jāpaliek galīgajai autoritātei attiecībā uz koda izmaiņām. Mēs vēl nevaram uzticēties MI aģentam, lai tas pārrakstītu kritiski svarīgu loģiku bez detalizētas cilvēka uzraudzības. Risks ieviest jaunu, slēptu aizmugures ieeju (backdoor) labošanas cikla laikā ir pārāk augsts.

Automatizētā draudu ainavas pārvaldība

No galalietotāja perspektīvas drauds ir uzbrukuma dzīves cikla ātrums. MI ir saīsinājis ceļu no ievainojamības atklāšanas līdz funkcionālas ekspluatācijas izvietošanai. Uzbrucējus vairs neierobežo viņu pašu kodēšanas ātrums. Viņi izmanto šos modeļus, lai uzticētu kampaņu plānošanas un izpildes melno darbu ārpakalpojumam. Tā rezultātā uzbrukumi ir ātrāki un sasniedz plašāku upuru loku.

Mēs novērojam pāreju, kurā nulles uzticēšanās (zero trust) vairs nav greznība. Tā ir vienīgā dzīvotspējīgā arhitektūra. Izturieties pret savu iekšējo tīklu kā pret VIP klubu ar apsargu pie katrām durvīm. Nekad neuzticieties savienojumam tikai tāpēc, ka tas ir cēlies no iekšējās IP adreses. MI aģenti var atdarināt leģitīmus satiksmes modeļus un automatizēt nepareizu konfigurāciju atklāšanu. Ja jūsu drošība balstās uz jūsu iekšējo pakalpojumu nezināmību (obscurity), jūs jau esat apdraudēti.

Proaktīva uzbrukuma virsmas nodrošināšana

Lai aizsargātos pret šo jauno automatizēto draudu klasi, organizācijām ir jāiet tālāk par reaktīvo skenēšanu. Elastīgai aizsardzībai ir nepieciešams proaktīvs visu trešo pušu atkarību un iekšējo kodu bāzu audits. Fakts, ka GPT-5.6-Cyber var atrast 400 kodola ievainojamības, vajadzētu motivēt ikvienu IT vadītāju par prioritāti izvirzīt savu ievainojamību pārvaldības programmu.

Sāciet ar savas ārējās uzbrukuma virsmas novērtēšanu. Daudziem uzņēmumiem ir "ēnu IT" (shadow IT), kas darbojas kā viņu tīkla tumšā matērija — neredzama IT nodaļai, bet redzama MI vadītam skenerim. Izmantojiet šos pašus modeļus, izmantojot autorizētus līmeņus, piemēram, Daybreak Blue, lai auditētu savu aizsardzību. Mērķis ir samazināt aizsardzības plaisu, izmantojot to pašu intelektu, ko izmanto uzbrucēji. Tomēr nepieņemiet, ka tīra skenēšana šodien nozīmē drošību rīt. Modeļi pastāvīgi apgūst jaunus veidus, kā apiet esošās kontroles.

Praktiski ieteikumi drošības vadītājiem

1. Auditējiet trešo pušu MI integrācijas. Pārliecinieties, ka jūsu izstrādātāji nejauši neievada patentētu kodu publiskos modeļos, kurus varētu izmantot, lai apmācītu nākotnes uz ekspluatāciju vērstas versijas.
2. Stipriniet labojumu ieviešanas regularitāti. Tā kā MI ir paātrinājis ekspluatācijas izstrādes ciklu, logs labojumu piemērošanai ir sarucis. Tiecieties uz automatizētu izvietošanu nekritiskās sistēmās un paātrinātu testēšanu kritiski svarīgajās sistēmās.
3. Ieviesiet detalizētas identitātes kontroles. Ja MI aģents atrod veidu, kā eskalēt privilēģijas, jūsu pēdējā aizsardzības līnija ir MFA un stingras pakalpojumu kontu atļaujas.
4. Veiciet programmatūras piegādes ķēdes riska novērtējumu. Izmantojiet rīkus, kas meklē konkrētus atmiņas drošības problēmu veidus, kuru identificēšanai GPT-5.6-Cyber ir apmācīts.
5. Pārskatiet savu incidentu reaģēšanas plānu, iekļaujot MI vadītus draudus. Jūsu komandai jābūt gatavai pretiniekam, kurš dažu minūšu laikā var pārslēgties starp dažādām ekspluatācijas ķēdēm.

Piekļuves demokratizācija šiem progresīvajiem modeļiem ir nepieciešams solis drošības kopienai. Mēs nevaram cīnīties pret automatizētu ugunsgrēku ar manuālu spaiņu brigādi. Lai gan ļaunprātīgas izmantošanas riski ir reāli, izmaksas, atstājot šos rīkus tikai ļaundaru rokās, ir daudz lielākas. Tagad galvenā uzmanība jāpievērš automatizētās sanācijas precizitātes uzlabošanai, lai mēs varētu labot tikpat ātri, cik spējam salauzt.

Avoti:

• NIST Cybersecurity Framework 2.0
• MITRE ATT&CK Framework: Automated Exploit Generation
• OpenAI Daybreak Initiative Technical Report (2026)
• 1Password Research: The Efficacy of LLM-Generated Security Patches

Atruna: Šis raksts ir paredzēts tikai informatīviem un izglītojošiem nolūkiem. Tas neaizstāj profesionālu kiberdrošības auditu vai incidentu reaģēšanas pakalpojumu. Pirms izmaiņu veikšanas savā infrastruktūrā vienmēr konsultējieties ar sertificētu drošības speciālistu.