Infrastruktūras aizsardzība pret ieročiem, kas domā paši

Cik liela daļa no jūsu incidentu reaģēšanas plāna paredz, ka uzbrucējs ir cilvēks, kurš pieļauj kļūdas? Gadu desmitiem mūsu drošības pozīcija balstījās uz faktu, ka uzbrucējs ir cilvēks. Cilvēki nogurst. Viņi zaudē fokusu. Viņiem ir ierobežota joslas platuma kapacitāte, lai vienlaikus pārvaldītu vairākus sarežģītus uzdevumus. Šis cilvēciskais ierobežojums bija klusais partneris mūsu aizsardzības stratēģijās. Aģentorientētais MI (Agentic AI) ir atcēlis šo ierobežojumu. Mēs šobrīd ieejam laikmetā, kurā ierocim vairs nav vajadzīgs karotājs, kas to vicina. Šī ir pāreja no rīkiem, kas palīdz, uz rīkiem, kas rīkojas.

Esmu vērojis šo evolūciju no pirmās līnijas. 2023. gadā es publicēju balto grāmatu SANS Tehnoloģiju institūtā. Tā demonstrēja, kā pat neprasmīgi lietotāji varēja pierunāt tērzēšanas robotus ģenerēt funkcionālu ļaunprogrammatūru. Tajā laikā MI bija sarežģīta pildspalva. Tas palīdzēja sagatavot kodu, bet cilvēkam joprojām bija tas jānokopē, jāielīmē un jāizpilda uzbrukums. Līdz 2025. gadam šī dinamika mainījās līdz ar autonomo aģentu ieviešanu. Šodien, 2026. gadā, pavada ir pazudusi. Aģents ir operators.

Pavada ir pārrauta

Fundamentālā atšķirība starp pirms trim gadiem esošo MI un mūsdienu aģentorientētajiem modeļiem ir atgriezeniskās saites cilpa. Iepriekšējās ofensīvā MI iterācijas bija reaktīvas. Jūs devāt uzdevumu, un tas sniedza atbildi. Aģentorientētais MI ir proaktīvs. Tas saņem mērķi un pēc tam izvēlas, kurus rīkus izmantot, lai to sasniegtu. Tas var pārlūkot tīmekli, palaist termināļa komandas, skenēt portus un pārrakstīt savu kodu, kad saskaras ar kļūdu. Šī ir cilpa, kurai nav nepieciešama cilvēka iejaukšanās.

Šīs izmaiņas pārveido ofensīvās operācijas divos virzienos. Tās piešķir spējas uzbrucējiem, kuriem nav tehnisko prasmju, un sniedz ātrumu tiem, kuri jau ir nāvējoši. Ja jūsu amats ir ofensīvais darbs, jums jāsaprot, ka rīki, kurus pretinieks vērš pret jums, ir tie paši rīki, kas jums jāizmanto aizsardzībai. Pamats zem kājām ir izkustējies. Mēs vairs neaizsargājamies pret atsevišķu notikumu sēriju. Mēs aizsargājamies pret nepārtrauktu, domājošu procesu, kas mājo tīklā.

Klusā pikšķerēšanas pazīmju nāve

Viens no tūlītējākajiem triecieniem ir pilnīga sociālās inženierijas automatizācija. Tipiskā scenārijā uzbrucējs izvieto aģentu, lai apkopotu publiski pieejamu informāciju par konkrētu mērķi. Aģents nolasa LinkedIn profilus, skatās konferenču ierakstus, lai atdarinātu runas veidu, un lasa jaunākās preses relīzes. Tas izmanto šo informāciju, lai izveidotu personu. Otrs aģents pēc tam pārvalda sarunu. Tas nosūta ziņu, apstrādā atbildes un virza mērķi uz ļaundabīgu saiti vai akreditācijas datu pieprasījumu.

Šī ir to signālu nāve, kuriem mēs mēdzām uzticēties. Gadiem ilgi mūsu pikšķerēšanas apmācības koncentrējās uz acīmredzamām pazīmēm. Mēs meklējām neveiklu gramatiku, vispārīgas veidnes un steidzamības sajūtu. Aģentorientētais MI izdzēš šos indikatorus. Katra ziņa ir tekoša un unikāla. Tā ir balstīta uz reāliem faktiem par saņēmēju. Mūsu noteikšanai tagad pilnībā jāpaļaujas uz infrastruktūras signāliem, piemēram, sūtītāja reputāciju un autentifikāciju. Mēs vērojam, kā lingvistiskais ugunsmūris sabrūk. Pikšķerēšana ir digitālais Trojas zirgs, kas tagad izskatās identisks likumīgai piegādei.

"Script kiddie" kā pakalpojuma uzplaukums

Es bieži dēvēju šo pašreizējo stāvokli par "script kiddie" kā pakalpojumu. Vēsturiski neprasmīgu rīkotāju ierobežoja viņa paša zināšanu trūkums. Viņam bija jāgaida, kamēr kāds cits izlaidīs ekspluata kodu. Tagad ierobežojumus nosaka MI modeļa spējas. Tā kā daudzi neapmācīti rīkotāji izmanto tos pašus vadošos modeļus, mēs redzam uzvedības monokultūru. Uzbrukumi ir kompetenti, taču tie seko atpazīstamiem modeļiem.

Tā ir reta priekšrocība aizsargam. Kad tūkstošiem uzbrucēju izmanto vienu un to pašu pamatā esošo modeli, lai ģenerētu ekspluatācijas ķēdi, viņi atstāj līdzīgus pēdu nospiedumus. Mēs varam izveidot detektēšanas mehānismus šīm noklusējuma uzvedībām. Tomēr tas darbojas tikai vairumam. Pieredzējuši pretinieki pielāgojas ārpus šiem noklusējumiem. Viņi izmanto aģentus, lai izpildītu kampaņas paralēli. Uzdevums, kas kādreiz prasīja trīs cilvēku komandai divas nedēļas, tagad prasa vienam cilvēkam un aģentam četras stundas. Augstas kvalitātes uzbrukumu apjoms ir jaunais bāzes līmenis.

Automatizācija ekspluatācijas ķēdē

Automatizācija ir pavirzījusies dziļi ekspluatācijas fāzē. Modeļiem kļūstot labākiem rīku izsaukumu ķēdēšanā, latiņa darba ekspluata izveidei ir pazeminājusies. Mēs to skaidri redzējām, kad federālā valdība iejaucās, lai Anthropic Fable 5 tiktu izņemts no tirgus. Bažas par tā spējām nebija nepamatotas. Kad jūs piesaistāt spējīgu modeli zināmo ievainojamību datubāzei, tas veic savu izlūkošanu. Tas novērtē, kam mērķis varētu būt pakļauts, un izvēlas atbilstošo ekspluatu no savas bibliotēkas.

Tas darbojas kā dzinējsuns, kas uzgājis pēdas. Tas ziņo operatoram tikai tad, kad ir gatavs "šāvienam". Arī ļaunprogrammatūra kļūst aģentorientēta. Mēs redzam celmus, kas pārraksta savus parakstus, lai paslīdētu garām kontrolēm, kas atpazina iepriekšējo versiju. Šī ir dabiskā evolūcija Vadāmā tīkla piekļuves ieroča (Guided Network Access Weapon — GNAW) koncepcijām, par kurām es pirmo reizi runāju pirms gadiem. ļaunprogrammatūra vairs nav statisks fails. Tā ir programmatūra, kas var spriest par savu vidi un mainīt savu uzvedību, lai paliktu nemanāma.

Viltus orākula pārliecība

Pārāk liela paļaušanās uz šiem aģentiem slēpj briesmas. Tie runā ar nešaubīgu autoritāti, taču tie nemeklē patiesību. Aģents meklē pabeigtu uzdevumu. Tas vēlas sniegt atbildi, kas izskatās pareiza. Tam nav priviliģēta skatījuma uz to, vai resursdators tiešām ir ievainojams. Tas saskaņo indikatorus ar secinājumu. Ja jūs savienojat aģentu ar ievainojamību krātuvi, tas izcels to, kas ir saistīts, nevis to, kas ir patiess. Tas bieži ignorē versiju numurus vai konfigurācijas specifiku.

Tā ir viltus orākula problēma. Aģents nosauks mērķi, kura tur nav, un lūgs atļauju uzbrukt. Profesionālim tas nozīmē, ka spriestspēja tagad ir primārā prasme. Amatniecības mehāniskās daļas tagad ir mašīnu uzdevumi. Spēja atšķirt patiesu atradumu no pārliecinošiem meliem ir tā, kur slēpjas vērtība. Katru reizi, kad aģents iesaka ceļu, cilvēkam joprojām ir jāpārbauda loģika. Ja aklai sekosiet aģentam, tas galu galā novedīs jūs no klints.

Aizsardzības pierādīšana caur lietderību

SANS Secure AI Blueprint, ko izstrādājis Robs T. Lī (Rob T. Lee), nodrošina ietvaru šai jaunajai realitātei. Tas sadala izaicinājumu trīs virzienos: AI aizsardzība (Protect AI), AI izmantošana (Utilize AI) un AI pārvaldība (Govern AI). Pārvaldība ir saistīta ar politiku un uzraudzību. Aizsardzība ir saistīta ar sistēmu nostiprināšanu. Izmantošana ir vieta, kur mēs liekam MI strādāt abās pusēs. Ofensīvās operācijas atrodas izmantošanas (Utilize) virzienā.

Daudzi vadītāji domā, ka MI drošība ir tikai politikas dokumentu mapes. Viņi kļūdās. Izmantošana ir vienīgais virziens, kas sniedz pierādījumus. Organizācija var rakstīt visas vadlīnijas, ko tā vēlas, bet, kamēr kāds nevērš aģentorientētu rīku pret tīklu, šīs vadlīnijas ir tikai teorijas. Aizsardzībai ir nozīme tikai tad, kad tā saskaras ar uzbrukumu. Ofensīvā praktiķa loma ir iznest šo kontaktu virspusē. Mēs esam tie, kuri pierāda, vai politika un nostiprināšana patiešām darbojas.

Ja vēlaties izprast savu patieso risku, jums jāveic riska novērtējums, kas ietver autonomu uzbrukuma simulāciju. Tradicionālā ielaušanās testēšana vairs nav pietiekams spogulis draudu ainavai. Jums jāredz, kā jūsu SOC tiek galā ar pretinieku, kurš neguļ un neievēro cilvēka grafiku. Auditējiet savus trešo pušu pārdevējus attiecībā uz viņu aģentorientēto rīku izmantošanu. Ierocis ir mainījies. Roka uz ieroča ir pavirzījusies atpakaļ, bet izvēle šaut paliek mūsu ziņā. Mūsu spriestspēja ir vienīgā lieta, ko mašīna nevar aizstāt.

Avoti

• SANS Technology Institute: Whitepaper on Generative AI and Malware (2023)
• SANS Secure AI Blueprint: Developed by Rob T. Lee
• MITRE ATT&CK Framework: For AI-specific adversary tactics and techniques
• NIST AI Risk Management Framework (AI RMF 1.0)

Atruna: Šis raksts ir paredzēts tikai informatīviem un izglītojošiem mērķiem. Sniegtā informācija neaizstāj profesionālu kiberdrošības auditu vai incidentu reaģēšanas pakalpojumu. Autors nesniedz instrukcijas nelikumīgām darbībām.