Infrastruktuuri kaitsmine iseseisvalt mõtlevate relvade eest

Kui suur osa teie intsidentidele reageerimise plaanist eeldab, et vastane on inimene, kes teeb vigu? Aastakümneid tugines meie turvalisus asjaolule, et ründaja on inimene. Inimesed väsivad. Nad kaotavad keskendumisvõime. Neil on piiratud ribalaius mitme keerulise ülesande korraga haldamiseks. See inimlik piirang oli meie kaitsestrateegiate vaikne partner. Agentsetihisintellekt on selle piirangu eemaldanud. Oleme nüüd sisenemas ajastusse, kus relv ei vaja enam sõdurit, kes sellega vehib. See on nihe abistavatelt tööriistadelt tegutsevatele tööriistadele.

Olen jälginud seda evolutsiooni eesliinilt. 2023. aastal avaldasin SANS Technology Institute'is valge raamatu. See demonstreeris, kuidas isegi oskusteta kasutajad saavad veenda juturoboteid looma funktsionaalset pahavara. Sel ajal oli tehisintellekt keerukas sulepea. See aitas koodi mustandit koostada, kuid inimene pidi ründe kopeerima, kleepima ja käivitama. 2025. aastaks muutus see dünaamika autonoomsete agentide kasutuselevõtuga. Täna, aastal 2026, on rihm kadunud. Agent on operaator.

Rihm on katkenud

Põhiline erinevus kolme aasta taguse tehisintellekti ja tänapäeva agentsete mudelite vahel on tagasisideahel. Varasemad ründava tehisintellekti iteratsioonid olid reaktiivsed. Te andsite viiba ja see andis vastuse. Agentsetihisintellekt on proaktiivne. See saab eesmärgi ja valib seejärel tööriistad, mida selle saavutamiseks kasutada. See saab sirvida veebi, käivitada terminalikäske, skannida porte ja kirjutada ümber oma koodi, kui kohtab viga. See on ahel, mis ei vaja inimese sekkumist.

See muutus kujundab ründeoperatsioone ümber kahes suunas. See annab võimekuse ründajatele, kellel puuduvad tehnilised oskused, ja lisab kiirust neile, kes on juba niigi surmavad. Kui teie tegevusalaks on ründetöö, peate mõistma, et tööriistad, mida vastane teie vastu pöörab, on samad tööriistad, mida peate kasutama kaitsmiseks. Pind on liikunud. Me ei kaitse end enam üksikute sündmuste seeria eest. Me kaitseme end pideva, mõtleva protsessi eest, mis asub võrgus.

Phishing-tunnuste vaikne surm

Üks vahetumaid mõjusid on sotsiaalse manipuleerimise täielik automatiseerimine. Tüüpilise stsenaariumi puhul rakendab ründaja agendi, et koguda konkreetse sihtmärgi kohta avalikult kättesaadavat teavet. Agent kraabib LinkedIni profiile, vaatab konverentside salvestusi kõnemustrite imiteerimiseks ja loeb värskeid pressiteateid. Ta kasutab seda luureinfot isikuprofiili loomiseks. Teine agent haldab seejärel vestlust. Ta saadab sõnumi, tegeleb vastustega ja suunab sihtmärgi pahatahtliku lingi või sisselogimisandmete päringu poole.

See on nende signaalide surm, mida me harjusime usaldama. Aastaid keskendus meie õngitsemisvastane koolitus ilmsetele tunnustele. Otsisime konarlikku grammatikat, üldiseid malle ja kiireloomulisuse tunnet. Agentsetihisintellekt kustutab need indikaatorid. Iga sõnum on ladus ja unikaalne. See põhineb reaalsetel faktidel saaja kohta. Meie tuvastus peab nüüd tuginema täielikult infrastruktuuri signaalidele, nagu saatja maine ja autentimine. Me näeme lingvistilise tulemüüri kokkuvarisemist. Õngitsemine on digitaalne Trooja hobune, mis näeb nüüd välja identne legitiimse saadetisega.

Script kiddie kui teenuse esiletõus

Nimetan seda praegust olukorda sageli "script kiddie kui teenus". Ajalooliselt piiras oskusteta tegijat tema enda teadmiste puudumine. Ta pidi ootama, kuni keegi teine avaldab ründekoodi. Nüüd määravad piirangud tehisintellekti mudeli võimekused. Kuna paljud väljaõppeta tegijad kasutavad samu tipptasemel mudeleid, näeme käitumuslikku monokultuuri. Ründed on pädevad, kuid järgivad äratuntavaid mustreid.

See on kaitsja jaoks haruldane eelis. Kui tuhanded ründajad kasutavad ründeahela loomiseks sama alusmudelit, jätavad nad sarnaseid jälgi. Saame luua tuvastusreegleid nende vaikekäitumiste jaoks. See toimib aga ainult enamiku puhul. Kogenud vastased kohanduvad nendest vaikesätetest kaugemale. Nad kasutavad agente kampaaniate paralleelseks läbiviimiseks. Ülesanne, mis varem nõudis kolmeliikmeliselt meeskonnalt kahte nädalat, võtab nüüd ühel inimesel ja agendil neli tundi. Kvaliteetsete rünnakute maht on uus normaalsus.

Automatiseerimine ründeahelas

Automatiseerimine on liikunud sügavale ekspluateerimisfaasi. Kuna mudelid muutusid tööriistade kutsumise aheldamises paremaks, langes toimiva ründekoodi loomise latti. Nägime seda selgelt, kui föderaalvalitsus sekkus, et Anthropic Fable 5 turult eemaldada. Kartused selle võimekuse osas ei olnud alusetud. Kui siduda võimekas mudel teadaolevate haavatavuste andmebaasiga, teostab see ise luuret. See hindab, millele sihtmärk on tõenäoliselt avatud, ja valib oma raamatukogust vastava ründekoodi.

See tegutseb nagu jälje üles võtnud hagijas. See raporteerib operaatorile alles siis, kui on valmis ründama. Ka pahavara muutub agentseteks. Näeme tüvesid, mis kirjutavad ümber oma signatuure, et hiilida mööda kontrollidest, mis tundsid ära eelmise versiooni. See on Guided Network Access Weapon (GNAW) kontseptsioonide loomulik evolutsioon, mida ma esimest korda aastaid tagasi arutasin. Pahavara ei ole enam staatiline fail. See on tarkvarajupp, mis suudab oma keskkonna üle arutleda ja muuta oma käitumist, et jääda märkamatuks.

Valeoraakli enesekindlus

Nendele agentidele liiga tugevalt tuginemises peitub oht. Nad räägivad vankumatu autoriteediga, kuid nad ei otsi tõde. Agent otsib lõpetatud ülesannet. Ta tahab anda vastust, mis näib õige. Tal ei ole eelisvaadet sellele, kas host on tegelikult haavatav. Ta viib indikaatorid kokku järeldusega. Kui abiellute agendi haavatavuste andmebaasiga, toob ta esile selle, mis on seotud, mitte selle, mis on tõsi. Ta ignoreerib sageli versiooninumbreid või konfiguratsiooni üksikasju.

See on valeoraakli probleem. Agent nimetab sihtmärgi, mida pole olemas, ja küsib luba ründamiseks. Professionaali jaoks tähendab see, et otsustusvõime on nüüd esmane oskus. Käsitöö mehaanilised osad on nüüd masinaülesanded. Väärtus seisneb võimes eristada tõelist leidu enesekindlast valest. Iga kord, kui agent pakub välja tee, peab inimene ikkagi loogikat kontrollima. Kui järgite agenti pimesi, juhib ta teid lõpuks kuristikku.

Kaitse tõestamine kasulikkuse kaudu

Rob T. Lee poolt välja töötatud SANS Secure AI Blueprint pakub raamistiku selle uue reaalsuse jaoks. See jagab väljakutse kolmeks suunaks: Protect AI, Utilize AI ja Govern AI. Governance on poliitika ja järelevalve kohta. Protection on süsteemide karastamise kohta. Utilization on koht, kus paneme tehisintellekti mõlema poole heaks tööle. Ründeoperatsioonid kuuluvad Utilize-suunda.

Paljud juhid arvavad, et tehisintellekti turvalisus on vaid poliitikate kaustad. Nad eksivad. Utilization on ainus suund, mis annab tõestust. Organisatsioon võib kirjutada milliseid juhiseid tahes, kuid kuni keegi ei pööra agentset tööriista võrgu vastu, on need juhised vaid teooriad. Kaitse loeb vaid siis, kui see puutub kokku rünnakuga. Ründava spetsialisti roll on see kokkupuude pinnale tuua. Meie oleme need, kes tõestavad, kas poliitika ja turvamine tegelikult toimivad.

Kui soovite mõista oma tegelikku riski, peate läbi viima riskihindamise, mis hõlmab autonoomset ründesimulatsiooni. Traditsiooniline tungimistestimine ei ole enam piisav peegeldus ohumaastikust. Peate nägema, kuidas teie SOC saab hakkama vastasega, kes ei maga ega järgi inimese graafikut. Auditeerige oma kolmandatest osapooltest tarnijaid nende agentsete tööriistade kasutamise osas. Relv on muutunud. Käsi relval on liikunud tagapoole, kuid valik tulistada jääb meie omaks. Meie otsustusvõime on ainus asi, mida masin ei saa asendada.

Allikad

• SANS Technology Institute: Whitepaper on Generative AI and Malware (2023)
• SANS Secure AI Blueprint: Developed by Rob T. Lee
• MITRE ATT&CK Framework: For AI-specific adversary tactics and techniques
• NIST AI Risk Management Framework (AI RMF 1.0)

Vastutuse välistamine: See artikkel on mõeldud ainult teavitamiseks ja harimiseks. Esitatud teave ei asenda professionaalset küberauditi või intsidentidele reageerimise teenust. Autor ei anna juhiseid ebaseaduslikuks tegevuseks.