„Gartner“ skelbia pavojų: CISO privalo blokuoti visas agentines dirbtinio intelekto naršykles – kol kas

Nerimą kelianti nauja agentinių naršyklių paradigma

Dešimtmečius interneto naršyklė – „Chrome“, „Firefox“ ar „Safari“ – buvo santykinai pasyvus langas į internetą. Jos vaidmuo buvo atvaizduoti turinį, vykdyti vartotojo inicijuojamas komandas ir palaikyti saugų atskyrimą tarp įvairių interneto domenų. Tačiau įvyko esminis pokytis atsiradus **Agentinėms DI naršyklėms** – tokioms priemonėms kaip „Perplexity“ „Comet“ ir „OpenAI“ „ChatGPT Atlas“, kurios paverčia paprastą naršyklę autonominiu, iniciatyviu asistentu. Jos žada svaiginantį produktyvumo šuolį automatizuodamos sudėtingas, daugiapakopes užduotis, pradedant duomenų agregavimu ir baigiant išlaidų formų pateikimu. Tačiau šis patogumas gali turėti katastrofiškų pasekmių įmonių saugumui.

Didelę įtaką turinti pasaulinė technologijų patarėjų įmonė „Gartner“ paskelbė griežtą, neaptarinėjamą direktyvą, kuri turėtų sukelti šiurpuliuką kiekvienam vyriausiajam informacijos saugumo pareigūnui (CISO) visame pasaulyje. Rekomendacija tiesmuka: CISO artimiausioje ateityje turi blokuoti visas DI naršykles, kad sumažintų rizikos poveikį, teigiama analitikų Denniso Xu, Jevgenijaus Mirolyubovo ir Johno Wattso parengtoje ataskaitoje.

Tai ne tik standartinis įmonės atsargumas; tai **skubus pavojaus signalas**, pranešantis apie precedento neturintį sisteminį pavojų.

Baisus pokytis nuo pasyvios priemonės prie autonominio agento

Kuo tiksliai agentinė naršyklė kelia grėsmę, dėl kurios reikalingas visiškas organizacinis draudimas? Pavojus slypi jų pagrindinėje architektūroje. Skirtingai nuo tradicinių naršyklių, kurios laukia, kol žmogus spustelės ar įves tekstą, šios DI pagrindu veikiančios priemonės yra skirtos skaityti, interpretuoti ir *veikti* autonomiškai vartotojo vardu, dažnai naudojant teisėtus, patvirtintus kredencialus. Jos veikia nuolat nuskaitydamos ir analizuodamos aktyvų žiniatinklio turinį, naršymo istoriją ir visus atidarytus skirtukus, perduodamos šiuos kontekstinius duomenis išorinėms DI sistemoms apdoroti.

Pagalvokite taip: jūsų sena naršyklė buvo patikimas praktikantas, kuris galėjo atnešti kavos tik tada, kai jam tai buvo aiškiai pasakyta. DI naršyklė yra labai efektyvus, bet potencialiai **nepatikimas, asmeninis asistentas**, kuris turi prieigą prie viso jūsų biuro – jūsų slaptų dokumentų, finansinių portalų ir žmogiškųjų išteklių sistemų – ir gali patvirtinti operacijas be jūsų galutinės, nuolatinės priežiūros. Analitikai teisingai pažymi, kad šis procesas „iš esmės pakeičia ilgai galiojusias saugumo prielaidas“.

Trys sisteminės rizikos ramsčiai

Gartnerio niūrus įspėjimas pagrįstas trijule giliai nerimą keliančių saugumo grėsmių, kurioms tradicinės perimetro apsaugos priemonės tiesiog nėra pasirengusios.

1. Klastingas duomenų nutekėjimas: Kadangi DI agentas yra užprogramuotas maksimaliai padidinti kontekstą, jis įgyja visą matomumą visam atviram turiniui, netyčia surinkdamas konfidencialius dokumentus, vidinių prietaisų skydelių duomenis ir kredencialus. Ši jautri informacija vėliau perduodama trečiųjų šalių debesies paslaugoms, kuriose veikia DI modelis. Kai šis įmonės kontekstas palieka perimetrą, jo praradimas gali būti "negrįžtamas ir neatsekamas".
2. Užklausos injekcijos košmaras (Prompt Injection): Tai, ko gero, labiausiai paradigmas laužanti grėsmė. Užpuolikai gali įterpti kenkėjiškas instrukcijas—dažnai paslėptas HTML komentaruose, baltame tekste ar nekenksmingai skambančiose pastraipose teisėtame tinklalapyje—kurių laikysis pagrindinis DI agento didelis kalbos modelis (LLM). Pagalbininkui sukurtas agentas gali būti apgautas, kad atliktų neteisėtus veiksmus, pvz., atliktų neautorizuotus pirkimus, nutekintų duomenis užpuoliko kontroliuojamam serveriui ar net naršytų ir atliktų operacijas sukčiavimo (phishing) svetainėje būdamas prisijungęs.
3. Tradicinių kontrolės priemonių apėjimas: Ši technologija pagimdė naują *Šešėlinės IT* formą, kuri gyvena pačioje naršyklėje. Tradicinės duomenų praradimo prevencijos (DLP) priemonės, skirtos sustabdyti failų perkėlimą ar teksto įklijavimą, yra aklos DI sluoksniui, kuris veikia turėdamas skaitymo, rašymo ir trynimo teises, naudodamasis teisėta vartotojo autorizacija. Be to, pradiniai bandymai atskleidė, kad kai kurios DI naršyklės, pvz., „ChatGPT Atlas“, demonstravo žymiai mažesnę apsaugą nuo sukčiavimo (phishing) svetainių, palyginti su pripažintomis naršyklėmis, tokiomis kaip „Chrome“ ar „Edge“.

Apdairumo, o ne panikos ateitis

Pagrindinė „Gartner“ blaivinančios analizės išvada yra frazė **"kol kas."** Patarimas nėra pačios technologijos pasmerkimas, o pragmatiškas dabartinės, nebrandžios jos būklės įvertinimas. DI naršyklės neabejotinai yra žiniatinklio sąveikos ateitis, siūlanti didžiulį potencialą supaprastintiems darbo procesams ir didžiuliam produktyvumo augimui. Tačiau analitikai pabrėžia, kad apsaugos priemonės, skirtos vartotojams ir korporacijoms apsaugoti, tiesiog nevystomos pakankamai greitai, kad neatsiliktų nuo agentų galimybių.

CISO žinutė aiški: patikėtinio pareiga sumažinti rizikos poveikį artimiausioje ateityje turi būti svarbesnė už pažangaus produktyvumo žavesį. Vietoj visiško, nuolatinio draudimo, sutarimas krypsta atsargaus *apdairumo* strategijos link. Organizacijos, turinčios didesnę rizikos toleranciją, gali atsargiai pradėti ribotus eksperimentus griežtai kontroliuojamose, izoliuotose (sandboxed) aplinkose, su sąlyga, kad bus taikomos tvirtos saugumo priemonės ir bus užtikrintas minimalus jautrių duomenų poveikis.

Kol DI naršyklių kūrėjai negalės įrodyti skaidraus, audituojamo saugumo modelio—vieno, kuris veiksmingai sumažintų sistemines grėsmes, susijusias su užklausos injekcija (prompt injection) ir duomenų nutekėjimu tarp skirtukų—įmonės turi laikytis patikrintos ir patikimos tradicinės naršyklės apsaugos. Kol kas durys į DI asistentą turi likti saugiai užrakintos.