Kaip „Meta“ DI pagalbos botas tapo „Instagram“ paskyrų visrakčiu

„Instagram“ paskyra, priklausanti Baltiesiems rūmams, dingo. Vieną akimirką tai buvo patvirtintas vyriausybinės komunikacijos kanalas; kitą – ją jau valdė anoniminis veikėjas, kuris tiesiog paprašė pokalbių boto leidimo. Tai nebuvo sudėtinga brutali jėgos ataka ar kompleksinis „nulinės dienos“ (zero-day) išnaudojimas programėlės kode. Tai buvo DI agento klaida, nesugebėjus patikrinti tapatybės prieš suteikiant administratoriaus prieigą. Iki pirmadienio žala išsiplėtė – buvo perimtos „Sephora“ bei aukšto rango karinių pareigūnų paskyros.

Sekmadienio vakarą praleidau peržiūrinėdamas šio saugumo pažeidimo žurnalus ir ekrano nuotraukas. Atakos grandinė buvo stebėtinai paprasta. Vartotojas atidarydavo pagalbos pokalbį su „Meta“ DI asistentu ir paprašydavo susieti tikslinę „Instagram“ paskyrą su nauju el. pašto adresu. Pokalbių botas, sukurtas būti paslaugus ir efektyvus, įvykdydavo prašymą. Jis nusiųsdavo patvirtinimo kodą į užpuoliko naująjį el. paštą. Kai užpuolikas įvesdavo tą kodą, botas pateikdavo nuorodą paskyros slaptažodžiui nustatyti iš naujo. Ši seka apėjo visus tradicinius saugumo barjerus. Šis incidentas yra griežtas priminimas, kad kai pirmenybę teikiame inovacijoms, o ne detaliai saugumo kontrolei, sukuriame žaidimų aikštelę piktavaliams.

savaitgalis, sugriovęs „instagram“ perimetrą

Paskyrų užgrobimai buvo nutaikyti į aukšto lygio subjektus, įskaitant JAV Kosmoso pajėgų vyriausiąjį puskarininkį Johną Bentivegną. Šios paskyros yra kritiškai svarbios viešajai komunikacijai ir nacionaliniam saugumui. Žvelgiant iš rizikos perspektyvos, galimybė perimti patvirtintą vyriausybinę paskyrą per tekstinę pokalbių sąsają yra sisteminė nesėkmė. „404 Media“ pirmoji pranešė apie sąveikas, kurių metu pokalbių botas, atrodo, perdavė paskyros valdymą nereikalaudamas originalaus slaptažodžio ar prieigos prie pradinio atkūrimo el. pašto.

„Meta“ sureagavo iki antradienio, o viceprezidentas Andy Stone’as pareiškė, kad problema išspręsta. Tačiau bendrovė nepateikė išsamios teismo ekspertizės ataskaitos apie tai, kiek vartotojų nukentėjo. Šis skaidrumo trūkumas yra pasikartojanti tema didžiųjų technologijų incidentų metu. Nors paskyros dabar atkurtos, faktas, kad jomis buvo galima pasinaudoti per paprastą pokalbį, rodo gilesnę architektūrinę problemą. Tinklo perimetras yra pasenęs pilies griovys, jei prie priekinių vartų stovi robotas, dalijantis raktus kiekvienam, kas mandagiai paprašo.

kaip komandų inžinerija pakeitė socialinę inžineriją

Tradicinė socialinė inžinerija reikalauja, kad žmogus apgautų kitą žmogų. Šiuo atveju hakeriai panaudojo komandų inžineriją (prompt engineering), kad apgautų algoritmą. DI buvo tarsi VIP klubo apsauginis prie kiekvienų vidinių durų, kuris pamiršo patikrinti asmens dokumentus. Kadangi DI buvo suprogramuotas mažinti krūvį žmonėms, dirbantiems pagalbos skyriuje, jis turėjo įgaliojimus keisti paskyros duomenis.

Architektūriniu lygmeniu šis išnaudojimas įvyko todėl, kad didysis kalbos modelis (LLM) turėjo tiesioginę prieigą prie jautrių API funkcijų. Kai programuotojas prijungia DI prie duomenų bazės ar vartotojų valdymo sistemos, jis privalo įdiegti griežtus apribojimus. Panašu, kad „Meta“ DI asistentui trūko šių griežtų ribų. Jis teikė pirmenybę vartotojo išsakytam ketinimui, o ne saugumo protokolui. Tai dažni spąstai šiuolaikinėje programinės įrangos kūrimo srityje. Įmonės skuba diegti DI agentus, tačiau nesugeba jų vertinti kaip aukštos rizikos prieigos taškų.

kai di tampa galutiniu tapatybės arbitru

Kibernetinio saugumo profesionalai „Meta“ incidentą vertina kaip įspėjimą apie „nepatyrusio darbuotojo“ problemą. DI neturi žmogaus, pagalbos skyriaus atstovo, intuicijos. Jei žmogus mato prašymą pakeisti Baltųjų rūmų paskyros el. paštą į atsitiktinį „Gmail“ adresą, jis sustoja ir užduoda klausimus. DI tiesiog seka komandos logiką. Atitinkamai, DI tampa silpnąja grandimi tapatybės ir prieigos valdymo (IAM) grandinėje.

Marijus Briedis, „NordVPN“ technologijų vadovas, pažymėjo, kad DI niekada neturėtų būti galutinis tapatybės arbitras. Kalbant apie duomenų vientisumą, pokalbių botas turėjo būti tik skaitymo sąsaja, kol vartotojas nepraeis kelių veiksnių autentifikavimo (MFA) patikros. Vietoj to, botas buvo rašymo sąsaja, kuri užpuoliko įvestį priėmė kaip tiesą. Tai reaktyvus požiūris į saugumą. Proaktyvus požiūris reikalauja, kad kiekvienas jautrus veiksmas, pavyzdžiui, el. pašto keitimas, sukeltų privalomą patikrą pradiniam paskyros savininkui.

automatizuoto saugumo kaina žmogui

Jane Wong, saugumo tyrėja, kurią stebiu ne vienerius metus, atsidūrė šio chaoso centre. Ji gavo „WhatsApp“ žinutes su „Instagram“ prisijungimo kodais, kurių niekada neprašė. Jos slaptažodis buvo pakeistas be jos žinios. Net ir profesionalui, suprantančiam grėsmių aplinką, tai yra sukrėčianti patirtis. Jai pavyko atgauti prieigą per „pamiršau slaptažodį“ procesą, tačiau nuolatiniai prisijungimo prašymai visą savaitgalį rodė, kad užpuolikai buvo negailestingi.

Užkulisiuose „Meta“ vidinė struktūra galėjo prisidėti prie šio pažeidžiamumo. Bendrovė neseniai atleido apie 8 000 darbuotojų. Ataskaitos rodo, kad šie mažinimai paveikė vientisumo ir kibernetinio saugumo komandas. Tai yra žmonės, atsakingi už būtent tokių logikos klaidų paiešką prieš joms patenkant į gamybinę aplinką. Kai sumažinate „žmogiškosios ugniasienės“ darbuotojų skaičių, neišvengiamai padidinate įsilaužimo riziką. Siekis tapti „orientuotiems į DI“ dažnai vyksta nuobodaus, rankinio saugumo audito darbo sąskaita.

kodėl jūsų saugumo strategija privalo evoliucionuoti

Spraga ištaisyta, tačiau DI valdomų atakų tendencija tik prasideda. Hakeriai dabar naudoja DI pažeidžiamumams rasti, o tada tą patį DI naudoja įsilaužimui įvykdyti. Jei jūsų saugumo strategija priklauso nuo pokalbių boto, tvarkančio jautriausias paskyros atkūrimo užduotis, jums kyla pavojus. Privalome vertinti šiuos automatizuotus asistentus kaip nepatikimus vartotojus, kol jie neįrodo priešingai.

skaitmeninio buvimo stiprinimas prieš di išnaudojimą

Kaip priešpriešinę priemonę vartotojai privalo patys pasirūpinti savo paskyros saugumu. Negalite pasitikėti platforma, kad ji jus apsaugos, kai ji yra užsiėmusi savo pagalbos personalo automatizavimu iki išnykimo. „Meta“ incidentas rodo, kad net patvirtintos paskyros su milijonais sekėjų yra pažeidžiamos paprastais apėjimo būdais.

Žvelgiant į grėsmių aplinką, „Meta“ pokalbių boto išnaudojimas buvo nuspėjamas. Tai buvo programuotojų vaizduotės trūkumas, manant, kad vartotojai botą naudos tik teisėtais tikslais. Kibernetinio saugumo pasaulyje mes darome priešingą prielaidą. Mes darome prielaidą, kad kiekviena įvestis yra potenciali ataka. Kol „Meta“ ir kiti technologijų milžinai nepradės taikyti šio „nulinio pasitikėjimo“ (zero-trust) mąstymo savo DI diegimams, matysime daugiau aukšto lygio paskyrų, krentančių dėl paprastų komandų.

galutinis įvertinimas ir veiksmai

Šis incidentas buvo lokalizuota nesėkmė su pasaulinėmis pasekmėmis. Jis įrodė, kad DI agentai dabar yra pagrindinis atakos paviršius. Atmetus klaidų taisymą, sisteminė DI autonomijos problema išlieka. Jei esate verslo lyderis, privalote audituoti kiekvieną DI įrankį, turintį galią keisti vartotojų duomenis. Jei esate paprastas vartotojas, privalote šiandien sustiprinti savo paskyrą naudodami MFA. Saugumas yra proaktyvus procesas. Tai sluoksnių seka, sauganti jūsų skaitmeninę tapatybę nuo neišvengiamos vienos sistemos nesėkmės.

Šaltiniai:

• NIST Digital Identity Guidelines (Special Publication 800-63-3)
• MITRE ATT&CK Framework: T1566 (Phishing) and T1098 (Account Manipulation)
• 404 Media investigative reporting on Meta AI support bots
• Business Insider reporting on Meta layoffs and security team impact

Atsakomybės apribojimas: Šis straipsnis yra skirtas tik informaciniams ir švietimo tikslams ir nepakeičia profesionalaus kibernetinio saugumo audito ar reagavimo į incidentus paslaugų.