Kaip Poipeto dirbtinio intelekto sukčių tinklas industrializavo apgaulę

Auka gavo žinutę „WhatsApp“ programėlėje iš neatpažinto numerio. Viskas prasidėjo nuo paprasto pasisveikinimo – skaitmeninio rankos paspaudimo, kuris atrodė atsitiktinis. Per kitas tris savaites ši žinutė virto kasdieniu ritualu: dalijimusi nuotraukomis, gyvenimo istorijomis, o galiausiai – patarimu apie pelningą galimybę prekiauti auksu neatidėliotinų sandorių rinkoje. Kol auka suprato, kad platforma yra išgalvota, jos gyvenimo santaupos jau buvo dingusios. Ši specifinė atakų grandinė, žinoma kaip „ping-zing-sting“, apibūdina neseniai „OpenAI“ atliktą veiklos nutraukimą. Bendrovė neseniai užblokavo koordinuotą „ChatGPT“ paskyrų tinklą, veikusį iš Poipeto, Kambodžos. Šis miestas yra žinomas sukčių stovyklų ir prekybos žmonėmis centras. Operacija ne tik vogė pinigus. Ji naudojo generatyvinį DI, kad automatizuotų administracinį žiaurumą modernioje vergų kolonijoje.

Praėjusią naktį per šifruotą „Signal“ ryšį kalbėjausi su incidentų tyrimo specialistu apie artefaktus, rastus šiuose konkrečiuose „ChatGPT“ žurnaluose. Labiausiai išsiskiria milžiniškas turinio kiekis. Mes nebežiūrime į pavienius sukčius, rašančius žinutes netaisyklinga anglų kalba. Mes matome pramoninę surinkimo liniją, kurioje didieji kalbos modeliai (DKM) veikia kaip pagrindinis variklis tiek išoriniam sukčiavimui, tiek vidiniam valdymui. Komunikacijos vientisumas pažeidžiamas nuo pirmo žodžio. Užpuolikai naudojo DI, kad įveiktų kalbos barjerą, paversdami sudėtingas psichologines manipuliacijas į gimtąsias savo taikinių kalbas. Tai yra naujoji grėsmių aplinkos realybė.

Automatizuoto išnaudojimo geografija

Poipetas įsikūręs ant Kambodžos ir Tailando sienos. Jis ilgą laiką buvo prekybos tranzito punktas, tačiau pastaraisiais metais tapo organizuotų nusikalstamų grupuočių centru. Šios grupės dažnai veikia iš masyvių, aptvertų kompleksų. „OpenAI“ ataskaita aiškiai parodo, kad tinklas naudojo „ChatGPT“ šių kompleksų infrastruktūrai palaikyti. Dalis užblokuotų paskyrų buvo skirtos administraciniam darbui. Jos rengė vidinius pranešimus ir dokumentavo darbuotojų skolas. Jos sekė atlyginimų atskaitymus, baudas ir paskolų grąžinimą komplekso viduje esantiems darbuotojams.

Architektūriniu lygmeniu sukčiai „ChatGPT“ vertino kaip pigų žmogiškųjų išteklių skyrių. Jie naudojo įrankį priverstinio darbo logistikai valdyti. Paskyros generavo turinį, susijusį su vizų galiojimo viršijimu, darbo leidimais ir imigracijos statusu. Šis administracinis sluoksnis leidžia šiems kompleksams veikti dideliu mastu. Kai darbuotojas neįvykdo kvotos, sistema sugeneruoja oficialų pranešimą apie baudą. Tai nėra tik finansinis nusikaltimas. Tai DI naudojimas prekybai žmonėmis palengvinti. Veikėjai netgi naudojo modelius reklaminiam turiniui kurti, kad įviliotų naujas aukas į kompleksus. Žmonėms Bangladeše ir Indijoje jie žadėjo darbą su 800 USD baziniu atlyginimu ir 100 USD priedu už lankomumą. Realybė, kurią jie rado atvykę, buvo konfiskuotas pasas ir priverstinis vaidmuo skaitmeninėje sukčiavimo gamykloje.

„Ping-zing-sting“ užkulisiai

Atakos grandinė vyksta pagal griežtą trijų žingsnių procesą. Pirmasis etapas yra „ping“ (kontaktas). Tai pradinis kreipimasis tokiose platformose kaip „WhatsApp“ ar „Telegram“. Tikslas – užmegzti kontaktą nesukeliant taikinio įtarimo. Sukčiai naudoja sintetines tapatybes, sukurtas pasitelkiant DI. Jie generuoja suklastotų pasų ir teisinių pranešimų vaizdus, kad suteiktų teisėtumo regimybę. Fišingas šiame kontekste yra skaitmeninis Trojos arklys. Pradinė žinutė atrodo nekenksminga, tačiau ji neša ilgalaikės psichologinės operacijos užtaisą.

Toliau seka „zing“ (įtraukimas). Tai pasitikėjimo kūrimo pratybos. Grėsmės sukėlėjai dalyvauja ilguose pokalbiuose. Jie naudoja „OpenAI“ modelius žinutėms generuoti ir versti, taip kurdami ryšį. Jie gali apsimesti romantišku susidomėjimu arba internetinių lošimų platformos atstovu. DI leidžia jiems vienu metu palaikyti šimtus tokių pokalbių, nepametant kiekvienai aukai pasakytų konkrečių melų gijos. Todėl sukčius gali kaitalioti skirtingus pasakojimus – investavimo patarimus, romantišką ilgesį ar teisinius grasinimus – priklausomai nuo to, kaip auka reaguoja. Jie netgi apsimetinėjo teisėsaugos institucijomis, informuodami taikinius, kad šiems reikia sumokėti baudas už sunkius nusikaltimus. DI užtikrina, kad tonas išliktų profesionalus ir skubotas.

Galiausiai įvyksta „sting“ (išnaudojimas). Kai pasitikėjimas tampa pakankamai gilus, sukčiai nurodo aukoms atlikti indėlį arba sumokėti aktyvavimo mokestį. Kaip mokėjimo įrodymą jie pateikia suklastotas pervedimų ir sąskaitos informacijos ekrano nuotraukas. Auka mato profesionaliai atrodančią lošimų sąsają arba akcijų pirkimo patvirtinimą. Šis turtas dažnai yra sugeneruotas arba suformatuotas DI, kad atrodytų autentiškai. Kai pinigai išsiunčiami, sukčiai dingsta arba reikalauja daugiau mokesčių, kad išmokėtų neegzistuojantį pelną. Taikiniai per kelias dienas praranda tūkstančius dolerių.

Komplekso administracinis variklis

Vienas šiurpiausių šio veiklos nutraukimo aspektų yra tai, kaip sukčiai naudojo DI savo darbuotojams valdyti. Tradicinėje korporacinėje aplinkoje vadovas galėtų naudoti DKM, kad parengtų memorandumą apie atostogų tvarkaraštį. Poipeto kompleksuose grėsmės sukėlėjai naudojo „ChatGPT“, kad dokumentuotų įdarbinimo paskatas ir atlyginimų atskaitymus savo belaisviams darbuotojams. Jie naudojo įrankį žinutėms versti tarp darbuotojų, kalbančių skirtingomis kalbomis. Tai leido daugiakalbei nusikalstamai organizacijai veikti itin efektyviai.

Šis DI taikymas rodo pokytį grėsmės sukėlėjų įrankių rinkinyje. Jie nebe naudoja DI tik kenkėjiškam turiniui. Jie naudoja jį nusikalstamo sindikato kritiniams verslo procesams. Žvelgiant proaktyviai, tai daro visą operaciją atsparesnę. Automatizuodami prekybos žmonėmis dokumentaciją, šių organizacijų vadovai gali sutelkti dėmesį į savo pasiekiamumo plėtimą. Paskyros taip pat kūrė socialinių tinklų skelbimus „susirašinėjimo darbams“, kuriuose buvo pateikta išsami informacija apie lėktuvo bilietus, nemokamą maitinimą ir vienų metų Kambodžos vizas. Šie skelbimai daugeliui Pietų Azijos darbuotojų buvo pirmasis žingsnis išnaudojimo cikle.

Bendradarbiavimu grįsta gynyba ir „Meta“ vaidmuo

„OpenAI“ dirbo ne viena. Jie tyrė šią operaciją bendradarbiaudami su „WhatsApp“, kuri priklauso „Meta“. Šis bendradarbiavimas yra būtinas, nes sukčių tinklai retai apsiriboja viena platforma. Veikėjai perkelia aukas iš viešos socialinių tinklų reklamos į privačią susirašinėjimo programėlę, o tada į apgaulingą interneto sąsają. Dalydamosi telemetrijos duomenimis tarp DI teikėjo ir susirašinėjimo platformos, bendrovės nustatė koordinuotą paskyrų tinklą.

Šios bendros pastangos pabrėžia tarp-platforminės gynybos strategijos būtinybę. Kai grėsmės sukėlėjui uždraudžiama naudotis „ChatGPT“, jis gali bandyti perkelti savo operacijas į kitą DKM. Tačiau praradus istorinius duomenis ir specifines užklausas, naudotas jų „susirašinėjimo“ darbams valdyti, sutrikdomas jų pagreitis. Šių paskyrų praradimas verčia nusikalstamą grupę iš naujo kurti savo administracinę infrastruktūrą. Tai taip pat suteikia teismo ekspertizės įrodymų, kuriuos teisėsaugos institucijos gali naudoti lėšų judėjimui ir kompleksų vietai sekti. Poipeto miestas turi ilgą tokių operacijų istoriją, ir šie duomenys padeda susidaryti aiškesnį vaizdą apie tai, kaip jos evoliucionavo generatyvinio DI amžiuje.

Puolamieji DI pajėgumai dideliu mastu

DI sustiprintų puolamųjų pajėgumų kūrimas nebėra teorinė rizika. Tai visur esanti realybė. Pastebėta, kad pažangiausi modeliai taikosi į realias sistemas „capture-the-flag“ vertinimų metu, tačiau jų naudojimas socialinėje inžinerijoje yra kur kas dažnesnis. Poipeto tinklas rodo, kad pagrindinis DI pranašumas sukčiui nebūtinai yra sumanumas. Pagrindinis pranašumas yra greitis ir mastas. Vienas operatorius gali valdyti netikrų personų parką, kuriam anksčiau būtų prireikę dešimčių žmonių komandos.

Rizikos požiūriu tai sumažina patekimo į organizuotą nusikalstamumą barjerą. Jiems nereikia darbuotojų, laisvai kalbančių angliškai ar hindi kalba, kad galėtų taikytis į tuos regionus. Jiems reikia tik API rakto ir instrukcijų rinkinio modeliui. Dėl decentralizuoto šių kompleksų pobūdžio juos sunku visam laikui uždaryti. Kai viena vieta užpuolama, skaitmeninė infrastruktūra dažnai išlieka debesyje. DI tampa operacijos atmintimi ir raumenimis. Tai leidžia grupei iš naujo pradėti savo kampanijas naujoje vietoje su minimaliomis prastovomis.

Skaitmeninių „raudonų vėliavėlių“ atpažinimas

Šioms operacijoms sudėtingėjant, tradiciniai sukčiavimo požymiai nyksta. Gramatika yra tobula. Tonas yra tinkamas. Suklastoti dokumentai atrodo tikri. Tačiau pagrindinė „ping-zing-sting“ logika išlieka tokia pati. Jei nežinomas asmuo pradeda pokalbį susirašinėjimo programėlėje ir galiausiai perkelia temą prie pinigų, tai yra sukčiavimas. Nesvarbu, kiek pasitikėjimo jie sukūrė ar kiek nuotraukų pasidalino. Tikslas visada yra „sting“ (išnaudojimas).

Organizacijos taip pat turi žinoti, kad jų darbuotojai gali tapti tų pačių tinklų taikiniais. Darbuotojas Bangladeše įsikūrusioje įmonėje gali pamatyti Poipeto įdarbinimo skelbimą ir netyčia pateikti jautrius įmonės duomenis per tai, ką jis laiko teisėtu darbo pokalbiu. Atakos paviršius yra ne tik techninis tinklo perimetras. Tai socialinis ir ekonominis žmonių, kurie su juo sąveikauja, pažeidžiamumas.

Žmogiškosios užkardos auditas

Gynyba nuo DI varomų sukčių tinklų reikalauja pokyčių mūsų požiūryje į saugumo supratimą. Žmogiškosios užkardos koncepcija yra svarbesnė nei bet kada anksčiau. Turime peržengti paprastų fišingo simuliacijų, kuriose ieškoma klaidingai parašytų žodžių, ribas. Turime mokyti žmones atpažinti psichologinius „ping-zing-sting“ modelius. Šių operacijų mastas reiškia, kad kiekvienas, turintis išmanųjį telefoną, yra potencialus taikinys.

Užkulisiuose DI teikėjai nuolat tobulina savo saugos filtrus, kad užkirstų kelią tokio pobūdžio piktnaudžiavimui. Tačiau grėsmės sukėlėjai yra kūrybingi. Jie visada ieškos būdų, kaip apeiti šias kontroles. Todėl efektyviausia gynyba yra techninio vykdymo ir visuomenės švietimo derinys. Kiekvieną neprašytą žinutę turime vertinti kaip galimą įėjimo tašką nusikalstamam tinklui. Poipeto operacijos nutraukimas yra sėkmė, tačiau tai tik vienas mūšis labai ilgame kare.

Audituokite savo organizacijos komunikacijos politiką ir įsitikinkite, kad darbuotojai žino, kaip pranešti apie įtartiną kreipimąsi. Įdiekite griežtą daugiaveiksnį autentifikavimą (MFA) visose įmonės ir asmeninėse paskyrose. Šie veiksmai suteikia gynybos sluoksnį, kurio DI sugeneruotas žavesys negali lengvai įveikti.

Šaltiniai: OpenAI Threat Intelligence Report, Meta Security Research, MITRE ATT&CK Framework for Social Engineering.

Atsakomybės apribojimas: Šis straipsnis yra tik informacinio ir edukacinio pobūdžio. Jis nepakeičia profesionalaus kibernetinio saugumo audito ar incidentų tyrimo paslaugų.