Kā Poipetas mākslīgā intelekta krāpnieku tīkls industrializēja maldināšanu

Upuris saņēma ziņu lietotnē WhatsApp no numura, kuru viņš neatpazina. Tas sākās kā vienkāršs sveiciens, digitāls rokasstiepiens, kas šķita nejaušs. Nākamo trīs nedēļu laikā šis ziņojums pārvērtās par ikdienas rituālu ar kopīgām fotogrāfijām, dzīvesstāstiem un, galu galā, padomu par ienesīgu tūlītējās zelta tirdzniecības iespēju. Līdz brīdim, kad upuris saprata, ka platforma ir izdomājums, viņa mūža ietaupījumi bija pazuduši. Šī konkrētā uzbrukuma ķēde, kas pazīstama kā "ping-zing-sting", raksturo nesenu OpenAI veiktu darbības pārtraukšanu. Uzņēmums nesen bloķēja koordinētu ChatGPT kontu tīklu, kura izcelsme ir Poipeta, Kambodža. Šī pilsēta ir zināms krāpnieku kompleksu un cilvēku tirdzniecības mezgls. Operācija ne tikai zaga naudu. Tā izmantoja ģeneratīvo MI, lai automatizētu mūsdienu vergu kolonijas administratīvo nežēlību.

Vakar vakarā pa šifrētu Signal savienojumu es sarunājos ar incidentu reaģēšanas speciālistu par artefaktiem, kas atrasti šajos konkrētajos ChatGPT žurnālos. Izceļas tieši satura milzīgais apjoms. Mēs vairs nerunājam par atsevišķiem krāpniekiem, kuri raksta ziņas sliktā angļu valodā. Mēs redzam industriālu montāžas līniju, kur lielie valodas modeļi (LLM) darbojas kā galvenais dzinējs gan ārējai krāpšanai, gan iekšējai vadībai. Komunikācijas integritāte ir apdraudēta jau no pirmā vārda. Uzbrucēji izmantoja MI, lai pārvarētu valodas barjeru, tulkojot sarežģītu psiholoģisko manipulāciju savu mērķu dzimtajās valodās. Šī ir jaunā draudu ainavas realitāte.

Automatizētās ekspluatācijas ģeogrāfija

Poipeta atrodas uz Kambodžas un Taizemes robežas. Tā jau sen ir bijusi tirdzniecības tranzīta punkts, taču pēdējos gados tā kļuvusi par organizētās noziedzības grupējumu centru. Šīs grupas bieži darbojas masīvos, iežogotos kompleksos. OpenAI ziņojums skaidri parāda, ka tīkls izmantoja ChatGPT, lai uzturētu šo kompleksu infrastruktūru. Daļa bloķēto kontu koncentrējās uz administratīvo darbu. Tie sagatavoja iekšējos paziņojumus un dokumentēja darbinieku parādus. Tie izsekoja algu atvilkumus, naudas sodus un aizdevumu atmaksu strādniekiem kompleksa iekšienē.

No arhitektūras viedokļa krāpnieki uztvēra ChatGPT kā zemu izmaksu personāla nodaļu. Viņi izmantoja rīku, lai pārvaldītu piespiedu darba loģistiku. Konti ģenerēja saturu saistībā ar vīzu termiņa pārsniegšanu, darba atļaujām un imigrācijas statusu. Šis administratīvais slānis ir tas, kas ļauj šiem kompleksiem darboties plašā mērogā. Ja darbinieks neizpilda kvotu, sistēma ģenerē oficiālu paziņojumu par naudas sodu. Tas nav tikai finansiāls noziegums. Tā ir MI izmantošana, lai veicinātu cilvēku tirdzniecību. Noziedznieki pat izmantoja modeļus, lai izveidotu reklāmas saturu, lai pievilinātu jaunus upurus kompleksos. Viņi solīja darbu ar 800 USD pamatalgu un 100 USD apmeklējuma bonusu cilvēkiem Bangladešā un Indijā. Realitāte, ko viņi atrada ierodoties, bija konfiscēta pase un piespiedu loma digitālās krāpšanas rūpnīcā.

Aizkulisēs: ping-zing-sting

Uzbrukuma ķēde seko stingram trīs posmu procesam. Pirmais posms ir "ping". Tā ir sākotnējā saziņa tādās platformās kā WhatsApp vai Telegram. Mērķis ir nodibināt kontaktu, neizraisot mērķa aizdomas. Krāpnieki izmanto sintētiskas identitātes, kas izveidotas ar MI. Viņi ģenerē viltotu pasu un juridisku paziņojumu attēlus, lai radītu leģitimitātes iespaidu. Pikšķerēšana šajā kontekstā ir digitāls Trojas zirgs. Sākotnējais ziņojums šķiet nekaitīgs, taču tas nes ilgtermiņa psiholoģiskās operācijas lādiņu.

Nākamais ir "zing". Tas ir uzticības veidošanas vingrinājums. Draudu izpildītāji iesaistās ilgstošās sarunās. Viņi izmanto OpenAI modeļus, lai ģenerētu un tulkotu ziņojumus, kas veido saikni. Viņi var uzdoties par romantisku interesi vai tiešsaistes azartspēļu platformas pārstāvi. MI ļauj viņiem vienlaikus uzturēt simtiem šādu sarunu, nezaudējot saikni ar konkrētajiem meliem, kas teikti katram upurim. Līdz ar to krāpnieks var pārslēgties starp dažādiem stāstiem — investīciju padomiem, romantiskām ilpām vai juridiskiem draudiem — atkarībā no tā, kā upuris reaģē. Viņi pat uzdevās par tiesībsargājošajām iestādēm, lai informētu mērķus, ka tiem jāmaksā sodi par smagiem kriminālnoziegumiem. MI nodrošina, ka tonis paliek profesionāls un steidzams.

Visbeidzot, ir "sting". Kad uzticība ir pietiekami dziļa, krāpnieki uzdod upuriem veikt iemaksu vai samaksāt aktivizācijas maksu. Viņi sniedz viltotus pārskaitījumu ekrānuzņēmumus un konta informāciju kā maksājuma pierādījumu. Upuris redz profesionāla izskata azartspēļu saskarni vai akciju iegādes apstiprinājumu. Šos aktīvus bieži ģenerē vai formatē MI, lai tie izskatītos autentiski. Tiklīdz nauda ir nosūtīta, krāpnieki pazūd vai pieprasa vairāk maksu, lai atbrīvotu neeksistējošu peļņu. Mērķi dažu dienu laikā zaudē tūkstošiem dolāru.

Kompleksa administratīvais dzinējs

Viens no šausminošākajiem šīs darbības pārtraukšanas aspektiem ir tas, kā krāpnieki izmantoja MI, lai pārvaldītu savu personālu. Tradicionālā korporatīvajā vidē vadītājs varētu izmantot LLM, lai sagatavotu memorandu par brīvdienu grafiku. Poipetas kompleksos noziedznieki izmantoja ChatGPT, lai dokumentētu darbā pieņemšanas stimulus un algu atvilkumus savam sagūstītajam darbaspēkam. Viņi izmantoja rīku, lai tulkotu ziņojumus starp darbiniekiem, kuri runāja dažādās valodās. Tas ļāva daudzvalodu noziedzīgai organizācijai darboties ar augstu iekšējās efektivitātes pakāpi.

Šis MI lietojums atspoguļo pārmaiņas draudu izpildītāju rīku komplektā. Viņi vairs neizmanto MI tikai ļaunprātīgam nolūkam. Viņi to izmanto noziedzīgā sindikāta kritiski svarīgiem biznesa procesiem. Raugoties proaktīvi, tas padara visu operāciju izturīgāku. Automatizējot cilvēku tirdzniecības dokumentāciju, šo organizāciju vadība var koncentrēties uz savas sasniedzamības paplašināšanu. Konti arī izveidoja sociālo mediju reklāmas "čata" darbiem, papildinot tās ar informāciju par lidojuma biļetēm, bezmaksas ēdināšanu un viena gada Kambodžas vīzām. Šīs reklāmas bija pirmais solis ekspluatācijas ciklā daudziem strādniekiem Dienvidāzijā.

Kopīga aizsardzība un Meta loma

OpenAI nestrādāja vieni. Viņi izmeklēja šo operāciju partnerībā ar WhatsApp, kas pieder uzņēmumam Meta. Šī sadarbība ir būtiska, jo krāpnieku tīkli reti aprobežojas ar vienu platformu. Noziedznieki pārvieto upurus no publiskas sociālo tīklu reklāmas uz privātu ziņapmaiņas lietotni un tālāk uz krāpniecisku tīmekļa saskarni. Kopīgojot telemetriju starp MI nodrošinātāju un ziņapmaiņas platformu, uzņēmumi identificēja koordinēto kontu tīklu.

Šie kopīgie centieni uzsver nepieciešamību pēc starpplatformu aizsardzības stratēģijas. Ja draudu izpildītājam tiek liegta piekļuve ChatGPT, viņš var mēģināt pārvietot savas darbības uz citu LLM. Tomēr vēsturisko datu un specifisko uzvedņu zaudēšana, kas izmantotas viņu "čata" darbu pārvaldībai, izjauc viņu tempu. Šo kontu zaudēšana spiež noziedzīgo grupu atjaunot savu administratīvo infrastruktūru. Tas sniedz arī tiesu ekspertīzes pierādījumus, ko tiesībsargājošās iestādes var izmantot, lai izsekotu līdzekļu kustību un kompleksu atrašanās vietu. Poipetas pilsētai ir sena vēsture ar šāda veida operācijām, un šie dati palīdz izveidot skaidrāku priekšstatu par to, kā tās ir attīstījušās ģeneratīvā MI laikmetā.

Uzbūkošas MI iespējas plašā mērogā

Ar MI papildinātu uzbrukuma spēju attīstība vairs nav teorētisks risks. Tā ir visaptveroša realitāte. Ir novērots, ka progresīvi modeļi vēršas pret reālām sistēmām "capture-the-flag" novērtējumu laikā, taču to izmantošana sociālajā inženierijā ir daudz izplatītāka. Poipetas tīkls rāda, ka MI galvenā priekšrocība krāpniekam ne vienmēr ir gudrība. Galvenā priekšrocība ir ātrums un mērogs. Viens operators var pārvaldīt viltus personu floti, kurai iepriekš būtu bijusi nepieciešama desmitiem cilvēku komanda.

No riska viedokļa tas pazemina ienākšanas barjeru organizētajai noziedzībai. Viņiem nav vajadzīgi darbinieki, kas tekoši runā angļu vai hindi valodā, lai mērķētu uz šiem reģioniem. Viņiem ir nepieciešama tikai API atslēga un instrukciju kopums modelim. Šo kompleksu decentralizētais raksturs padara tos grūti pastāvīgi slēdzamus. Kad vienā vietā tiek veikts reids, digitālā infrastruktūra bieži vien saglabājas mākonī. MI kļūst par operācijas atmiņu un muskuļiem. Tas ļauj grupai atsākt kampaņas jaunā vietā ar minimālu dīkstāvi.

Digitālo brīdinājuma zīmju atpazīšana

Tā kā šīs operācijas kļūst sarežģītākas, tradicionālās krāpšanas pazīmes izzūd. Gramatika ir perfekta. Tonis ir atbilstošs. Viltotie dokumenti izskatās īsti. Tomēr "ping-zing-sting" pamatā esošā loģika paliek nemainīga. Ja nezināma persona uzsāk sarunu ziņapmaiņas lietotnē un galu galā pāriet uz tēmu par naudu, tā ir krāpšana. Nav svarīgi, cik liela uzticība ir izveidota vai cik daudz fotoattēlu ir kopīgots. Mērķis vienmēr ir "sting" — naudas izkrāpšana.

Organizācijām arī jāapzinās, ka šie paši tīkli var vērsties pret to darbiniekiem. Darbinieks Bangladešā bāzētā uzņēmumā var redzēt Poipetas darba sludinājumu un nejauši sniegt sensitīvus uzņēmuma datus laikā, ko viņš uzskata par likumīgu darba interviju. Uzbrukuma virsma nav tikai tīkla tehniskais perimetrs. Tā ir to cilvēku sociālā un ekonomiskā neaizsargātība, kuri ar to mijiedarbojas.

Cilvēka ugunsmūra audits

Aizsardzība pret MI darbinātiem krāpnieku tīkliem prasa maiņu tajā, kā mēs pieejam drošības izpratnei. Cilvēka ugunsmūra koncepcija ir svarīgāka nekā jebkad agrāk. Mums ir jāiet tālāk par vienkāršām pikšķerēšanas simulācijām, kurās tiek meklēti vārdi ar pareizrakstības kļūdām. Mums ir jāmāca cilvēki atpazīt "ping-zing-sting" psiholoģiskos modeļus. Šo operāciju mērogs nozīmē, ka ikviens, kam ir viedtālrunis, ir potenciāls mērķis.

Aizkulisēs MI nodrošinātāji pastāvīgi uzlabo savus drošības filtrus, lai novērstu šāda veida ļaunprātīgu izmantošanu. Tomēr draudu izpildītāji ir radoši. Viņi vienmēr meklēs veidus, kā apiet šīs kontroles. Līdz ar to visefektīvākā aizsardzība ir tehniskās izpildes un sabiedrības izglītošanas kombinācija. Mums pret katru nepieprasītu ziņojumu jāizturas kā pret potenciālu ieejas punktu noziedzīgam tīklam. Poipetas darbības pārtraukšana ir panākums, taču tā ir viena kauja ļoti garā karā.

Auditējiet savas organizācijas saziņas politikas un pārliecinieties, ka darbinieki zina, kā ziņot par aizdomīgu saziņu. Ieviesiet stingru daudzfaktoru autentifikāciju (MFA) visos korporatīvajos un personīgajos kontos. Šie soļi nodrošina aizsardzības slāni, kuru MI ģenerēts šarms nevar viegli pārvarēt.

Avoti: OpenAI Threat Intelligence Report, Meta Security Research, MITRE ATT&CK Framework for Social Engineering.

Atruna: Šis raksts ir paredzēts tikai informatīviem un izglītojošiem nolūkiem. Tas neaizstāj profesionālu kiberdrošības auditu vai incidentu reaģēšanas pakalpojumu.