Πώς το δίκτυο απάτης AI του Πόιπετ εκβιομηχάνισε την εξαπάτηση

Το θύμα έλαβε ένα μήνυμα στο WhatsApp από έναν αριθμό που δεν αναγνώρισε. Ξεκίνησε ως ένας απλός χαιρετισμός, μια ψηφιακή χειραψία που φαινόταν τυχαία. Τις επόμενες τρεις εβδομάδες, αυτό το μήνυμα εξελίχθηκε σε μια καθημερινή ιεροτελεστία κοινών φωτογραφιών, ιστοριών ζωής και, τελικά, μια συμβουλή για μια κερδοφόρα ευκαιρία διαπραγμάτευσης χρυσού. Μέχρι τη στιγμή που το θύμα συνειδητοποίησε ότι η πλατφόρμα ήταν φανταστική, οι οικονομίες μιας ζωής είχαν χαθεί. Αυτή η συγκεκριμένη αλυσίδα επίθεσης, γνωστή ως ping-zing-sting, ορίζει μια πρόσφατη διακοπή λειτουργίας από την OpenAI. Η εταιρεία απέκλεισε πρόσφατα ένα συντονισμένο δίκτυο λογαριασμών ChatGPT που προέρχονταν από το Πόιπετ της Καμπότζης. Αυτή η πόλη είναι ένας γνωστός κόμβος για συγκροτήματα απάτης και εμπορίας ανθρώπων. Η επιχείρηση δεν έκλεβε απλώς χρήματα. Χρησιμοποιούσε παραγωγική τεχνητή νοημοσύνη για να αυτοματοποιήσει τη διοικητική σκληρότητα μιας σύγχρονης αποικίας σκλάβων.

Μίλησα με έναν ειδικό απόκρισης περιστατικών χθες το βράδυ μέσω μιας κρυπτογραφημένης σύνδεσης Signal σχετικά με τα ευρήματα σε αυτά τα συγκεκριμένα αρχεία καταγραφής του ChatGPT. Ο τεράστιος όγκος περιεχομένου είναι αυτό που ξεχωρίζει. Δεν εξετάζουμε πλέον μεμονωμένους απατεώνες που πληκτρολογούν μηνύματα σε σπασμένα αγγλικά. Εξετάζουμε μια βιομηχανική γραμμή συναρμολόγησης όπου τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) λειτουργούν ως η κύρια μηχανή τόσο για την εξωτερική απάτη όσο και για την εσωτερική διαχείριση. Η ακεραιότητα της επικοινωνίας διακυβεύεται από την πρώτη λέξη. Οι επιτιθέμενοι χρησιμοποίησαν την AI για να γεφυρώσουν το γλωσσικό χάσμα, μεταφράζοντας πολύπλοκη ψυχολογική χειραγώγηση στις μητρικές γλώσσες των στόχων τους. Αυτή είναι η νέα πραγματικότητα του τοπίου των απειλών.

Η γεωγραφία της αυτοματοποιημένης εκμετάλλευσης

Το Πόιπετ βρίσκεται στα σύνορα μεταξύ Καμπότζης και Ταϊλάνδης. Υπήρξε για καιρό σημείο διέλευσης για το εμπόριο, αλλά τα τελευταία χρόνια έγινε κέντρο οργανωμένων εγκληματικών ομάδων. Αυτές οι ομάδες συχνά λειτουργούν μέσα από τεράστια, περιφραγμένα συγκροτήματα. Η έκθεση της OpenAI καθιστά σαφές ότι το δίκτυο χρησιμοποίησε το ChatGPT για να διατηρήσει την υποδομή αυτών των συγκροτημάτων. Ένα υποσύνολο των αποκλεισμένων λογαριασμών επικεντρώθηκε σε διοικητικές εργασίες. Συνέτασσαν εσωτερικές ανακοινώσεις και τεκμηρίωναν τα χρέη των εργαζομένων. Παρακολουθούσαν κρατήσεις μισθών, πρόστιμα και αποπληρωμές δανείων για τους εργαζόμενους εντός του συγκροτήματος.

Από αρχιτεκτονικής άποψης, οι απατεώνες αντιμετώπισαν το ChatGPT ως ένα τμήμα ανθρωπίνου δυναμικού χαμηλού κόστους. Χρησιμοποίησαν το εργαλείο για να διαχειριστούν την επιμελητεία της καταναγκαστικής εργασίας. Οι λογαριασμοί παρήγαγαν περιεχόμενο σχετικά με υπερβάσεις βίζας, άδειες εργασίας και καθεστώς μετανάστευσης. Αυτό το διοικητικό στρώμα είναι που επιτρέπει σε αυτά τα συγκροτήματα να λειτουργούν σε κλίμακα. Όταν ένας εργαζόμενος αποτυγχάνει να πιάσει το όριο παραγωγής, το σύστημα παράγει μια επίσημη ειδοποίηση προστίμου. Αυτό δεν είναι απλώς ένα οικονομικό έγκλημα. Αυτή είναι η χρήση της AI για τη διευκόλυνση της εμπορίας ανθρώπων. Οι δράστες χρησιμοποίησαν ακόμη και τα μοντέλα για να δημιουργήσουν προωθητικό περιεχόμενο για να δελεάσουν νέα θύματα στα συγκροτήματα. Υποσχέθηκαν θέσεις εργασίας με βασικό μισθό 800 $ και μπόνους παρουσίας 100 $ σε άτομα στο Μπαγκλαντές και την Ινδία. Η πραγματικότητα που βρήκαν κατά την άφιξη ήταν ένα κατασχεμένο διαβατήριο και ένας αναγκαστικός ρόλος σε ένα ψηφιακό εργοστάσιο απάτης.

Πίσω από τις σκηνές του ping-zing-sting

Η αλυσίδα επίθεσης ακολουθεί μια αυστηρή διαδικασία τριών σταδίων. Το πρώτο στάδιο είναι το ping. Αυτή είναι η αρχική προσέγγιση σε πλατφόρμες όπως το WhatsApp ή το Telegram. Ο στόχος είναι να δημιουργηθεί επαφή χωρίς να προκληθεί η υποψία του στόχου. Οι απατεώνες χρησιμοποιούν συνθετικές ταυτότητες που δημιουργήθηκαν με AI. Παράγουν εικόνες πλαστών διαβατηρίων και νομικών ειδοποιήσεων για να παρέχουν ένα πρόσχημα νομιμότητας. Το Phishing σε αυτό το πλαίσιο είναι ένας ψηφιακός Δούρειος Ίππος. Το αρχικό μήνυμα φαίνεται αβλαβές, αλλά φέρει το ωφέλιμο φορτίο μιας μακροχρόνιας ψυχολογικής επιχείρησης.

Ακολουθεί το zing. Αυτή είναι η άσκηση οικοδόμησης εμπιστοσύνης. Οι δράστες συμμετέχουν σε εκτεταμένες συνομιλίες. Χρησιμοποιούν τα μοντέλα της OpenAI για να δημιουργήσουν και να μεταφράσουν μηνύματα που χτίζουν οικειότητα. Μπορεί να εμφανίζονται ως ερωτικό ενδιαφέρον ή ως εκπρόσωπος μιας πλατφόρμας διαδικτυακών τυχερών παιχνιδιών. Η AI τους επιτρέπει να διατηρούν εκατοντάδες από αυτές τις συνομιλίες ταυτόχρονα χωρίς να χάνουν το νήμα των συγκεκριμένων ψεμάτων που λένε σε κάθε θύμα. Κατά συνέπεια, ο απατεώνας μπορεί να εναλλάσσεται μεταξύ διαφορετικών αφηγήσεων —επενδυτικές συμβουλές, ρομαντική νοσταλγία ή νομικές απειλές— ανάλογα με το πώς ανταποκρίνεται το θύμα. Έφτασαν στο σημείο να υποδυθούν υπηρεσίες επιβολής του νόμου για να ενημερώσουν τους στόχους ότι έπρεπε να πληρώσουν πρόστιμα για σοβαρά ποινικά αδικήματα. Η AI διασφαλίζει ότι ο τόνος παραμένει επαγγελματικός και επείγων.

Τέλος, υπάρχει το sting. Μόλις η εμπιστοσύνη είναι αρκετά βαθιά, οι απατεώνες δίνουν οδηγίες στα θύματα να κάνουν μια κατάθεση ή να πληρώσουν ένα τέλος ενεργοποίησης. Παρέχουν ψεύτικα στιγμιότυπα οθόνης μεταφορών και πληροφορίες λογαριασμού ως απόδειξη πληρωμής. Το θύμα βλέπει μια επαγγελματική διεπαφή τυχερών παιχνιδιών ή μια επιβεβαίωση αγοράς μετοχών. Αυτά τα στοιχεία συχνά δημιουργούνται ή μορφοποιούνται από την AI για να φαίνονται αυθεντικά. Μόλις σταλούν τα χρήματα, οι απατεώνες εξαφανίζονται ή ζητούν περισσότερα τέλη για να αποδεσμεύσουν τα ανύπαρκτα κέρδη. Οι στόχοι χάνουν χιλιάδες δολάρια σε λίγες μόνο ημέρες.

Η διοικητική μηχανή του συγκροτήματος

Μία από τις πιο ανατριχιαστικές πτυχές αυτής της εξάρθρωσης είναι ο τρόπος με τον οποίο οι απατεώνες χρησιμοποίησαν την AI για να διαχειριστούν το δικό τους προσωπικό. Σε ένα παραδοσιακό εταιρικό περιβάλλον, ένας διευθυντής μπορεί να χρησιμοποιήσει ένα LLM για να συντάξει ένα σημείωμα σχετικά με ένα πρόγραμμα διακοπών. Στα συγκροτήματα του Πόιπετ, οι δράστες χρησιμοποίησαν το ChatGPT για να τεκμηριώσουν κίνητρα στρατολόγησης και κρατήσεις μισθών για το αιχμάλωτο εργατικό δυναμικό τους. Χρησιμοποίησαν το εργαλείο για να μεταφράσουν μηνύματα μεταξύ μελών του προσωπικού που μιλούσαν διαφορετικές γλώσσες. Αυτό επέτρεψε σε μια πολύγλωσση εγκληματική οργάνωση να λειτουργεί με υψηλό βαθμό εσωτερικής αποτελεσματικότητας.

Αυτή η εφαρμογή της AI αντιπροσωπεύει μια αλλαγή στην εργαλειοθήκη των δραστών. Δεν χρησιμοποιούν πλέον την AI μόνο για το κακόβουλο φορτίο. Την χρησιμοποιούν για τις κρίσιμες επιχειρηματικές διαδικασίες του εγκληματικού συνδικάτου. Μιλώντας προληπτικά, αυτό καθιστά ολόκληρη την επιχείρηση πιο ανθεκτική. Αυτοματοποιώντας τη γραφειοκρατία της εμπορίας ανθρώπων, η ηγεσία αυτών των οργανώσεων μπορεί να επικεντρωθεί στην επέκταση της εμβέλειάς της. Οι λογαριασμοί δημιούργησαν επίσης διαφημίσεις στα μέσα κοινωνικής δικτύωσης για θέσεις εργασίας "chatter" (συνομιλητών), πλήρεις με λεπτομέρειες σχετικά με αεροπορικά εισιτήρια, δωρεάν γεύματα και βίζες Καμπότζης ενός έτους. Αυτές οι διαφημίσεις ήταν το πρώτο βήμα στον κύκλο εκμετάλλευσης για πολλούς εργαζόμενους στη Νότια Ασία.

Συλλογική άμυνα και ο ρόλος της Meta

Η OpenAI δεν εργάστηκε μόνη της. Διερεύνησε αυτή την επιχείρηση σε συνεργασία με το WhatsApp, το οποίο ανήκει στη Meta. Αυτή η συνεργασία είναι απαραίτητη επειδή τα δίκτυα απάτης σπάνια περιορίζονται σε μία μόνο πλατφόρμα. Οι δράστες μετακινούν τα θύματα από μια δημόσια διαφήμιση στα μέσα κοινωνικής δικτύωσης σε μια ιδιωτική εφαρμογή ανταλλαγής μηνυμάτων και μετά σε μια δόλια διαδικτυακή διεπαφή. Μοιράζοντας τηλεμετρία μεταξύ του παρόχου AI και της πλατφόρμας μηνυμάτων, οι εταιρείες εντόπισαν το συντονισμένο δίκτυο λογαριασμών.

Αυτή η κοινή προσπάθεια υπογραμμίζει την αναγκαιότητα μιας στρατηγικής άμυνας σε πολλαπλές πλατφόρμες. Όταν ένας δράστης αποκλείεται από το ChatGPT, μπορεί να προσπαθήσει να μεταφέρει τις δραστηριότητές του σε ένα διαφορετικό LLM. Ωστόσο, η απώλεια των ιστορικών δεδομένων και των συγκεκριμένων προτροπών (prompts) που χρησιμοποιούνται για τη διαχείριση των θέσεων εργασίας "chatter" διακόπτει την ορμή τους. Η απώλεια αυτών των λογαριασμών αναγκάζει την εγκληματική ομάδα να ανοικοδομήσει τη διοικητική της υποδομή. Παρέχει επίσης εγκληματολογικά στοιχεία που μπορούν να χρησιμοποιηθούν από τις υπηρεσίες επιβολής του νόμου για την παρακολούθηση της κίνησης των κεφαλαίων και της τοποθεσίας των συγκροτημάτων. Η πόλη του Πόιπετ έχει μακρά ιστορία με αυτούς τους τύπους επιχειρήσεων, και αυτά τα δεδομένα βοηθούν στη δημιουργία μιας σαφέστερης εικόνας για το πώς έχουν εξελιχθεί στην εποχή της παραγωγικής AI.

Επιθετικές ικανότητες AI σε κλίμακα

Η ανάπτυξη επιθετικών ικανοτήτων ενισχυμένων με AI δεν είναι πλέον ένας θεωρητικός κίνδυνος. Είναι μια διάχυτη πραγματικότητα. Προηγμένα μοντέλα έχουν παρατηρηθεί να στοχεύουν πραγματικά συστήματα κατά τη διάρκεια αξιολογήσεων capture-the-flag, αλλά η χρήση τους στην κοινωνική μηχανική είναι πολύ πιο κοινή. Το δίκτυο του Πόιπετ δείχνει ότι το πρωταρχικό πλεονέκτημα της AI για έναν απατεώνα δεν είναι απαραίτητα η ευφυΐα. Το πρωταρχικό πλεονέκτημα είναι η ταχύτητα και η κλίμακα. Ένας μεμονωμένος χειριστής μπορεί να διαχειριστεί έναν στόλο από ψεύτικες περσόνες που προηγουμένως θα απαιτούσαν μια ομάδα δεκάδων ατόμων.

Από την άποψη του κινδύνου, αυτό χαμηλώνει το εμπόδιο εισόδου για το οργανωμένο έγκλημα. Δεν χρειάζονται προσωπικό που να μιλάει άπταιστα αγγλικά ή χίντι για να στοχεύσουν αυτές τις περιοχές. Χρειάζονται μόνο ένα κλειδί API και ένα σύνολο οδηγιών για το μοντέλο. Η αποκεντρωμένη φύση αυτών των συγκροτημάτων τα καθιστά δύσκολο να κλείσουν οριστικά. Όταν γίνεται έφοδος σε μια τοποθεσία, η ψηφιακή υποδομή συχνά παραμένει στο σύννεφο (cloud). Η AI γίνεται η μνήμη και ο μυς της επιχείρησης. Αυτό επιτρέπει στην ομάδα να επανεκκινήσει τις καμπάνιες της σε μια νέα τοποθεσία με ελάχιστο χρόνο διακοπής λειτουργίας.

Εντοπισμός των ψηφιακών προειδοποιητικών σημείων

Καθώς αυτές οι επιχειρήσεις γίνονται πιο εξελιγμένες, τα παραδοσιακά σημάδια μιας απάτης εξαφανίζονται. Η γραμματική είναι τέλεια. Ο τόνος είναι κατάλληλος. Τα πλαστά έγγραφα φαίνονται αληθινά. Ωστόσο, η υποκείμενη λογική του ping-zing-sting παραμένει η ίδια. Εάν ένα άγνωστο άτομο ξεκινήσει μια συνομιλία σε μια εφαρμογή μηνυμάτων και τελικά μεταφέρει το θέμα στα χρήματα, πρόκειται για απάτη. Δεν έχει σημασία πόση εμπιστοσύνη έχουν χτίσει ή πόσες φωτογραφίες έχουν μοιραστεί. Ο στόχος είναι πάντα το sting.

Οι οργανισμοί πρέπει επίσης να γνωρίζουν ότι οι υπάλληλοί τους μπορεί να στοχοποιηθούν από αυτά τα ίδια δίκτυα. Ένας εργαζόμενος σε μια εταιρεία με έδρα το Μπαγκλαντές μπορεί να δει μια διαφήμιση στρατολόγησης στο Πόιπετ και άθελά του να παράσχει ευαίσθητα εταιρικά δεδομένα κατά τη διάρκεια αυτού που νομίζει ότι είναι μια νόμιμη συνέντευξη εργασίας. Η επιφάνεια επίθεσης δεν είναι μόνο η τεχνική περίμετρος του δικτύου. Είναι η κοινωνική και οικονομική ευπάθεια των ανθρώπων που αλληλεπιδρούν με αυτό.

Έλεγχος του ανθρώπινου τείχους προστασίας

Η άμυνα έναντι των δικτύων απάτης που τροφοδοτούνται από AI απαιτεί μια αλλαγή στον τρόπο με τον οποίο προσεγγίζουμε την ευαισθητοποίηση σε θέματα ασφάλειας. Η έννοια του ανθρώπινου τείχους προστασίας (human firewall) είναι πιο σημαντική από ποτέ. Πρέπει να προχωρήσουμε πέρα από απλές προσομοιώσεις phishing που αναζητούν ανορθόγραφες λέξεις. Πρέπει να εκπαιδεύσουμε τους ανθρώπους να αναγνωρίζουν τα ψυχολογικά μοτίβα του ping-zing-sting. Η κλίμακα αυτών των επιχειρήσεων σημαίνει ότι όλοι όσοι διαθέτουν smartphone είναι δυνητικοί στόχοι.

Πίσω από τις σκηνές, οι πάροχοι AI βελτιώνουν συνεχώς τα φίλτρα ασφαλείας τους για να αποτρέψουν αυτού του είδους την κατάχρηση. Ωστόσο, οι δράστες είναι δημιουργικοί. Θα αναζητούν πάντα τρόπους για να παρακάμψουν αυτούς τους ελέγχους. Κατά συνέπεια, η πιο αποτελεσματική άμυνα είναι ένας συνδυασμός τεχνικής επιβολής και δημόσιας εκπαίδευσης. Πρέπει να αντιμετωπίζουμε κάθε ανεπιθύμητο μήνυμα ως πιθανό σημείο εισόδου για ένα εγκληματικό δίκτυο. Η εξάρθρωση στο Πόιπετ είναι μια επιτυχία, αλλά είναι μια μάχη σε έναν πολύ μακρύ πόλεμο.

Ελέγξτε τις πολιτικές επικοινωνίας του οργανισμού σας και βεβαιωθείτε ότι οι εργαζόμενοι γνωρίζουν πώς να αναφέρουν ύποπτες προσεγγίσεις. Επιβάλλετε αυστηρό έλεγχο ταυτότητας πολλαπλών παραγόντων (MFA) σε όλους τους εταιρικούς και προσωπικούς λογαριασμούς. Αυτά τα βήματα παρέχουν ένα στρώμα άμυνας που η γοητεία που δημιουργείται από την AI δεν μπορεί εύκολα να ξεπεράσει.

Πηγές: OpenAI Threat Intelligence Report, Meta Security Research, MITRE ATT&CK Framework for Social Engineering.

Αποποίηση ευθύνης: Αυτό το άρθρο προορίζεται μόνο για ενημερωτικούς και εκπαιδευτικούς σκοπούς. Δεν αντικαθιστά έναν επαγγελματικό έλεγχο κυβερνοασφάλειας ή μια υπηρεσία απόκρισης σε περιστατικά.