Θωράκιση της υποδομής έναντι όπλων που σκέφτονται μόνα τους

Πόσο μεγάλο μέρος του σχεδίου απόκρισης σε περιστατικά προϋποθέτει ότι ο αντίπαλος είναι ένας άνθρωπος που κάνει λάθη; Για δεκαετίες, η στάση ασφαλείας μας βασιζόταν στο γεγονός ότι ο επιτιθέμενος είναι άνθρωπος. Οι άνθρωποι κουράζονται. Χάνουν τη συγκέντρωσή τους. Έχουν περιορισμένο εύρος ζώνης για τη διαχείριση πολλαπλών σύνθετων εργασιών ταυτόχρονα. Αυτός ο ανθρώπινος περιορισμός ήταν ο σιωπηλός συνεργάτης στις αμυντικές μας στρατηγικές. Η Πρακτορική ΤΝ (Agentic AI) αφαίρεσε αυτόν τον περιορισμό. Εισερχόμαστε πλέον σε μια εποχή όπου το όπλο δεν χρειάζεται πλέον έναν πολεμιστή για να το χειριστεί. Πρόκειται για μια μετάβαση από εργαλεία που βοηθούν σε εργαλεία που δρουν.

Έχω παρακολουθήσει αυτή την εξέλιξη από την πρώτη γραμμή. Το 2023, δημοσίευσα μια λευκή βίβλο στο SANS Technology Institute. Απέδειξε πώς ακόμη και ανειδίκευτοι χρήστες θα μπορούσαν να παρασύρουν τα chatbots στη δημιουργία λειτουργικού κακόβουλου λογισμικού. Εκείνη την εποχή, η ΤΝ ήταν μια εξελιγμένη πένα. Βοηθούσε στη σύνταξη του κώδικα, αλλά ένας άνθρωπος έπρεπε ακόμα να αντιγράψει, να επικολλήσει και να εκτελέσει την επίθεση. Μέχρι το 2025, αυτή η δυναμική άλλαξε με την εισαγωγή αυτόνομων πρακτόρων (agents). Σήμερα, το 2026, το λουρί έχει φύγει. Ο πράκτορας είναι ο χειριστής.

Το λουρί κόπηκε

Η θεμελιώδης διαφορά μεταξύ της ΤΝ πριν από τρία χρόνια και των πρακτορικών μοντέλων του σήμερα είναι ο βρόχος ανατροφοδότησης. Οι προηγούμενες εκδόσεις της επιθετικής ΤΝ ήταν αντιδραστικές. Δίνατε μια προτροπή (prompt) και εκείνη έδινε μια απάντηση. Η Πρακτορική ΤΝ είναι προληπτική. Λαμβάνει έναν στόχο και στη συνέχεια επιλέγει ποια εργαλεία θα χρησιμοποιήσει για να τον επιτύχει. Μπορεί να περιηγηθεί στον ιστό, να εκτελέσει εντολές τερματικού, να σαρώσει θύρες και να ξαναγράψει τον δικό της κώδικα όταν αντιμετωπίζει σφάλμα. Πρόκειται για έναν βρόχο που δεν απαιτεί ανθρώπινη παρέμβαση.

Αυτή η αλλαγή αναδιαμορφώνει τις επιθετικές επιχειρήσεις προς δύο κατευθύνσεις. Παρέχει δυνατότητες σε επιτιθέμενους που δεν διαθέτουν τεχνικές δεξιότητες και προσδίδει ταχύτητα σε εκείνους που είναι ήδη θανάσιμοι. Εάν το επάγγελμά σας είναι η επιθετική εργασία, πρέπει να συνειδητοποιήσετε ότι τα εργαλεία που στρέφει ένας αντίπαλος εναντίον σας είναι τα ίδια εργαλεία που πρέπει να χρησιμοποιήσετε για να αμυνθείτε. Το έδαφος έχει μετακινηθεί. Δεν αμυνόμαστε πλέον έναντι μιας σειράς διακριτών γεγονότων. Αμυνόμαστε έναντι μιας συνεχούς, σκεπτόμενης διαδικασίας που κατοικεί στο δίκτυο.

Ο σιωπηλός θάνατος των σημαδιών του phishing

Ένας από τους πιο άμεσους αντίκτυπους είναι η πλήρης αυτοματοποίηση της κοινωνικής μηχανικής. Σε ένα τυπικό σενάριο, ένας επιτιθέμενος αναπτύσσει έναν πράκτορα για να συλλέξει δημόσια διαθέσιμες πληροφορίες σχετικά με έναν συγκεκριμένο στόχο. Ο πράκτορας σαρώνει προφίλ στο LinkedIn, παρακολουθεί ηχογραφήσεις συνεδρίων για να μιμηθεί πρότυπα ομιλίας και διαβάζει πρόσφατα δελτία τύπου. Χρησιμοποιεί αυτές τις πληροφορίες για να δημιουργήσει μια περσόνα. Ένας δεύτερος πράκτορας διαχειρίζεται στη συνέχεια τη συνομιλία. Στέλνει το μήνυμα, χειρίζεται τις απαντήσεις και κατευθύνει τον στόχο προς έναν κακόβουλο σύνδεσμο ή ένα αίτημα για διαπιστευτήρια.

Αυτός είναι ο θάνατος των σημάτων που εμπιστευόμασταν. Για χρόνια, η εκπαίδευσή μας στο phishing επικεντρωνόταν σε προφανή σημάδια. Ψάχναμε για αδέξια γραμματική, γενικά πρότυπα και αίσθηση του κατεπείγοντος. Η Πρακτορική ΤΝ εξαλείφει αυτούς τους δείκτες. Κάθε μήνυμα είναι άπταιστο και μοναδικό. Βασίζεται σε πραγματικά γεγονότα για τον παραλήπτη. Η ανίχνευσή μας πρέπει τώρα να βασίζεται εξ ολοκλήρου σε σήματα υποδομής, όπως η φήμη του αποστολέα και η ταυτοποίηση. Παρακολουθούμε το γλωσσικό τείχος προστασίας να καταρρέει. Το phishing είναι ένας ψηφιακός Δούρειος Ίππος που πλέον φαίνεται πανομοιότυπος με μια νόμιμη παράδοση.

Η άνοδος του script kiddie ως υπηρεσία

Συχνά αναφέρομαι σε αυτή την τρέχουσα κατάσταση ως "script kiddie ως υπηρεσία". Ιστορικά, ένας ανειδίκευτος δράστης περιοριζόταν από τη δική του έλλειψη τεχνογνωσίας. Έπρεπε να περιμένει κάποιον άλλον να κυκλοφορήσει ένα exploit. Τώρα, οι περιορισμοί καθορίζονται από την ικανότητα του μοντέλου ΤΝ. Επειδή πολλοί ανεκπαίδευτοι δράστες χρησιμοποιούν τα ίδια κορυφαία μοντέλα, βλέπουμε μια συμπεριφορική μονοκαλλιέργεια. Οι επιθέσεις είναι ικανές, αλλά ακολουθούν αναγνωρίσιμα μοτίβα.

Αυτό είναι ένα σπάνιο πλεονέκτημα για τον αμυνόμενο. Όταν χιλιάδες επιτιθέμενοι χρησιμοποιούν το ίδιο υποκείμενο μοντέλο για να δημιουργήσουν μια αλυσίδα εκμετάλλευσης, αφήνουν παρόμοια αποτυπώματα. Μπορούμε να δημιουργήσουμε ανιχνεύσεις για αυτές τις προεπιλεγμένες συμπεριφορές. Ωστόσο, αυτό λειτουργεί μόνο για την πλειοψηφία. Οι έμπειροι αντίπαλοι προσαρμόζονται πέρα από αυτές τις προεπιλογές. Χρησιμοποιούν πράκτορες για να εκτελούν εκστρατείες παράλληλα. Μια εργασία που κάποτε απαιτούσε μια ομάδα τριών ατόμων για δύο εβδομάδες, τώρα απαιτεί ένα άτομο και έναν πράκτορα για τέσσερις ώρες. Ο όγκος των επιθέσεων υψηλής ποιότητας είναι η νέα βάση αναφοράς.

Αυτοματισμός στην αλυσίδα εκμετάλλευσης

Ο αυτοματισμός έχει προχωρήσει βαθιά στη φάση της εκμετάλλευσης (exploitation). Καθώς τα μοντέλα γίνονταν καλύτερα στη σύνδεση κλήσεων εργαλείων, ο πήχης για την παραγωγή ενός λειτουργικού exploit έπεσε. Το είδαμε αυτό καθαρά όταν η ομοσπονδιακή κυβέρνηση παρενέβη για να αποσυρθεί το Anthropic Fable 5 από την αγορά. Οι φόβοι σχετικά με τις δυνατότητές του δεν ήταν αβάσιμοι. Όταν συνδέετε ένα ικανό μοντέλο σε μια βάση δεδομένων γνωστών ευπαθειών, εκτελεί τη δική του αναγνώριση. Κρίνει σε τι είναι πιθανό να είναι εκτεθειμένος ένας στόχος και αντλεί το αντίστοιχο exploit από τη βιβλιοθήκη του.

Λειτουργεί σαν λαγωνικό που έχει πιάσει μια μυρωδιά. Αναφέρει στον χειριστή μόνο όταν είναι έτοιμο να πυροδοτήσει. Το κακόβουλο λογισμικό γίνεται επίσης πρακτορικό. Βλέπουμε στελέχη που ξαναγράφουν τις δικές τους υπογραφές για να γλιστρήσουν πέρα από ελέγχους που αναγνώριζαν την προηγούμενη έκδοση. Αυτή είναι η φυσική εξέλιξη των εννοιών Guided Network Access Weapon (GNAW) που συζήτησα για πρώτη φορά πριν από χρόνια. Το κακόβουλο λογισμικό δεν είναι πλέον ένα στατικό αρχείο. Είναι ένα κομμάτι λογισμικού που μπορεί να σκεφτεί για το περιβάλλον του και να αλλάξει τη συμπεριφορά του για να παραμείνει κρυφό.

Η αυτοπεποίθηση ενός ψευδούς χρησμού

Υπάρχει κίνδυνος να βασιζόμαστε υπερβολικά σε αυτούς τους πράκτορες. Μιλούν με αδιάλειπτη αυθεντία, αλλά δεν αναζητούν την αλήθεια. Ένας πράκτορας αναζητά μια ολοκληρωμένη εργασία. Θέλει να δώσει μια απάντηση που φαίνεται σωστή. Δεν έχει προνομιακή άποψη για το αν ένας κεντρικός υπολογιστής είναι πραγματικά ευάλωτος. Αντιστοιχίζει δείκτες με ένα συμπέρασμα. Εάν παντρέψετε έναν πράκτορα με μια αποθήκη ανάκτησης ευπαθειών, θα φέρει στην επιφάνεια ό,τι σχετίζεται, όχι ό,τι είναι αληθές. Συχνά αγνοεί αριθμούς εκδόσεων ή λεπτομέρειες διαμόρφωσης.

Αυτό είναι το πρόβλημα του ψευδούς χρησμού. Ο πράκτορας θα κατονομάσει έναν στόχο που δεν υπάρχει και θα ζητήσει άδεια να χτυπήσει. Για τον επαγγελματία, αυτό σημαίνει ότι η κρίση είναι πλέον η πρωταρχική δεξιότητα. Τα μηχανικά μέρη της τέχνης είναι πλέον εργασίες μηχανών. Η ικανότητα να διακρίνεις ένα αληθινό εύρημα από ένα σίγουρο ψέμα είναι εκεί που έγκειται η αξία. Κάθε φορά που ένας πράκτορας προτείνει μια διαδρομή, ένας άνθρωπος πρέπει ακόμα να επαληθεύει τη λογική. Εάν ακολουθήσετε έναν πράκτορα τυφλά, τελικά θα σας οδηγήσει στον γκρεμό.

Απόδειξη της άμυνας μέσω της χρησιμότητας

Το SANS Secure AI Blueprint, που αναπτύχθηκε από τον Rob T. Lee, παρέχει ένα πλαίσιο για αυτή τη νέα πραγματικότητα. Χωρίζει την πρόκληση σε τρεις άξονες: Προστασία ΤΝ, Χρήση ΤΝ και Διακυβέρνηση ΤΝ. Η διακυβέρνηση αφορά την πολιτική και την εποπτεία. Η προστασία αφορά τη θωράκιση των συστημάτων. Η χρήση είναι εκεί όπου θέτουμε την ΤΝ σε λειτουργία και για τις δύο πλευρές. Οι επιθετικές επιχειρήσεις ζουν στον άξονα της Χρήσης.

Πολλοί ηγέτες πιστεύουν ότι η ασφάλεια της ΤΝ αφορά μόνο φακέλους πολιτικής. Κάνουν λάθος. Η Χρήση είναι ο μόνος άξονας που αποδίδει αποδείξεις. Ένας οργανισμός μπορεί να γράψει όποια κατευθυντήρια γραμμή θέλει, αλλά μέχρι κάποιος να στρέψει ένα πρακτορικό εργαλείο εναντίον του δικτύου, αυτές οι κατευθυντήριες γραμμές είναι θεωρίες. Μια άμυνα έχει σημασία μόνο όταν έρχεται σε επαφή με μια επίθεση. Ο ρόλος του επιθετικού επαγγελματία είναι να φέρει αυτή την επαφή στην επιφάνεια. Είμαστε αυτοί που αποδεικνύουν εάν η πολιτική και η θωράκιση λειτουργούν πραγματικά.

Εάν θέλετε να κατανοήσετε τον πραγματικό σας κίνδυνο, πρέπει να διεξάγετε μια αξιολόγηση κινδύνου που περιλαμβάνει αυτόνομη προσομοίωση επίθεσης. Οι παραδοσιακές δοκιμές διείσδυσης δεν αποτελούν πλέον επαρκή καθρέφτη για το τοπίο των απειλών. Πρέπει να δείτε πώς το SOC σας χειρίζεται έναν αντίπαλο που δεν κοιμάται και δεν ακολουθεί ανθρώπινο πρόγραμμα. Ελέγξτε τους τρίτους προμηθευτές σας για τη δική τους χρήση πρακτορικών εργαλείων. Το όπλο έχει αλλάξει. Το χέρι στο όπλο έχει μετακινηθεί προς τα πίσω, αλλά η επιλογή της πυροδότησης παραμένει δική μας. Η κρίση μας είναι το μόνο πράγμα που η μηχανή δεν μπορεί να αντικαταστήσει.

Πηγές

• SANS Technology Institute: Whitepaper on Generative AI and Malware (2023)
• SANS Secure AI Blueprint: Developed by Rob T. Lee
• MITRE ATT&CK Framework: For AI-specific adversary tactics and techniques
• NIST AI Risk Management Framework (AI RMF 1.0)

Αποποίηση ευθύνης: Αυτό το άρθρο προορίζεται μόνο για ενημερωτικούς και εκπαιδευτικούς σκοπούς. Οι παρεχόμενες πληροφορίες δεν αντικαθιστούν έναν επαγγελματικό έλεγχο κυβερνοασφάλειας ή μια υπηρεσία απόκρισης σε περιστατικά. Ο συγγραφέας δεν παρέχει οδηγίες για παράνομες δραστηριότητες.