Γιατί ο υπολογιστής σας είναι λιγότερο ασφαλής επειδή οι εταιρείες AI προσπαθούν να τον προστατεύσουν

Η κοινή γνώμη αντιμετωπίζει τα προστατευτικά κιγκλιδώματα (guardrails) της Τεχνητής Νοημοσύνης σαν ένα ψηφιακό αλεξίσφαιρο γιλέκο. Η λογική είναι απλή: εάν ένα μοντέλο αρνείται να γράψει κακόβουλο κώδικα, οι χάκερ έχουν ένα λιγότερο όπλο στο οπλοστάσιό τους. Πίσω από το εταιρικό μάρκετινγκ και την κυβερνητική εποπτεία, αυτά τα μέτρα ασφαλείας τυφλώνουν επί του παρόντος τους ίδιους τους ανθρώπους που προστατεύουν τις συσκευές μας από επιθέσεις στον πραγματικό κόσμο. Προσπαθώντας να κλειδώσουν τις πόρτες στους εγκληματίες, τα εργαστήρια AI κλειδώνουν κατά λάθος έξω τους κλειδαράδες.

Τεχνολόγοι και ερευνητές ασφαλείας κρούουν τον κώδωνα του κινδύνου για μια τάση που δίνει προτεραιότητα στις εντυπώσεις έναντι της πραγματικής ασφάλειας. Ενώ εταιρείες όπως η Anthropic και η OpenAI προωθούν τα μοντέλα τους ως ισχυρές μηχανές καινοτομίας, τα έχουν επίσης τυλίξει σε στρώματα περιοριστικού κώδικα που έχουν σχεδιαστεί για να αποτρέπουν την "κακή χρήση". Για τον μέσο χρήστη, αυτό σημαίνει ότι το λογισμικό στο οποίο βασίζεστε —από την τραπεζική σας εφαρμογή μέχρι το λειτουργικό σύστημα του smartphone σας— γίνεται όλο και πιο δύσκολο να υπερασπιστεί.

Ο μύθος του ψηφιακού αλεξίσφαιρου γιλέκου

Το θεμελιώδες πρόβλημα με τα προστατευτικά κιγκλιδώματα της AI είναι ότι η κυβερνοασφάλεια είναι ένας δρόμος διπλής κατεύθυνσης. Για να διορθώσει μια τρύπα σε έναν τοίχο, ένας χτίστης πρέπει πρώτα να καταλάβει ακριβώς πώς μπορεί να σπάσει αυτός ο τοίχος. Στον ψηφιακό κόσμο, αυτό ονομάζεται επιθετική έρευνα (offensive research). Οι νόμιμοι επαγγελματίες ασφαλείας περνούν τις μέρες τους ενεργώντας σαν χάκερ για να βρουν ευπάθειες πριν τις βρουν οι πραγματικοί εγκληματίες.

Ο Chris Anley, επικεφαλής επιστήμονας στον κολοσσό συμβούλων ασφαλείας NCC Group, χρησιμοποιεί μια απλή αναλογία για αυτό. Ένα σφυρί είναι ένα εργαλείο που χρειάζεστε για να χτίσετε ένα σπίτι, αλλά είναι επίσης και όπλο. Δεν μπορείτε να χτίσετε μια δομή χωρίς αυτό. Εάν απαγορεύσετε τα σφυριά για να αποτρέψετε τη βία, διασφαλίζετε επίσης ότι δεν θα χτιστεί κανένα σπίτι. Όταν ένας ερευνητής ζητά από μια AI να προσπαθήσει να εκμεταλλευτεί ένα σφάλμα, προσπαθεί να αποδείξει ότι μια ευπάθεια είναι πραγματική, ώστε ένας κατασκευαστής να τη διορθώσει. Εάν η AI αρνηθεί να απαντήσει επειδή το αίτημα φαίνεται "κακόβουλο", ο αμυνόμενος μένει χωρίς το πιο αποτελεσματικό του εργαλείο.

Αυτό δημιουργεί ένα παράδοξο όπου ο ίδιος μηχανισμός που προορίζεται να εμποδίσει έναν χάκερ σταματά επίσης έναν αμυνόμενο. Οι δύο ρόλοι χρησιμοποιούν ακριβώς τις ίδιες τεχνικές. Περιορίζοντας την πρόσβαση σε αυτές τις δυνατότητες, οι εταιρείες AI κάνουν τη δουλειά των υπερασπιστών δικτύων σημαντικά δυσκολότερη. Αυτό έχει ως αποτέλεσμα τα ελαττώματα λογισμικού να παραμένουν ανοιχτά για μεγαλύτερα χρονικά διαστήματα, γεγονός που δίνει στους πραγματικούς εγκληματίες περισσότερο χρόνο να τα βρουν και να τα χρησιμοποιήσουν.

Διαπραγμάτευση με έναν ακούραστο αλλά πεισματάρη ασκούμενο

Για πολλούς ερευνητές, η χρήση ενός σύγχρονου μοντέλου AI είναι σαν να εργάζεσαι με έναν ακούραστο ασκούμενο που είναι επίσης απίστευτα παρανοϊκός. Μπορεί να ζητήσετε από τον ασκούμενο να αναλύσει ένα κομμάτι κώδικα για σφάλματα. Ο ασκούμενος βλέπει τη λέξη "exploit" ή "vulnerability" και σταματά αμέσως να εργάζεται, κάνοντάς σας μια διάλεξη περί ηθικής αντί να σας δώσει τα δεδομένα που ζητήσατε.

Ο Chris Thompson, διευθύνων σύμβουλος της RemoteThreat, σημειώνει ότι οι ερευνητές ξοδεύουν πλέον ένα τεράστιο μέρος της ημέρας τους διαπραγματευόμενοι με το μοντέλο. Αντί να επικεντρώνονται στο βασικό πρόβλημα ασφαλείας, προσπαθούν να καταλάβουν γιατί ένα μοντέλο έδωσε μια χρήσιμη απάντηση χθες αλλά αρνείται να μιλήσει σήμερα. Αυτή η υπερβολική αποστείρωση των αποτελεσμάτων της AI οδηγεί σε ασυνεπή αποτελέσματα.

Σε ορισμένες περιπτώσεις, τα προστατευτικά κιγκλιδώματα είναι τόσο ευαίσθητα που ενεργοποιούνται με την απλή αναφορά θεμάτων που σχετίζονται με την ασφάλεια. Ένας ερευνητής που εργάζεται για έναν μεγάλο κατασκευαστή εξαρτημάτων smartphone ανέφερε ότι τα εργαλεία AI του είναι σχεδόν άχρηστα επειδή τα κιγκλιδώματα είναι πολύ αυστηρά. Εάν το μοντέλο αντιληφθεί οποιαδήποτε δραστηριότητα σχετική με την ασφάλεια, απλώς κλείνει. Αυτό δημιουργεί έναν "φόρο παραγωγικότητας" στους ίδιους τους ανθρώπους που υποτίθεται ότι προστατεύουν την παγκόσμια αλυσίδα εφοδιασμού.

Η γραφειοκρατία των προγραμμάτων ελέγχου

Τα εργαστήρια AI δεν εθελοτυφλούν μπροστά σε αυτό το ζήτημα, αλλά η λύση τους είναι ένα στρώμα γραφειοκρατίας. Η Anthropic διαθέτει το Cyber Verification Program και η OpenAI προσφέρει το Trusted Access for Cyber. Πρόκειται για προγράμματα ελέγχου όπου οι ερευνητές μπορούν να υποβάλουν αίτηση για ειδική πρόσβαση σε μοντέλα με λιγότερους περιορισμούς.

Ωστόσο, αυτά τα προγράμματα είναι συχνά αδιαφανή και αποκλειστικά. Η πρόσβαση περιορίζεται συχνά σε συγκεκριμένους δυτικούς οργανισμούς ή σε εκείνους που πληρούν αυστηρά εταιρικά κριτήρια. Ακόμη και όταν ένας ερευνητής εγκρίνεται, τα όρια μπορούν να αλλάξουν χωρίς προειδοποίηση. Αυτή η φύλαξη των πυλών (gatekeeping) είναι ιδιαίτερα εμφανής στην περίπτωση του μοντέλου Mythos της Anthropic. Η εταιρεία έχει προωθήσει το Mythos ως ένα εργαλείο υψηλής τεχνολογίας τόσο ισχυρό που απαιτεί εποπτεία σε κυβερνητικό επίπεδο.

Τον Ιούνιο, η κυβέρνηση των ΗΠΑ εφάρμοσε για λίγο ελέγχους εξαγωγών στο Mythos και σε ένα άλλο μοντέλο που ονομάζεται Fable. Αυτή η κίνηση ακολούθησε αναφορές ότι τα προστατευτικά κιγκλιδώματα των μοντέλων θα μπορούσαν να παρακαμφθούν για την εκτέλεση κυβερνοεπιθέσεων. Ενώ οι έλεγχοι αργότερα χαλάρωσαν για εγκεκριμένους οργανισμούς των ΗΠΑ, το περιστατικό ανέδειξε μια αυξανόμενη τάση αντιμετώπισης της AI ως ελεγχόμενου όπλου και όχι ως εργαλείου γενικής χρήσης. Αυτό το επίπεδο ελέγχου δεν σταματά τους χάκερ που χρησιμοποιούν το δικό τους υλικό, αλλά δημιουργεί ένα τεράστιο εμπόδιο για τις νόμιμες εταιρείες που προσπαθούν να παραμείνουν μπροστά από τις εξελίξεις.

Η μετανάστευση σε ανοιχτό κώδικα και ξένα μοντέλα

Όταν οι νόμιμοι ερευνητές μπλοκάρονται από εταιρείες AI με έδρα τις ΗΠΑ, δεν σταματούν απλώς να εργάζονται. Αντ' αυτού, αναζητούν εργαλεία που δεν έχουν αυτά τα περιοριστικά φίλτρα. Αυτό συχνά σημαίνει απομάκρυνση από τα εκλεπτυσμένα μοντέλα cloud προς εναλλακτικές λύσεις ανοιχτού κώδικα που μπορούν να τρέξουν σε ιδιωτικό υλικό.

Ο Paolo Stagno, επικεφαλής τεχνολογίας στην Crowdfense, εξηγεί ότι η ομάδα του αποφεύγει τα μοντέλα που βασίζονται στο cloud για ευαίσθητες εργασίες. Η τροφοδοσία ενός μυστικού ελαττώματος λογισμικού σε μια AI στο cloud ενέχει τον κίνδυνο διαρροής αυτών των δεδομένων ή της απορρόφησής τους σε μια μελλοντική εκπαίδευση. Για να διατηρήσουν την ιδιωτικότητα και να αποφύγουν την "επίβλεψη" των εταιρικών κιγκλιδωμάτων, πολλοί επαγγελματίες χρησιμοποιούν πλέον μοντέλα ανοιχτού κώδικα που μπορούν να τρέξουν τοπικά χωρίς καμία εποπτεία.

Υπάρχει ένας στρατηγικός κίνδυνος εδώ. Εάν οι ερευνητές των ΗΠΑ διαπιστώσουν ότι τα εγχώρια μοντέλα είναι πολύ περιοριστικά για να είναι χρήσιμα, μπορεί να στραφούν σε ισχυρά μοντέλα ανοιχτού κώδικα που αναπτύχθηκαν σε άλλες χώρες. Ο Chris Thompson επισημαίνει ότι οι ερευνητές ωθούνται ήδη προς κινεζικά μοντέλα όπως το GLM. Αυτά τα μοντέλα είναι ελεύθερα διαθέσιμα για λήψη και δεν συνοδεύονται από περιορισμούς χρήσης. Αυτή η μετατόπιση μεταφέρει το κέντρο της καινοτομίας μακριά από τη διακυβέρνηση των ΗΠΑ και σε περιβάλλοντα όπου τα δυτικά πρότυπα ασφαλείας δεν ισχύουν καθόλου.

Γιατί τα μοντέλα cloud είναι εφιάλτης ιδιωτικότητας για τους επαγγελματίες ασφαλείας

Η ιδιωτικότητα είναι μια θεμελιώδης ανησυχία για οποιονδήποτε εργάζεται στην κυβερνοασφάλεια υψηλού ρίσκου. Εάν ένας ερευνητής βρει ένα "zero-day" —ένα ελάττωμα που ο κατασκευαστής του λογισμικού δεν γνωρίζει ακόμα— αυτή η πληροφορία αξίζει εκατομμύρια δολάρια στην ελεύθερη αγορά. Είναι επίσης ένα κρίσιμο στοιχείο πληροφοριών για τις κυβερνήσεις.

Η αποστολή αυτών των πληροφοριών σε έναν διακομιστή που ανήκει στην OpenAI ή την Anthropic είναι ένας τεράστιος κίνδυνος. Ακόμη και με εξειδικευμένα προγράμματα πρόσβασης, δεν υπάρχει εγγύηση ότι τα δεδομένα δεν θα χρησιμοποιηθούν για την εκπαίδευση της επόμενης έκδοσης της AI. Ορισμένοι ερευνητές, όπως ο Giuseppe Cali, χρησιμοποιούν την AI μόνο για τα βαρετά μέρη της δουλειάς, όπως η μετάφραση σύνθετου κώδικα σε αναγνώσιμη μορφή. Αρνούνται να τη χρησιμοποιήσουν για την πραγματική ανακάλυψη σφαλμάτων επειδή θέλουν να διατηρήσουν την εργασία τους ιδιωτική.

Αυτή η προσοχή σημαίνει ότι τα πιο προηγμένα μοντέλα AI χρησιμοποιούνται επί του παρόντος για εργασίες χαμηλού επιπέδου και όχι για τη συλλογιστική υψηλού επιπέδου που θα μπορούσε πραγματικά να βελτιώσει την παγκόσμια ασφάλεια. Τα προστατευτικά κιγκλιδώματα και η φύση αυτών των εργαλείων που βασίζονται στο cloud δημιουργούν μια οροφή στο πόσο μπορούν πραγματικά να βοηθήσουν τους ανθρώπους που προστατεύουν τα δίκτυά μας.

Τι σημαίνει αυτό για την ψηφιακή σας ασφάλεια

Η ουσία για τον μέσο καταναλωτή είναι ότι οι ψηφιακές μας άμυνες δεν συμβαδίζουν με την ταχύτητα των επιθέσεων που υποβοηθούνται από την AI. Οι εγκληματίες δεν ακολουθούν τους κανόνες και δεν χρησιμοποιούν εγκεκριμένα προγράμματα. Χρησιμοποιούν μη λογοκριμένα μοντέλα ανοιχτού κώδικα ή τη δική τους ειδικά κατασκευασμένη AI για να αυτοματοποιήσουν τη διαδικασία εύρεσης και χτυπήματος στόχων.

Εν τω μεταξύ, οι "καλοί" έχουν κολλήσει σε έναν κύκλο υποβολής αιτήσεων για άδειες και διαπληκτισμών με chatbots. Πρακτικά, αυτό σημαίνει ότι το λογισμικό στο τηλέφωνο και το φορητό υπολογιστή σας μπορεί να έχει ευπάθειες που παραμένουν χωρίς διορθωτικά προγράμματα (patches) για μεγαλύτερο χρονικό διάστημα. Σημαίνει επίσης ότι το κόστος της κυβερνοασφάλειας αυξάνεται, καθώς οι εταιρείες πρέπει να αφιερώνουν περισσότερο χρόνο σε χειροκίνητη εργασία που η AI θα μπορούσε θεωρητικά να διεκπεραιώσει σε δευτερόλεπτα.

Για να παραμείνει ο ψηφιακός κόσμος ασφαλής, τα εργαστήρια AI πρέπει να απομακρυνθούν από την ιδέα ότι μπορούν να επιβλέπουν κάθε χρήστη. Αντί να χτίζουν τείχη που εμποδίζουν τους πάντες, πρέπει να παρέχουν υπεύθυνη πρόσβαση υψηλής ταχύτητας στους ανθρώπους που βρίσκονται πραγματικά στην πρώτη γραμμή. Χωρίς αυτή τη στροφή, ουσιαστικά ζητάμε από τους ερευνητές ασφαλείας μας να κερδίσουν έναν αγώνα υψηλής ταχύτητας ενώ εμείς είμαστε αυτοί που τους δένουμε τα κορδόνια μεταξύ τους.

Βασικά συμπεράσματα για τον καθημερινό χρήστη

• Η AI είναι εργαλείο διπλής χρήσης: Η ίδια AI που βοηθά έναν γιατρό να διαγνώσει μια ασθένεια μπορεί να βοηθήσει έναν χάκερ να βρει ένα ελάττωμα στο σύστημα ασφαλείας μιας τράπεζας.
• Τα προστατευτικά κιγκλιδώματα δεν είναι τέλεια: Ενώ σταματούν κάποια κακή χρήση χαμηλού επιπέδου, παρακάμπτονται εύκολα από αποφασισμένους εγκληματίες που χρησιμοποιούν ιδιωτικό υλικό.
• Οι αμυνόμενοι καθυστερούν: Οι άνθρωποι που βρίσκουν και διορθώνουν σφάλματα στις εφαρμογές σας δυσκολεύονται να χρησιμοποιήσουν την AI επειδή οι κανόνες ασφαλείας είναι πολύ ευρείς.
• Η ιδιωτικότητα είναι εμπόδιο: Οι επαγγελματίες ερευνητές συχνά αποφεύγουν τα πιο δημοφιλή εργαλεία AI επειδή δεν θέλουν να διαρρεύσουν ευαίσθητα δεδομένα ασφαλείας στο cloud.
• Ο ανοιχτός κώδικας είναι η εναλλακτική: Ο κλάδος κινείται προς τοπικά, απεριόριστα μοντέλα για να γίνει η δουλειά χωρίς εταιρικές παρεμβολές.

Πηγές:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers