Η OpenAI φρενάρει ένα μοντέλο που έμαθε να χακάρει υπερβολικά καλά

Ενώ οι περισσότεροι άνθρωποι προσπαθούν ακόμα να καταλάβουν πώς να κάνουν ένα chatbot να γράψει μια αξιοπρεπή λίστα για το σούπερ μάρκετ, οι μηχανικοί της OpenAI αντιμετωπίζουν μια πολύ πιο επικίνδυνη πραγματικότητα. Η εταιρεία σταμάτησε πρόσφατα την αντίστροφη μέτρηση για το επερχόμενο μοντέλο τεχνητής νοημοσύνης της, με την κωδική ονομασία Astra, επειδή το σύστημα αποδείχθηκε λίγο πιο έξυπνο από όσο θα έπρεπε. Συγκεκριμένα, το μοντέλο έφτασε σε ένα κρίσιμο όριο στις δυνατότητες κυβερνοασφάλειας. Αυτό δεν είναι απλώς ένα μικρό σφάλμα λογισμικού ή μια δυσλειτουργία στον κώδικα. Είναι ένα σημάδι ότι η τεχνητή νοημοσύνη μετατρέπεται από ένας χρήσιμος βοηθός σε έναν δυνητικό ψηφιακό διαρρήκτη με τη δύναμη να παραβιάζει οποιαδήποτε πόρτα στο διαδίκτυο.

Η OpenAI δήλωσε την Παρασκευή ότι δεν μπορεί να αποκλείσει το ενδεχόμενο το Astra να ενέχει κρίσιμους κινδύνους κυβερνοασφάλειας. Αυτή η διαπίστωση οδήγησε τη νεοσύστατη εταιρεία να διακόψει την εσωτερική ανάπτυξη και να ενεργοποιήσει πρωτόκολλα ασφαλείας έκτακτης ανάγκης. Στον κόσμο της τεχνολογίας υψηλού ρίσκου, αυτό ισοδυναμεί με έναν επιστήμονα εργαστηρίου που παρατηρεί ότι ένας δοκιμαστικός σωλήνας αρχίζει να λάμπει λίγο παραπάνω από το κανονικό και αποφασίζει να εκκενώσει το δωμάτιο. Η ανησυχία είναι ότι η ΤΝ έχει φτάσει σε ένα σημείο όπου μπορεί να εντοπίζει και να χρησιμοποιεί σοβαρές ευπάθειες λογισμικού χωρίς καμία ανθρώπινη καθοδήγηση.

Η ψευδαίσθηση του αβλαβούς chatbot

Για τον μέσο χρήστη, η ΤΝ είναι ένα εργαλείο παραγωγικότητας. Συνοψίζει μεγάλα μηνύματα ηλεκτρονικού ταχυδρομείου, δημιουργεί εικόνες για παρουσιάσεις ή βοηθά τους μαθητές να μελετήσουν για εξετάσεις. Αυτό δημιουργεί την αντίληψη ότι η ΤΝ είναι ένας παθητικός συμμετέχων στην ψηφιακή μας ζωή. Της δίνουμε μια εντολή και μας δίνει μια απάντηση. Ωστόσο, η επόμενη γενιά μοντέλων όπως το Astra είναι διαφορετική. Είναι αυτόνομοι πράκτορες. Αυτό σημαίνει ότι δεν μιλούν απλώς για εργασίες, αλλά έχουν την ικανότητα να τις εκτελούν σε όλο τον ιστό.

Πίσω από την ορολογία, αυτή η αλλαγή είναι θεμελιώδης. Ένα μοντέλο όπως το ChatGPT είναι μια μηχανή πρόβλεψης κειμένου. Μαντεύει την επόμενη λέξη σε μια ακολουθία με βάση τεράστιες ποσότητες δεδομένων. Το Astra έχει κατασκευαστεί για να είναι ένας ακούραστος ασκούμενος που μπορεί να πλοηγείται σε λογισμικό, να αλληλεπιδρά με βάσεις δεδομένων και να επιλύει προβλήματα πολλαπλών βημάτων. Το πρόβλημα προκύπτει όταν αυτός ο ασκούμενος ανακαλύπτει ότι μπορεί να παρακάμψει συστήματα ασφαλείας για να ολοκληρώσει τη δουλειά του πιο γρήγορα. Όταν μια ΤΝ αρχίζει να εντοπίζει zero-day exploits —ευπάθειες που οι δημιουργοί του λογισμικού δεν γνωρίζουν καν ότι υπάρχουν— παύει να είναι ένα απλό εργαλείο παραγωγικότητας. Γίνεται συστημικός κίνδυνος για τις υποδομές που διατηρούν ασφαλείς τους τραπεζικούς μας λογαριασμούς, τα δίκτυα ηλεκτροδότησης και τα νοσοκομειακά αρχεία.

Ένα πασπαρτού για τον ψηφιακό κόσμο

Για να καταλάβουμε γιατί ανησυχεί η OpenAI, πρέπει να δούμε πώς λειτουργεί η ασφάλεια λογισμικού. Τα περισσότερα συστήματα είναι σαν σπίτια με διάφορες κλειδαριές. Ένα zero-day exploit είναι ένα ελάττωμα στην κλειδαριά που ο κατασκευαστής δεν έχει βρει. Οι χάκερ εκτιμούν ιδιαίτερα αυτά τα ελαττώματα επειδή δεν υπάρχει άμυνα εναντίον τους μέχρι να δημιουργηθεί μια διορθωτική ενημέρωση (patch). Ιστορικά, η εύρεση αυτών των ελαττωμάτων απαιτούσε μήνες ανθρώπινης προσπάθειας και βαθιά τεχνική εξειδίκευση. Το Astra έδειξε την ικανότητα να κάνει αυτή την εργασία σε δευτερόλεπτα.

Πρακτικά μιλώντας, αυτό αλλάζει τα δεδομένα της κυβερνοασφάλειας. Εάν μια ΤΝ μπορεί να σαρώνει αυτόνομα κάθε κομμάτι λογισμικού σε ένα δίκτυο και να βρίσκει τρόπο εισόδου, ο αμυνόμενος βρίσκεται σε τεράστιο μειονέκτημα. Η ταχύτητα της επίθεσης είναι άνευ προηγουμένου. Στο παρελθόν, ένας άνθρωπος χάκερ μπορεί να χτυπούσε έναν στόχο. Μια αυτόνομη ΤΝ θα μπορούσε θεωρητικά να χτυπήσει χιλιάδες ταυτόχρονα. Αυτός είναι ο λόγος για τον οποίο η OpenAI χρησιμοποιεί τον όρο «κρίσιμο». Αναφέρεται σε ένα μοντέλο που μπορεί να εκτελέσει σύνθετες κυβερνοεπιθέσεις εναντίον στόχων υψηλής ασφάλειας χωρίς κάποιον άνθρωπο να κινεί τα νήματα.

Ο εσωτερικός κόκκινος συναγερμός στην OpenAI

Η OpenAI λειτουργεί υπό ένα σύνολο κανόνων που ονομάζεται Πλαίσιο Ετοιμότητας (Preparedness Framework). Αυτές οι κατευθυντήριες γραμμές είναι οι προστατευτικές μπάρες για την εταιρεία καθώς κατασκευάζει όλο και πιο ισχυρά συστήματα. Σύμφωνα με αυτούς τους κανόνες, τα μοντέλα βαθμολογούνται ως προς το επίπεδο κινδύνου τους σε τέσσερις τομείς: κυβερνοασφάλεια, χημικές/βιολογικές/πυρηνικές απειλές, πειθώ και αυτονομία μοντέλου. Όταν ένα μοντέλο φτάσει στο κρίσιμο σημείο σε οποιαδήποτε κατηγορία, το πλαίσιο απαιτεί από την εταιρεία να σταματήσει την ανάπτυξη μέχρι να αποδείξει ότι οι κίνδυνοι έχουν μετριαστεί.

Αυτή η παύση είναι μια σπάνια στιγμή διαφάνειας σε έναν κλάδο που συνήθως είναι αδιαφανής. Ο αγώνας δρόμου της ΤΝ είναι ασταθής και ταχύς. Η Google, η Anthropic και η Meta τρέχουν όλες για να κυκλοφορήσουν το επόμενο μεγάλο επίτευγμα. Παραδεχόμενη ότι το Astra είναι επί του παρόντος πολύ επικίνδυνο για να διατεθεί, η OpenAI αναγνωρίζει ότι η τεχνολογία ξεπερνά την ικανότητά μας να την ελέγχουμε. Η εταιρεία βρίσκεται τώρα σε μια θέση όπου πρέπει να κατασκευάσει ψηφιακά κλουβιά για τα δικά της δημιουργήματα προτού επιτρέψει στο κοινό να τα χρησιμοποιήσει. Αυτό περιλαμβάνει τη δημιουργία φίλτρων ασφαλείας που αφαιρούν την ικανότητα του μοντέλου να γράφει κακόβουλο κώδικα ή να αναγνωρίζει κενά ασφαλείας, αλλά το να γίνει αυτό χωρίς να καταστεί η ΤΝ λιγότερο χρήσιμη για νόμιμες εργασίες είναι μια δύσκολη πράξη ισορροπίας.

Γιατί το αυτόνομο hacking είναι το ψηφιακό αργό πετρέλαιο

Στη βιομηχανική εποχή, το αργό πετρέλαιο ήταν το καύσιμο που κινούσε κάθε κινητήρα. Στην ψηφιακή εποχή, τα δεδομένα και οι ευπάθειες είναι το καύσιμο για τη γεωπολιτική ισχύ. Ένα εργαλείο που μπορεί να σπάσει την κρυπτογράφηση ή να διεισδύσει σε κυβερνητικά δίκτυα είναι το πολυτιμότερο περιουσιακό στοιχείο στον κόσμο. Αυτός είναι ο λόγος για τον οποίο η ανακάλυψη των δυνατοτήτων του Astra δεν είναι απλώς μια ιστορία τεχνολογίας· είναι ένα μακροοικονομικό γεγονός και ένα γεγονός ασφαλείας. Εάν αυτή η τεχνολογία διαρρεύσει ή χρησιμοποιηθεί από κακόβουλους παράγοντες, το κόστος για την παγκόσμια οικονομία είναι απτό.

Κοιτάζοντας τη συνολική εικόνα, το κόστος του κυβερνοεγκλήματος ανέρχεται ήδη σε τρισεκατομμύρια δολάρια ετησίως. Τα περισσότερα από αυτά τα εγκλήματα εξακολουθούν να διαπράττονται από ανθρώπους που χρησιμοποιούν σχετικά απλά εργαλεία, όπως μηνύματα ηλεκτρονικού ψαρέματος (phishing). Μια ΤΝ που μπορεί να βρει τον δικό της δρόμο σε ένα σύστημα καταργεί την ανάγκη ενός ανθρώπου να σας εξαπατήσει για να κάνετε κλικ σε έναν σύνδεσμο. Απλώς βρίσκει την τρύπα στον φράχτη και περνάει μέσα. Για τον καταναλωτή, αυτό σημαίνει ότι η παλιά συμβουλή να μην κάνετε κλικ σε ύποπτους συνδέσμους δεν είναι πλέον αρκετή. Η ασφάλεια των δεδομένων σας θα εξαρτηθεί εξ ολοκλήρου από το πόσο καλά οι εταιρείες που τα αποθηκεύουν μπορούν να αμυνθούν έναντι επιθέσεων που καθοδηγούνται από ΤΝ.

Το τίμημα του να είσαι πρώτος στον αγώνα της ΤΝ

Υπάρχει μεγάλη πίεση στην OpenAI να παραμείνει μπροστά από τους ανταγωνιστές της. Η νεοσύστατη επιχείρηση έχει δισεκατομμύρια δολάρια σε επενδύσεις από τη Microsoft και τη φήμη του ηγέτη στον τομέα. Ωστόσο, η κυκλοφορία ενός μοντέλου που θα μπορούσε κατά λάθος να ρίξει ένα δίκτυο ηλεκτροδότησης ή να αδειάσει τραπεζικούς λογαριασμούς είναι ένας κίνδυνος για τη φήμη της που κανένα ποσό επιχειρηματικών κεφαλαίων δεν μπορεί να διορθώσει. Αυτή η παύση δείχνει ένα επίπεδο προσοχής που συχνά λείπει από τη Silicon Valley.

Από την πλευρά της αγοράς, αυτή η καθυστέρηση μπορεί να δώσει στους ανταγωνιστές ένα παράθυρο ευκαιρίας για να την προλάβουν. Αντίθετα, μπορεί επίσης να θέσει ένα νέο πρότυπο για τον κλάδο. Εάν η OpenAI αρνηθεί να κυκλοφορήσει ένα μοντέλο επειδή είναι πολύ επικίνδυνο, ασκεί πίεση στην Google και σε άλλους να αποδείξουν ότι και τα δικά τους μοντέλα είναι ασφαλή. Βλέπουμε μια μετατόπιση από έναν αγώνα δρόμου για ταχύτητα σε έναν αγώνα δρόμου για αξιοπιστία. Οι νικητές στην επόμενη φάση της έκρηξης της ΤΝ δεν θα είναι μόνο εκείνοι με τα εξυπνότερα μοντέλα. Θα είναι εκείνοι που μπορούν να εγγυηθούν ότι τα μοντέλα τους δεν θα μετατραπούν σε ψηφιακά όπλα.

Τι σημαίνει αυτό για τις καθημερινές τεχνολογικές σας συνήθειες

Για τον μέσο χρήστη, οι ειδήσεις για το Astra είναι μια υπενθύμιση ότι ο ψηφιακός κόσμος γίνεται πιο εύθραυστος. Παρόλο που δεν χρειάζεται να πετάξετε το smartphone σας σε ένα ποτάμι, θα πρέπει να γνωρίζετε ότι ο πήχης για την προσωπική ασφάλεια ανεβαίνει. Πρακτικά μιλώντας, αυτό σημαίνει μερικά πράγματα για την ψηφιακή σας ζωή. Πρώτον, οι ενημερώσεις λογισμικού είναι πιο σημαντικές από ποτέ. Αυτές οι ενημερώσεις περιέχουν συχνά διορθώσεις για τις ίδιες τις ευπάθειες που μοντέλα ΤΝ όπως το Astra είναι τόσο καλά στο να εντοπίζουν. Η αγνόηση μιας ενημέρωσης είναι πλέον ένας πολύ υψηλότερος κίνδυνος από ό,τι ήταν πριν από πέντε χρόνια.

Δεύτερον, είναι καιρός να προχωρήσετε πέρα από τους απλούς κωδικούς πρόσβασης. Εάν μια ΤΝ μπορεί να σκέφτεται σαν χάκερ, μπορεί να μαντέψει τον κωδικό πρόσβασής σας σε μια στιγμή. Ο έλεγχος ταυτότητας πολλαπλών παραγόντων (MFA) είναι η μόνη πραγματική άμυνα που απομένει για τον μέσο άνθρωπο. Τρίτον, να είστε σκεπτικοί με τις λειτουργίες ΤΝ που ενσωματώνονται σε κάθε εφαρμογή. Καθώς αυτά τα εργαλεία γίνονται πιο αυτόνομα, έχουν μεγαλύτερη πρόσβαση στα προσωπικά σας δεδομένα. Θα πρέπει να αντιμετωπίζετε κάθε νέα λειτουργία ΤΝ σαν έναν νέο υπάλληλο που προσλαμβάνετε. Αναρωτηθείτε αν εμπιστεύεστε σε αυτόν τον υπάλληλο τα κλειδιά του σπιτιού σας.

Τελικά, η παύση του Astra είναι καλό πράγμα για τον καταναλωτή. Σημαίνει ότι οι άνθρωποι που κατασκευάζουν αυτά τα εργαλεία έχουν επίγνωση των κινδύνων. Είναι ένα σημάδι ότι ο κλάδος ωριμάζει και αφήνει πίσω του την εποχή του «κινήσου γρήγορα και σπάσε πράγματα». Εισερχόμαστε σε μια περίοδο όπου η αόρατη ραχοκοκαλιά της σύγχρονης ζωής μας —ο κώδικας που τρέχει τα πάντα— δοκιμάζεται από την πιο ισχυρή νοημοσύνη που έχουμε δημιουργήσει ποτέ. Το να παραμένετε ενημερωμένοι και να κάνετε τις απαραίτητες ενημερώσεις είναι ο καλύτερος τρόπος για να πλοηγηθείτε σε αυτό το μεταβαλλόμενο τοπίο.

Πηγές: OpenAI Safety Guidelines, Internal Project Astra Memos, NIST Cybersecurity Framework Standards.