Γιατί το νέο ψηφιακό υδατογράφημα της OpenAI δεν θα σας προστατεύσει από την εξαπάτηση

Ενώ ο κόσμος απαιτεί σαφήνεια σχετικά με το τι είναι ανθρώπινο και τι μηχανικό, η OpenAI μόλις λάνσαρε ένα εργαλείο που υπόσχεται διαφάνεια αλλά προσφέρει κάτι πολύ πιο εύθραυστο. Η εταιρεία ανακοίνωσε πρόσφατα ότι το ChatGPT θα υδατογραφεί πλέον τα κείμενα που παράγει από προεπιλογή για τους χρήστες στην Ευρωπαϊκή Ένωση. Αυτή η αλλαγή ακολουθεί τις απαιτήσεις της Πράξης της ΕΕ για την Τεχνητή Νοημοσύνη (EU AI Act), η οποία ορίζει ότι το περιεχόμενο που παράγεται από AI πρέπει να είναι ανιχνεύσιμο. Ωστόσο, η πραγματικότητα «κάτω από το καπό» υποδηλώνει ότι αυτή η νέα ψηφιακή σφραγίδα μοιάζει λιγότερο με μόνιμο λογότυπο και περισσότερο με ένα ελαφρύ σημάδι από μολύβι που ένα παιδί θα μπορούσε να σβήσει με μια κίνηση.

Η OpenAI ονομάζει τη νέα της μέθοδο textGrain. Με απλά λόγια, πρόκειται για ένα ιδιόκτητο σύστημα που ενσωματώνει στατιστικά μοτίβα στις λέξεις που επιλέγει η AI. Για τον μέσο χρήστη, το κείμενο φαίνεται πανομοιότυπο με οποιαδήποτε άλλη απάντηση. Η γραμματική είναι σωστή, ο τόνος συνεπής και οι πληροφορίες οι ίδιες. Αλλά για ένα εξειδικευμένο εργαλείο ανίχνευσης, αυτές οι επιλογές λέξεων λειτουργούν ως αποτύπωμα. Αυτό το σύστημα λειτουργεί σαν ένας ακούραστος ασκούμενος στον οποίο έχει δοθεί η εντολή να χρησιμοποιεί ένα συγκεκριμένο σύνολο συνωνύμων κάθε φορά που γράφει ένα σημείωμα. Αν γνωρίζετε το μοτίβο, μπορείτε να αναγνωρίσετε τον ασκούμενο. Αν δεν το γνωρίζετε, το σημείωμα φαίνεται απολύτως τυπικό.

Η ευθραυστότητα των αόρατων μοτίβων

Κοιτάζοντας τη συνολική εικόνα, η αποτελεσματικότητα του textGrain εξαρτάται εξ ολοκλήρου από το αν το κείμενο παραμένει ανέπαφο. Τα δεδομένα της ίδιας της OpenAI αποκαλύπτουν μια ανησυχητική ευπάθεια που τα περισσότερα εταιρικά δελτία τύπου θα προτιμούσαν να αποσιωπήσουν. Σε ιδανικές συνθήκες, το εργαλείο έχει ποσοστό επιτυχίας 92% στον εντοπισμό της δικής του γραφής. Αυτό ακούγεται εντυπωσιακό μέχρι να εφαρμόσετε την παραμικρή ανθρώπινη προσπάθεια.

Η αλλαγή μόλις του 10% του παραγόμενου κειμένου προκαλεί πτώση του ποσοστού ανίχνευσης κατά σχεδόν 30%. Εάν ένας χρήστης αντικαταστήσει το 20% των λέξεων—ίσως αλλάζοντας μερικά επίθετα ή αναδιατυπώνοντας μερικές προτάσεις—το ποσοστό επιτυχίας πέφτει κατά σχεδόν 75%. Πρακτικά, οποιοσδήποτε με βασική γνώση ενός λεξικού συνωνύμων μπορεί να παρακάμψει αυτό το σύστημα σε δευτερόλεπτα. Αυτό καθιστά το υδατογράφημα ένα εργαλείο συμμόρφωσης για τις ρυθμιστικές αρχές παρά ένα αξιόπιστο δίχτυ ασφαλείας για το κοινό. Ικανοποιεί το γράμμα του νόμου στην ΕΕ χωρίς να λύνει πραγματικά το γενικότερο πρόβλημα της εξαπάτησης μέσω AI.

Μια ιστορία δύο εταιρικών στρατηγικών

Όσον αφορά την αγορά, η αντίθεση μεταξύ της OpenAI και του κύριου ανταγωνιστή της, της Anthropic, είναι έντονη. Η Anthropic παρουσίασε το δικό της σύστημα υδατογράφησης νωρίτερα φέτος, αλλά επέλεξε να το ενεργοποιήσει για όλους τους χρήστες παγκοσμίως. Η OpenAI ακολούθησε μια πιο επιλεκτική οδό, ενεργοποιώντας τη λειτουργία από προεπιλογή μόνο εκεί όπου το απαιτεί ο νόμος. Οι χρήστες στις Ηνωμένες Πολιτείες, την Ασία και άλλες περιοχές θα εξακολουθούν να λαμβάνουν «καθαρά» αποτελέσματα, εκτός εάν οι ίδιοι ή οι οργανισμοί τους επιλέξουν χειροκίνητα τη λειτουργία μέσω API.

Αυτός ο περιφερειακός διαχωρισμός δημιουργεί ένα κατακερματισμένο ψηφιακό περιβάλλον. Ένας φοιτητής στο Βερολίνο θα λαμβάνει υδατογραφημένες εκθέσεις από προεπιλογή, ενώ ένας φοιτητής στη Νέα Υόρκη όχι. Από την πλευρά του καταναλωτή, αυτό υποδηλώνει ότι η OpenAI βλέπει την υδατογράφηση ως ένα ρυθμιστικό εμπόδιο που πρέπει να ξεπεραστεί και όχι ως ένα θεμελιώδες χαρακτηριστικό ενός αξιόπιστου προϊόντος. Η εταιρεία κάνει το ελάχιστο απαραίτητο για να παραμείνει νόμιμη στην ΕΕ, διατηρώντας το προϊόν της όσο το δυνατόν πιο απρόσκοπτο αλλού.

Το τεχνικό εμπόδιο: κείμενο έναντι εικόνων

Σε τεχνικό επίπεδο, η υδατογράφηση κειμένου είναι σημαντικά δυσκολότερη από την υδατογράφηση εικόνων ή βίντεο. Όταν ένα σύστημα όπως το DALL-E ή το Midjourney δημιουργεί μια εικόνα, μπορεί να κρύψει μεταδεδομένα στα pixel ή να προσαρμόσει τα μοτίβα θορύβου με τρόπο που παραμένει αόρατος στο μάτι αλλά προφανής σε έναν υπολογιστή. Αυτά τα pixel είναι πυκνά και προσφέρουν χιλιάδες σημεία για την απόκρυψη ενός σήματος.

Το κείμενο είναι διαφορετικό επειδή είναι αραιό. Μια πρόταση έχει συγκεκριμένο αριθμό λέξεων και κάθε λέξη έχει περιορισμένο αριθμό συνωνύμων που βγάζουν νόημα στο πλαίσιο. Εάν η AI επιβάλει μια συγκεκριμένη επιλογή λέξεων για να διατηρήσει το υδατογράφημα, κινδυνεύει να κάνει τη γραφή να ακούγεται δυσκίνητη ή επαναλαμβανόμενη. Η OpenAI ισχυρίζεται ότι το textGrain δεν μειώνει την ποιότητα, αλλά ο στατιστικός συμβιβασμός είναι πάντα παρών. Για να παραμείνει το υδατογράφημα ανιχνεύσιμο, η AI πρέπει να θυσιάσει ένα μικρό μέρος της δημιουργικής της τυχαιότητας. Αυτός είναι ο λόγος για τον οποίο το ποσοστό ανίχνευσης είναι ακόμη χαμηλότερο για σύντομα μηνύματα ή μεταφρασμένο κείμενο. Απλά δεν υπάρχουν αρκετά δεδομένα σε ένα email τριών προτάσεων για να κρυφτεί ένα πολύπλοκο μαθηματικό αποτύπωμα.

Τι σημαίνει αυτό για την ψηφιακή σας ζωή

Για τον καθημερινό χρήστη, η άφιξη του textGrain θα πρέπει να αντιμετωπιστεί με υγιή σκεπτικισμό. Εάν είστε δάσκαλος, συντάκτης ή διευθυντής προσλήψεων, δεν μπορείτε να βασιστείτε σε αυτούς τους ανιχνευτές για να δώσετε μια οριστική απάντηση. Το σύστημα είναι πολύ εύκολο να παρακαμφθεί. Ένας χρήστης μπορεί να πάρει ένα αποτέλεσμα από το ChatGPT, να το περάσει από μια διαφορετική AI χωρίς υδατογράφημα για μια γρήγορη αναδιατύπωση και το αρχικό υδατογράφημα θα εξαφανιστεί.

Τελικά, πρόκειται για μια συστημική μετατόπιση στον τρόπο με τον οποίο αντιλαμβανόμαστε την ψηφιακή απόδειξη. Απομακρυνόμαστε από έναν κόσμο όπου μπορούμε να εμπιστευόμαστε αυτό που βλέπουμε και κατευθυνόμαστε προς έναν κόσμο όπου χρειαζόμαστε ένα «κλειδί» για να επαληθεύσουμε την αυθεντικότητα. Η OpenAI διατηρεί επί του παρόντος αυτό το κλειδί πίσω από κλειστές πόρτες, παρέχοντας πρόσβαση μόνο σε περιορισμένο αριθμό ερευνητών και οργανισμών. Αυτή η αδιαφάνεια δημιουργεί μια νέα ανισορροπία ισχύος. Η εταιρεία που δημιουργεί το περιεχόμενο είναι επίσης η μόνη που μπορεί να το εντοπίσει αξιόπιστα, και ακόμη και τότε, μπορεί να το εντοπίσει μόνο εάν ο χρήστης είναι τεμπέλης.

Πλοήγηση σε έναν κόσμο με υδατογραφήματα

Πρακτικά, η κυκλοφορία του textGrain στην ΕΕ είναι μια δοκιμαστική φάση για ένα μέλλον όπου όλη η ψηφιακή εργασία θα φέρει σήμανση. Χρησιμεύει ως υπενθύμιση ότι τα εργαλεία που χρησιμοποιούμε υπόκεινται όλο και περισσότερο στην αόρατη ραχοκοκαλιά του διεθνούς δικαίου. Ενώ η Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη στοχεύει στην προστασία των πολιτών από την παραπλάνηση μέσω deepfakes και αυτοματοποιημένης προπαγάνδας, τα διαθέσιμα τεχνικά εργαλεία δεν είναι ακόμη αρκετά ανθεκτικά για να επιτύχουν αυτόν τον στόχο.

Οι καταναλωτές θα πρέπει να παρατηρούν τις δικές τους συνήθειες καθώς αυτά τα χαρακτηριστικά αναπτύσσονται. Μπορεί να παρατηρήσετε ανεπαίσθητες αλλαγές στον τρόπο με τον οποίο το ChatGPT διατυπώνει τις απαντήσεις του, καθώς το μοντέλο προσπαθεί να διατηρήσει το στατιστικό του αποτύπωμα. Μπορεί επίσης να δείτε μια άνοδο στα εργαλεία «καθαρισμού AI»—απλά προγράμματα σχεδιασμένα ειδικά για να ξαναγράφουν το κείμενο τόσο όσο χρειάζεται για να αφαιρέσουν αυτά τα σημάδια. Το παιχνίδι «γάτας και ποντικιού» μεταξύ των εργαστηρίων AI και των χρηστών εισέρχεται σε μια νέα, πιο τοπική φάση.

Καθώς προχωράμε, σταματήστε να ψάχνετε για ένα σήμα ή μια σφραγίδα που να λέει «Κατασκευάστηκε από AI». Αυτοί οι δείκτες γίνονται μέρος του ψηφιακού «αργού πετρελαίου» που τροφοδοτεί τις εφαρμογές μας, κρυμμένοι βαθιά μέσα στα μαθηματικά των προτάσεων που διαβάζουμε. Η ουσία είναι ότι κανένα υδατογράφημα δεν μπορεί να αντικαταστήσει την κριτική σκέψη. Είτε μια παράγραφος έχει κρυφό στατιστικό αποτύπωμα είτε όχι, η ευθύνη για την επαλήθευση των γεγονότων και της πρόθεσης εξακολουθεί να βαρύνει τον αναγνώστη. Ο ψηφιακός ασκούμενος επισημαίνει πλέον την εργασία του, αλλά εναπόκειται ακόμα στο αφεντικό να ελέγξει αν η εργασία είναι όντως σωστή.

Πηγές:

• OpenAI Technical Paper on textGrain and Statistical Watermarking
• European Commission: EU AI Act Regulatory Framework
• Anthropic Official Blog: Global Deployment of AI Content Marking
• C2PA (Coalition for Content Provenance and Authenticity) Standard Documentation