Μπορεί μια ετικέτα να λύσει πραγματικά το πρόβλημα των Deepfake στο Διαδίκτυο;

Πότε ήταν η τελευταία φορά που κοιτάξατε μια φωτογραφία στο διαδίκτυο και νιώσατε 100% σίγουροι ότι ήταν αληθινή; Από αυτή την Κυριακή, η Ευρωπαϊκή Ένωση στοιχηματίζει ότι μια απλή ετικέτα μπορεί να αποκαταστήσει αυτή τη χαμένη εμπιστοσύνη. Η Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη (EU AI Act) απαιτεί πλέον από τις εταιρείες τεχνολογίας να προσδιορίζουν σαφώς τα deepfakes και το περιεχόμενο που παράγεται από AI. Αυτό σημαίνει ότι ο ψηφιακός κόσμος απέκτησε μόλις ένα νέο σύνολο κανόνων για τη διαφάνεια, αλλά η διαδρομή από τη νομοθεσία έως μια καθαρή ροή στα μέσα κοινωνικής δικτύωσης είναι γεμάτη τεχνικές παγίδες.

Το αόρατο υδατογράφημα στην ψηφιακή σας ζωή

Σκεφτείτε την Τεχνητή Νοημοσύνη (AI) ως έναν ακούραστο ασκούμενο ικανό να παράγει εκατομμύρια πλαστογραφίες υψηλής ποιότητας κάθε ώρα. Μέχρι τώρα, αυτός ο ασκούμενος εργαζόταν σε πλήρη ανωνυμία. Οι νέοι κανόνες της ΕΕ το αλλάζουν αυτό, αναγκάζοντας τις εταιρείες πίσω από το λογισμικό να αφήνουν ίχνη. Εάν ένα σύστημα όπως το ChatGPT ή το Claude δημιουργεί ένα περιεχόμενο, αυτό το περιεχόμενο πρέπει να φέρει μια σήμανση που το λογισμικό μπορεί να διαβάσει και οι άνθρωποι μπορούν να δουν.

Αυτή η απαίτηση ισχύει τόσο για τους δημιουργούς των εργαλείων όσο και για τους επαγγελματίες χρήστες. Εάν μια εταιρεία μάρκετινγκ χρησιμοποιεί ένα μοντέλο παραγόμενο από AI για μια διαφήμιση ρούχων, ο νόμος ορίζει ότι πρέπει να το αποκαλύψει. Πρόκειται για μια συστημική αλλαγή στον τρόπο με τον οποίο καταναλώνουμε τα μέσα ενημέρωσης. Ο στόχος είναι να διασφαλιστεί ότι όταν βλέπετε ένα βίντεο ενός παγκόσμιου ηγέτη ή μιας διασημότητας, έχετε έναν απτό τρόπο να επαληθεύσετε αν συνέβη πραγματικά ή αν ήταν αποτέλεσμα μιας εντολής (prompt). Αυτή η ψηφιακή αποτύπωση είναι η πρώτη πραγματική προσπάθεια να μπει «λουρί» στα συνθετικά μέσα πριν αντικαταστήσουν πλήρως την πραγματικότητα.

Πώς ο ακούραστος ασκούμενος υπογράφει το έργο του

Υπάρχουν δύο κύριοι τρόποι με τους οποίους μια εταιρεία μπορεί να επισημάνει ένα deepfake. Ο πρώτος είναι ορατός σε εσάς: μια ετικέτα κειμένου ή ένα λογότυπο στη γωνία ενός βίντεο. Ο δεύτερος είναι αόρατος στο μάτι αλλά αναγνώσιμος από υπολογιστές. Αυτά είναι τα μεταδεδομένα (metadata). Τα μεταδεδομένα είναι σαν το ψηφιακό αυτοκόλλητο στο πίσω μέρος μιας φυσικής φωτογραφίας που σας λέει πότε και πού τραβήχτηκε.

Πολλοί ηγέτες του κλάδου χρησιμοποιούν ένα πρότυπο που ονομάζεται C2PA. Πρόκειται για ένα τεχνικό πλαίσιο που επισυνάπτει ένα ιστορικό σε ένα αρχείο. Όταν μια AI δημιουργεί μια εικόνα, το λογισμικό ενσωματώνει μια κρυπτογραφική υπογραφή στον κώδικα του αρχείου. Όταν αυτή η εικόνα μεταφορτώνεται σε μια πλατφόρμα όπως το Instagram ή το X, η πλατφόρμα διαβάζει την υπογραφή και εμφανίζει μια ετικέτα. Αυτή η διαδικασία είναι διαφανής και λειτουργεί στο παρασκήνιο για να παρέχει πλαίσιο χωρίς να καταστρέφει την εμπειρία του χρήστη. Ωστόσο, τα μεταδεδομένα αφαιρούνται εύκολα. Εάν τραβήξετε ένα στιγμιότυπο οθόνης (screenshot) μιας εικόνας AI, τα μεταδεδομένα συχνά χάνονται. Αυτή η πραγματικότητα καθιστά την αόρατη υπογραφή μια εύθραυστη άμυνα ενάντια σε αποφασισμένους κακόβουλους δρώντες.

Γιατί τα μεταδεδομένα είναι πιο εύθραυστα από ό,τι φαίνονται

Τα ψηφιακά ίχνη δεν είναι μόνιμα. Όταν ανεβάζετε μια φωτογραφία υψηλής ανάλυσης σε μια εφαρμογή ανταλλαγής μηνυμάτων, η εφαρμογή συχνά συμπιέζει το αρχείο για να εξοικονομήσει χώρο. Αυτή η διαδικασία συμπίεσης μπορεί να εξαλείψει τις ετικέτες μεταδεδομένων που απαιτεί η Πράξη της ΕΕ για την AI. Για τον μέσο χρήστη, αυτό σημαίνει ότι μια επισημασμένη εικόνα από μια αξιόπιστη πηγή θα μπορούσε να γίνει ένα μη επισημασμένο deepfake απλώς και μόνο με την κοινοποίησή της σε μια ομαδική συνομιλία.

Η υδατογράφηση (watermarking) είναι η πιο ανθεκτική εναλλακτική λύση. Σε αντίθεση με τα μεταδεδομένα, τα οποία είναι ένα ξεχωριστό μπλοκ κώδικα, το υδατογράφημα «ψήνεται» μέσα στα πραγματικά pixel της εικόνας ή στις συχνότητες ενός αρχείου ήχου. Ορισμένες εταιρείες χρησιμοποιούν τη «στεγανογραφία» για να κρύψουν αυτά τα σημάδια. Πρόκειται για μοτίβα αόρατα στους ανθρώπους αλλά ανιχνεύσιμα από σαρωτές. Ακόμα κι αν περικόψετε τη φωτογραφία ή αλλάξετε τα χρώματα, το σημάδι παραμένει. Το πρόβλημα είναι ότι δεν υπάρχει ενιαίο παγκόσμιο πρότυπο για αυτά τα υδατογραφήματα. Ένας σαρωτής κατασκευασμένος από την Google ενδέχεται να μην αναγνωρίζει ένα υδατογράφημα που δημιουργήθηκε από ένα μοντέλο ανοιχτού κώδικα. Αυτή η έλλειψη κοινής γλώσσας δημιουργεί ένα αδιαφανές περιβάλλον όπου οι κανόνες είναι δύσκολο να επιβληθούν.

Η διαφορά μεταξύ ενός αστείου και ενός όπλου

Η ΕΕ δεν προσπαθεί να απαγορεύσει τη δημιουργικότητα. Ο νόμος δημιουργεί μια σαφή διάκριση μεταξύ της αβλαβούς σάτιρας και της επικίνδυνης χειραγώγησης. Όταν μια εικόνα παραγόμενη από AI με τον Πάπα Φραγκίσκο να φοράει ένα επώνυμο φουσκωτό μπουφάν έγινε viral, ήταν ένα αστείο. Οι περισσότεροι άνθρωποι κατάλαβαν ότι ήταν ψεύτικη επειδή ήταν παράλογη. Σύμφωνα με τους νέους κανόνες, τέτοιο καλλιτεχνικό ή σατιρικό περιεχόμενο γενικά δεν χρειάζεται το ίδιο επίπεδο αυστηρής επισήμανσης.

Αντίθετα, οι κανόνες είναι πολύ αυστηροί για περιεχόμενο που θα μπορούσε να παραπλανήσει το κοινό για θέματα δημόσιου συμφέροντος. Έχουμε ήδη δει τη ζημιά που μπορεί να προκαλέσει αυτό. Το 2022, ένα deepfake βίντεο του Προέδρου Ζελένσκι που έλεγε στα στρατεύματά του να παραδοθούν εμφανίστηκε στο διαδίκτυο κατά τη διάρκεια της εισβολής στην Ουκρανία. Αν και καταρρίφθηκε γρήγορα, έδειξε πώς η AI μπορεί να αποτελέσει εργαλείο πολέμου. Ομοίως, ρητές εικόνες παραγόμενες από AI διασημοτήτων όπως η Taylor Swift έδειξαν πώς αυτή η τεχνολογία μπορεί να χρησιμοποιηθεί για παρενόχληση. Η Πράξη της ΕΕ για την AI στοχεύει σε αυτές τις επιβλαβείς χρήσεις απαιτώντας από τους επαγγελματίες χρήστες να είναι ειλικρινείς σχετικά με την προέλευση του περιεχομένου τους. Η ουσία είναι ότι το πλαίσιο της εικόνας έχει τόση σημασία όση και η τεχνολογία που χρησιμοποιήθηκε για τη δημιουργία της.

Τι σημαίνει αυτό για την καθημερινή σας περιήγηση

Για τον καταναλωτή, αυτός ο νόμος θα οδηγήσει σε περισσότερες ετικέτες και προειδοποιήσεις στις ροές των μέσων κοινωνικής δικτύωσης. Μπορεί να δείτε μια μικρή ετικέτα "Generated by AI" δίπλα σε μια είδηση ή μια φωτογραφία προφίλ. Αυτό προορίζεται να σας βοηθήσει να δημιουργήσετε ένα πνευματικό φίλτρο. Βλέποντας τη γενική εικόνα, πρόκειται για τον ψηφιακό γραμματισμό. Απομακρυνόμαστε από μια εποχή όπου «το να βλέπεις σημαίνει να πιστεύεις» προς μια εποχή όπου όλα είναι ύποπτα μέχρι να επαληθευτούν.

Πρακτικά μιλώντας, δεν πρέπει να περιμένετε ότι κάθε deepfake θα εξαφανιστεί εν μία νυκτί. Η ΕΕ μπορεί να ρυθμίσει μόνο εταιρείες που δραστηριοποιούνται εντός των συνόρων της. Ένας ανώνυμος δημιουργός σε μια χώρα εκτός ΕΕ μπορεί ακόμα να δημοσιεύει μη επισημασμένα deepfakes σε παγκόσμιες πλατφόρμες. Επιπλέον, τα μοντέλα AI ανοιχτού κώδικα αποτελούν σημαντικό «παραθυράκι». Πρόκειται για προγράμματα που ο καθένας μπορεί να κατεβάσει και να εκτελέσει στον δικό του υπολογιστή. Επειδή αυτά τα μοντέλα είναι αποκεντρωμένα, η ΕΕ δυσκολεύεται να αναγκάσει μεμονωμένους χρήστες να συμπεριλάβουν ετικέτες. Ο νόμος είναι ένα προστατευτικό κιγκλίδωμα για το ευρύ κοινό, αλλά οι άκρες του διαδικτύου θα παραμείνουν ασταθείς.

Μια πολυεπίπεδη προσέγγιση στην ψηφιακή πραγματικότητα

Οι ειδικοί και η Ευρωπαϊκή Επιτροπή συμφωνούν ότι καμία μεμονωμένη τεχνολογία δεν αποτελεί πανάκεια. Μια ετικέτα είναι μόνο ένα επίπεδο άμυνας. Για να προστατεύσουμε πραγματικά τον ψηφιακό χώρο, χρειαζόμαστε έναν συνδυασμό μεταδεδομένων, υδατογράφησης και δημόσιας εκπαίδευσης. Οι εταιρείες AI, οι πλατφόρμες κοινωνικής δικτύωσης και οι ελεγκτές γεγονότων (fact-checkers) πρέπει να συνεργαστούν για να διασφαλίσουν ότι αυτές οι ετικέτες παραμένουν πράγματι συνδεδεμένες με το περιεχόμενο καθώς αυτό ταξιδεύει στον ιστό.

Τελικά, η επιτυχία της Πράξης της ΕΕ για την AI εξαρτάται από το αν οι εταιρείες τεχνολογίας θα δώσουν προτεραιότητα στην ασφάλεια έναντι της ταχύτητας. Εάν οι πλατφόρμες αρνηθούν να επενδύσουν στους σαρωτές που απαιτούνται για την ανάγνωση των υδατογραφημάτων AI, οι ετικέτες θα είναι άχρηστες. Εάν τα υδατογραφήματα αφαιρούνται πολύ εύκολα, ο νόμος θα είναι μια «χάρτινη τίγρη». Από την πλευρά του καταναλωτή, η καλύτερη στρατηγική είναι να παραμένει σκεπτικός απέναντι σε οποιοδήποτε εντυπωσιοθηρικό περιεχόμενο που στερείται σαφούς προέλευσης. Το διαδίκτυο δεν είναι πλέον καθρέφτης της πραγματικότητας. Είναι μια επιμελημένη γκαλερί όπου μέρος της τέχνης είναι ζωγραφισμένο από μηχανές. Η ΕΕ θέλει απλώς να βεβαιωθεί ότι αυτές οι μηχανές υπογράφουν το όνομά τους στο κάτω μέρος του καμβά.

Τι σημαίνει αυτό για εσάς

• Ελέγξτε για ετικέτες: Αναζητήστε ετικέτες "AI-generated" σε ειδησεογραφικούς ιστότοπους και μέσα κοινωνικής δικτύωσης, καθώς αυτές είναι πλέον υποχρεωτικές για πολλές πλατφόρμες που λειτουργούν στην Ευρώπη.
• Κατανοήστε τα όρια: Θυμηθείτε ότι τα στιγμιότυπα οθόνης και τα συμπιεσμένα αρχεία συχνά χάνουν τις ετικέτες AI, επομένως μια μη επισημασμένη εικόνα δεν είναι εγγυημένα αληθινή.
• Αμφισβητήστε το viral περιεχόμενο: Να είστε ιδιαίτερα προσεκτικοί με βίντεο δημόσιων προσώπων που φαίνονται εκτός χαρακτήρα, καθώς αυτά αποτελούν πρωταρχικούς στόχους για τους δημιουργούς deepfake.
• Περιμένετε περισσότερες τριβές: Πιθανότατα θα βλέπετε περισσότερες αποκαλύψεις και προειδοποιήσεις στις εφαρμογές σας καθώς οι εταιρείες προσαρμόζονται σε αυτές τις νέες απαιτήσεις διαφάνειας.

Πηγές:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report