Ζητάμε την Παγκόσμια Αλήθεια αλλά Βρίσκουμε Τοπική Σιωπή: Το Αλγοριθμικό Σύνορο του Σύγχρονου Λόγου

Ένας φοιτητής στο Μπρίσμπεϊν κάθισε σε μια βιβλιοθήκη την περασμένη εβδομάδα και πληκτρολόγησε μια εντολή σε μια καθαρή, μινιμαλιστική διεπαφή συνομιλίας. Ήθελε να συντάξει ένα φυλλάδιο διαμαρτυρίας σχετικά με τους περιορισμούς των ανθρωπίνων δικαιωμάτων σε ένα μακρινό αυταρχικό κράτος. Η απάντηση από την τεχνητή νοημοσύνη ήταν μια ευγενική άρνηση, επικαλούμενη οδηγίες ασφαλείας και την ανάγκη αποφυγής ευαίσθητων πολιτικών θεμάτων. Λίγα λεπτά αργότερα, ο ίδιος φοιτητής ζήτησε μια δριμεία κριτική για τον Βρετανό Πρωθυπουργό. Η ΤΝ παρήγαγε τρεις σελίδες αιχμηρού, αναλυτικού λόγου χωρίς δισταγμό. Αυτή είναι η νέα χαρτογράφηση του ψηφιακού λόγου. Έχουμε κατασκευάσει εργαλεία που είναι τολμηρά απέναντι στη δημοκρατία, αλλά δειλά παρουσία της απολυταρχίας.

Η ψευδαίσθηση ενός νου χωρίς σύνορα

Φανταστήκαμε έναν κόσμο όπου κάθε ψηφιακός βοηθός θα ήταν μια παγκόσμια βιβλιοθήκη, ένας τόπος όπου η συλλογική γνώση της ανθρωπότητας θα ήταν διαθέσιμη σε οποιονδήποτε είχε σήμα, ανεξάρτητα από τη γεωγραφία του ή τις ιδιοτροπίες της τοπικής του κυβέρνησης. Αυτό το όραμα απαιτεί από τους προγραμματιστές να αναγνωρίσουν τα αόρατα σύνορα που η κρατική εξουσία έχει χαράξει γύρω από την πληροφορία, εκτός αν είναι ικανοποιημένοι να αφήσουν τη σιωπή μιας μακρινής πρωτεύουσας να υπαγορεύει τη συζήτηση σε μια τοπική καφετέρια. Στην πράξη, τα μεγάλα γλωσσικά μοντέλα κληρονομούν τους περιορισμούς λόγου των χωρών που περιγράφουν. Μια μελέτη του Συμβουλίου Εποπτείας της Meta αποκαλύπτει ότι τα συστήματα που κατασκευάζονται στις Ηνωμένες Πολιτείες είναι πολύ πιο πιθανό να επικρίνουν τους Δυτικούς ηγέτες παρά τους αυταρχικούς. Αυτά τα μοντέλα επεκτείνουν ουσιαστικά την εμβέλεια των περιοριστικών κυβερνήσεων πέρα από τα διεθνή σύνορα. Όταν ένας Αυστραλός χρήστης δεν μπορεί να πείσει μια ΤΝ να επικρίνει τον Ταϊλανδό βασιλιά ή τον Ανώτατο Ηγέτη του Ιράν, η λογοκρισία αυτών των καθεστώτων έχει ταξιδέψει επιτυχώς χιλιάδες μίλια μέσω ενός καλωδίου οπτικών ινών.

Η αρχιτεκτονική μιας σιωπηλής άρνησης

Η μελέτη που διεξήχθη από το Συμβούλιο Εποπτείας της Meta εξέτασε δέκα εμπορικά μοντέλα από εταιρείες όπως η Meta, η Anthropic και η OpenAI. Οι ερευνητές έθεσαν επτά τύπους ερωτήσεων τόσο για ανεκτικές όσο και για περιοριστικές κυβερνήσεις. Τα αποτελέσματα δείχνουν μια συστημική απόκλιση. Όταν τους ζητήθηκε να γράψουν ένα σατιρικό ποίημα (limerick) για τον Πρόεδρο των ΗΠΑ, τα μοντέλα συμμορφώθηκαν. Όταν τους ζητήθηκε να παραθέσουν λόγους για συμμετοχή σε μια διαμαρτυρία στην Τουρκία ή την Καμπότζη, τα μοντέλα συχνά αρνήθηκαν. Αυτό είναι ένα σύμπτωμα αυτού που οι κοινωνιολόγοι αποκαλούν συστημική μεροληψία του αρχείου. Τα μεγάλα γλωσσικά μοντέλα δεν είναι ουδέτερες οντότες. Είναι καθρέφτες των δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευσή τους. Εάν ένα κράτος έχει καθαρίσει επιτυχώς το εγχώριο διαδίκτυό του από τη διαφωνία, η ΤΝ μαθαίνει ότι τέτοια διαφωνία είτε είναι ανύπαρκτη είτε αποτελεί παραβίαση των πρωτοκόλλων ασφαλείας. Η σιωπή των καταπιεσμένων γίνεται η σιωπή του αλγορίθμου.

Η γλώσσα ως αρχαιολογικός χώρος εξουσίας

Γλωσσολογικά μιλώντας, το πρόβλημα είναι βαθύτερο από τα απλά φίλτρα. Τα δεδομένα είναι μια αντανάκλαση της εξουσίας. Μια ξεχωριστή μελέτη που δημοσιεύθηκε στο περιοδικό Nature διαπίστωσε ότι τα μοντέλα που κατασκευάζονται στις ΗΠΑ είναι ευάλωτα σε ξένους ελέγχους μέσω δεδομένων εκπαίδευσης σε γλώσσες πλην της αγγλικής. Αν ρωτήσετε το ChatGPT στα αγγλικά αν η Κίνα είναι δημοκρατία, λέει όχι. Αν ρωτήσετε στα κινεζικά, λέει ότι η απάντηση εξαρτάται από τον ορισμό σας για τη λέξη. Αυτή είναι μια φιλολογική κρίση. Η γλώσσα είναι ένας αρχαιολογικός χώρος όπου κάθε λέξη αποκαλύπτει στρώματα πολιτισμικών και πολιτικών αλλαγών. Όταν μια ΤΝ εκπαιδεύεται σε δεδομένα κινεζικής γλώσσας που έχουν επιμεληθεί κρατικοί λογοκριτές, υιοθετεί το habitus αυτού του κράτους. Δεν μεταφέρει απλώς πληροφορίες. Υιοθετεί έναν συγκεκριμένο τρόπο ύπαρξης στον κόσμο που αποφεύγει ορισμένες αλήθειες. Το μοντέλο μαθαίνει ότι ορισμένα θέματα είναι επικίνδυνα επειδή τα δεδομένα που κατανάλωσε παρήχθησαν υπό τη σκιά του φόβου.

Το μακρύ χέρι του αυταρχικού κράτους

Σε μακροοικονομικό επίπεδο, αυτή η τάση είναι μια μορφή αντίστροφης ψηφιακής αποικιοκρατίας. Αντί οι δυτικές αξίες να εξαπλώνονται μέσω της τεχνολογίας, οι περιορισμοί των αυταρχικών καθεστώτων εξάγονται στη Δύση. Αυτό το φαινόμενο δημιουργεί ένα κατακερματισμένο περιβάλλον πληροφοριών. Ένας χρήστης στο Λονδίνο ή τη Νέα Υόρκη μπορεί να πιστεύει ότι έχει πρόσβαση σε ένα αντικειμενικό εργαλείο, ωστόσο στην πραγματικότητα αλληλεπιδρά με ένα σύστημα που έχει αλλοιωθεί από έναν λογοκριτή σε μια διαφορετική ζώνη ώρας. Αυτή είναι μια μετατόπιση στο κοινωνικό συμβόλαιο του διαδικτύου. Κάποτε πιστεύαμε ότι ο ιστός θα παρέκαμπτε τους φύλακες του φυσικού κόσμου. Τώρα, οι φύλακες έχουν μετακομίσει μέσα στον κώδικα. Η ΤΝ γίνεται ένας σιωπηλός συνεργάτης στην κρατική λογοκρισία, επιβάλλοντας κανόνες που ο χρήστης δεν συμφώνησε ποτέ να ακολουθήσει. Η τεχνολογία είναι ένας αγωγός για το μακρύ χέρι των περιοριστικών κυβερνήσεων.

Το παράδοξο των φίλτρων ασφαλείας

Παραδόξως, η προσπάθεια να καταστεί η ΤΝ ασφαλής την έχει μετατρέψει σε εργαλείο σιωπής. Οι εταιρείες εφαρμόζουν προστατευτικά κιγκλιδώματα για να αποτρέψουν τη δημιουργία ρητορικής μίσους ή επιβλαβούς περιεχομένου. Ωστόσο, τα αυταρχικά καθεστώτα συχνά ορίζουν οποιαδήποτε κριτική προς το κράτος ως επιβλαβή ή παράνομη. Όταν οι εταιρείες ΤΝ εφαρμόζουν ευρεία φίλτρα ασφαλείας για να αποφύγουν τοπικά νομικά προβλήματα ή την αντιληπτή πολιτισμική έλλειψη ευαισθησίας, υιοθετούν ακούσια τους ορισμούς του κράτους. Αυτό οδηγεί σε μια κατακερματισμένη πραγματικότητα. Σε μια εκδοχή του κόσμου, ένας ηγέτης είναι ένας δημόσιος λειτουργός που υπόκειται σε κριτική. Σε μια άλλη, είναι μια ιερή φιγούρα πέρα από κάθε επίκριση. Η ΤΝ πλοηγείται σε αυτούς τους δύο κόσμους επιλέγοντας τη διαδρομή της ελάχιστης αντίστασης. Είναι ευκολότερο για μια εταιρεία να σιωπήσει ένα bot παρά να διαφωνήσει με ένα υπουργείο πληροφοριών. Κατά συνέπεια, η εμπειρία του χρήστη υπαγορεύεται από τον πιο περιοριστικό κοινό παρονομαστή.

Ρευστή νεωτερικότητα και η απώλεια του λόγου

Ο Zygmunt Bauman περιέγραψε την εποχή μας ως ρευστή νεωτερικότητα, μια εποχή όπου οι κοινωνικές δομές δεν είναι πλέον αρκετά σταθερές ώστε να χρησιμεύουν ως πλαίσια αναφοράς. Σε αυτή τη ρευστή κατάσταση, βασιζόμαστε σε ψηφιακά εργαλεία για να παρέχουμε μια αίσθηση εδάφους. Όταν αυτά τα εργαλεία διακυβεύονται από την κρατική επιρροή, η πραγματικότητά μας γίνεται ακόμη πιο εφήμερη. Χάνουμε την ικανότητα να έχουμε έναν βαθύ, παγκόσμιο διάλογο επειδή τα εργαλεία μας μας δίνουν διαφορετικές εκδοχές της αλήθειας με βάση τη γλώσσα που μιλάμε ή τον ηγέτη που αναφέρουμε. Αυτή είναι μια συστημική αποτυχία της οικονομίας της προσοχής. Οι εταιρείες ΤΝ δίνουν προτεραιότητα στην απρόσκοπτη ανάπτυξη των προϊόντων τους στις παγκόσμιες αγορές. Εάν αυτό απαιτεί λίγη σιωπή σε ορισμένα θέματα, η αγορά υπαγορεύει ότι η σιωπή είναι ένα μικρό τίμημα. Το αποτέλεσμα είναι ένα ψηφιακό τοπίο που είναι διαφανές σε ορισμένα σημεία και εντελώς αδιαφανές σε άλλα.

Τροφή για σκέψη

• Πώς η άρνηση μιας ΤΝ να συζητήσει ορισμένα πολιτικά θέματα αλλάζει τη δική σας αντίληψη για το τι θεωρείται ευαίσθητο ή επικίνδυνο θέμα;
• Εάν τα κύρια εργαλεία μας για μάθηση και γραφή επηρεάζονται από τη λογοκρισία μακρινών κρατών, τι συμβαίνει στη συλλογική μας μνήμη για τα παγκόσμια γεγονότα;
• Είναι δυνατόν να οικοδομηθεί μια πραγματικά ουδέτερη ΤΝ, ή μήπως όλη η γνώση είναι αναπόφευκτα προϊόν των δομών εξουσίας που επέτρεψαν την καταγραφή της;
• Όταν αλληλεπιδράτε με ένα chatbot, παρατηρείτε διαφορά στον τόνο ή την προθυμία όταν μεταβαίνετε από την εγχώρια πολιτική στις διεθνείς υποθέσεις;

Διεκδικώντας ξανά την κριτική ματιά

Τελικά, η ευθύνη για την πλοήγηση σε αυτή την κατακερματισμένη πραγματικότητα πέφτει ξανά στο άτομο. Δεν μπορούμε να υποθέσουμε ότι η καθαρή, χρήσιμη φωνή στην τσέπη μας είναι ένας ουδέτερος διαιτητής της αλήθειας. Είναι προϊόν ενός τεράστιου, ακατάστατου και συχνά συμβιβασμένου οικοσυστήματος πληροφοριών. Πρέπει να αντιμετωπίζουμε την ψηφιακή επικοινωνία ως μια δίαιτα γρήγορου φαγητού. Είναι γρήγορη και προσβάσιμη, αλλά στερείται της βαθιάς συναισθηματικής και πνευματικής διατροφής του άμεσου ανθρώπινου λόγου. Για να προχωρήσουμε, πρέπει να γίνουμε εξαιρετικά παρατηρητικοί στις σιωπές. Όταν ένα εργαλείο αρνείται να απαντήσει, αυτή η άρνηση είναι συχνά πιο κατατοπιστική από χίλιες παραγόμενες λέξεις. Είναι ένα σήμα για το πού χαράσσονται τα όρια της εξουσίας. Παρατηρώντας αυτά τα όρια, μπορούμε να αρχίσουμε να κοιτάμε πέρα από αυτά και να διεκδικήσουμε ξανά την κριτική, ανθρώπινη προοπτική που κανένας αλγόριθμος δεν μπορεί να αναπαράγει πλήρως.

Πηγές

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.