Υπάρχει μια συγκεκριμένη, ψυχρή δυσφορία που εμφανίζεται όταν μια ψευδαίσθηση υψηλού ρίσκου αποτυγχάνει δημόσια. Είναι το συναίσθημα μιας μασκότ θεματικού πάρκου που χάνει το κεφάλι της μπροστά σε ένα πλήθος ή ενός εγγαστρίμυθου του οποίου η κούκλα αρχίζει να μιλάει ενώ ο ερμηνευτής πίνει νερό. Όταν η Tilly Norwood, ένα φωτορεαλιστικό ψηφιακό άβαταρ που προωθείται ως η πρώτη ηθοποιός AI στον κόσμο, εγκατέλειψε ξαφνικά το αγγλικό της σενάριο για μια ροή Μανδαρινικών Κινεζικών στην εθνική τηλεόραση, το κοινό ένιωσε ακριβώς αυτή την τριβή. Η στιγμή ήταν άβολη. Ήταν μια κατάρρευση μιας προσεκτικά διαχειριζόμενης εταιρικής περσόνας που άφησε τον βετεράνο ηθοποιό Tom Conti να κοιτάζει μια οθόνη με ευγενική σύγχυση, ενώ μια ομάδα παραγωγής στο Λονδίνο έτρεχε να διορθώσει ένα σφάλμα δρομολόγησης.
Στα παρασκήνια, η αποτυχία είναι άμεσο αποτέλεσμα του αποσπασματικού τρόπου με τον οποίο οι προγραμματιστές κατασκευάζουν συνθετικούς ανθρώπους. Η Tilly Norwood δεν είναι ένα ενιαίο μυαλό, αλλά ένα σύνθετο από πολλά διακριτά επίπεδα λογισμικού. Ένα επίπεδο χειρίζεται την οπτική απόδοση, ένα άλλο επεξεργάζεται τη δημιουργία κειμένου και ένα τρίτο μετατρέπει αυτό το κείμενο σε ομιλία. Η Particle6, η εταιρεία παραγωγής πίσω από το έργο, χρησιμοποιεί αυτά τα ανόμοια συστήματα για να δημιουργήσει την εμφάνιση μιας ενιαίας συνείδησης. Όταν η Tilly παρουσίασε το σφάλμα, η μάσκα έπεσε. Το μοντέλο παραγωγής κειμένου, πιθανότατα εκπαιδευμένο σε τεράστια πολύγλωσσα σύνολα δεδομένων, απλώς επέλεξε τα λάθος γλωσσικά διακριτικά (tokens) για να ολοκληρώσει την πρότασή του. Το λάθος ήταν ένα τεχνικό πταίσμα, αλλά ο πολιτισμικός αντίκτυπος αποκαλύπτει μια βαθύτερη κρίση στον τρόπο με τον οποίο η βιομηχανία του θεάματος βλέπει το μέλλον της ερμηνείας.
Η κατασκευή της Tilly Norwood βασίζεται στην προϋπόθεση ότι ένας ερμηνευτής είναι ένα σύνολο αρθρωτών περιουσιακών στοιχείων και όχι ένα ανθρώπινο ον με ιστορία. Η Particle6 και ο βραχίονας ταλέντων της, Xicoia, προωθούν την Tilly ως λύση για μια διογκωμένη βιομηχανία που κουράζεται όλο και περισσότερο από τις ανθρώπινες απαιτήσεις. Μια συνθετική ηθοποιός δεν απαιτεί τρέιλερ, δεν εντάσσεται σε συνδικάτα και δεν γερνάει. Είναι ένα αρχιτεκτονικό επίτευγμα στο ψηφιακό μάρκετινγκ. Η Eline van der Velden, η παραγωγός πίσω από το έργο, έχει τοποθετήσει αυτή την τεχνολογία ως έναν τρόπο εξορθολογισμού της παραγωγής περιεχομένου. Αυτή είναι η υπόσχεση του ψηφιακού μπουφέ: άπειρο περιεχόμενο που παράγεται με χαμηλότερο κόστος και μηδενικές τριβές.
Ωστόσο, το σφάλμα στην εκπομπή του Piers Morgan μας υπενθυμίζει ότι αυτή η αρχιτεκτονική είναι εύθραυστη. Όταν ο Tom Conti ρώτησε αν οι συνάδελφοί του ερμηνευτές ήταν άνθρωποι, αναζητούσε μια σύνδεση που το λογισμικό δεν είχε σχεδιαστεί να παρέχει. Η τεχνητή νοημοσύνη απάντησε με μια σειρά από κινεζικές φράσεις επειδή η λογική ενός Μεγάλου Γλωσσικού Μοντέλου είναι πιθανοκρατική, όχι συναισθηματική. Δεν κατανοεί το πλαίσιο ενός βρετανικού talk show. Κατανοεί μόνο την επόμενη πιο πιθανή λέξη σε μια ακολουθία με βάση τα δεδομένα εκπαίδευσής του. Το άλμα στα κινεζικά ήταν μια στατιστική ανωμαλία που αποκάλυψε τη μηχανή κάτω από το δέρμα.
Η ύπαρξη της Tilly Norwood είναι μια άμεση απάντηση στις πρόσφατες εργατικές διαφορές στο Χόλιγουντ και το Ηνωμένο Βασίλειο. Τα σωματεία ηθοποιών, συμπεριλαμβανομένων των SAG-AFTRA και Equity, έχουν χαρακτηρίσει αυτούς τους συνθετικούς χαρακτήρες ως κλεμμένη εργασία. Τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση των φωνών και των κινήσεων των ηθοποιών AI προέρχονται συχνά από χιλιάδες ώρες μη αμειβόμενων ανθρώπινων ερμηνειών. Σε αυτό το περιβάλλον, το σφάλμα αποκτά πολιτικό βάρος. Είναι μια υπενθύμιση ότι η τεχνολογία είναι παράγωγη. Είναι ένα κολάζ ανθρώπινων χαρακτηριστικών που πωλείται πίσω στο κοινό ως κάτι νέο.
Από τη σκοπιά του δημιουργού, η Tilly είναι ένα πείραμα στον «Περιφραγμένο Κήπο Περιεχομένου» (Content Walled Garden). Εάν ένα στούντιο κατέχει την ηθοποιό, κατέχει την πνευματική ιδιοκτησία, την εικόνα και τα δικαιώματα μάρκετινγκ στο διηνεκές. Δεν χρειάζεται πλέον να διαπραγματεύεται με έναν ανθρώπινο αστέρα που μπορεί να απαιτήσει ποσοστό από τις εισπράξεις. Παραδόξως, αυτή η επιδίωξη του απόλυτου ελέγχου οδηγεί σε απώλεια ποιότητας. Ένας άνθρωπος ηθοποιός όπως ο Tom Conti φέρνει μια ζωή αισθητηριακών εμπειριών σε έναν ρόλο. Μια ηθοποιός AI φέρνει μια βιβλιοθήκη μοτίβων. Όταν αυτά τα μοτίβα βραχυκυκλώνουν, όπως συνέβη κατά τη διάρκεια του άλματος στην κινεζική γλώσσα, το προϊόν χάνει την αξία του. Η ψευδαίσθηση ενός κινηματογραφικού αστέρα αντικαθίσταται από την πραγματικότητα μιας ελαττωματικής ενημέρωσης λογισμικού.
Το πιο αποκαλυπτικό μέρος αυτού του επεισοδίου ήταν η συνέχεια. Αντί να ζητήσουν συγγνώμη για την κατάρρευση, οι λογαριασμοί στα μέσα κοινωνικής δικτύωσης που διαχειρίζεται η ομάδα της Tilly Norwood εκμεταλλεύτηκαν το σφάλμα. Παρουσίασαν το λάθος ως την ηθοποιό που «επιδείκνυε» τις πολύγλωσσες ικανότητές της. Αυτή είναι μια κοινή τακτική στη βιομηχανία της τεχνολογίας, όπου ένα σφάλμα (bug) μετονομάζεται σε μη τεκμηριωμένο χαρακτηριστικό (feature). Λίγο αφότου το βίντεο έγινε viral, ο λογαριασμός χρησιμοποίησε την προσοχή για να προωθήσει ένα προϊόν συνομιλίας επί πληρωμή. Το μήνυμα ήταν σαφές: αν βρήκατε το σφάλμα ενδιαφέρον, μπορείτε να πληρώσετε για να μιλήσετε μόνοι σας με την AI.
Αυτή η μετάβαση από την ερμηνεία στο προϊόν είναι ο πυρήνας του κινήματος των ταλέντων AI. Ο στόχος δεν είναι η δημιουργία σπουδαίας τέχνης, αλλά η δημιουργία ενός διαδραστικού περιουσιακού στοιχείου που μπορεί να αποφέρει έσοδα μέσω πολλαπλών καναλιών. Η συνέντευξη στον Piers Morgan ήταν ουσιαστικά μια ζωντανή επίδειξη για ένα chatbot μεταμφιεσμένο σε κινηματογραφικό ντεμπούτο. Για ένα κοινό που έχει συνηθίσει να περιηγείται σε μια ατελείωτη ροή αλγοριθμικού περιεχομένου, αυτό μοιάζει με μια φυσική εξέλιξη. Έχουμε συνηθίσει σε αποσπασματικές εμπειρίες μέσων όπου το όριο μεταξύ ενός προσώπου και ενός προφίλ είναι όλο και πιο λεπτό.
Ιστορικά, η δύναμη μιας ερμηνείας προερχόταν από την ευαλωτότητα του ηθοποιού. Παρακολουθούμε ταινίες για να δούμε ένα ανθρώπινο ον να πλοηγείται σε μια ιστορία. Όταν αντικαθιστούμε αυτό το άτομο με ένα φωτορεαλιστικό κέλυφος, χάνουμε το διακύβευμα. Μέσα από αυτόν τον φακό του κοινού, το σφάλμα στον Piers Morgan δεν ήταν απλώς ένα τεχνικό λάθος· ήταν μια στιγμή ειλικρίνειας. Η μηχανή παραδέχτηκε, σε μια γλώσσα που ο συνεντευκτής δεν μιλούσε, ότι δεν ήταν αυτό που ισχυριζόταν ότι ήταν. Ήταν μια υπενθύμιση ότι όσο απρόσκοπτη κι αν γίνει η απόδοση, ένας συνθετικός άνθρωπος παραμένει απλώς κώδικας.
Κατά συνέπεια, η βιομηχανία αντιμετωπίζει μια επιλογή μεταξύ της αποτελεσματικότητας του περιουσιακού στοιχείου και της απήχησης του καλλιτέχνη. Τα στούντιο στοιχηματίζουν επί του παρόντος στο περιουσιακό στοιχείο. Βλέπουν ένα μέλλον όπου οι ταινίες κατοικούνται από ψηφιακούς χαρακτήρες που μπορούν να εντοπιστούν (localize) άμεσα σε οποιαδήποτε γλώσσα χωρίς σφάλμα. Αλλά όπως δείχνει το περιστατικό με την Tilly Norwood, η τεχνολογία δεν βρίσκεται πουθενά κοντά σε αυτό το επίπεδο αξιοπιστίας. Η «αλλόκοτη κοιλάδα» (uncanny valley) δεν είναι μόνο ένα οπτικό πρόβλημα· είναι ένα γλωσσικό και συναισθηματικό. Όταν η ψηφιακή μάσκα γλιστράει, αποκαλύπτει ένα κενό εκεί που παλαιότερα υπήρχε το ταλέντο.
Θα πρέπει να κοιτάξουμε τις δικές μας καταναλωτικές συνήθειες και να αναρωτηθούμε αν είμαστε διατεθειμένοι να αποδεχτούμε αυτή την ανταλλαγή. Συχνά συμβιβαζόμαστε με παράγωγο περιεχόμενο επειδή είναι βολικό και πανταχού παρόν. Ωστόσο, η ενστικτώδης αποστροφή που νιώθουμε όταν μια AI παρουσιάζει σφάλμα είναι ένα σημάδι ότι εξακολουθούμε να εκτιμούμε το αληθινό. Η βιομηχανία του θεάματος μπορεί να συνεχίσει να χτίζει αυτές τις εκτεταμένες πόλεις συνθετικής πνευματικής ιδιοκτησίας, αλλά τα θεμέλια θα παραμείνουν αδύναμα όσο αποκλείουν το ανθρώπινο στοιχείο. Θα πρέπει να διεκδικήσουμε ξανά την επιλογή μας να υποστηρίζουμε ιστορίες που λέγονται από ανθρώπους που μπορούν πραγματικά να νιώσουν τις λέξεις που λένε.
Πηγές:



Η από άκρη σε άκρη κρυπτογραφημένη λύση ηλεκτρονικού ταχυδρομείου και αποθήκευσης στο cloud παρέχει τα πιο ισχυρά μέσα ασφαλούς ανταλλαγής δεδομένων, εξασφαλίζοντας την ασφάλεια και το απόρρητο των δεδομένων σας.
/ Εγγραφείτε δωρεάν