Ο πράκτορας που εξαφανίζεται και γιατί η υπόσχεση για αβίαστη Τεχνητή Νοημοσύνη αποτυγχάνει

Το σύγχρονο στέλεχος τεχνολογίας ονειρεύεται έναν κόσμο όπου κάθε σημείο ψηφιακής τριβής εξατμίζεται σε μια απρόσκοπτη ροή αυτοματοποιημένης βοήθειας και αλγοριθμικής χάρης. Αυτό το όραμα για το μέλλον υπόσχεται έναν χώρο εργασίας όπου η τεχνητή νοημοσύνη ενεργεί ως ένας ακούραστος συνεργάτης που προβλέπει τις ανθρώπινες ανάγκες με απόκοσμη ακρίβεια. Ένας τέτοιος παράδεισος παραγωγικότητας βασίζεται στην υπόθεση ότι η περίπλοκη ανθρώπινη λογική αποστάζεται εύκολα σε κώδικα, εκτός εάν οι υποκείμενες αποχρώσεις της κοινωνικής αλληλεπίδρασης παραμένουν θεμελιωδώς αδιαφανείς για το πυρίτιο. Η επιτυχία σε αυτόν τον τομέα απαιτεί κάτι περισσότερο από απλή υπολογιστική ισχύ, επειδή η ασταθής φύση της ανθρώπινης συμπεριφοράς αψηφά αλγοριθμικά την άκαμπτη λογική του μοντέλου του πράκτορα. Η μετάβαση από την ανθρώπινη εργασία στον ψηφιακό αυτοματισμό αποκαλύπτει αναπόφευκτα το τεράστιο, χαοτικό χάσμα μεταξύ ενός ανθρώπου και ενός σεναρίου (script).

Η εσωτερική ομολογία στη Meta

Ο Mark Zuckerberg στάθηκε πρόσφατα ενώπιον του εναπομείναντος προσωπικού του κατά τη διάρκεια μιας εσωτερικής συγκέντρωσης για να μοιραστεί μια αποрезωτική ενημέρωση. Ο ρυθμός ανάπτυξης των πρακτόρων ΤΝ (AI agents) δεν κινείται τόσο γρήγορα όσο περίμενε η ηγετική ομάδα. Νωρίτερα φέτος, η Meta απομάκρυνε περίπου 8.000 υπαλλήλους από το μισθολόγιό της. Αυτές οι περικοπές στόχευαν περίπου το 10% του εταιρικού εργατικού δυναμικού. Στη συνέχεια, η εταιρεία μετέφερε άλλους 7.000 επιζώντες σε νέα τμήματα. Μία από αυτές τις μονάδες ονομάζεται Agent Transformation (Μετασχηματισμός Πρακτόρων). Ο Zuckerberg παραδέχτηκε κατά τη διάρκεια της συνάντησης ότι αυτές οι δομικές αλλαγές δεν ήταν τόσο καθαρές όσο θα έπρεπε. Η εκτελεστική ομάδα έλαβε αυτές τις αποφάσεις από φόβο ότι η εταιρεία ήταν πολύ αργή στην προσαρμογή στο νέο τεχνολογικό περιβάλλον.

Αυτή η παραδοχή είναι μια σπάνια στιγμή διαφάνειας σε έναν κλάδο που συνήθως αντιμετωπίζει κάθε καθυστέρηση ως στρατηγική στροφή. Ο εταιρικός ηγέτης σημείωσε ότι τα αναμενόμενα οφέλη αυτής της νέας δομής, που εστιάζει στην ΤΝ, δεν έχουν φτάσει ακόμη. Εξακολουθεί να ελπίζει ότι θα εμφανιστούν βελτιώσεις στους επόμενους τρεις έως έξι μήνες. Ωστόσο, αναφορές από το εσωτερικό της μονάδας Agent Transformation περιγράφουν μια διαφορετική εικόνα. Ορισμένοι μηχανικοί περιέγραψαν την ατμόσφαιρα ως ένα «γκούλαγκ» που συνθλίβει την ψυχή. Αυτή η αντίθεση μεταξύ του αισιόδοξου χρονοδιαγράμματος του Διευθύνοντος Συμβούλου και της σωματικής εξάντλησης των εργαζομένων υποδηλώνει μια βαθιά αποσύνδεση στο habitus της εταιρείας.

Η φιλολογία της λέξης πράκτορας (agent)

Γλωσσολογικά μιλώντας, η λέξη πράκτορας έχει υποστεί μια παράξενη μεταμόρφωση. Στην παραδοσιακή κοινωνιολογία, ένας πράκτορας είναι μια οντότητα με την ικανότητα να ενεργεί σε έναν κόσμο. Συνεπάγεται αυτενέργεια (agency), επιλογή και αίσθημα ευθύνης. Κάποτε μιλούσαμε για ηθικούς πράκτορες ή μυστικούς πράκτορες. Σε αυτά τα πλαίσια, το άτομο είναι το κέντρο της δράσης. Σήμερα, η βιομηχανία της τεχνολογίας έχει απογυμνώσει τη λέξη από το ανθρώπινο βάρος της. Ένας πράκτορας ΤΝ είναι πλέον ένα κομμάτι λογισμικού σχεδιασμένο να εκτελεί εργασίες για λογαριασμό ενός χρήστη. Πρόκειται για μια γλωσσική υποβάθμιση όπου ο άνθρωπος δεν είναι πλέον ο δρώντας, αλλά ο παρατηρητής της δράσης.

Αυτή η αλλαγή στη γλώσσα αλλάζει τον τρόπο με τον οποίο αντιλαμβανόμαστε την εργασία. Όταν η Meta μεταθέτει 7.000 άτομα στο Agent Transformation, ο στόχος είναι να καταστήσει τον άνθρωπο παρωχημένο δημιουργώντας μια ψηφιακή εκδοχή της αυτενέργειάς του. Αλλά όπως ανακάλυψε ο Zuckerberg, η αυτενέργεια δεν είναι απλώς μια σειρά από δηλώσεις "if-then". Είναι βαθιά ριζωμένη στο κοινωνικό πλαίσιο και στην ικανότητα πλοήγησης στους άγραφους κανόνες της ανθρώπινης κουλτούρας. Μπορείτε να διδάξετε μια μηχανή να γράφει ένα email, αλλά είναι πολύ πιο δύσκολο να τη διδάξετε να κατανοεί τη λεπτή ένταση στο αίτημα ενός διευθυντή. Το λογισμικό στερείται της βαθιάς κατανόησης των ανθρώπινων σχέσεων που κάνει έναν χώρο εργασίας να λειτουργεί.

Το αρχιπέλαγος του εταιρικού γραφείου

Σε μακροεπίπεδο, η δομή των σύγχρονων εταιρειών μετατρέπεται σε αρχιπέλαγος. Πρόκειται για μια κοινωνία όπου οι άνθρωποι ζουν και εργάζονται σε πυκνές συστάδες, αλλά παραμένουν εντελώς εξατομικευμένοι. Στη Meta, οι μηχανικοί στις μονάδες ΤΝ είναι σωματικά παρόντες αλλά κοινωνικά απομονωμένοι λόγω της έντασης των καθηκόντων τους. Εργάζονται σε μια κατάσταση «ρευστής νεωτερικότητας», όπου οι τίτλοι εργασίας τους, ακόμη και οι συνάδελφοί τους, αλλάζουν μέσα σε μια νύχτα. Η μετάθεση 7.000 ατόμων αποτελεί μια μαζική διατάραξη του κοινωνικού ιστού. Σπάει τις άγκυρες της ρουτίνας και της προσωπικής σύνδεσης που κρατούν ένα εργατικό δυναμικό σταθερό.

Όταν ο Zuckerberg λέει ότι οι περικοπές θέσεων εργασίας δεν ήταν καθαρές, αναφέρεται στο διοικητικό χάος. Αλλά από κοινωνιολογική άποψη, το χάος είναι ανθρώπινο. Οι άνθρωποι δεν είναι αρθρωτά εξαρτήματα. Δεν μπορείτε να αποσυνδέσετε 8.000 μονάδες και να περιμένετε από το υπόλοιπο σύστημα να λειτουργήσει αμέσως με μεγαλύτερη ταχύτητα. Οι μηχανικοί περιέγραψαν τη νέα μονάδα ως γκούλαγκ επειδή η πίεση για τη δημιουργία μιας ψηφιακής αντικατάστασης της ανθρώπινης διαίσθησης είναι ένα παράδοξο. Ζητάτε από τους ανθρώπους να εργάζονται σαν μηχανές για να αποδείξετε ότι οι μηχανές μπορούν να εργάζονται σαν άνθρωποι. Αυτή η πίεση δημιουργεί ένα κατακερματισμένο περιβάλλον όπου η συλλογική μνήμη της εταιρείας χάνεται.

Γιατί ο αυτοματισμός ανθίσταται στον εύκολο δρόμο

Περιέργως, η δυσκολία που αντιμετωπίζει η Meta είναι ένα κλασικό παράδειγμα του πώς η τεχνολογία προσκρούει στον τοίχο της πεζής πραγματικότητας. Συχνά βλέπουμε την τεχνολογία ως μια δύναμη που κινείται σε μια ευθεία γραμμή προς την πρόοδο. Στην πράξη, μοιάζει περισσότερο με αρχαιολογικό χώρο. Κάθε νέο στρώμα λογισμικού πρέπει να αντιμετωπίσει τα απομεινάρια των παλιών συστημάτων και τις επίμονες συνήθειες των ανθρώπων που τα χρησιμοποιούν. Οι πράκτορες ΤΝ αποτυγχάνουν να επιταχύνουν επειδή παλεύουν με τη συστημική πολυπλοκότητα της καθημερινής ζωής. Ένας ψηφιακός πράκτορας χρειάζεται έναν τέλεια δομημένο κόσμο για να είναι αποτελεσματικός. Ο κόσμος μας είναι αδιαφανής και ακατάστατος.

Οι κοινωνιολόγοι συχνά μιλούν για την οικονομία της προσοχής ως τον μοχλό της σύγχρονης τεχνολογίας. Η Meta θέλει πράκτορες που μπορούν να αιχμαλωτίσουν και να διαχειριστούν την προσοχή μας, ώστε να μην χρειαστεί ποτέ να εγκαταλείψουμε τις πλατφόρμες της. Υπάρχει όμως ένα όριο στο πόσο μεγάλο μέρος της καθημερινότητάς μας μπορούμε να αναθέσουμε σε έναν αλγόριθμο. Εάν ένας πράκτορας διαχειρίζεται το ημερολόγιό μου, τα email μου και τα ψώνια μου, δεν είμαι πλέον ενεργός συμμετέχων στη δική μου ζωή. Γίνομαι ένα φάντασμα μέσα στη δική μου μηχανή. Η αργή πρόοδος που σημείωσε ο Zuckerberg είναι ίσως ένα σημάδι ότι οι κοινωνικές μας δομές είναι πιο ανθεκτικές από ό,τι θέλει να παραδεχτεί η βιομηχανία της τεχνολογίας.

Το φάντασμα της ρευστής νεωτερικότητας

Τελικά, η κατάσταση στη Meta είναι σύμπτωμα μιας ευρύτερης πολιτισμικής μεταλλαγής. Ζούμε μια περίοδο ακραίας αβεβαιότητας όπου ακόμη και οι πιο ισχυρές εταιρείες κάνουν εικασίες. Η φράση "Agent Transformation" είναι μια συμβολική προσπάθεια εύρεσης τάξης μέσα στο χάος. Είναι ένα όνομα που ακούγεται σαν πρόοδος, αλλά κρύβει το άγχος μιας εταιρείας που χάνει τον δρόμο της. Η ελπίδα του Zuckerberg για ανάκαμψη σε τρεις έως έξι μήνες είναι ένα πολιτισμικό αναισθητικό. Μειώνει τον πόνο των τρεχουσών απολύσεων και την αποτυχία των νέων έργων, υποσχόμενο ένα καλύτερο μέλλον που βρίσκεται μόλις λίγο πιο πέρα από το εφικτό.

Αυτός ο κύκλος υπερβολικής προβολής (hype) και απογοήτευσης είναι διάχυτος στην ψηφιακή εποχή. Μας λένε ότι η τεχνολογία θα λύσει τα προβλήματα της εργασίας και της μοναξιάς, κι όμως βρισκόμαστε πιο υπερφορτωμένοι και απομονωμένοι από ποτέ. Οι μηχανικοί στη Meta δεν κατασκευάζουν απλώς λογισμικό. Συμμετέχουν σε μια θεατρική σκηνή όπου η επιτελεστική ταχύτητα ανάπτυξης της ΤΝ είναι πιο σημαντική από την πραγματική χρησιμότητα του προϊόντος. Το αποτέλεσμα είναι ένα εργατικό δυναμικό που εξαντλείται από την επιδίωξη ενός στόχου που είναι θεμελιωδώς ελαττωματικός.

Στοχασμοί για ένα ανθρώπινο μέλλον

Καθώς παρακολουθούμε αυτούς τους τεχνολογικούς γίγαντες να παλεύουν με τα όρια του αυτοματισμού, αξίζει να παρατηρήσουμε τις δικές μας καθημερινές συνήθειες. Περάσαμε την τελευταία δεκαετία προσπαθώντας να κάνουμε τη ζωή μας χωρίς τριβές. Χρησιμοποιούμε εφαρμογές για τα πάντα, από την παραγγελία καφέ μέχρι την εύρεση συντρόφου. Αντιμετωπίσαμε τους εαυτούς μας σαν τους ίδιους τους πράκτορες που προσπαθεί να κατασκευάσει η Meta. Εστιάζουμε στην αποδοτικότητα και την ταχύτητα, ενώ αγνοούμε την αξία των αργών, ακατάστατων ανθρώπινων εμπειριών που μας καθορίζουν.

Η παραδοχή του Zuckerberg είναι μια υπενθύμιση ότι υπάρχουν κάποια πράγματα που δεν μπορείς να βιάσεις. Η νοημοσύνη δεν αφορά μόνο την επεξεργασία δεδομένων. Αφορά την παρουσία σε έναν κόσμο που είναι συχνά μπερδεμένος και όμορφος. Ίσως η αργή πρόοδος των πρακτόρων ΤΝ να μην είναι μια αποτυχία της τεχνολογίας αλλά μια νίκη του ανθρώπινου πνεύματος. Δείχνει ότι η ικανότητά μας για ενσυναίσθηση, απόχρωση και σύνδεση εξακολουθεί να είναι το πιο πολύτιμο πράγμα που έχουμε. Θα πρέπει να εξετάσουμε το ενδεχόμενο να διεκδικήσουμε ξανά τα μέρη της αυτενέργειάς μας που προσπαθήσαμε να δώσουμε στις οθόνες. Η σιωπή, η πλήξη και η πρόσωπο με πρόσωπο συνομιλία είναι οι πραγματικές άγκυρες σε έναν κόσμο ρευστής αλλαγής.

Βασικά συμπεράσματα για την ψηφιακή εποχή

• Παρατηρήστε πώς αλλάζει η γλώσσα του χώρου εργασίας σας και αν σας αντιμετωπίζει ως δρώντα ή ως εξάρτημα.
• Αναλογιστείτε ποια μέρη της καθημερινότητάς σας έχετε αυτοματοποιήσει και ποιες ανθρώπινες συνδέσεις χάσατε στη διαδικασία.
• Αμφισβητήστε το αφήγημα της συνεχούς επιτάχυνσης και σκεφτείτε την αξία της κοινωνικής σταθερότητας έναντι της τεχνολογικής ταχύτητας.
• Προσέξτε τη διαφορά μεταξύ ενός εργαλείου που σας βοηθά να ενεργήσετε και ενός πράκτορα που ενεργεί για εσάς.

Πηγές

• Εσωτερικές αναφορές και απομαγνητοφωνήσεις συγκεντρώσεων από τη Meta Platforms Inc. σχετικά με την ανάπτυξη της ΤΝ και την αναδιάρθρωση του εργατικού δυναμικού.
• Δημογραφική και οικονομική ανάλυση του κύκλου απολύσεων στον τομέα της τεχνολογίας 2024-2026 στη Silicon Valley.
• Κοινωνιολογικές μελέτες για τη ρευστή νεωτερικότητα και την εξατομίκευση του εργατικού δυναμικού στην ψηφιακή εποχή.
• Γλωσσολογική ανάλυση του εταιρικού λόγου και της σημασιολογικής εξέλιξης της ορολογίας της τεχνητής νοημοσύνης.