Ένας πραγματικός άνθρωπος πραγματοποιεί τελικά τις τηλεφωνικές κλήσεις του AI βοηθού σας;

Έχετε αναρωτηθεί ποτέ γιατί ο ψηφιακός σας βοηθός ακούγεται λίγο παραπάνω ικανός από ό,τι θα έπρεπε όταν καλεί ένα εστιατόριο για να κλείσει τραπέζι; Οι περισσότεροι χρήστες υποθέτουν ότι ένας πολύπλοκος ιστός κώδικα κάνει όλη τη δύσκολη δουλειά. Ωστόσο, οι πρόσφατες εσωτερικές δοκιμές της Meta για τον νέο προσωπικό της πράκτορα AI, τον Muse, αποκαλύπτουν μια πιο χειροκίνητη πραγματικότητα. Η εταιρεία χρησιμοποιεί ανθρώπινους εργολάβους για να χειρίζεται ορισμένες τηλεφωνικές κλήσεις που ο ψηφιακός πράκτορας υποτίθεται ότι διαχειρίζεται μόνος του. Ενώ η βιομηχανία της τεχνολογίας συχνά προωθεί την Τεχνητή Νοημοσύνη ως έναν ακούραστο βοηθό ικανό για άπειρες εργασίες, αυτές οι δοκιμές δείχνουν ότι η ανθρώπινη επαφή παραμένει το «μυστικό συστατικό» στο παρασκήνιο.

Εσωτερικές αναρτήσεις της εταιρείας που είδε το Reuters υποδηλώνουν ότι η Meta ενημέρωσε τους υπαλλήλους της για αυτή τη δοκιμή «ανθρώπινης υποδοχής» μόλις την περασμένη εβδομάδα. Η χρονική στιγμή είναι αξιοσημείωτη, καθώς ακολουθεί τη δημόσια κυκλοφορία μιας λειτουργίας τηλεφωνικών κλήσεων για τον Muse. Αυτή η πρακτική περιλαμβάνει ανθρώπινους εργολάβους σε τηλεφωνικά κέντρα που παρεμβαίνουν αθόρυβα για να ολοκληρώσουν εργασίες όταν η Τεχνητή Νοημοσύνη φτάνει στα όριά της. Για τον μέσο χρήστη, αυτό εγείρει ένα θεμελιώδες ερώτημα σχετικά με το πού τελειώνει η αυτοματοποίηση και πού αρχίζει η ανθρώπινη επιτήρηση.

Ο μάγος πίσω από την ψηφιακή κουρτίνα

Με απλά λόγια, ο Muse έχει σχεδιαστεί για να λειτουργεί ως γέφυρα μεταξύ της ψηφιακής σας ζωής και του φυσικού κόσμου. Εάν χρειάζεστε ένα ραντεβού για κούρεμα ή μια κράτηση για δείπνο, το λέτε στο AI και αυτό πραγματοποιεί την κλήση. Πίσω από την ορολογία, αυτή η διαδικασία βασίζεται στην επεξεργασία φυσικής γλώσσας για την κατανόηση του αιτήματός σας και στη σύνθεση φωνής για την ομιλία με το άτομο στην άλλη άκρη της γραμμής. Όμως, η φωνητική Τεχνητή Νοημοσύνη εξακολουθεί να δυσκολεύεται με την ακατάστατη, απρόβλεπτη φύση της ανθρώπινης συνομιλίας. Ένας πολυάσχολος ιδιοκτήτης εστιατορίου με βαριά προφορά ή ένας θορυβώδης χώρος μπορεί εύκολα να μπερδέψει έναν αλγόριθμο.

Όταν το λογισμικό παραπαίει, η Meta δρομολογεί την κλήση σε έναν άνθρωπο εργολάβο. Αυτό το άτομο ακούει τη συνομιλία και ολοκληρώνει την εργασία εκ μέρους της Τεχνητής Νοημοσύνης. Ο στόχος είναι να διασφαλιστεί ότι ο χρήστης θα λάβει την κράτησή του, ακόμη και αν η τεχνολογία δεν είναι ακόμα απόλυτα έτοιμη. Αυτή η μέθοδος είναι κοινή στη βιομηχανία της τεχνολογίας και συχνά αναφέρεται ως δοκιμή «Μάγος του Οζ». Ο χρήστης βλέπει μια απρόσκοπτη αυτοματοποιημένη εμπειρία, αλλά ένας άνθρωπος κινεί τους μοχλούς πίσω από μια κουρτίνα για να την κάνει να λειτουργήσει.

Γιατί αναδύονται ανησυχίες για την ιδιωτικότητα στο γραφείο

Κοιτάζοντας τη συνολική εικόνα, η χρήση ανθρώπινων εργολάβων εισάγει σημαντικούς κινδύνους για την ιδιωτικότητα. Οι εργαζόμενοι της Meta έχουν εκφράσει ανησυχίες σε εσωτερικά φόρουμ σχετικά με τις ευαίσθητες πληροφορίες που μπορεί να περάσουν μέσα από αυτές τις κλήσεις. Όταν ζητάτε από μια Τεχνητή Νοημοσύνη να καλέσει το ιατρείο σας ή ένα φαρμακείο, μοιράζεστε δεδομένα υγείας. Εάν ένας άνθρωπος εργολάβος βρίσκεται στην άλλη άκρη της γραμμής, μπορεί να ακούσει το πλήρες όνομά σας, την ημερομηνία γέννησής σας και τις ιατρικές σας ανάγκες.

Ο εκπρόσωπος της Meta, Daniel Roberts, δηλώνει ότι η εταιρεία συνεργάζεται με εμπόρους για τη βελτίωση της λειτουργίας. Σημειώνει ότι τα σχόλια από τους υπαλλήλους είναι θετικά και βοηθούν την εταιρεία να εφαρμόσει προστασίες ασφαλείας. Ωστόσο, ο κίνδυνος διαρροής ευαίσθητων δεδομένων σε εργολάβους τηλεφωνικών κέντρων είναι ένα απτό πρόβλημα. Αυτοί οι εργολάβοι είναι συχνά εξωτερικοί συνεργάτες που δεν έχουν τα ίδια μακροπρόθεσμα συμφέροντα στην εταιρεία όσο οι μηχανικοί πλήρους απασχόλησης. Ιστορικά, παρόμοια προγράμματα σε άλλους τεχνολογικούς κολοσσούς έχουν οδηγήσει σε εργολάβους που άκουγαν ιδιωτικές στιγμές, από οικογενειακούς καυγάδες μέχρι εμπιστευτικές επιχειρηματικές συμφωνίες.

Το επαναλαμβανόμενο «φάντασμα στη μηχανή»

Αυτή δεν είναι η πρώτη φορά που μια εταιρεία τεχνολογίας χρησιμοποιεί ανθρώπους για να υποδυθούν την Τεχνητή Νοημοσύνη. Πριν από χρόνια, μια startup με το όνομα M ήταν η πρώτη προσπάθεια της Meta για έναν υβριδικό βοηθό. Βασιζόταν σε μεγάλο βαθμό σε ανθρώπινους εργαζόμενους για την ολοκλήρωση εργασιών που το λογισμικό δεν μπορούσε να χειριστεί. Τελικά, η Meta έκλεισε το M επειδή το μοντέλο δεν ήταν κλιμακώσιμο. Η πρόσληψη χιλιάδων ανθρώπων για να λειτουργήσουν ως ο εγκέφαλος μιας Τεχνητής Νοημοσύνης είναι ακριβή και αργή. Το γεγονός ότι ο Muse επιστρέφει σε αυτή τη στρατηγική δείχνει ότι το χάσμα μεταξύ των δυνατοτήτων της Τεχνητής Νοημοσύνης και των ανθρώπινων προσδοκιών παραμένει μεγάλο.

Πρακτικά μιλώντας, η βιομηχανία της τεχνολογίας χρησιμοποιεί αυτές τις μεθόδους για τη συλλογή δεδομένων. Παρακολουθώντας πώς οι άνθρωποι χειρίζονται δύσκολες κλήσεις, η Meta μπορεί να εκπαιδεύσει τα μοντέλα του Muse ώστε να είναι πιο ανθεκτικά. Κάθε φορά που παρεμβαίνει ένας εργολάβος, το σύστημα καταγράφει την αλληλεπίδραση και τη χρησιμοποιεί ως μάθημα για την επόμενη ενημέρωση λογισμικού. Από την πλευρά του καταναλωτή, δεν είστε απλώς ένας πελάτης. Είστε μια πηγή δεδομένων εκπαίδευσης για ένα προϊόν που βρίσκεται ακόμα σε νηπιακό στάδιο.

Τι σημαίνει αυτό για τα δεδομένα και τον προϋπολογισμό σας

Στο βάθος, το κόστος της ανθρώπινης εργασίας είναι υψηλό. Εάν η Meta συνεχίσει να χρησιμοποιεί ανθρώπινη υποστήριξη, ενδέχεται τελικά να χρεώνει για premium επίπεδα της υπηρεσίας Muse. Η Τεχνητή Νοημοσύνη είναι φθηνή στη λειτουργία της σε μεγάλη κλίμακα, αλλά τα τηλεφωνικά κέντρα δεν είναι. Εάν χρησιμοποιείτε τον Muse δωρεάν, θα πρέπει να αναμένετε ότι τα δεδομένα σας είναι η πληρωμή. Κάθε κλήση που πραγματοποιείτε μέσω ενός πράκτορα AI είναι ένα σημείο δεδομένων που ανήκει στη Meta.

Για τον καθημερινό χρήστη, ο άμεσος αντίκτυπος είναι η ανάγκη για προσοχή. Όταν μια υπηρεσία βρίσκεται σε φάση δοκιμών, τα τείχη προστασίας της ιδιωτικότητας είναι συχνά πιο λεπτά. Εάν χρησιμοποιείτε τον Muse για τη διαχείριση διαδικασιών, σκεφτείτε την ευαισθησία των πληροφοριών που παρέχετε. Θα πρέπει να αποφεύγετε τη χρήση πρακτόρων AI για κλήσεις που περιλαμβάνουν:

• Οικονομικά στοιχεία ή αριθμούς πιστωτικών καρτών.
• Ιατρικά ραντεβού και ιστορικό υγείας.
• Ιδιωτικές διευθύνσεις κατοικίας ή κωδικούς ασφαλείας.
• Ευαίσθητες νομικές ή επαγγελματικές συζητήσεις.

Τελικά, η τεχνολογία είναι ένα εργαλείο, όχι ένας άνθρωπος. Της λείπει η ηθική κρίση για να γνωρίζει πότε πρέπει να σταματήσει την καταγραφή ή πότε να απορρίψει μια ιδιωτική πληροφορία. Η παρουσία ενός ανθρώπου εργολάβου προσθέτει ένα ακόμη επίπεδο ματιών και αυτιών στις προσωπικές σας υποθέσεις.

Προς μια πιο διαφανή Τεχνητή Νοημοσύνη

Η Meta δηλώνει ότι θα κυκλοφορήσει τη λειτουργία δημόσια μόνο όταν θα έχει τις κατάλληλες γνωστοποιήσεις. Αυτή η διαφάνεια είναι θεμελιώδης για την εμπιστοσύνη των χρηστών. Επί του παρόντος, η δοκιμή χρησιμεύει ως υπενθύμιση ότι το «ψηφιακό αργό πετρέλαιο» της εποχής μας είναι τα προσωπικά δεδομένα. Καθώς ο Muse εξελίσσεται, η εταιρεία πρέπει να είναι σαφής σχετικά με το ποιος ακριβώς βρίσκεται στη γραμμή. Εάν εμπλέκεται άνθρωπος, ο χρήστης έχει το δικαίωμα να το γνωρίζει πριν αρχίσει να μιλάει.

Συνολικά, αυτή η ιστορία αποτελεί μια υπενθύμιση της πραγματικότητας για την έκρηξη της Τεχνητής Νοημοσύνης. Βρισκόμαστε σε μια ασταθή περίοδο όπου το μάρκετινγκ για την Τεχνητή Νοημοσύνη συχνά ξεπερνά τη μηχανική. Ενώ ο Muse μπορεί να φαίνεται σαν ένα άλμα στο μέλλον, εξακολουθεί να είναι δεμένος με την παραδοσιακή ανθρώπινη εργασία. Η αόρατη ραχοκοκαλιά του σύγχρονου τεχνολογικού κόσμου παραμένουν οι χιλιάδες εργολάβοι που διορθώνουν τα λάθη των αλγορίθμων.

Πρακτικά μιλώντας, θα πρέπει να προσέχετε τις ψηφιακές σας συνήθειες καθώς αυτοί οι πράκτορες γίνονται πιο συνηθισμένοι στις εφαρμογές σας. Την επόμενη φορά που θα ζητήσετε από μια Τεχνητή Νοημοσύνη να πραγματοποιήσει μια κλήση, να θυμάστε ότι μπορεί να υπάρχει ένας άνθρωπος σε ένα τηλεφωνικό κέντρο κάπου στον κόσμο που κρατάει σημειώσεις. Δεν μιλάτε απλώς σε μια μηχανή. Αλληλεπιδράτε με ένα πολύπλοκο, ημι-ανθρώπινο σύστημα που ακόμα μαθαίνει πώς να χειρίζεται την ιδιωτική σας ζωή.

Πηγές: Εσωτερικές επικοινωνίες της Meta που αναφέρθηκαν από το Reuters, επίσημες δηλώσεις του εκπροσώπου της Meta, Daniel Roberts.