Czy to naprawdę człowiek wykonuje połączenia telefoniczne za Twojego asystenta AI?

Czy zastanawiałeś się kiedyś, dlaczego Twój cyfrowy asystent brzmi niemal zbyt kompetentnie, gdy dzwoni do restauracji, aby zarezerwować stolik? Większość użytkowników zakłada, że za wszystko odpowiada złożona sieć kodu. Jednak niedawne wewnętrzne testy firmy Meta dotyczące jej nowego osobistego agenta AI, Muse, ujawniają bardziej manualną rzeczywistość. Firma wykorzystuje ludzkich kontrahentów do obsługi niektórych połączeń telefonicznych, którymi agent cyfrowy miał zarządzać samodzielnie. Choć branża technologiczna często promuje sztuczną inteligencję jako niestrudzonego stażystę zdolnego do nieskończonej liczby zadań, testy te pokazują, że ludzki pierwiastek wciąż jest „sekretnym składnikiem” działającym za kulisami.

Wewnętrzne posty firmowe, do których dotarł Reuters, wskazują, że Meta poinformowała swoich pracowników o testach „ludzkiego konsjerża” zaledwie w zeszłym tygodniu. Moment ten jest istotny, ponieważ następuje po publicznym uruchomieniu funkcji połączeń telefonicznych dla Muse. Praktyka ta polega na tym, że ludzcy kontrahenci w centrach obsługi telefonicznej po cichu wkraczają do akcji, aby dokończyć zadania, gdy AI osiąga granice swoich możliwości. Dla przeciętnego użytkownika rodzi to fundamentalne pytanie o to, gdzie kończy się automatyzacja, a zaczyna ludzki nadzór.

Czarnoksiężnik za cyfrową kurtyną

Mówiąc prościej, Muse ma służyć jako most między Twoim cyfrowym życiem a światem fizycznym. Jeśli potrzebujesz wizyty u fryzjera lub rezerwacji stolika, mówisz o tym AI, a ona wykonuje telefon. Pomijając żargon, proces ten opiera się na przetwarzaniu języka naturalnego, aby zrozumieć Twoją prośbę, oraz na syntezie głosu, aby rozmawiać z osobą po drugiej stronie. Jednak głosowa AI wciąż zmaga się z chaotyczną, nieprzewidywalną naturą ludzkiej konwersacji. Zapracowany właściciel restauracji z silnym akcentem lub hałas w tle mogą łatwo zmylić algorytm.

Gdy oprogramowanie zawodzi, Meta przekierowuje połączenie do ludzkiego kontrahenta. Osoba ta słyszy rozmowę i kończy zadanie w imieniu AI. Celem jest zapewnienie użytkownikowi rezerwacji, nawet jeśli technologia nie jest jeszcze w pełni gotowa do samodzielnego działania. Metoda ta jest powszechna w branży technologicznej i często określana jako test „Czarnoksiężnika z krainy Oz” (Wizard of Oz). Użytkownik widzi płynne, zautomatyzowane doświadczenie, ale to człowiek za kurtyną pociąga za dźwignie, aby wszystko działało.

Dlaczego w biurze pojawiają się obawy o prywatność

Patrząc na szerszy obraz, korzystanie z ludzkich kontrahentów wprowadza znaczne ryzyko dla prywatności. Pracownicy Meta podnieśli alarm na wewnętrznych forach w związku z wrażliwymi informacjami, które mogą pojawiać się podczas tych rozmów. Kiedy prosisz AI o telefon do gabinetu lekarskiego lub apteki, udostępniasz dane dotyczące zdrowia. Jeśli po drugiej stronie linii znajduje się ludzki kontrahent, może on usłyszeć Twoje pełne imię i nazwisko, datę urodzenia oraz wymagania medyczne.

Rzecznik Meta, Daniel Roberts, twierdzi, że firma współpracuje ze sprzedawcami w celu ulepszenia tej funkcji. Zauważa, że opinie pracowników są pozytywne i pomagają firmie wdrażać zabezpieczenia. Jednak ryzyko wycieku wrażliwych danych do kontrahentów w centrach telefonicznych jest realnym problemem. Kontrahenci ci to często pracownicy zewnętrzni, którzy nie mają takich samych długoterminowych powiązań z firmą jak pełnoetatowi inżynierowie. Historycznie rzecz biorąc, podobne programy w innych gigantach technologicznych prowadziły do sytuacji, w których kontrahenci podsłuchiwali prywatne momenty – od kłótni domowych po poufne umowy biznesowe.

Powracający duch w maszynie

To nie pierwszy raz, kiedy firma technologiczna wykorzystuje ludzi do udawania sztucznej inteligencji. Lata temu startup o nazwie M był pierwszą próbą stworzenia hybrydowego asystenta przez firmę Meta. Opierał się on w dużej mierze na pracownikach ludzkich przy zadaniach, z którymi oprogramowanie nie mogło sobie poradzić. Ostatecznie Meta zamknęła projekt M, ponieważ model ten nie był skalowalny. Zatrudnianie tysięcy ludzi, by pełnili rolę mózgu AI, jest kosztowne i powolne. Fakt, że Muse powraca do tej strategii, pokazuje, że przepaść między możliwościami AI a oczekiwaniami ludzi wciąż jest szeroka.

Z praktycznego punktu widzenia branża technologiczna wykorzystuje te metody do gromadzenia danych. Obserwując, jak ludzie radzą sobie z trudnymi połączeniami, Meta może trenować modele Muse, aby były bardziej odporne. Za każdym razem, gdy kontrahent wkracza do akcji, system rejestruje interakcję i wykorzystuje ją jako lekcję przy następnej aktualizacji oprogramowania. Z punktu widzenia konsumenta nie jesteś tylko klientem. Jesteś źródłem danych treningowych dla produktu, który wciąż jest w powijakach.

Co to oznacza dla Twoich danych i budżetu

„Pod maską” koszty pracy ludzkiej są wysokie. Jeśli Meta nadal będzie korzystać z ludzkiego konsjerża, może ostatecznie wprowadzić opłaty za poziomy premium usługi Muse. AI jest tania w eksploatacji na dużą skalę, ale centra telefoniczne już nie. Jeśli korzystasz z Muse za darmo, powinieneś spodziewać się, że Twoje dane są formą zapłaty. Każde połączenie wykonane za pośrednictwem agenta AI to punkt danych, którego właścicielem staje się Meta.

Dla codziennego użytkownika natychmiastowym skutkiem jest potrzeba zachowania ostrożności. Gdy usługa znajduje się w fazie testów, bariery prywatności są często cieńsze. Jeśli używasz Muse do obsługi logistyki, zastanów się nad wrażliwością przekazywanych informacji. Należy unikać korzystania z agentów AI do połączeń obejmujących:

• Dane finansowe lub numery kart kredytowych.
• Wizyty lekarskie i historię choroby.
• Prywatne adresy zamieszkania lub kody bezpieczeństwa.
• Poufne dyskusje prawne lub zawodowe.

Ostatecznie technologia ta jest narzędziem, a nie osobą. Brakuje jej etycznej oceny, by wiedzieć, kiedy przestać nagrywać lub kiedy odrzucić prywatną informację. Obecność ludzkiego kontrahenta dodaje kolejną parę oczu i uszu do Twoich osobistych spraw.

W stronę bardziej przejrzystej AI

Meta twierdzi, że udostępni tę funkcję publicznie dopiero wtedy, gdy opracuje odpowiednie zasady ujawniania informacji. Ta przejrzystość jest fundamentem zaufania użytkowników. Obecnie test ten służy jako przypomnienie, że cyfrową ropą naftową naszej ery są dane osobowe. W miarę ewolucji Muse, firma musi jasno określać, kto dokładnie znajduje się na linii. Jeśli zaangażowany jest człowiek, użytkownik ma prawo o tym wiedzieć, zanim zacznie mówić.

Patrząc szerzej, ta historia to kubeł zimnej wody na entuzjazm związany z boomem AI. Znajdujemy się w niestabilnym okresie, w którym marketing AI często wyprzedza inżynierię. Choć Muse może wydawać się skokiem w przyszłość, wciąż jest uwiązana do tradycyjnej pracy ludzkiej. Niewidzialnym kręgosłupem nowoczesnego świata technologii pozostają tysiące kontrahentów, którzy naprawiają błędy popełniane przez algorytmy.

W praktyce warto obserwować swoje cyfrowe nawyki, w miarę jak agenci ci stają się coraz powszechniejsi w aplikacjach. Następnym razem, gdy poprosisz AI o wykonanie telefonu, pamiętaj, że gdzieś na świecie w centrum obsługi może siedzieć osoba i robić notatki. Nie rozmawiasz tylko z maszyną. Wchodzisz w interakcję ze złożonym, na wpół ludzkim systemem, który wciąż uczy się, jak radzić sobie z Twoim prywatnym życiem.

Źródła: Wewnętrzna komunikacja Meta raportowana przez Reuters, oficjalne oświadczenia rzecznika Meta Daniela Robertsa.