Vai jūsu mākslīgā intelekta asistenta tālruņa zvanus patiesībā veic dzīvs cilvēks?

Vai esat kādreiz domājuši, kāpēc jūsu digitālais asistents izklausās nedaudz pārāk spējīgs, kad tas zvana uz restorānu, lai rezervētu galdiņu? Lielākā daļa lietotāju pieņem, ka visu smago darbu paveic sarežģīts koda tīkls. Tomēr Meta nesenie iekšējie testi tās jaunajam personīgajam MI aģentam Muse atklāj manuālāku realitāti. Uzņēmums izmanto darbiniekus-cilvēkus, lai veiktu noteiktus tālruņa zvanus, kurus digitālajam aģentam būtu jāpārvalda pašam. Lai gan tehnoloģiju nozare bieži reklamē MI kā nenogurdināmu asistentu, kas spēj veikt bezgalīgi daudz uzdevumu, šie testi rāda, ka cilvēka pieskāriens joprojām ir slepenā sastāvdaļa aizkulisēs.

Reuters redzētie uzņēmuma iekšējie ieraksti liecina, ka Meta par šo cilvēku-konsjeržu testu saviem darbiniekiem paziņoja tikai pagājušajā nedēļā. Laiks ir zīmīgs, jo tas seko Muse tālruņa zvanu funkcijas publiskajai palaišanai. Šī prakse ietver zvanu centru darbiniekus, kuri klusi iesaistās, lai pabeigtu uzdevumus, kad MI sasniedz savu iespēju robežas. Vidusmēra lietotājam tas rada fundamentālu jautājumu par to, kur beidzas automatizācija un sākas cilvēku uzraudzība.

Burvis aiz digitālā priekškara

Vienkāršiem vārdiem sakot, Muse ir izstrādāts kā tilts starp jūsu digitālo dzīvi un fizisko pasauli. Ja jums nepieciešams pieraksts pie friziera vai vakariņu rezervācija, jūs pasakāt to MI, un tas veic zvanu. Aiz žargona šis process balstās uz dabiskās valodas apstrādi, lai saprastu jūsu pieprasījumu, un balss sintēzi, lai sarunātos ar personu otrā galā. Taču balss MI joprojām cīnās ar cilvēku sarunu nekārtīgo un neparedzamo raksturu. Aizņemts restorāna īpašnieks ar izteiktu akcentu vai trokšņainu fonu var viegli samulsināt algoritmu.

Kad programmatūra pieviļ, Meta novirza zvanu darbiniekam. Šī persona dzird sarunu un pabeidz uzdevumu MI vārdā. Mērķis ir nodrošināt, lai lietotājs saņemtu rezervāciju, pat ja tehnoloģija vēl nav pilnībā gatava. Šī metode tehnoloģiju nozarē ir ierasta un bieži tiek dēvēta par "Oza zemes burvja" testu. Lietotājs redz nevainojamu automatizētu pieredzi, bet cilvēks aiz priekškara rausta sviras, lai tas darbotos.

Kāpēc birojā parādās bažas par privātumu

Raugoties uz kopējo ainu, darbinieku izmantošana rada ievērojamus privātuma riskus. Meta darbinieki iekšējos forumos ir cēluši trauksmi par sensitīvu informāciju, kas varētu tikt nodota šajos zvanos. Kad lūdzat MI piezvanīt uz ārsta kabinetu vai aptieku, jūs kopīgojat veselības datus. Ja līnijas otrā galā ir darbinieks, viņš var dzirdēt jūsu pilnu vārdu, dzimšanas datumu un medicīniskās prasības.

Meta pārstāvis Daniels Robertss saka, ka uzņēmums sadarbojas ar tirgotājiem, lai uzlabotu šo funkciju. Viņš atzīmē, ka darbinieku atsauksmes ir pozitīvas un palīdz uzņēmumam ieviest drošības aizsardzību. Tomēr sensitīvu datu noplūdes risks zvanu centru darbiniekiem ir reāla problēma. Šie darbinieki bieži ir trešo pušu strādnieki, kuriem nav tādas pašas ilgtermiņa intereses uzņēmumā kā pilnas slodzes inženieriem. Vēsturiski līdzīgas programmas citos tehnoloģiju milžos ir novedušas pie tā, ka darbinieki noklausās privātus brīžus, sākot no ģimenes strīdiem līdz konfidenciāliem darījumiem.

Atkārtotais spoks mašīnā

Šī nav pirmā reize, kad tehnoloģiju uzņēmums izmanto cilvēkus, lai izliktos par MI. Pirms gadiem jaunuzņēmums ar nosaukumu M bija Meta pirmais mēģinājums izveidot hibrīda asistentu. Tas lielā mērā paļāvās uz cilvēku darbu, lai pabeigtu uzdevumus, ar kuriem programmatūra netika galā. Galu galā Meta slēdza M, jo modelis nebija mērogojams. Tūkstošiem cilvēku nolīgšana, lai tie darbotos kā MI smadzenes, ir dārga un lēna. Fakts, ka Muse atgriežas pie šīs stratēģijas, rāda, ka plaisa starp MI iespējām un cilvēku cerībām joprojām ir plaša.

Praktiski runājot, tehnoloģiju nozare izmanto šīs metodes datu vākšanai. Vērojot, kā cilvēki tiek galā ar sarežģītiem zvaniem, Meta var apmācīt savus Muse modeļus būt izturīgākiem. Katru reizi, kad iesaistās darbinieks, sistēma ieraksta mijiedarbību un izmanto to kā mācību nākamajam programmatūras atjauninājumam. No patērētāja viedokļa jūs neesat tikai klients. Jūs esat apmācības datu avots produktam, kas joprojām ir sākumstadijā.

Ko tas nozīmē jūsu datiem un budžetam

Zem pārsega cilvēku darba izmaksas ir augstas. Ja Meta turpinās izmantot cilvēku-konsjeržu, tā galu galā varētu iekasēt maksu par Muse pakalpojuma premium līmeņiem. MI uzturēšana lielā mērogā ir lēta, bet zvanu centri nav. Ja izmantojat Muse bez maksas, jums jārēķinās, ka jūsu dati ir samaksa. Katrs zvans, ko veicat ar MI aģenta starpniecību, ir datu punkts, kas pieder Meta.

Ikdienas lietotājam tūlītēja ietekme ir nepieciešamība pēc piesardzības. Kad pakalpojums ir testēšanas fāzē, privātuma sienas bieži ir plānākas. Ja izmantojat Muse loģistikas kārtošanai, apsveriet sniegtās informācijas sensitivitāti. Jums vajadzētu izvairīties no MI aģentu izmantošanas zvaniem, kas ietver:

• Finanšu informāciju vai kredītkaršu numurus.
• Medicīniskos pierakstus un veselības vēsturi.
• Privātas dzīvesvietas adreses vai drošības kodus.
• Sensitīvas juridiskas vai profesionālas diskusijas.

Galu galā tehnoloģija ir rīks, nevis persona. Tai trūkst ētiskā sprieduma, lai zinātu, kad pārtraukt ierakstīšanu vai kad izmest privātas informācijas daļu. Cilvēka-darbinieka klātbūtne pievieno vēl vienu acu un ausu slāni jūsu personīgajām darīšanām.

Virzība uz caurredzamāku MI

Meta apgalvo, ka tā publiski ieviesīs šo funkciju tikai tad, kad tai būs atbilstoša informācijas atklāšana. Šī caurredzamība ir lietotāju uzticēšanās pamats. Pašlaik šis tests kalpo kā atgādinājums, ka mūsu ēras digitālā "jēlnafta" ir personas dati. Muse attīstoties, uzņēmumam jābūt skaidram par to, kas tieši atrodas līnijas otrā galā. Ja ir iesaistīts cilvēks, lietotājam ir tiesības to zināt pirms sarunas uzsākšanas.

Raugoties plašāk, šis stāsts ir realitātes pārbaude MI uzplaukumam. Mēs atrodamies nepastāvīgā periodā, kurā MI mārketings bieži apsteidz inženieriju. Lai gan Muse varētu šķist lēciens nākotnē, tas joprojām ir piesaistīts tradicionālajam cilvēku darbam. Mūsdienu tehnoloģiju pasaules neredzamais mugurkauls joprojām ir tūkstošiem darbinieku, kuri labo algoritmu pieļautās kļūdas.

Praktiski runājot, jums vajadzētu uzraudzīt savus digitālos ieradumus, jo šie aģenti jūsu lietotnēs kļūst arvien izplatītāki. Nākamreiz, kad lūgsiet MI veikt zvanu, atcerieties, ka kaut kur pasaulē zvanu centrā varētu būt cilvēks, kurš veic piezīmes. Jūs nerunājat tikai ar mašīnu. Jūs mijiedarbojaties ar sarežģītu, daļēji cilvēcisku sistēmu, kas joprojām mācās, kā rīkoties ar jūsu privāto dzīvi.

Avoti: Reuters ziņotā Meta iekšējā komunikācija, Meta pārstāvja Daniela Robertsa oficiālie paziņojumi.