Ar jūsų AI asistento skambučius tikrai atlieka tikras žmogus?

Ar kada nors susimąstėte, kodėl jūsų skaitmeninis asistentas skamba kiek per daug kompetentingai, kai skambina į restoraną rezervuoti staliuko? Dauguma vartotojų mano, kad visą sunkų darbą atlieka sudėtingas programinis kodas. Tačiau neseniai atlikti vidiniai „Meta“ naujojo asmeninio AI agento „Muse“ bandymai atskleidžia labiau rankiniu būdu valdomą realybę. Bendrovė naudojasi žmonių rangovų paslaugomis tam tikriems skambučiams atlikti, kuriuos skaitmeninis agentas turėtų valdyti savarankiškai. Nors technologijų pramonė dažnai reklamuoja dirbtinį intelektą kaip nenuilstantį praktikantą, galintį atlikti begalę užduočių, šie bandymai rodo, kad žmogaus prisilietimas vis dar yra slaptoji užkulisių sudedamoji dalis.

Vidiniai bendrovės pranešimai, kuriuos matė „Reuters“, rodo, kad „Meta“ apie šį „žmogiškojo konsjeržo“ bandymą savo darbuotojams pranešė tik praėjusią savaitę. Laikas yra pastebimas, nes tai įvyko po to, kai viešai buvo pristatyta „Muse“ skambučių funkcija. Ši praktika apima skambučių centrų rangovus, kurie tyliai įsikiša ir užbaigia užduotis, kai AI pasiekia savo galimybių ribas. Vidutiniam vartotojui tai kelia esminį klausimą: kur baigiasi automatizacija ir prasideda žmogaus stebėjimas?

Burtininkas už skaitmeninės uždangos

Paprastai tariant, „Muse“ sukurta veikti kaip tiltas tarp jūsų skaitmeninio gyvenimo ir fizinio pasaulio. Jei jums reikia užsiregistruoti pas kirpėją ar rezervuoti vakarienę, pasakote tai AI, ir jis paskambina. Už techninio žargono slypintis procesas remiasi natūralios kalbos apdorojimu (NLP), kad suprastų jūsų užklausą, ir balso sinteze, kad kalbėtų su asmeniu kitoje laido pusėje. Tačiau balso AI vis dar sunkiai sekasi susidoroti su netvarkinga ir nenuspėjama žmogaus pokalbio prigimtimi. Užsiėmęs restorano savininkas su stipriu akcentu arba triukšmingas fonas gali lengvai suklaidinti algoritmą.

Kai programinė įranga suklumpa, „Meta“ nukreipia skambutį žmogui rangovui. Šis asmuo girdi pokalbį ir užbaigia užduotį AI vardu. Tikslas – užtikrinti, kad vartotojas gautų rezervaciją, net jei technologija dar nėra visiškai paruošta savarankiškam darbui. Šis metodas yra paplitęs technologijų pramonėje ir dažnai vadinamas „Ozo šalies burtininko“ (angl. Wizard of Oz) testu. Vartotojas mato sklandžią automatizuotą patirtį, tačiau už uždangos svirtis trauko žmogus, kad viskas veiktų.

Kodėl biure kyla susirūpinimas dėl privatumo

Žvelgiant plačiau, žmonių rangovų pasitelkimas kelia didelę riziką privatumui. „Meta“ darbuotojai vidiniuose forumuose kėlė aliarmą dėl jautrios informacijos, kuri gali patekti į šiuos skambučius. Kai prašote AI paskambinti į gydytojo kabinetą ar vaistinę, dalijatės sveikatos duomenimis. Jei kitoje linijos pusėje yra žmogus rangovas, jis gali išgirsti jūsų vardą, pavardę, gimimo datą ir medicininius poreikius.

„Meta“ atstovas Daniel Roberts teigia, kad bendrovė bendradarbiauja su prekybininkais, siekdama patobulinti šią funkciją. Jis pažymi, kad darbuotojų atsiliepimai yra teigiami ir padeda bendrovei įdiegti saugos priemones. Tačiau jautrių duomenų nutekėjimo skambučių centrų rangovams rizika yra reali problema. Šie rangovai dažnai yra trečiųjų šalių darbuotojai, kurie neturi tokių pačių ilgalaikių interesų bendrovėje kaip etatiniai inžinieriai. Istoriškai panašios programos kitose technologijų milžinėse lėmė tai, kad rangovai klausydavosi privačių akimirkų – nuo buitinių ginčų iki konfidencialių verslo sandorių.

Pasikartojantis vaiduoklis mašinoje

Tai ne pirmas kartas, kai technologijų bendrovė pasitelkia žmones, kad jie apsimestų dirbtiniu intelektu. Prieš kelerius metus startuolis pavadinimu „M“ buvo pirmasis „Meta“ bandymas sukurti hibridinį asistentą. Jis labai pasikliovė žmonėmis darbuotojais, kad šie atliktų užduotis, kurių programinė įranga negalėjo įveikti. Galiausiai „Meta“ uždarė „M“, nes modelis nebuvo plečiamas. Samdyti tūkstančius žmonių, kad jie veiktų kaip AI smegenys, yra brangu ir lėta. Tai, kad „Muse“ grįžta prie šios strategijos, rodo, jog atotrūkis tarp AI galimybių ir žmonių lūkesčių vis dar yra didelis.

Praktiškai kalbant, technologijų pramonė naudoja šiuos metodus duomenims rinkti. Stebėdama, kaip žmonės tvarko sudėtingus skambučius, „Meta“ gali išmokyti savo „Muse“ modelius būti atsparesnius. Kiekvieną kartą, kai įsikiša rangovas, sistema įrašo sąveiką ir naudoja ją kaip pamoką kitam programinės įrangos atnaujinimui. Vartotojo požiūriu, jūs nesate tik klientas. Jūs esate mokymo duomenų šaltinis produktui, kuris vis dar yra ankstyvoje stadijoje.

Ką tai reiškia jūsų duomenims ir biudžetui

Žvelgiant giliau, žmogaus darbo sąnaudos yra didelės. Jei „Meta“ ir toliau naudos žmogiškąjį konsjeržą, ilgainiui ji gali pradėti apmokestinti aukštesnio lygio „Muse“ paslaugas. AI išlaikymas dideliu mastu yra pigus, tačiau skambučių centrai – ne. Jei naudojatės „Muse“ nemokamai, turėtumėte tikėtis, kad jūsų duomenys yra mokėjimo priemonė. Kiekvienas skambutis, kurį atliekate per AI agentą, yra duomenų taškas, priklausantis „Meta“.

Kasdieniam vartotojui tiesioginis poveikis yra būtinybė būti atsargiam. Kai paslauga yra testavimo stadijoje, privatumo sienos dažnai būna plonesnės. Jei naudojate „Muse“ logistikai tvarkyti, apsvarstykite teikiamos informacijos jautrumą. Turėtumėte vengti naudoti AI agentus skambučiams, susijusiems su:

• Finansine informacija ar kredito kortelių numeriais.
• Medicininiais vizitais ir sveikatos istorija.
• Privačiais gyvenamosios vietos adresais ar apsaugos kodais.
• Jautriomis teisinėmis ar profesinėmis diskusijomis.

Galiausiai, technologija yra įrankis, o ne žmogus. Jai trūksta etinio vertinimo, kad žinotų, kada nustoti įrašinėti arba kada išmesti privačią informaciją. Žmogaus rangovo buvimas prideda dar vieną akių ir ausų sluoksnį prie jūsų asmeninių reikalų.

Skaidresnio dirbtinio intelekto link

„Meta“ teigia, kad viešai šią funkciją pristatys tik tada, kai bus parengtas tinkamas informacijos atskleidimas. Šis skaidrumas yra vartotojų pasitikėjimo pagrindas. Šiuo metu šis bandymas primena, kad mūsų eros skaitmeninė nafta yra asmeniniai duomenys. Tobulėjant „Muse“, bendrovė privalo aiškiai nurodyti, kas tiksliai yra kitoje laido pusėje. Jei dalyvauja žmogus, vartotojas turi teisę tai žinoti prieš pradėdamas kalbėti.

Žvelgiant plačiau, ši istorija yra realybės patikrinimas AI bumui. Esame permainingame laikotarpyje, kai AI rinkodara dažnai lenkia inžineriją. Nors „Muse“ gali atrodyti kaip šuolis į ateitį, ji vis dar yra susieta su tradiciniu žmogaus darbu. Nematomas šiuolaikinio technologijų pasaulio stuburas išlieka tūkstančiai rangovų, kurie taiso algoritmų daromas klaidas.

Praktiškai kalbant, turėtumėte stebėti savo skaitmeninius įpročius, nes šie agentai tampa vis dažnesni jūsų programėlėse. Kitą kartą, kai paprašysite AI paskambinti, prisiminkite, kad kažkur pasaulyje skambučių centre gali sėdėti žmogus ir užsirašinėti. Jūs ne tik kalbatės su mašina. Jūs sąveikaujate su sudėtinga, pusiau žmogiška sistema, kuri vis dar mokosi, kaip tvarkyti jūsų privatų gyvenimą.

Šaltiniai: Vidinė „Meta“ komunikacija, apie kurią pranešė „Reuters“, oficialūs „Meta“ atstovo Daniel Roberts pareiškimai.