Nykštys vos milisekundei pakimba virš skaitmeninio mygtuko „Patvirtinti“. Jūs ką tik pasinaudojote nuolaidos kodu, kurį radote nišiniame interneto forume, puikiai žinodami, kad iš tikrųjų nesate naujas klientas. Kitoje ekrano pusėje yra pokalbių robotas – malonus, nemirksintis avataras, vardu „Aleksas“ arba „Semas“, – ir jam tai nerūpi. Jūsų skruostai neparausta, balsas nesudreba, o mintyse karštligiškai nerepetuojate pateisinimo. Spustelėjate, kodas priimamas, o transakcija užbaigiama klinikiniu garsiniu signalu. Šioje tylioje, kasdienėje skaitmeninio gyvenimo akimirkoje įvyko kažkas esminio: senovinis, instinktyvus socialinio kontrakto svoris buvo pakeistas sklandžiu algoritmo efektyvumu.
Naujausi Sun Yat-sen universiteto tyrimai, paskelbti žurnale Journal of Business Research, šį reiškinį įvardija terminu, kuris skamba beveik poetiškai: „numatomas veido praradimas“ (angl. anticipatory face loss). Filologine prasme „veidas“ nėra tik fizinis bruožas, bet simbolinė valiuta. Tai viešas įvaizdis, kurį susikuriame patys – trapi konstrukcija, palaikoma nuolatinio, subtilaus mūsų bendraamžių grįžtamojo ryšio. Kai bendraujame su žmogumi, klientų aptarnavimo specialistu, esame saistomi savo reputacijos. Bijome pakelto antakio, nedidelės smerkiančios pauzės ar numanomo kito žmogaus kaltinimo.
Keista, bet kai tą žmogų pakeičia dirbtinio intelekto (DI) agentas, veidrodis sudūžta. Tyrimas parodė, kad vartotojai jaučia žymiai mažesnį socialinį spaudimą ar sprendimo baimę bendraudami su DI sistemomis. Kadangi pokalbių robotas suvokiamas kaip mažiau socialiai sąmoningas ir iš esmės nepajėgus mus „teisti“ moraline prasme, baimė prarasti veidą išgaruoja. Todėl žmonės labiau linkę meluoti apie teisę gauti atlygį, pasinaudoti kainodaros klaidomis ar perdėti pretenzijas dėl papildomos naudos. Mes netampame „blogesni“; mes tiesiog veikiame erdvėje, kurioje socialinė nesąžiningumo kaina sumažėjo iki nulio.
Žvelgiant plačiau, ši tendencija atskleidžia žavingą paradoksą, kaip mes suvokiame intelektą. Nors logiškai galime žinoti, kad DI gali sekti kiekvieną klavišo paspaudimą tiksliau nei bet kuris žmogus, mes nesijaučiame jo stebimi. Tyrėjai nustatė, kad toks nesąžiningas elgesys staigiai sumažėjo, kai DI agentai buvo sukurti taip, kad atrodytų kompetentingesni arba naudotų „akių žvilgsnio“ užuominas.
Praktikoje, kai pokalbių roboto avataras užmezga imituojamą akių kontaktą, tai sukelia giliai įsišaknijusį biologinį atsaką. Tai etikos „šiurpumo slėnis“ (angl. uncanny valley): esame sąžiningesni, kai mašina imituoja žmogaus įprotį žiūrėti mums į akis. Tai rodo, kad mūsų moralė nėra fiksuotas vidinis kompasas, o labai kontekstualus pasirodymas. Esame socialiniai gyvūnai, kuriems reikalingas liudytojo buvimas – arba bent jau iliuzija – kad išlaikytume savo sąžiningumą. Be to liudytojo mūsų etinės ribos tampa tokios pat trumpalaikės kaip skaitmeninės sąsajos, kuriomis naršome.
Visuomeniniu požiūriu šis pokytis yra platesnės atomizacijos tendencijos požymis. Moderniame mieste, kurį sociologai kažkada apibūdino kaip teatro sceną, kurioje atliekame savo kintančius socialinius vaidmenis, mes vis dažniau judame erdvėmis, kuriose niekada nesame iš tikrųjų matomi. Skaitmeninė komunikacija dažnai primena greito maisto dietą: ji greita, prieinama ir užpildo funkcinę tuštumą, tačiau jai trūksta gilaus emocinio peno, kurį suteikia tiesioginis bendravimas.
Istoriškai mūsų bendruomenės veikė kaip inkaras, laikantis mus per abipusę atsakomybę. Tačiau „skystojo modernumo“ eroje – koncepcijoje, kurią propagavo Zygmuntas Baumanas – mūsų socialinės struktūros nebėra tvirtos. Jos yra takios, nuolat kintančios ir vis dažniau tarpininkaujamos skaidrių, bet šaltų sąsajų. Kai iki 2029 m., kaip prognozuoja „Gartner“, 80 % klientų aptarnavimo problemų spręs autonominiai DI agentai, gyvensime visuotinio anonimiškumo pasaulyje. Šioje aplinkoje „kitas“ nebėra kaimynas ar pardavėjas, turintis šeimą ir istoriją; „kitas“ yra kodo eilutė, skirta maksimaliai padidinti konversijos rodiklius. Paradoksalu, bet kuo labiau automatizuojame savo sąveikas, kad išvengtume žmogiškojo kontakto trinties, tuo labiau ardome patį socialinį audinį, dėl kurio sąžiningumas yra būtinybė.
Už šios tendencijos slypi sisteminis pokytis, kaip kuriamas pasitikėjimas. Praeityje pasitikėjimas buvo pakartotinio žmonių bendravimo šalutinis produktas – vietinis parduotuvės savininkas jumis pasitikėjo, nes pažinojo jūsų veidą. Šiandien pasitikėjimas yra algoritminis, valdomas per kredito reitingus, patvirtintas paskyras ir tapatybės protokolus. Tačiau, kaip rodo Sun Yat-sen tyrimas, šios sisteminės apsaugos priemonės neatsižvelgia į psichologinį „numatomą veido praradimą“, kuris neleidžia mums tapti blogiausiomis savo versijomis.
Individualiu lygmeniu melas DI atrodo kaip nusikaltimas be aukų. Tai atrodo kaip „sistemos apžaidimas“, o ne žmogaus įžeidimas. Tačiau makro lygmeniu toks elgesys prisideda prie fragmentuoto sąžiningumo kultūros. Jei išmoksime tvarkyti savo komercinį gyvenimą per apgaulę, nes „tai tik botas“, šis įprotis ilgainiui gali persikelti į mūsų santykius su žmonėmis. Kalba, kurią vartojame pateisindami šiuos mažus skaitmeninius melus – vadindami juos „hakiu“ ar „apeidimais“ – pamažu keičia mūsų socialinę realybę, paversdama klinikinę mašinos kalbą pagrindiniu mūsų diskurso būdu.
Todėl nenuostabu, kad įmonės linksta į antropomorfizmą. Kastilijos universiteto tyrimai parodė, kad robotai su vidutinio ryškumo žmogiškais bruožais – veido išraiškomis ir akių judesiais – vertinami palankiau ir skatina didesnį vartotojų pasitikėjimą. Kitaip tariant, įmonės iš esmės diegia „skaitmeninę sąžinę“ į savo sąsajas.
Suteikdamos robotui mirksėjimą ar nedidelį galvos pakreipimą, jos vėl įveda socialinį spaudimą, kurio mes taip noriai atsisakėme. Tai cyniškas, bet efektyvus giliai žmogiškos problemos sprendimas. Mašinos, apsimetančios „žmonėmis“, manipuliuoja mumis, kad būtume „geri“. Tai sukuria kreivų veidrodžių karalystę, kurioje demonstruojame geriausias savo versijas auditorijai, kuri iš tikrųjų neegzistuoja, tiesiog todėl, kad mūsų biologija dar nepavijo mūsų technologijų.
Galiausiai išvada, kad esame labiau linkę meluoti DI nei vieni kitiems, neturėtų būti vertinama kaip moralinė panika dėl „technologijų griaunamos visuomenės“. Vietoj to, tai turėtų tarnauti kaip veidrodis, atspindintis mūsų pačių ryšio poreikį. Mūsų polinkis meluoti botams įrodo, kiek daug mums reiškia – ir galbūt kiek bijome – savo bendražygių nuomonės. Tai pabrėžia, kad „trečiosios vietos“ ir bendruomeninės erdvės, kurias prarandame, buvo daugiau nei tik vietos; tai buvo mūsų kolektyvinės etikos pratybų aikštelės.
Judėdami link ateities, kurioje mūsų pagrindinis kontaktinis taškas su pasauliu yra šviečiantis ekranas arba humanoidinis robotas, turime savęs paklausti, kas nutinka mūsų vidiniam kompasui, kai išnyksta išoriniai liudytojai. Sąžiningumas savo esme yra tai, ką darome, kai niekas nežiūri. Bet jei elgiamės tinkamai tik tada, kai jaučiame kito žvilgsnį, ką tai sako apie mūsų šiuolaikinės sielos būseną?
Penas apmąstymams:



Pašto ir debesies saugojimo sprendimas suteikia galingiausias saugaus keitimosi duomenimis priemones, užtikrinančias jūsų duomenų saugumą ir privatumą.
/ Sukurti nemokamą paskyrą