1,8 milijardo dolerių vertės klinika vaiduoklis: „Medvi“ dirbtinio intelekto sugeneruotų gydytojų problema

Mastelio iliuzija skaitmeninėje sveikatos apsaugoje

Ar patikėtumėte savo ilgalaikę sveikatą gydytojui, kuris neegzistuoja, arba medicinos specialistui, kurio profilio nuotrauka buvo sugeneruota užklausos, o ne medicinos mokyklos? Tai nėra hipotetinis klausimas iš distopinio romano; tai pagrindinė įtampa, supanti „Medvi“ – dirbtiniu intelektu pagrįstą nuotolinės sveikatos priežiūros startuolį, kuris neseniai šovė į viešumos akiratį. Turėdama tik du etatinius darbuotojus, bendrovė praėjusiais metais esą uždirbo 401 mln. dolerių, o 2026 m. prognozuoja stulbinančius 1,8 mlrd. dolerių pardavimus.

Popieriuje „Medvi“ atrodo kaip perversmą sukelianti jėga farmacijos srityje, naudojanti liekną, automatizuotą modelį svorio mažinimo vaistams ir darbingumą didinantiems preparatams platinti. Vis dėlto, pažvelgus giliau, atsiveria netvirtas pamatas, pastatytas ant partnerinės rinkodaros tinklo ir DI sugeneruotų personų, kurios meta iššūkį mūsų pagrindiniams medicininio pasitikėjimo apibrėžimams.

Partnerinės rinkodaros laukiniai vakarai

Praktiškai „Medvi“ sprogstamą augimą paskatino ne tik tradicinis prekės ženklo kūrimas. Vietoj to, bendrovė stipriai remiasi daugialypiu partnerinės rinkodaros specialistų tinklu. Įkūrėjas Matthew Gallagheris pažymėjo, kad maždaug 30 % bendrovės reklamos srauto eina per šiuos trečiųjų šalių partnerius. Nors partnerinė rinkodara yra standartinis įrankis skaitmeniniams produktams plėsti, sveikatos priežiūros kontekste ji dažnai primena laukinius vakarus.

Neseniai atliktas „Meta“ reklamos bibliotekos tyrimas atskleidė virtinę sudėtingų, tačiau klaidinančių kampanijų. Šiose reklamose buvo vaizduojami asmenys, pristatomi kaip medicinos gydytojai, pavyzdžiui, „Dr. Matthew Anderson MD“ ir „Dr. Spencer Langford MD“. Įdomu tai, kad šie profiliai dažnai buvo skaitmeniniai vaiduokliai. Vienoje paskyroje buvo nurodytas Angolos telefono numeris, o anksčiau ji priklausė gospel muzikos atlikėjui; kita buvo susieta su drabužių parduotuve Kongo Respublikoje.

Kitaip tariant, „gydytojai“, rekomenduojantys jūsų kitą receptą, gali būti tiesiog prikelti nebeveikiančios socialinės žiniasklaidos paskyros skaitmeniniai likučiai, aprengti DI sugeneruotu baltu chalatu. Šiose reklamose dažnai pasitaikydavo iškalbingų jų sintetinės kilmės ženklų, įskaitant iškraipytą tekstą ir anatominius neatitikimus, būdingus ankstyvosioms DI vaizdų generavimo stadijoms. Kai kuriose netgi matėsi „Google Gemini AI“ vandens ženklai, o tai rodo priežiūros lygį, kuris, geriausiu atveju, buvo aplaidus.

Kodėl duomenų vientisumas man svarbus

Man, praleidusiam ne vienerius metus gilinantis į biohakingo ir medicinos technologijų („MedTech“) pasaulį, šie atradimai kelia ypatingą nerimą. Mano akademinis išsilavinimas išmokė teikti pirmenybę pirminiams šaltiniams ir neapdorotiems duomenims, o ne nublizgintam startuolio pranešimui spaudai. Aš nepasitikiu bendrovės žodžiu; skaitau mokslinius darbus ir klinikinių tyrimų rezultatus.

Asmeniniame gyvenime su savo kūnu elgiuosi kaip su laboratorija. Mėnesių mėnesius nešiojau nuolatinio gliukozės kiekio matuoklius (CGM), kad suprasčiau savo metabolinę reakciją į stresą, ir bandžiau neurosąsajas, skirtas susikaupimui stiprinti. Man technologija turėtų būti ekosistema, pratęsianti aktyvų žmogaus gyvenimą, o ne juodoji dėžė, slepianti tiesą. Kai leidžiame DI haliucinuoti apie pačius ekspertus, kuriais pasikliaujame medicininiais patarimais, mes matome ne tik rinkodaros klaidą; mes stebime viešojo pasitikėjimo imuninės sistemos žlugimą.

Sintetinio gydytojo anatomija

Vienas konkretus atvejis išryškino šių kampanijų nepastovumą. Rinkodaros specialistas, naudojęs „Wade Frazer MD“ vardą, greitai atsisakė medicininio titulo, kai žurnalistai pradėjo uždavinėti klausimus. Keista, bet ta pati profilio nuotrauka buvo aptikta dar trijuose skirtinguose puslapiuose, reklamuojančiuose „Medvi“ produktus. Tai rodo keičiamą, automatizuotą apgaulės metodą, kai su „gydytojais“ elgiamasi kaip su pakeičiamais turto vienetais – kaip su serveriais pramoninėje fermoje, o ne kaip su asmenybėmis.

Dėl šios priežasties reklamų kiekis stipriai svyruoja. Kai dėmesys nukrypo į šiuos DI sugeneruotus profilius, aktyvių su „Medvi“ susijusių reklaminių kampanijų skaičius „Meta“ platformose per vieną savaitgalį nukrito nuo daugiau nei 5 000 iki maždaug 2 800. Toks staigus atsitraukimas rodo, kad nors bendrovė teigia turinti griežtą politiką dėl DI atskleidimo, tų taisyklių įgyvendinimas buvo reaktyvus, o ne proaktyvus.

Reguliavimo trintis ir FTC

Gallagheris pareiškė, kad „Medvi“ laikosi aiškios politikos, atitinkančios Federalinės prekybos komisijos (FTC) gaires, reikalaujančias atskleisti bet kokį DI vaizduojamą gydytoją. Jo nuomone, atsakomybė tenka partneriams. Tačiau, kai bendrovės vertė kuriama remiantis tokia novatoriška, bet trinties kupina rinkodaros taktika, riba tarp korporacinės priežiūros ir partnerio klaidos tampa neryški.

Iš esmės „Medvi“ veikia tokiu mastu, kuris lenkia jos vidaus žmogiškuosius išteklius. Turint tik du darbuotojus, valdančius milijardinį pajamų srautą, priklausomybė nuo automatizuotų sistemų ir trečiųjų šalių yra būtinybė, tačiau tai kartu ir pažeidžiamumas. FTC istoriškai nepalankiai žiūri į klaidinančius teiginius apie sveikatą, o sintetinių personų naudojimas parduodant reguliuojamas medžiagas, pavyzdžiui, vaistus svoriui mažinti, gali iššaukti paradigmą keičiantį reguliuotojų atsaką.

Praktiniai patarimai skaitmeniniam pacientui

Eroje, kai DI gali per kelias sekundes sugeneruoti įtikinamą medicinos profesionalą, patikros našta persikėlė vartotojui. Jei svarstote apie nuotolinės sveikatos priežiūros paslaugas, turėkite omenyje šį kontrolinį sąrašą, kad neapsigautumėte dėl skaitmeninės haliucinacijos:

• Patikrinkite kvalifikaciją: Nepriimkite „MD“ (med. m. dr.) priedėlio kaip savaime suprantamo. Per oficialius medicinos tarybų katalogus patikrinkite, ar gydytojas turi licenciją jūsų valstijoje ar šalyje.
• Ieškokite DI artefaktų: Apžiūrėkite profilio nuotraukas, ar nėra neatitikimų. Pažiūrėkite į foną, rankas ir bet kokį tekstą vaizde. Jei tai atrodo kaip sapnas, tikriausiai taip ir yra.
• Patikrinkite istoriją: Spustelėkite socialinių tinklų puslapių skiltį „Apie“. Jei gydytojo puslapis prieš šešis mėnesius buvo gospel muzikos gerbėjų svetainė arba Kongo mažmeninės prekybos parduotuvė, elkitės itin atsargiai.
• Reikalaukite skaidrumo: Naudokitės platformomis, kurios aiškiai nurodo savo santykius su paslaugų teikėjais ir suteikia tiesioginę prieigą prie medicininių licencijų bei kontaktinės informacijos.

Išvada: technologija kaip įrankis, o ne kaukė

Technologija yra geriausia tada, kai ji veikia kaip tiltas, sujungiantis pacientus su priežiūra, kuri anksčiau buvo nepasiekiama. Tačiau kai DI naudojamas autoritetui gaminti, o ne jam padėti, novatoriškas nuotolinės sveikatos priežiūros potencialas nukenčia. Turime reikalauti, kad „MedTech“ bendrovės savo skaitmeniniam įvaizdžiui taikytų tokį patį griežtumą, kokį taiko savo farmacijos tiekimo grandinėms.

Judėdami link vis sudėtingesnio DI ateities, turime prisiminti, kad tikslas yra pagerinti žmonių sveikatą, o ne tik optimizuoti pardavimų piltuvėlį. Jei susiduriate su medicininėmis reklamomis, kurios atrodo įtartinos arba kuriose vaizduojami DI sugeneruoti specialistai be atskleidimo, praneškite apie tai platformai ir FTC. Mūsų kolektyvinė sveikata priklauso nuo skaitmeninės ekosistemos, įsišaknijusios realybėje, o ne apgyvendintos vaiduoklių.

Šaltiniai:

• The New York Times: Profile on Medvi and Matthew Gallagher.
• Business Insider: Investigation into Medvi affiliate marketing and Meta ad library.
• Meta Ad Library: Transparency data regarding Medvi campaigns.
• Federal Trade Commission (FTC): Guidelines on AI disclosures and deceptive advertising.