1,8 miljardi dollariline kummituskliinik: Pilk Medvi tehisintellekti loodud arstide probleemile

Mastaapsuse illusioon digitaalses tervishoius

Kas usaldaksid oma pikaajalise tervise arstile, keda pole olemas, või meditsiinitöötajale, kelle profiilipilt on loodud käsurea, mitte meditsiinikooli poolt? See ei ole hüpoteetiline küsimus düstoopilisest romaanist; see on keskne pinge, mis ümbritseb Medvi-t – tehisintellektil põhinevat kaugtervise idufirmat, mis on hiljuti avalikkuse tähelepanu alla sattunud. Vaid kahe täiskohaga töötajaga ettevõte teenis eelmisel aastal väidetavalt 401 miljonit dollarit tulu ja prognoosib 2026. aastaks hämmastavat 1,8 miljardi dollarilist müügitulu.

Paberil esindab Medvi farmaatsiamaastikul murrangulist jõudu, kasutades saledat ja automatiseeritud mudelit kaalulangetajate ja sooritusvõimet parandavate ravimite levitamiseks. Sellegipoolest paljastab süvenemine ebakindla vundamendi, mis on ehitatud sidusmüüjate võrgustikule ja tehisintellekti loodud persoonadele, mis seavad kahtluse alla meie põhilised arusaamad meditsiinilisest usaldusest.

Sidusmüügi metsik lääs

Praktikas ei ole Medvi plahvatuslikku kasvu toitnud üksnes traditsiooniline brändiloome. Selle asemel toetub ettevõte suuresti mitmetahulisele sidusmüüjate võrgustikule. Asutaja Matthew Gallagher märkis, et ligikaudu 30% ettevõtte reklaamist liigub nende kolmandatest osapooltest partnerite kaudu. Kuigi sidusmüük on tavaline vahend digitoodete laiendamiseks, meenutab see tervishoiu kontekstis sageli metsikut läänt.

Hiljutine uurimine Meta reklaamiraamatukogus paljastas rea keerukaid, kuid petlikke kampaaniaid. Need reklaamid kuvasid isikuid, keda esitleti arstidena, nagu "Dr. Matthew Anderson MD" ja "Dr. Spencer Langford MD". Kummalisel kombel olid need profiilid sageli digitaalsed kummitused. Üks konto kasutas Angola telefoninumbrit ja kuulus varem gospelmuusikule; teine oli seotud riidepoega Kongo Vabariigis.

Teisisõnu öeldes võivad "arstid", kes soovitavad teie järgmist retseptiravimit, olla tegelikult tehisintellekti loodud valgesse kitlisse riietatud hääbunud sotsiaalmeediakontode digitaalsed jäänused. Need reklaamid sisaldasid sageli reetlikke märke nende sünteetilisest päritolust, sealhulgas segast teksti ja anatoomilisi ebakõlasid, mis on omased varajase etapi tehisintellekti pildigeneraatoritele. Mõnel oli isegi näha Google’i Gemini AI vesimärke, mis viitab järelevalvele, mis oli parimal juhul hooletu.

Miks andmete terviklikkus on minu jaoks oluline

Inimesena, kes on aastaid veetnud biohäkkimise ja meditsiinitehnoloogia (MedTech) maailmas, pean neid paljastusi eriti häirivaks. Minu akadeemiline taust õpetas mind seadma esikohale algallikaid ja toorandmeid, mitte idufirma lihvitud pressiteateid. Ma ei usu lihtsalt ettevõtte sõnu; ma loen aluseks olevaid teadustöid ja kliiniliste uuringute tulemusi.

Isiklikus elus kohtlen oma keha nagu laborit. Olen kuude viisi kandnud pidevaid glükoosimonitore (CGM), et mõista oma metaboolset vastust stressile, ja testinud neuro-liideseid, mis on loodud keskendumisvõime parandamiseks. Minu jaoks peaks tehnoloogia olema ökosüsteem, mis pikendab inimese aktiivset eluiga, mitte must kast, mis varjab tõde. Kui lubame tehisintellektil hallutsineerida eksperte, kellele toetume meditsiinilise nõu saamiseks, ei vaata me lihtsalt turunduslikku viga; me oleme tunnistajaks avaliku usalduse immuunsüsteemi kokkuvarisemisele.

Sünteetilise arsti anatoomia

Üks konkreetne juhtum rõhutas nende kampaaniate ebastabiilset olemust. Turundaja, kes kasutas nime "Wade Frazer MD", loobus kiiresti arstititlist pärast seda, kui ajakirjanikud hakkasid küsimusi esitama. Kummalisel kombel leiti sama profiilifoto veel kolmelt erinevalt lehelt, mis kõik reklaamisid Medvi tooteid. See viitab skaleeritavale ja automatiseeritud lähenemisele pettusele, kus "arste" koheldakse kui asendatavaid varasid – servereid nagu kariloomi, mitte lemmikloomi.

Seetõttu kõigub reklaamide maht metsikult. Kui tähelepanu keskpunkti sattusid need tehisintellekti loodud profiilid, langes aktiivsete Medviga seotud reklaamikampaaniate arv Meta platvormidel ühe nädalavahetusega enam kui 5000-lt ligikaudu 2800-le. See kiire taandumine viitab sellele, et kuigi ettevõte väidab endal olevat range poliitika tehisintellekti avalikustamise kohta, on nende poliitikate rakendamine olnud pigem tagantjärele reageeriv kui ennetav.

Regulatiivne hõõrdumine ja FTC

Gallagher on väitnud, et Medvi järgib selget poliitikat kooskõlas Föderaalse Kaubanduskomisjoni (FTC) suunistega, mis nõuavad tehisintellekti abil loodud arsti kujutise avalikustamist. Tema vaates lasub vastutus sidusmüüjatel. Kui aga ettevõtte väärtus on üles ehitatud sellistele uuenduslikele, kuid probleemsetele turundustaktikatele, muutub piir korporatiivse järelevalve ja sidusmüüja vea vahel hägusaks.

Sisuliselt tegutseb Medvi mastaabis, mis ületab selle sisemisi inimressursse. Vaid kahe töötajaga, kes haldavad miljardi dollari suurust tuluvoogu, on toetumine automatiseeritud süsteemidele ja kolmandatele osapooltele paratamatus, kuid see on ka haavatavus. FTC on ajalooliselt suhtunud vaenulikult petlikesse tervisealastesse väidetesse ning sünteetiliste persoonade kasutamine reguleeritud ainete, näiteks kaalulangetusravimite müümiseks võib kaasa tuua paradigma muutva regulatiivse vastuse.

Praktilised näpunäited digitaalsele patsiendile

Ajastul, kus tehisintellekt suudab sekunditega luua veenva meditsiinitöötaja, on kontrollimise koorem kandunud tarbijale. Kui kaalute kaugtervise teenust, pidage meeles seda kontrollnimekirja, et vältida digitaalse hallutsinatsiooni ohvriks langemist:

• Kontrollige kvalifikatsiooni: Ärge uskuge "MD" liidet pimesi. Kontrollige ametlike meditsiiniregistrite kaudu, kas arstil on teie piirkonnas tegevusluba.
• Otsige tehisintellekti jälgi: Uurige profiilifotosid ebakõlade suhtes. Vaadake tausta, käsi ja pildil olevat teksti. Kui see meenutab unenägu, siis tõenäoliselt see ongi seda.
• Kontrollige ajalugu: Klõpsake sotsiaalmeedia lehtede jaotisel "Teave". Kui arsti leht oli kuus kuud tagasi gospelmuusika fännileht või Kongo jaekauplus, tegutsege äärmise ettevaatusega.
• Nõudke läbipaistvust: Kasutage platvorme, mis märgivad selgelt oma seose teenusepakkujatega ning tagavad otsese juurdepääsu meditsiinilistele litsentsidele ja kontaktandmetele.

Kokkuvõte: Tehnoloogia kui tööriist, mitte mask

Tehnoloogia on parimal tasemel siis, kui see toimib sillana, ühendades patsiendid raviga, mis oli varem kättesaamatu. Kuid kui tehisintellekti kasutatakse autoriteedi fabritseerimiseks, mitte selle vahendamiseks, on kaugtervise innovaatiline potentsiaal ohus. Peame nõudma, et meditsiinitehnoloogia ettevõtted suhtuksid oma digitaalsesse kohalolusse sama rangelt kui oma ravimite tarneahelatesse.

Liikudes üha keerukama tehisintellekti tuleviku poole, peame meeles pidama, et eesmärk on parandada inimeste tervist, mitte ainult optimeerida müügikanalit. Kui kohtate kahtlasi meditsiinireklaame või tehisintellekti loodud spetsialiste ilma vastava märgeteta, teatage neist platvormile ja FTC-le. Meie ühine tervis sõltub digitaalsest ökosüsteemist, mis juurdub tegelikkuses, mitte kummitustega asustatud maailmas.

Allikad:

• The New York Times: Profile on Medvi and Matthew Gallagher.
• Business Insider: Investigation into Medvi affiliate marketing and Meta ad library.
• Meta Ad Library: Transparency data regarding Medvi campaigns.
• Federal Trade Commission (FTC): Guidelines on AI disclosures and deceptive advertising.