1,8 miljardu dolāru vērtā spoku klīnika: ieskats Medvi mākslīgā intelekta radīto ārstu problēmā

Mēroga ilūzija digitālajā veselības aprūpē

Vai jūs uzticētu savu ilgtermiņa veselību ārstam, kurš neeksistē, vai medicīnas speciālistam, kura profila fotoattēlu ir radījusi uzvedne, nevis medicīnas skola? Tas nav hipotētisks jautājums no distopiska romāna; tas ir galvenais saspīlējums ap Medvi — ar mākslīgo intelektu darbinātu telemedicīnas jaunuzņēmumu, kas nesen nonācis sabiedrības uzmanības lokā. Ar tikai diviem pilnas slodzes darbiniekiem uzņēmums pagājušajā gadā esot guvis 401 miljonu dolāru lielus ieņēmumus un pašlaik prognozē satriecošu 1,8 miljardu dolāru apgrozījumu 2026. gadā.

Uz papīra Medvi pārstāv graujošu spēku farmācijas nozarē, izmantojot liesu, automatizētu modeli svara zaudēšanas zāļu un veiktspēju uzlabojošu procedūru izplatīšanai. Tomēr, ieskatoties dziļāk, atklājas nedrošs pamats, kas balstīts uz filiāļu mārketinga speciālistu tīklu un MI radītām personām, kas apšauba mūsu fundamentālās medicīniskās uzticības definīcijas.

Filiāļu mārketinga mežonīgie rietumi

Praksē Medvi eksplozīvo izaugsmi nav veicinājusi tikai tradicionālā zīmola veidošana. Tā vietā uzņēmums lielā mērā paļaujas uz daudzpusīgu filiāļu mārketinga speciālistu tīklu. Dibinātājs Metjū Galahers (Matthew Gallagher) atzīmēja, ka aptuveni 30% no uzņēmuma reklāmas plūsmas iet caur šiem trešo pušu partneriem. Lai gan filiāļu mārketings ir standarta rīks digitālo produktu mērogošanai, veselības aprūpes kontekstā tas bieži atgādina mežonīgos rietumus.

Nesenā Meta reklāmu bibliotēkas izmeklēšanā tika atklāta virkne sarežģītu, taču maldinošu kampaņu. Šajās reklāmās bija redzamas personas, kas tika prezentētas kā medicīnas doktori, piemēram, "Dr. Matthew Anderson MD" un "Dr. Spencer Langford MD". Interesanti, ka šie profili bieži bija digitāli spoki. Viens konts norādīja tālruņa numuru no Angolas un iepriekš piederēja gospeļu mūziķim; cits bija saistīts ar apģērbu veikalu Kongo Republikā.

Citiem vārdiem sakot, "ārsti", kuri iesaka jūsu nākamo recepti, patiesībā varētu būt pārveidotas digitālās paliekas no vairs neeksistējoša sociālo tīklu konta, kas ietērptas MI ģenerētā baltā halātā. Šīs reklāmas bieži saturēja nodevīgas pazīmes par to sintētisko izcelsmi, tostarp neskaidru tekstu un anatomiskas neatbilstības, kas raksturīgas agrīnās stadijas MI attēlu ģenerēšanai. Dažām pat bija redzamas ūdenszīmes no Google Gemini MI, kas liecina par uzraudzības līmeni, kas labākajā gadījumā bija nolaidīgs.

Kāpēc datu integritāte man ir svarīga

Kā cilvēkam, kurš gadiem ilgi ir darbojies biohakinga un medicīnas tehnoloģiju (MedTech) pasaulē, šīs atklāsmes man šķiet īpaši satraucošas. Mana akadēmiskā izglītība iemācīja man par prioritāti izvirzīt primāros avotus un neapstrādātus datus, nevis jaunuzņēmuma preses relīzes spodrināto tēlu. Es nepaļaujos tikai uz uzņēmuma vārdiem; es lasu zinātniskos rakstus un klīnisko pētījumu rezultātus.

Savā personīgajā dzīvē es izturos pret savu ķermeni kā pret laboratoriju. Esmu mēnešiem ilgi nēsājis nepārtrauktās glikozes kontroles (CGM) ierīces, lai saprastu savu metabolisko reakciju uz stresu, un testējis neiro-saskarnes, kas paredzētas fokusa asināšanai. Man tehnoloģijai vajadzētu būt ekosistēmai, kas pagarina cilvēka aktīvo mūžu, nevis melnajai kastei, kas aizsedz patiesību. Kad mēs ļaujam MI halucinēt tieši tos ekspertus, uz kuriem paļaujamies medicīnisku padomu saņemšanai, mēs neredzam tikai mārketinga kļūmi; mēs esam liecinieki sabiedrības uzticības imūnsistēmas sabrukumam.

Sintētiska ārsta anatomija

Viens konkrēts gadījums izgaismoja šo kampaņu nepastāvīgo raksturu. Mārketinga speciālists, kurš izmantoja vārdu "Wade Frazer MD", ātri vien atteicās no medicīniskā titula pēc tam, kad žurnālisti sāka uzdot jautājumus. Savādi, ka tas pats profila fotoattēls tika atklāts vēl trīs citās lapās, kurās visās tika reklamēti Medvi produkti. Tas liecina par mērogojamu, automatizētu pieeju krāpšanai, kur "ārsti" tiek uztverti kā aizvietojami aktīvi — kā serveri-liellopi, nevis mājdzīvnieki.

Tāpēc reklāmu apjoms krasi svārstās. Kad uzmanības centrā nonāca šie MI radītie profili, aktīvo ar Medvi saistīto reklāmas kampaņu skaits Meta platformās viena nedēļas nogales laikā nokritās no vairāk nekā 5000 līdz aptuveni 2800. Šī straujā atsaukšana norāda, ka, lai gan uzņēmums apgalvo, ka tam ir stingra politika attiecībā uz MI izmantošanas atklāšanu, šīs politikas īstenošana ir bijusi reaktīva, nevis proaktīva.

Regulējuma berze un FTC

Galahers ir paziņojis, ka Medvi uztur skaidru politiku saskaņā ar Federālās tirdzniecības komisijas (FTC) vadlīnijām, pieprasot atklāt jebkuru MI attēlotu ārstu. Viņaprāt, atbildība gulstas uz filiālēm. Tomēr, ja uzņēmuma vērtējums ir balstīts uz tik inovatīvām, taču problēmu pilnām mārketinga taktiskām, robeža starp korporatīvo uzraudzību un filiāļu kļūdām kļūst neskaidra.

Būtībā Medvi darbojas mērogā, kas apsteidz tā iekšējos cilvēkresursus. Tikai diviem darbiniekiem pārvaldot miljardu dolāru ieņēmumu plūsmu, paļaušanās uz automatizētām sistēmām un trešo pušu dalībniekiem ir nepieciešamība, taču tā ir arī vājā vieta. FTC vēsturiski ir negatīvi vērtējusi maldinošus apgalvojumus par veselību, un sintētisku personu izmantošana regulētu vielu, piemēram, svara zaudēšanas medikamentu, pārdošanai varētu izraisīt paradigmu mainošu regulatīvo reakciju.

Praktiski ieteikumi digitālajam pacientam

Laikmetā, kad MI dažu sekunžu laikā var radīt pārliecinošu medicīnas speciālistu, pārbaudes slogs ir pārgājis uz patērētāju. Ja apsverat telemedicīnas pakalpojumu, paturiet prātā šo kontrolsarakstu, lai neuzķertos uz digitālu halucināciju:

• Pārbaudiet kvalifikāciju: Nepieņemiet "MD" sufiksu kā neapstrīdamu faktu. Pārbaudiet, vai ārstam ir licence jūsu valstī, izmantojot oficiālos medicīnas padomju reģistrus.
• Meklējiet MI artefaktus: Pārbaudiet profila fotoattēlu neatbilstības. Pievērsiet uzmanību fonam, rokām un jebkuram tekstam attēlā. Ja tas izskatās kā sapņu pasaule, visticamāk, tas tā arī ir.
• Pārbaudiet vēsturi: Noklikšķiniet uz sociālo tīklu lapu sadaļas "Par". Ja ārsta lapa pirms sešiem mēnešiem bija gospeļu mūzikas fanu vietne vai Kongo mazumtirdzniecības veikals, rīkojieties ar īpašu piesardzību.
• Pieprasiet caurskatāmību: Izmantojiet platformas, kas skaidri norāda savas attiecības ar pakalpojumu sniedzējiem un nodrošina tiešu piekļuvi medicīnas licencēm un kontaktinformācijai.

Secinājums: Tehnoloģija kā rīks, nevis maska

Tehnoloģija ir vislabākā tad, ja tā darbojas kā tilts, savienojot pacientus ar aprūpi, kas iepriekš nebija pieejama. Bet, ja MI tiek izmantots, lai radītu autoritātes tēlu, nevis to veicinātu, telemedicīnas inovatīvais potenciāls tiek apdraudēts. Mums ir jāpieprasa, lai MedTech uzņēmumi izturētos pret savu digitālo klātbūtni ar tādu pašu stingrību, kādu tie piemēro savām farmaceitisko produktu piegādes ķēdēm.

Virzoties uz arvien sarežģītāka MI nākotni, mums jāatceras, ka mērķis ir uzlabot cilvēku veselību, nevis tikai optimizēt pārdošanas piltuvi. Ja saskaraties ar medicīnas reklāmām, kas šķiet aizdomīgas vai kurās bez norādes izmantoti MI radīti speciālisti, ziņojiet par tām platformai un FTC. Mūsu kolektīvā veselība ir atkarīga no digitālās ekosistēmas, kuras saknes meklējamas realitātē, nevis tajā, kuru apdzīvo spoki.

Avoti:

• The New York Times: Profile on Medvi and Matthew Gallagher.
• Business Insider: Investigation into Medvi affiliate marketing and Meta ad library.
• Meta Ad Library: Transparency data regarding Medvi campaigns.
• Federal Trade Commission (FTC): Guidelines on AI disclosures and deceptive advertising.