Vai etiķete tiešām var atrisināt interneta dziļviltojumu problēmu?

Kad pēdējo reizi skatījāties uz fotoattēlu internetā un bijāt 100% pārliecināti, ka tas ir īsts? Sākot ar šo svētdienu, Eiropas Savienība liek likmes uz to, ka vienkārša etiķete var atjaunot šo zaudēto uzticību. ES MI akts tagad pieprasa tehnoloģiju uzņēmumiem skaidri identificēt dziļviltojumus un mākslīgā intelekta (MI) ģenerētu saturu. Tas nozīmē, ka digitālā pasaule tikko ieguvusi jaunus pārredzamības noteikumus, taču ceļš no tiesību aktiem līdz tīrai sociālo mediju plūsmai ir pilns ar tehniskiem slazdiem.

Neredzamā ūdenszīme jūsu digitālajā dzīvē

Domājiet par MI kā par nenogurdināmu praktikantu, kas katru stundu spēj radīt miljoniem augstas kvalitātes viltojumu. Līdz šim šis praktikants strādāja pilnīgā anonimitātē. Jaunie ES noteikumi to maina, piespiežot uzņēmumus, kas stāv aiz šīs programmatūras, atstāt pēdas. Ja tāda sistēma kā ChatGPT vai Claude izveido mediju saturu, šim saturam ir jābūt marķierim, ko programmatūra var nolasīt un cilvēki var redzēt.

Šī prasība attiecas gan uz rīku izstrādātājiem, gan profesionāliem lietotājiem. Ja mārketinga firma apģērbu reklāmai izmanto MI ģenerētu modeli, likums nosaka, ka viņiem tas ir jāatklāj. Tā ir sistēmiska maiņa tajā, kā mēs patērējam medijus. Mērķis ir nodrošināt, lai gadījumos, kad redzat pasaules līdera vai slavenības video, jums būtu taustāms veids, kā pārbaudīt, vai tas tiešām ir noticis, vai arī tas ir bijis uzvednes rezultāts. Šī digitālā pirkstu nospiedumu noņemšana ir pirmais reālais mēģinājums iegrožot sintētiskos medijus, pirms tie pilnībā aizstāj realitāti.

Kā nenogurdināmais praktikants paraksta savu darbu

Ir divi galvenie veidi, kā uzņēmums var marķēt dziļviltojumu. Pirmais ir redzams jums: teksta tags vai logotips video stūrī. Otrais ir acij neredzams, bet datoriem nolasāms. Tie ir metadati. Metadati ir kā digitāla uzlīme fiziskas fotogrāfijas aizmugurē, kas pasaka, kad un kur tā uzņemta.

Daudzi nozares līderi izmanto standartu, ko sauc par C2PA. Tas ir tehnisks ietvars, kas failam pievieno vēsturi. Kad MI ģenerē attēlu, programmatūra faila kodā iekļauj kriptogrāfisku parakstu. Kad šis attēls tiek augšupielādēts tādā platformā kā Instagram vai X, platforma nolasa parakstu un parāda etiķeti. Šis process ir caurspīdīgs un darbojas aizkulisēs, lai sniegtu kontekstu, nesabojājot lietotāja pieredzi. Tomēr metadatus ir viegli noņemt. Ja uzņemat MI attēla ekrānuzņēmumu, metadati bieži tiek zaudēti. Šī realitāte padara neredzamo parakstu par trauslu aizsardzību pret mērķtiecīgiem ļaundariem.

Kāpēc metadati ir trauslāki, nekā šķiet

Digitālās pēdas nav mūžīgas. Kad augšupielādējat augstas izšķirtspējas fotoattēlu ziņapmaiņas lietotnē, lietotne bieži saspiež failu, lai ietaupītu vietu. Šis saspiešanas process var izdzēst metadatu etiķetes, ko pieprasa ES MI akts. Vidusmēra lietotājam tas nozīmē, ka marķēts attēls no uzticama avota var kļūt par nemarķētu dziļviltojumu, vienkārši kopīgojot to grupas tērzēšanā.

Ūdenszīmju izmantošana ir izturīgāka alternatīva. Atšķirībā no metadatiem, kas ir atsevišķs koda bloks, ūdenszīme ir "iecepta" attēla faktiskajos pikseļos vai audio faila frekvencēs. Daži uzņēmumi izmanto "steganogrāfiju", lai paslēptu šīs zīmes. Tie ir cilvēkiem neredzami raksti, kurus var noteikt skeneri. Pat ja jūs apgriežat fotoattēlu vai maināt krāsas, zīme saglabājas. Problēma ir tā, ka šīm ūdenszīmēm nav vienota globāla standarta. Google izveidots skeneris var neatpazīt ūdenszīmi, ko izveidojis atvērtā pirmkoda modelis. Šis kopīgās valodas trūkums rada necaurredzamu vidi, kurā noteikumus ir grūti īstenot.

Atšķirība starp jokotāju un ieroci

ES nemēģina aizliegt radošumu. Likums rada skaidru nošķīrumu starp nekaitīgu satīru un bīstamu manipulāciju. Kad MI ģenerēts attēls ar pāvestu Francisku dizainera dūnu jakā kļuva virāls, tas bija joks. Lielākā daļa cilvēku saprata, ka tas ir viltojums, jo tas bija absurds. Saskaņā ar jaunajiem noteikumiem šādam mākslinieciskam vai satīriskam saturam parasti nav nepieciešams tikpat stingrs marķējums.

Turpretī noteikumi ir ļoti stingri attiecībā uz saturu, kas varētu maldināt sabiedrību par sabiedrības interesēm svarīgiem jautājumiem. Mēs jau esam redzējuši kaitējumu, ko tas var nodarīt. 2022. gadā iebrukuma laikā Ukrainā internetā parādījās dziļviltojuma video, kurā prezidents Zelenskis aicināja savu karaspēku padoties. Lai gan tas tika ātri atmaskots, tas parādīja, kā MI var būt kara instruments. Tāpat MI ģenerēti nepiedienīgi attēli ar slavenībām, piemēram, Teiloru Sviftu, ir parādījuši, kā šo tehnoloģiju var izmantot uzmākšanās nolūkos. ES MI akts vēršas pret šiem kaitīgajiem lietošanas veidiem, pieprasot profesionāliem lietotājiem būt godīgiem par sava satura izcelsmi. Būtība ir tāda, ka attēla konteksts ir tikpat svarīgs kā tehnoloģija, kas izmantota tā izveidei.

Ko tas nozīmē jūsu ikdienas ritināšanai

Patērētājam šis likums nozīmēs vairāk etiķešu un brīdinājumu sociālo mediju plūsmās. Jūs varētu redzēt nelielu tagu "Ģenerēts ar MI" blakus ziņu stāstam vai profila bildei. Tas ir paredzēts, lai palīdzētu jums izveidot mentālu filtru. Raugoties uz kopējo ainu, runa ir par digitālo pratību. Mēs attālināmies no laikmeta, kurā "redzēt nozīmē ticēt", un dodamies uz laikmetu, kurā viss ir aizdomīgs, līdz tiek pārbaudīts.

Praktiski runājot, nevajadzētu gaidīt, ka katrs dziļviltojums pazudīs vienā naktī. ES var regulēt tikai tos uzņēmumus, kas veic uzņēmējdarbību tās robežās. Anonīms radītājs valstī ārpus ES joprojām var publicēt nemarķētus dziļviltojumus globālās platformās. Turklāt atvērtā pirmkoda MI modeļi ir nozīmīga nepilnība. Tās ir programmas, kuras ikviens var lejupielādēt un palaist savā datorā. Tā kā šie modeļi ir decentralizēti, ES ir grūti piespiest atsevišķus lietotājus iekļaut etiķetes. Likums ir aizsargmūra josla galvenajai plūsmai, taču interneta malas paliks nepastāvīgas.

Daudzslāņu pieeja digitālajai realitātei

Eksperti un Eiropas Komisija piekrīt, ka neviena tehnoloģija nav brīnumlīdzeklis. Etiķete ir tikai viens aizsardzības slānis. Lai patiesi aizsargātu digitālo telpu, mums ir nepieciešama metadatu, ūdenszīmju un sabiedrības izglītošanas kombinācija. MI uzņēmumiem, sociālo mediju platformām un faktu pārbaudītājiem ir jāsadarbojas, lai nodrošinātu, ka šīs etiķetes faktiski paliek pievienotas saturam, tam pārvietojoties tīmeklī.

Galu galā ES MI akta panākumi ir atkarīgi no tā, vai tehnoloģiju uzņēmumi par prioritāti izvirzīs drošību, nevis ātrumu. Ja platformas atteiksies investēt skeneros, kas nepieciešami MI ūdenszīmju nolasīšanai, etiķetes būs bezjēdzīgas. Ja ūdenszīmes būs pārāk viegli noņemamas, likums būs papīra tīģeris. No patērētāja viedokļa labākā stratēģija ir saglabāt skepticismu pret jebkādu sensacionālu saturu, kuram trūkst skaidras izcelsmes. Internets vairs nav realitātes spogulis. Tā ir kūrēta galerija, kurā daļu mākslas darbu ir gleznojušas mašīnas. ES tikai vēlas pārliecināties, ka šīs mašīnas paraksta savus vārdus audekla apakšā.

Ko tas nozīmē jums

• Pārbaudiet etiķetes: Meklējiet tagus "AI-generated" ziņu vietnēs un sociālajos medijos, jo tie tagad ir obligāti daudzām platformām, kas darbojas Eiropā.
• Izprotiet ierobežojumus: Atcerieties, ka ekrānuzņēmumi un saspiesti faili bieži zaudē savas MI etiķetes, tāpēc nemarķēts attēls negarantē, ka tas ir īsts.
• Apšaubiet virālo saturu: Esiet īpaši piesardzīgi ar publisku personu video, kas šķiet neraksturīgi viņu tēlam, jo tie ir galvenie dziļviltojumu radītāju mērķi.
• Gaidiet lielāku berzi: Jūs, visticamāk, redzēsiet vairāk informācijas atklāšanas gadījumu un brīdinājumu savās lietotnēs, uzņēmumiem pielāgojoties šīm jaunajām pārredzamības prasībām.

Avoti:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report