Ar etiketė tikrai gali išspręsti interneto „deepfake“ problemą?

Kada paskutinį kartą žiūrėjote į nuotrauką internete ir buvote 100 % tikri, kad ji tikra? Nuo šio sekmadienio Europos Sąjunga tikisi, kad paprasta etiketė gali sugrąžinti tą prarastą pasitikėjimą. ES DI aktas dabar reikalauja, kad technologijų bendrovės aiškiai atpažintų „deepfake“ (dirbtinai suklastotą) ir DI sukurtą turinį. Tai reiškia, kad skaitmeninis pasaulis ką tik gavo naujas skaidrumo taisykles, tačiau kelias nuo teisės aktų iki švaraus socialinių tinklų srauto yra pilnas techninių spąstų.

Nematomas vandens ženklas jūsų skaitmeniniame gyvenime

Galvokite apie DI kaip apie nenuilstantį praktikantą, galintį kas valandą sukurti milijonus aukštos kokybės klastočių. Iki šiol šis praktikantas dirbo visiškai anonimiškai. Naujosios ES taisyklės tai keičia, priversdamos programinę įrangą kuriančias įmones palikti pėdsaką. Jei tokia sistema kaip „ChatGPT“ ar „Claude“ sukuria medijos objektą, tas objektas privalo turėti žymeklį, kurį galėtų nuskaityti programinė įranga ir pamatyti žmonės.

Šis reikalavimas taikomas tiek įrankių kūrėjams, tiek profesionaliems naudotojams. Jei rinkodaros firma drabužių reklamai naudoja DI sukurtą modelį, įstatymas sako, kad jie privalo tai atskleisti. Tai sisteminis pokytis tame, kaip mes vartojame mediją. Tikslas – užtikrinti, kad pamatę pasaulio lyderio ar įžymybės vaizdo įrašą, turėtumėte apčiuopiamą būdą patikrinti, ar tai tikrai įvyko, ar tai buvo užklausos rezultatas. Šis skaitmeninis pirštų atspaudų nuėmimas yra pirmasis realus bandymas pažaboti sintetinę mediją, kol ši visiškai nepakeitė realybės.

Kaip nenuilstantis praktikantas pasirašo savo darbą

Yra du pagrindiniai būdai, kaip įmonė gali pažymėti „deepfake“. Pirmasis yra matomas jums: teksto žyma arba logotipas vaizdo įrašo kampe. Antrasis yra nematomas akiai, bet nuskaitomas kompiuterių. Tai yra metaduomenys. Metaduomenys yra tarsi skaitmeninis lipdukas kitoje fizinės nuotraukos pusėje, nurodantis, kada ir kur ji buvo padaryta.

Daugelis pramonės lyderių naudoja standartą, vadinamą C2PA. Tai techninė struktūra, kuri prie failo prideda istoriją. Kai DI sugeneruoja vaizdą, programinė įranga į failo kodą įterpia kriptografinį parašą. Kai tas vaizdas įkeliamas į tokią platformą kaip „Instagram“ ar „X“, platforma nuskaito parašą ir parodo etiketę. Šis procesas yra skaidrus ir vyksta užkulisiuose, suteikdamas kontekstą ir negadindamas naudotojo patirties. Tačiau metaduomenis lengva pašalinti. Jei padarysite DI vaizdo ekrano nuotrauką, metaduomenys dažnai prarandami. Ši realybė paverčia nematomą parašą trapia gynyba prieš pasiryžusius piktavalius.

Kodėl metaduomenys yra trapesni nei atrodo

Skaitmeniniai pėdsakai nėra amžini. Kai įkeliate didelės raiškos nuotrauką į susirašinėjimo programėlę, programėlė dažnai suglaudina failą, kad sutaupytų vietos. Šis suglaudinimo procesas gali ištrinti metaduomenų etiketes, kurių reikalauja ES DI aktas. Vidutiniam naudotojui tai reiškia, kad paženklintas vaizdas iš patikimo šaltinio gali tapti nepaženklintu „deepfake“ tiesiog pasidalinus juo grupiniame susirašinėjime.

Vandens ženklų naudojimas yra atsparesnė alternatyva. Skirtingai nei metaduomenys, kurie yra atskiras kodo blokas, vandens ženklas yra įkeptas į pačius vaizdo pikselius arba garso failo dažnius. Kai kurios įmonės naudoja „steganografiją“, kad paslėptų šias žymes. Tai žmonėms nematomi raštai, kuriuos aptinka skeneriai. Net jei apkirpsite nuotrauką ar pakeisite spalvas, žymė išliks. Problema ta, kad nėra vieningo pasaulinio šių vandens ženklų standarto. „Google“ sukurtas skeneris gali neatpažinti atvirojo kodo modelio sukurto vandens ženklo. Šis bendros kalbos trūkumas sukuria neskaidrią aplinką, kurioje taisykles sunku įgyvendinti.

Skirtumas tarp pokšto ir ginklo

ES nebando uždrausti kūrybiškumo. Įstatymas nustato aiškią ribą tarp nekenksmingos satyros ir pavojingos manipuliacijos. Kai DI sukurtas popiežiaus Pranciškaus atvaizdas su dizainerio pūkine striuke tapo virusiniu, tai buvo pokštas. Dauguma žmonių suprato, kad tai klastotė, nes tai buvo absurdiška. Pagal naująsias taisykles tokiam meniniam ar satyriniam turiniui paprastai nereikia tokio pat griežto ženklinimo lygio.

Priešingai, taisyklės yra labai griežtos turiniui, kuris galėtų klaidinti visuomenę viešojo intereso klausimais. Mes jau matėme žalą, kurią tai gali sukelti. 2022 m. per invaziją į Ukrainą internete pasirodė „deepfake“ vaizdo įrašas, kuriame prezidentas Zelenskis liepia savo kariams pasiduoti. Nors jis buvo greitai paneigtas, jis parodė, kaip DI gali būti karo įrankis. Panašiai ir atviros DI sukurtos įžymybių, tokių kaip Taylor Swift, nuotraukos parodė, kaip ši technologija gali būti naudojama priekabiavimui. ES DI aktas nukreiptas į šiuos žalingus naudojimo būdus, reikalaujant, kad profesionalūs naudotojai būtų sąžiningi dėl savo turinio kilmės. Esmė ta, kad vaizdo kontekstas yra toks pat svarbus, kaip ir technologija, naudota jam sukurti.

Ką tai reiškia jūsų kasdieniam naršymui

Vartotojui šis įstatymas lems daugiau etikečių ir įspėjimų jūsų socialinių tinklų srautuose. Prie naujienos ar profilio nuotraukos galite pamatyti mažą žymą „Sukurta DI“. Tai skirta padėti jums suformuoti mentalinį filtrą. Žiūrint plačiau, tai susiję su skaitmeniniu raštingumu. Mes tolstame nuo eros, kurioje „pamatyti reiškia patikėti“, link eros, kurioje viskas yra įtartina, kol nepatvirtinta.

Praktiškai kalbant, neturėtumėte tikėtis, kad kiekvienas „deepfake“ išnyks per naktį. ES gali reguliuoti tik tas įmones, kurios vykdo veiklą jos ribose. Anoniminis kūrėjas šalyje už ES ribų vis tiek gali skelbti nepaženklintus „deepfake“ pasaulinėse platformose. Be to, atvirojo kodo DI modeliai yra didelė spraga. Tai programos, kurias bet kas gali atsisiųsti ir paleisti savo kompiuteryje. Kadangi šie modeliai yra decentralizuoti, ES sunku priversti atskirus naudotojus naudoti etiketes. Įstatymas yra apsauginis turėklas pagrindinei srovei, tačiau interneto pakraščiai išliks nepastovūs.

Daugiasluoksnis požiūris į skaitmeninę realybę

Ekspertai ir Europos Komisija sutinka, kad jokia viena technologija nėra stebuklinga kulka. Etiketė yra tik vienas gynybos sluoksnis. Norint tikrai apsaugoti skaitmeninę erdvę, mums reikia metaduomenų, vandens ženklų ir visuomenės švietimo derinio. DI įmonės, socialinių tinklų platformos ir faktų tikrintojai privalo bendradarbiauti, kad užtikrintų, jog šios etiketės iš tikrųjų liktų prikabintos prie turinio jam keliaujant per internetą.

Galiausiai ES DI akto sėkmė priklauso nuo to, ar technologijų bendrovės teiks pirmenybę saugumui, o ne greičiui. Jei platformos atsisakys investuoti į skenerius, reikalingus DI vandens ženklams nuskaityti, etiketės bus nenaudingos. Jei vandens ženklus bus per lengva pašalinti, įstatymas bus tik popierinis tigras. Vartotojo požiūriu geriausia strategija yra išlikti skeptiškiems bet kokio sensacingo turinio, kuris neturi aiškios kilmės, atžvilgiu. Internetas nebėra tikrovės veidrodis. Tai kuruojama galerija, kurioje dalį meno nutapė mašinos. ES tiesiog nori įsitikinti, kad tos mašinos pasirašytų savo vardus drobės apačioje.

Ką tai reiškia jums

• Ieškokite etikečių: Naujienų svetainėse ir socialiniuose tinkluose ieškokite žymų „Sukurta DI“, nes jos dabar privalomos daugeliui Europoje veikiančių platformų.
• Supraskite ribas: Atsiminkite, kad ekrano nuotraukos ir suglaudinti failai dažnai praranda savo DI etiketes, todėl nepaženklintas vaizdas negarantuoja, kad jis tikras.
• Kvestionuokite virusinį turinį: Būkite ypač atsargūs su viešų asmenų vaizdo įrašais, kurie atrodo nebūdingi jų charakteriui, nes jie yra pagrindiniai „deepfake“ kūrėjų taikiniai.
• Tikėkitės daugiau trinties: Tikėtina, kad savo programėlėse matysite daugiau atskleidimų ir įspėjimų, nes įmonės prisitaiko prie šių naujų skaidrumo reikalavimų.

Šaltiniai:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report