Czy etykieta może naprawdę rozwiązać problem deepfake'ów w internecie?

Kiedy ostatni raz patrzyłeś na zdjęcie w internecie i miałeś 100% pewności, że jest prawdziwe? Od najbliższej niedzieli Unia Europejska stawia na to, że prosta etykieta może przywrócić tę utraconą pewność. Unijny akt o sztucznej inteligencji (AI Act) wymaga teraz od firm technologicznych wyraźnego identyfikowania deepfake'ów i treści generowanych przez AI. Oznacza to, że cyfrowy świat właśnie zyskał nowy zestaw zasad dotyczących przejrzystości, ale droga od legislacji do czystego kanału w mediach społecznościowych jest pełna technicznych pułapek.

Niewidzialny znak wodny w Twoim cyfrowym życiu

Pomyśl o AI jak o niestrudzonym stażyście zdolnym do generowania milionów wysokiej jakości fałszywek co godzinę. Do tej pory stażysta ten pracował w całkowitej anonimowości. Nowe przepisy UE zmieniają to, zmuszając firmy stojące za oprogramowaniem do pozostawiania śladu. Jeśli system taki jak ChatGPT lub Claude tworzy materiał multimedialny, musi on posiadać znacznik, który oprogramowanie może odczytać, a ludzie mogą zobaczyć.

Wymóg ten dotyczy zarówno twórców narzędzi, jak i profesjonalnych użytkowników. Jeśli firma marketingowa wykorzystuje model wygenerowany przez AI w reklamie odzieży, prawo mówi, że musi to ujawnić. Jest to systemowa zmiana w sposobie, w jaki konsumujemy media. Celem jest zapewnienie, że gdy widzisz wideo ze światowym liderem lub celebrytą, masz namacalny sposób na zweryfikowanie, czy to wydarzyło się naprawdę, czy było wynikiem polecenia (promptu). To cyfrowe znakowanie jest pierwszą realną próbą okiełznania mediów syntetycznych, zanim całkowicie zastąpią one rzeczywistość.

Jak niestrudzony stażysta podpisuje swoją pracę

Istnieją dwa główne sposoby, w jakie firma może oznaczyć deepfake. Pierwszy jest widoczny dla Ciebie: tag tekstowy lub logo w rogu filmu. Drugi jest niewidoczny dla oka, ale czytelny dla komputerów. Są to metadane. Metadane są jak cyfrowa naklejka z tyłu fizycznego zdjęcia, która mówi, kiedy i gdzie zostało zrobione.

Wielu liderów branży stosuje standard o nazwie C2PA. Jest to struktura techniczna, która dołącza historię do pliku. Gdy AI generuje obraz, oprogramowanie osadza podpis kryptograficzny w kodzie pliku. Gdy ten obraz zostanie przesłany na platformę taką jak Instagram lub X, platforma odczytuje podpis i wyświetla etykietę. Proces ten jest przejrzysty i działa za kulisami, zapewniając kontekst bez psucia wrażeń użytkownika. Jednak metadane łatwo usunąć. Jeśli zrobisz zrzut ekranu obrazu AI, metadane często przepadają. Ta rzeczywistość sprawia, że niewidzialny podpis jest kruchą obroną przed zdeterminowanymi złymi aktorami.

Dlaczego metadane są bardziej kruche, niż się wydaje

Cyfrowe ślady nie są trwałe. Gdy przesyłasz zdjęcie o wysokiej rozdzielczości do aplikacji do przesyłania wiadomości, aplikacja często kompresuje plik, aby zaoszczędzić miejsce. Ten proces kompresji może usunąć etykiety metadanych wymagane przez unijny akt o AI. Dla przeciętnego użytkownika oznacza to, że oznaczony obraz z wiarygodnego źródła może stać się nieoznaczonym deepfake'iem tylko przez udostępnienie go w czacie grupowym.

Znakowanie wodne jest bardziej odporną alternatywą. W przeciwieństwie do metadanych, które są oddzielnym blokiem kodu, znak wodny jest wtopiony w rzeczywiste piksele obrazu lub częstotliwości pliku audio. Niektóre firmy używają „steganografii” do ukrywania tych znaków. Są to wzory niewidoczne dla ludzi, ale wykrywalne przez skanery. Nawet jeśli przytniesz zdjęcie lub zmienisz kolory, znak pozostaje. Problemem jest brak jednego globalnego standardu dla tych znaków wodnych. Skaner stworzony przez Google może nie rozpoznać znaku wodnego stworzonego przez model open-source. Ten brak wspólnego języka tworzy nieprzejrzyste środowisko, w którym zasady są trudne do wyegzekwowania.

Różnica między żartem a bronią

UE nie próbuje zakazać kreatywności. Prawo wprowadza wyraźne rozróżnienie między nieszkodliwą satyrą a niebezpieczną manipulacją. Kiedy wygenerowany przez AI obraz papieża Franciszka w designerskiej kurtce puchowej stał się wiralem, był to żart. Większość ludzi zrozumiała, że to fałszywka, ponieważ była absurdalna. Zgodnie z nowymi przepisami, takie treści artystyczne lub satyryczne zazwyczaj nie wymagają tak rygorystycznego etykietowania.

Z kolei przepisy są bardzo surowe w przypadku treści, które mogłyby wprowadzić opinię publiczną w błąd w sprawach interesu publicznego. Widzieliśmy już szkody, jakie może to wyrządzić. W 2022 roku w sieci pojawiło się wideo deepfake z prezydentem Zełenskim wzywającym swoje wojska do poddania się podczas inwazji na Ukrainę. Choć szybko zostało zdemaskowane, pokazało, jak AI może być narzędziem wojny. Podobnie, jawne obrazy celebrytów, takich jak Taylor Swift, wygenerowane przez AI, pokazały, jak ta technologia może być wykorzystywana do nękania. Unijny akt o AI wymierzony jest w te szkodliwe zastosowania, wymagając od profesjonalnych użytkowników uczciwości co do pochodzenia ich treści. Sedno sprawy polega na tym, że kontekst obrazu ma takie samo znaczenie, jak technologia użyta do jego stworzenia.

Co to oznacza dla Twojego codziennego przeglądania sieci

Dla konsumenta prawo to zaowocuje większą liczbą etykiet i ostrzeżeń w kanałach mediów społecznościowych. Możesz zobaczyć mały tag „Wygenerowane przez AI” obok wiadomości lub zdjęcia profilowego. Ma to pomóc w budowaniu mentalnego filtra. Patrząc na szerszy obraz, chodzi o umiejętność korzystania z mediów cyfrowych. Odchodzimy od ery, w której „zobaczyć znaczy uwierzyć”, w stronę ery, w której wszystko jest podejrzane, dopóki nie zostanie zweryfikowane.

Praktycznie rzecz biorąc, nie należy oczekiwać, że każdy deepfake zniknie z dnia na dzień. UE może regulować tylko firmy, które prowadzą działalność w jej granicach. Anonimowy twórca w kraju spoza UE nadal może publikować nieoznaczone deepfake'i na globalnych platformach. Co więcej, modele AI typu open-source stanowią znaczącą lukę. Są to programy, które każdy może pobrać i uruchomić na własnym komputerze. Ponieważ modele te są zdecentralizowane, UE ma trudności z zmuszeniem poszczególnych użytkowników do dołączania etykiet. Prawo jest barierą ochronną dla głównego nurtu, ale obrzeża internetu pozostaną nieprzewidywalne.

Wielowarstwowe podejście do cyfrowej rzeczywistości

Eksperci i Komisja Europejska zgadzają się, że żadna pojedyncza technologia nie jest złotym środkiem. Etykieta to tylko jedna warstwa obrony. Aby naprawdę chronić przestrzeń cyfrową, potrzebujemy połączenia metadanych, znakowania wodnego i edukacji publicznej. Firmy AI, platformy mediów społecznościowych i weryfikatorzy faktów muszą współpracować, aby zapewnić, że etykiety te faktycznie pozostają dołączone do treści podczas ich podróży po sieci.

Ostatecznie sukces unijnego aktu o AI zależy od tego, czy firmy technologiczne przedłożą bezpieczeństwo nad szybkość. Jeśli platformy odmówią inwestowania w skanery potrzebne do odczytywania znaków wodnych AI, etykiety będą bezużyteczne. Jeśli znaki wodne będą zbyt łatwe do usunięcia, prawo będzie papierowym tygrysem. Z punktu widzenia konsumenta najlepszą strategią jest zachowanie sceptycyzmu wobec wszelkich sensacyjnych treści, które nie mają jasnego pochodzenia. Internet nie jest już lustrem rzeczywistości. To kuratorowana galeria, w której część dzieł jest namalowana przez maszyny. UE chce po prostu upewnić się, że te maszyny podpisują się na dole płótna.

Co to oznacza dla Ciebie

• Sprawdzaj etykiety: Szukaj tagów „Wygenerowane przez AI” w serwisach informacyjnych i mediach społecznościowych, ponieważ są one teraz obowiązkowe dla wielu platform działających w Europie.
• Zrozum ograniczenia: Pamiętaj, że zrzuty ekranu i skompresowane pliki często tracą etykiety AI, więc nieoznaczony obraz nie gwarantuje autentyczności.
• Kwestionuj wiralowe treści: Zachowaj szczególną ostrożność w przypadku filmów z osobami publicznymi, które wydają się zachowywać niecharakterystycznie, ponieważ są one głównymi celami twórców deepfake'ów.
• Spodziewaj się większych utrudnień: Prawdopodobnie zobaczysz więcej ujawnień i ostrzeżeń w swoich aplikacjach, gdy firmy dostosują się do nowych wymogów dotyczących przejrzystości.

Źródła:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report