Сможет ли маркировка действительно решить проблему дипфейков в интернете?

Когда вы в последний раз смотрели на фото в интернете и были на 100% уверены, что оно настоящее? С этого воскресенья Европейский союз делает ставку на то, что простая маркировка может вернуть это утраченное доверие. Закон ЕС об ИИ теперь требует от технологических компаний четко идентифицировать дипфейки и контент, созданный искусственным интеллектом. Это означает, что в цифровом мире появились новые правила прозрачности, но путь от законодательства до чистой ленты социальных сетей полон технических ловушек.

Невидимый водяной знак в вашей цифровой жизни

Представьте себе ИИ как неутомимого стажера, способного генерировать миллионы высококачественных подделок каждый час. До сих пор этот стажер работал в полной анонимности. Новые правила ЕС меняют это, заставляя компании, стоящие за программным обеспечением, оставлять документальный след. Если такая система, как ChatGPT или Claude, создает медиафайл, этот файл должен иметь маркер, который может прочитать программное обеспечение и увидеть человек.

Это требование распространяется как на создателей инструментов, так и на профессиональных пользователей. Если маркетинговая фирма использует модель, созданную ИИ, для рекламы одежды, закон обязывает их раскрыть это. Это системный сдвиг в том, как мы потребляем контент. Цель состоит в том, чтобы при просмотре видео с мировым лидером или знаменитостью у вас был осязаемый способ проверить, произошло ли это на самом деле или стало результатом промпта. Такое создание цифровых отпечатков — первая реальная попытка обуздать синтетические медиа, прежде чем они полностью заменят реальность.

Как неутомимый стажер подписывает свою работу

Существует два основных способа маркировки дипфейка. Первый виден вам: текстовый тег или логотип в углу видео. Второй невидим для глаза, но считывается компьютерами. Это метаданные. Метаданные подобны цифровой наклейке на обороте физической фотографии, которая сообщает вам, когда и где она была сделана.

Многие лидеры отрасли используют стандарт под названием C2PA. Это техническая база, которая прикрепляет историю к файлу. Когда ИИ генерирует изображение, программное обеспечение встраивает криптографическую подпись в код файла. Когда это изображение загружается на платформу, такую как Instagram или X, платформа считывает подпись и отображает метку. Этот процесс прозрачен и работает за кулисами, обеспечивая контекст без ущерба для пользовательского опыта. Однако метаданные легко удалить. Если вы сделаете скриншот ИИ-изображения, метаданные часто теряются. Эта реальность делает невидимую подпись хрупкой защитой от намеренных злоумышленников.

Почему метаданные более хрупкие, чем кажется

Цифровые следы не вечны. Когда вы загружаете фотографию высокого разрешения в приложение для обмена сообщениями, приложение часто сжимает файл для экономии места. Этот процесс сжатия может стереть метки метаданных, которые требует Закон ЕС об ИИ. Для обычного пользователя это означает, что маркированное изображение из надежного источника может превратиться в немаркированный дипфейк просто при пересылке в групповом чате.

Нанесение водяных знаков — более устойчивая альтернатива. В отличие от метаданных, которые представляют собой отдельный блок кода, водяной знак встраивается в сами пиксели изображения или частоты аудиофайла. Некоторые компании используют «стеганографию» для скрытия этих меток. Это паттерны, невидимые для человека, но обнаруживаемые сканерами. Даже если вы обрежете фотографию или измените цвета, метка останется. Проблема в том, что единого мирового стандарта для таких водяных знаков не существует. Сканер, созданный Google, может не распознать водяной знак, созданный моделью с открытым исходным кодом. Отсутствие общего языка создает непрозрачную среду, в которой правила трудно соблюдать.

Разница между шуткой и оружием

ЕС не пытается запретить творчество. Закон проводит четкое различие между безобидной сатирой и опасной манипуляцией. Когда созданное ИИ изображение Папы Римского Франциска в дизайнерском пуховике стало вирусным, это было шуткой. Большинство людей поняли, что это подделка, потому что это было абсурдно. Согласно новым правилам, такой художественный или сатирический контент, как правило, не требует столь строгого уровня маркировки.

И наоборот, правила очень строги для контента, который может ввести общественность в заблуждение по вопросам, представляющим общественный интерес. Мы уже видели ущерб, который это может нанести. В 2022 году в сети появилось дипфейк-видео президента Зеленского, призывающего свои войска сдаться во время вторжения в Украину. Хотя оно было быстро разоблачено, оно показало, как ИИ может быть инструментом войны. Аналогичным образом, откровенные ИИ-изображения знаменитостей, таких как Тейлор Свифт, показали, как эта технология может использоваться для травли. Закон ЕС об ИИ нацелен на эти вредные способы использования, требуя от профессиональных пользователей честности в отношении происхождения их контента. Суть в том, что контекст изображения имеет такое же значение, как и технология, использованная для его создания.

Что это значит для вашей ежедневной ленты

Для потребителя этот закон приведет к появлению большего количества меток и предупреждений в лентах социальных сетей. Вы можете увидеть небольшой тег «Создано ИИ» рядом с новостью или фотографией профиля. Это призвано помочь вам сформировать ментальный фильтр. В широком смысле речь идет о цифровой грамотности. Мы уходим от эпохи, когда «увидеть — значит поверить», к эпохе, когда все подозрительно, пока не подтверждено.

С практической точки зрения не стоит ожидать, что каждый дипфейк исчезнет в одночасье. ЕС может регулировать только те компании, которые ведут бизнес в его границах. Анонимный создатель в стране за пределами ЕС все еще может публиковать немаркированные дипфейки на глобальных платформах. Кроме того, модели ИИ с открытым исходным кодом являются значительной лазейкой. Это программы, которые любой может скачать и запустить на своем компьютере. Поскольку эти модели децентрализованы, ЕС трудно заставить отдельных пользователей добавлять маркировку. Закон — это ограждение для мейнстрима, но окраины интернета останутся нестабильными.

Многоуровневый подход к цифровой реальности

Эксперты и Европейская комиссия согласны с тем, что ни одна технология не является панацеей. Маркировка — это лишь один уровень защиты. Чтобы по-настоящему защитить цифровое пространство, нам необходимо сочетание метаданных, водяных знаков и просвещения общественности. ИИ-компании, социальные платформы и фактчекеры должны сотрудничать, чтобы эти метки действительно оставались прикрепленными к контенту по мере его перемещения по сети.

В конечном счете, успех Закона ЕС об ИИ зависит от того, поставят ли технологические компании безопасность выше скорости. Если платформы откажутся инвестировать в сканеры, необходимые для считывания водяных знаков ИИ, метки будут бесполезны. Если водяные знаки будет слишком легко удалить, закон окажется «бумажным тигром». С точки зрения потребителя лучшая стратегия — сохранять скептицизм по отношению к любому сенсационному контенту, не имеющему четкого происхождения. Интернет больше не является зеркалом реальности. Это курируемая галерея, где часть картин написана машинами. ЕС просто хочет убедиться, что эти машины ставят свои подписи внизу холста.

Что это значит для вас

• Ищите маркировку: Обращайте внимание на теги «Создано ИИ» на новостных сайтах и в социальных сетях, так как теперь они обязательны для многих платформ, работающих в Европе.
• Понимайте ограничения: Помните, что скриншоты и сжатые файлы часто теряют свои ИИ-метки, поэтому отсутствие маркировки не гарантирует подлинность изображения.
• Ставьте под сомнение вирусный контент: Будьте особенно осторожны с видеороликами публичных лиц, поведение которых кажется нехарактерным, так как они являются основными целями для создателей дипфейков.
• Ожидайте больше сложностей: Вероятно, вы будете видеть больше раскрытий информации и предупреждений в своих приложениях, поскольку компании адаптируются к этим новым требованиям прозрачности.

Источники:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report