你上一次在网上看到一张照片并 100% 确定它是真实的，是什么时候？从本周日开始，欧盟正押注于一个简单的标签可以恢复这种失去的信心。欧盟《人工智能法案》（EU AI Act）现在要求科技公司明确识别深度伪造（deepfakes）和 AI 生成的内容。这意味着数字世界刚刚有了一套新的透明度规则，但从立法到清理社交媒体动态的道路充满了技术陷阱。
你数字生活中的隐形水印
把 AI 想象成一个不知疲倦的实习生，每小时都能生成数百万个高质量的伪造品。到目前为止，这个实习生一直在完全匿名的情况下工作。欧盟的新规则通过强制软件背后的公司留下纸质记录来改变这一现状。如果像 ChatGPT 或 Claude 这样的系统创建了一段媒体内容，该媒体必须带有一个软件可以读取且人类可以看见的标记。
这一要求既适用于工具的创建者，也适用于专业用户。如果一家营销公司在服装广告中使用 AI 生成的模型，法律规定他们必须披露。这是我们消费媒体方式的一个系统性转变。其目标是确保当你看到世界领导人或名人的视频时，你有一种切实的手段来验证它是真实发生的，还是提示词的结果。这种数字指纹识别是在合成媒体完全取代现实之前，对其进行约束的第一次真正尝试。
不知疲倦的实习生如何签署它的作品
公司标记深度伪造主要有两种方式。第一种是你可见的：视频角落的文本标签或徽标。第二种是肉眼不可见但计算机可读的。这就是元数据（metadata）。元数据就像实体照片背后的数字贴纸，告诉你它是何时何地拍摄的。
许多行业领导者使用一种名为 C2PA 的标准。这是一个为文件附加历史记录的技术框架。当 AI 生成图像时，软件会在文件的代码中嵌入一个加密签名。当该图像被上传到 Instagram 或 X 等平台时，平台会读取签名并显示标签。这个过程是透明的，在幕后运行以提供上下文，而不会破坏用户体验。然而，元数据很容易被剥离。如果你对 AI 图像进行截图，元数据通常会丢失。这一现实使得隐形签名成为对抗蓄意作恶者的脆弱防线。
为什么元数据比看起来更脆弱
数字痕迹并非永久性的。当你将高分辨率照片上传到即时通讯应用时，应用通常会压缩文件以节省空间。这个压缩过程可能会擦除欧盟《人工智能法案》所要求的元数据标签。对于普通用户来说，这意味着来自可靠来源的带标签图像，可能仅仅因为在群聊中被分享就变成了不带标签的深度伪造。
水印（Watermarking）是更具韧性的替代方案。与作为独立代码块的元数据不同，水印被嵌入到图像的实际像素或音频文件的频率中。一些公司使用“隐写术”（steganography）来隐藏这些标记。这些模式对人类不可见，但扫描仪可以检测到。即使你裁剪照片或改变颜色，标记依然存在。问题在于，这些水印没有统一的全球标准。谷歌制造的扫描仪可能无法识别由开源模型创建的水印。这种缺乏通用语言的现状创造了一个规则难以执行的模糊环境。
玩笑与武器的区别
欧盟并非试图禁止创意。法律在无害的讽刺和危险的操纵之间划清了界限。当一张教皇方济各身穿设计师款羽绒服的 AI 生成图像走红时，那是一个玩笑。大多数人都明白它是假的，因为它很荒谬。根据新规则，此类艺术或讽刺内容通常不需要同等水平的严格标签。
相反，对于可能在公共利益事项上误导公众的内容，规则非常严格。我们已经看到了这可能造成的伤害。2022 年，在入侵乌克兰期间，一段泽连斯基总统要求部队投降的深度伪造视频出现在网上。虽然它很快被揭穿，但它展示了 AI 如何成为战争工具。同样，泰勒·斯威夫特等名人的露骨 AI 生成图像也展示了这项技术如何被用于骚扰。欧盟《人工智能法案》通过要求专业用户诚实说明其内容来源，来针对这些有害用途。底线是，图像的语境与用于创建它的技术同样重要。
这对你日常刷手机意味着什么
对于消费者来说，这项法律将导致你的社交媒体动态中出现更多的标签和警告。你可能会在新闻报道或个人资料图片旁边看到一个小的“由 AI 生成”标签。这旨在帮助你建立心理过滤机制。从大局来看，这是关于数字素养的。我们正在告别“眼见为实”的时代，迈向一个“在验证之前一切皆可疑”的时代。
从实际操作层面来看，你不应指望每个深度伪造都会在一夜之间消失。欧盟只能监管在其境内开展业务的公司。欧盟以外国家的匿名创作者仍然可以向全球平台发布不带标签的深度伪造。此外，开源 AI 模型是一个巨大的漏洞。这些是任何人都可以下载并在自己电脑上运行的程序。因为这些模型是去中心化的，欧盟很难强制个人用户包含标签。法律是主流社会的护栏，但互联网的边缘仍将动荡不安。
数字现实的多层防御方法
专家和欧盟委员会一致认为，没有任何单一技术是灵丹妙药。标签只是防御的一层。为了真正保护数字空间，我们需要元数据、水印和公众教育的结合。AI 公司、社交媒体平台和事实核查人员必须合作，确保这些标签在内容穿越网络时确实能保留在内容上。
最终，欧盟《人工智能法案》的成功取决于科技公司是否将安全置于速度之上。如果平台拒绝投资阅读 AI 水印所需的扫描仪，标签将毫无用处。如果水印太容易被移除，法律将成为纸老虎。从消费者的角度来看，最好的策略是对任何缺乏明确来源的煽动性内容保持怀疑。互联网不再是现实的镜子。它是一个策划好的画廊，其中一些艺术品是由机器绘制的。欧盟只是想确保这些机器在画布底部签上自己的名字。
这对你意味着什么
- 检查标签： 在新闻网站和社交媒体上寻找“AI 生成”标签，因为这些标签现在对许多在欧洲运营的平台是强制性的。
- 了解局限性： 记住截图和压缩文件通常会丢失其 AI 标签，因此不带标签的图像并不能保证是真实的。
- 质疑病毒式内容： 对那些看起来不符合公众人物性格的视频要格外小心，因为这些是深度伪造创作者的主要目标。
- 预期更多摩擦： 随着公司调整以适应这些新的透明度要求，你可能会在应用中看到更多的披露和警告。
消息来源：
- European Commission: The AI Act and Synthetic Media Transparency Guidelines
- European AI Office: Implementation Framework for Deepfake Disclosures
- C2PA: Technical Standards for Content Provenance and Authenticity
- Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report
