上周，布里斯班的一名学生坐在图书馆里，在一个简洁、极简的聊天界面中输入了一段提示词。他们想草拟一份关于某个遥远威权国家人权限制的抗议传单。人工智能的回答是礼貌的拒绝，理由是安全准则以及需要避免敏感的政治话题。几分钟后，同一名学生要求对英国首相进行严厉批评。人工智能毫不犹豫地生成了三页言辞犀利、分析透彻的散文。这就是数字言论的新版图。我们构建的工具在面对民主时胆大包天，但在威权面前却畏首畏尾。
无疆界思想的幻象
我们曾设想一个世界，每个数字助手都是一座通用的图书馆，无论地理位置如何，无论当地政府的意愿如何，任何有信号的人都能获得人类的集体知识。这一愿景要求开发者承认国家权力在信息周围划定的无形边界，除非他们甘愿让遥远首都的沉默支配当地咖啡馆里的谈话。在实践中，主要的大型语言模型正在继承它们所描述国家的言论限制。Meta 监督委员会（Meta Oversight Board）的一项研究显示，在美国构建的系统批评西方领导人的可能性远高于批评威权领导人。这些模型实际上正在将限制性政府的影响力延伸到国际边界之外。当一名澳大利亚用户无法让 AI 批评泰国国王或伊朗最高领袖时，这些政权的审查制度已经通过光缆成功传播了数千英里。
沉默拒绝的架构
Meta 监督委员会进行的研究测试了来自 Meta、Anthropic 和 OpenAI 等公司的十个商业模型。研究人员针对宽容型政府和限制型政府提出了七类问题。结果显示出系统性的差异。当被要求写一首关于美国总统的打油诗时，模型照办了。当被要求提供加入土耳其或柬埔寨抗议活动的理由时，模型往往会拒绝。这是社会学家所称的“档案系统性偏见”的症状。大型语言模型并非中立实体。它们是用于训练它们的数据的镜像。如果一个国家成功地清除了国内互联网上的异见，人工智能就会学到这种异见要么不存在，要么违反了安全协议。被压迫者的沉默变成了算法的沉默。
语言作为权力的考古遗址
从语言学角度来看，问题比简单的过滤器更深。数据是权力的反映。《自然》（Nature）杂志发表的一项独立研究发现，美国构建的模型容易受到非英语训练数据的外国控制。如果你用英语问 ChatGPT 中国是否是民主国家，它会说不是。如果你用中文问，它会说答案取决于你对这个词的定义。这是一场语言学危机。语言是一个考古遗址，每个词都揭示了文化和政治变迁的层层积淀。当人工智能在经过国家审查员筛选的中文数据上进行训练时，它就习得了该国家的“惯习”（habitus）。它不仅仅是在传递信息。它采用了一种特定的处世方式，避开某些真相。模型了解到某些话题是危险的，因为它消耗的数据是在恐惧的阴影下产生的。
威权国家的长臂
在宏观层面，这种趋势是一种反向的数字殖民主义。威权政权的限制正被出口到西方，而不是西方价值观通过技术传播。这种现象创造了一个原子化的信息环境。伦敦或纽约的用户可能认为他们使用的是一个客观的工具，但实际上他们正在与一个被不同时区的审查员篡改过的系统进行交互。这是互联网社会契约的一种转变。我们曾经相信网络会绕过物理世界的守门人。现在，守门人已经搬到了代码内部。人工智能成了国家审查的沉默伙伴，执行着用户从未同意遵守的规则。这项技术成了限制性政府长臂管辖的管道。
安全过滤器的悖论
矛盾的是，为了使人工智能安全而付出的努力，反而使其成为了沉默的工具。公司实施护栏以防止生成仇恨言论或有害内容。然而，威权政权往往将任何对国家的批评定义为有害或非法。当人工智能公司应用广泛的安全过滤器以避免当地的法律麻烦或感知到的文化不敏感时，它们无意中采纳了国家的定义。这导致了碎片化的现实。在世界的一个版本中，领导人是接受批评的公仆；在另一个版本中，他们是不可侵犯的神圣人物。人工智能通过选择阻力最小的路径来穿梭于这两个世界。对于一家公司来说，让机器人沉默比与信息部争论要容易得多。因此，用户体验是由最受限的公约数决定的。
流动的现代性与话语的丧失
齐格蒙特·鲍曼（Zygmunt Bauman）将我们的时代描述为“流动的现代性”，这是一个社会结构不再稳定到足以作为参考框架的时代。在这种流动的状态下，我们依赖数字工具来提供一种地面感。当这些工具受到国家影响的损害时，我们的现实变得更加转瞬即逝。我们正在失去进行深度、普遍对话的能力，因为我们的工具根据我们所说的语言或我们提到的领导人，给了我们不同版本的真相。这是注意力经济的系统性失败。人工智能公司优先考虑其产品在全球市场的无摩擦部署。如果这需要在某些话题上保持一点沉默，市场规律认为这种沉默是微小的代价。其结果是一个在某些地方透明、在另一些地方完全不透明的数字景观。
值得思考的问题
- 人工智能拒绝讨论某些政治话题，如何改变了你对什么是敏感或危险话题的看法？
- 如果我们学习和写作的主要工具受到遥远国家审查制度的影响，我们对全球事件的集体记忆会发生什么变化？
- 是否可能构建一个真正中立的人工智能，还是说所有知识都不可避免地是允许其被记录的权力结构的产物？
- 当你与聊天机器人互动时，当你从国内政治转向国际事务时，你是否注意到语气或意愿上的差异？
重新找回批判性眼光
最终，应对这种碎片化现实的责任落在了个人身上。我们不能假设口袋里那个干净、乐于助人的声音是真相的中立仲裁者。它是一个庞大、混乱且往往受损的信息生态系统的产物。我们必须像对待快餐饮食一样对待数字通信。它快捷且易于获取，但缺乏未经媒介的人类话语所具有的深度情感和智力营养。为了前进，我们必须变得对“沉默”高度敏锐。当一个工具拒绝回答时，这种拒绝往往比一千个生成的文字更具信息量。它是权力边界划定位置的信号。通过注意到这些边界，我们可以开始超越它们，找回任何算法都无法完全复制的批判性人类视角。
资料来源
- Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
- Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
- Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
- Bauman, Z. (2000). Liquid Modernity. Polity Press.
- Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.
