联合国在内部人士警告声中成立 40 人全球人工智能安全小组

为了弥合技术飞速发展与国际监管之间的差距，联合国秘书长安东尼奥·古特雷斯（António Guterres）正式成立了一个由 40 名成员组成的全球人工智能安全科学小组。古特雷斯将其描述为“迈向全球科学理解人工智能的基础性一步”，该小组的任务是调查先进机器学习模型带来的生存风险和系统性风险。

该机构的成立正处于一个关键时刻。在过去的一年里，来自 OpenAI、Anthropic 和 Google DeepMind 等行业领导者的举报人和前员工发出的呼声日益高涨，他们对缺乏透明度以及前沿模型的部署速度表示担忧。这项联合国倡议代表了首次在不受企业影响的情况下，在全球范围内集中人工智能科学共识的协调努力。

催化剂：来自行业内部的警报

“告警权”（Right to Warn）运动显著加速了建立联合国集中机构的进程。这群科技内部人士认为，当前利润驱动的激励机制阻碍了公司披露与通用人工智能（AGI）相关的真实风险程度。他们强调了从通过深度伪造（deepfakes）侵蚀民主进程到自主系统绕过人类控制的潜在风险等一系列担忧。

通过建立这个小组，联合国旨在提供一个平台，让科学证据——而非企业公关——主导全球安全叙事。这 40 名成员来自不同地区的学术界、公民社会和技术研究中心，预计将在日益两极分化的技术领域充当公正的真理仲裁者。

应对地缘政治摩擦

该小组的启动并非没有争议。美国及其几个关键盟友最初对这一举动表示强烈反对。摩擦源于对人工智能权力中心应设在何处的根本分歧。虽然美国一直倡导由行业主导的安全框架和七国集团（G7）领导的广岛人工智能进程，但联合国的做法强调了一种更具包容性的多边治理模式。

华盛顿的批评者认为，由联合国领导的机构可能会陷入官僚主义，或者被竞争对手国家用来扼杀西方创新。相反，该小组的支持者认为，人工智能是一种像气候变化一样“无国界”的技术，需要包括全球南方（Global South）在内的全球应对，而全球南方在以硅谷为中心的讨论中经常被忽视。

科学界的“人工智能版 IPCC”

要理解该小组的使命，可以参考政府间气候变化专门委员会（IPCC）。正如 IPCC 不制定政策而是提供为全球气候条约提供信息的科学数据一样，联合国人工智能小组旨在创建一份共享的“科学现状”报告。这份报告将作为各国制定本国法规的基准，而无需闭门造车。

该小组关注的关键领域包括：

• 风险量化： 开发标准化指标，以衡量模型产生欺骗或有害输出的潜力。
• 数据主权： 解决训练数据的来源问题以及对不同司法管辖区知识产权的影响。
• 互操作性： 确保一个国家的安全标准在另一个国家能够得到认可和执行。

对科技行业的实际影响

对于开发者、初创公司和企业领导者来说，联合国的参与标志着从自愿的“安全承诺”向更具结构性的监管环境转变。虽然该小组没有通过法律的权力，但其调查结果可能会影响未来的国际贸易协定和国家安全审计。

下一步行动：为全球标准做准备

随着小组开始工作，组织应超越对人工智能安全的被动反应。以下是技术领导者应考虑的实际步骤：

1. 透明度审计： 审查内部人工智能开发流程。您能否解释您的模型如何得出特定结论？联合国小组可能会建议针对“可解释性”制定高标准。
2. 监测国际基准： 随时了解小组的季度简报。这些简报可能会成为欧盟、亚洲以及最终美国未来合规要求的蓝图。
3. 参与多利益相关方对话： 不要仅仅依赖行业团体。参加包括公民社会和学术研究人员在内的论坛，以获得关于人工智能影响的更广泛视角。
4. 优先考虑安全研究： 专门拨出一定比例的研发资金用于安全和对齐。新成立的联合国机构的主要关注点正是“能力”与“安全”之间的差距。

漫长的未来之路

这个 40 人小组的成立标志着人们认识到人工智能不再仅仅是一种商业产品；它是一种具有重塑社会能力的全球公用事业。虽然未来的政治道路依然坎坷，但对科学、循证方法的承诺为技术安全、公平地服务于人类的未来提供了一线希望。

来源：

• United Nations: Secretary-General's High-level Advisory Body on Artificial Intelligence
• Reuters: UN appoints global panel to study AI risks
• The Guardian: Tech whistleblowers call for right to warn on AI risks
• UN News: Guterres announces 40-member AI advisory body