到 2026 年初，数据科学家估计，数字化先进政府中近 40% 的日常行政任务正由某种形式的人工智能进行调解。然而，直到最近，这种交互大多仍停留在对话层面——用户通过与机器人聊天来查找表格。2026 年 5 月 20 日，这一格局发生了重大转变。新加坡政府和谷歌发布了一项全球首创的“AI 智能体沙盒”研究结果，该计划超越了简单的聊天机器人，进入了“智能体化”AI 系统的领域：这种软件不仅会说话，而且能真正采取行动。
从 2025 年 8 月开始，在为期四个月的时间里，新加坡网络安全局 (CSA)、政府科技局 (GovTech) 以及资讯通信媒体发展局 (IMDA) 与谷歌合作，观察当 AI 被赋予办公钥匙时会发生什么。作为一名每天分析隐私政策细则并调查算法决策“黑箱”的记者，我认为这个沙盒的结果既具有启发性，也为私营部门提供了必要的现实检查。
数字礼宾的兴起
要理解为什么这个沙盒很重要，我们必须首先定义“智能体”。与根据提示生成文本的标准大语言模型 (LLM) 不同，AI 智能体旨在通过与其他软件交互来实现目标。如果说 LLM 是一部百科全书，那么 AI 智能体就是一个数字礼宾。它可以像人类用户一样浏览网站、填写表格、查询数据库并点击按钮。
在新加坡的背景下，沙盒重点关注“计算机使用”型智能体。这些系统在社会援助申请和自动化质量保证等高风险环境中进行了测试。想象一下这样一个系统，它不仅告诉公民他们有资格获得哪些福利补助，而且还代表他们浏览申请门户，实时将他们的数据与政府记录进行交叉比对。其效率潜力是惊人的；而系统性错误的风险也同样深远。
当自主性遇到隐私
从合规性的角度来看，从“文本生成”到“采取行动”的跨越引入了一系列监管挑战。在多年调查数据泄露的过程中，我了解到系统越是具有“智能体性”，其决策路径往往就越发“模糊”。沙盒研究结果强调了四个主要的关注领域：人为监督、定制化、网络安全，以及最关键的数据保护。
在监管背景下，智能体 AI 的主要风险是失去了“人类参与环节 (human-in-the-loop)”。当 AI 智能体在社会援助申请中犯错时，后果不仅仅是一个拼写错误；而是一个弱势家庭被拒绝发放福利。沙盒参与者意识到，我们不能将 AI 智能体视为“设置后即可高枕无忧”的工具。相反，它们需要我所说的“细粒度”监督——一种人类主管可以在特定的高风险决策点进行干预，而不会阻塞整个流程的方法。
万能钥匙的比喻
将 AI 智能体想象成一把万能钥匙。在负责任的大楼管理员手中，它是一个极具效用的工具。但如果这把钥匙设计不良，或者容易被复制或操纵，大楼里的每一扇门——每一个公民信息数据库——都会变得脆弱。
“默认安全”是沙盒研究结果的基石。因为这些智能体像人类一样“使用”计算机，它们容易受到“提示词注入”攻击，恶意用户可能会诱骗智能体绕过安全协议。有趣的是，确定的解决方案不仅仅是“更好的防火墙”，而是“分布式安全保障”。这意味着安全不应仅仅停留在系统的边缘；它必须植入智能体自身的逻辑及其运行的环境中。换句话说，“万能钥匙”需要是生物识别的，并且只能在特定时间在特定楼层工作。
数据保护：超越服务条款
隐私保护技术是 IMDA 与谷歌合作的主要焦点。当智能体在不同政府部门之间移动数据以完成任务时，它面临着创建可能被利用的数字面包屑轨迹的风险。沙盒研究结果表明，组织必须采取“稳健”的数据最小化方法——仅向智能体提供完成当前特定任务所需的绝对最少量信息。
在实践中，这意味着要摆脱“数据即铀”的模型，即信息被存储在巨大的、有毒的堆积物中。相反，沙盒测试了“匿名化”处理，即智能体处理已被剥离直接标识符的数据。作为一名倡导被遗忘权的记者，我发现这尤其令人振奋。如果智能体不“知道”你到底是谁，它就不会在发生故障时意外泄露你的身份。
负责任部署的蓝图
最终，新加坡-谷歌沙盒为任何寻求部署 AI 的组织提供了可操作的蓝图。仅仅拥有一份埋藏在迷宫般法律术语中的“隐私政策”是不够的。真正的合规是一个持续的、系统性的过程。
报告中最微妙的见解之一是对“基于风险”的监督的需求。并非所有任务都是平等的。处理内部邮件分类的 AI 智能体所需的监督，要少于处理医疗记录或金融交易的智能体。因此，人类控制的水平必须与错误可能造成的潜在损害成正比。
给高管层和公民的启示
对于关注这一领域的企业来说，教训很明确：不要仓促部署智能体化 AI。对于掌握如此多个人数据权力的工具来说，科技界“快速行动，打破常规”的时代是一个不稳固的基础。
相反，请考虑从沙盒洞察中得出的以下三个步骤：
- 在受控环境中开始：在全面推广之前，使用沙盒或试点计划测试智能体在极端情况下的行为。
- 审计代理权限：明确定义允许 AI 做什么，更重要的是，禁止它做什么。智能体真的需要对你的主数据库拥有“写入”权限吗？
- 实施分布式保障措施：不要依赖单一故障点。结合使用用户级权限、系统级监控和 AI 特有的安全过滤器。
在我结束对这些发现的分析时，我回想起为什么我选择这个报道领域。技术以光速发展，但我们基本的人权——隐私、尊严和公平——必须保持为锚点。新加坡 AI 智能体沙盒不仅是一项技术成就；它也是一个信号，表明自动化的未来必须建立在透明和问责的基础之上。
组织的关键要点
- 以人为本的设计：在高影响决策中保持“人类参与环节”，以确保问责制。
- 默认安全：将 AI 智能体视为高权限用户，并相应地应用严格的网络安全控制。
- 数据最小化：使用隐私保护技术，确保智能体仅访问其特定功能所需的数据。
- 持续监控：AI 行为会随时间发生偏移；定期审计对于确保系统保持合规和安全至关重要。
来源：
- Infocomm Media Development Authority (IMDA) - AI Verify Foundation Guidelines.
- Personal Data Protection Act (PDPA) 2012, Singapore.
- Cyber Security Agency of Singapore (CSA) - Guidelines on Securing AI Systems.
- Google Cloud - Responsible AI Practices and Agentic Safety Frameworks.
免责声明：本文仅用于信息和新闻目的，不构成正式的法律建议。AI 法规正在迅速演变；读者应咨询法律顾问以了解其管辖范围内的具体合规要求。
