尽管全球旨在提高人工智能包容性的倡议空前高涨，但一个引人注目的悖论也随之出现：随着“参与”一词变得无处不在，公众的实际影响力却依然支离破碎。最近对 80 个参与式人工智能项目的审查显示，虽然社区经常在数据收集或设计的初始阶段被邀请参与，但一旦系统实际部署，他们几乎完全缺席。我们已经掌握了启动工作坊的艺术，但我们尚未弄清楚一旦代码开始运行，该如何保持大门敞开。
敞开大门的幻象
最近，我在一家社区中心度过了一个下午，当地议会正在那里展示一种新型的人工智能驱动资源分配工具。房间里充满了真诚的公民活力。居民们被要求为地图涂色，并讨论公平对他们意味着什么。这是一个参与式设计的教科书案例——充满活力、诚挚且深植于当地背景。然而，随着会议结束，坐在我旁边的一位女士提出了一个尖锐的问题：“六个月后，如果算法决定我的街道不再需要公交车了，会发生什么？到那时我该找谁谈？”
主持人的沉默说明了一切。在那一刻，我们当前人工智能治理方法中的系统性差距变得清晰可见。我们将参与视为一个离散的事件——算法的剪彩仪式——而不是一种持续的关系。一旦参与式设计阶段结束，系统的治理几乎无一例外地回到了开发者或委托机构的不透明走廊中。社区在完成了作为数据点或意见反馈板的任务后，实际上被边缘化了。
生命周期鸿沟：从设计到部署
从宏观层面看，这一趋势反映了向我们所谓的“咨询经济”的更广泛社会转变。在这种模式下，参与被视为合规的检查项，而非权力的重新分配。《经合组织人工智能原则》和《欧盟人工智能法案》都强调利益相关者的参与是可信赖人工智能的基石。然而，在实践中，这种参与往往是前期加载的。我们邀请利益相关者参与造车，但一旦车上路，我们很少给他们留一个座位。
这种生命周期差距不仅仅是程序上的疏忽，它是一个结构性缺陷。人工智能系统不是静态工具；它们是动态实体，通过反馈回路、重新训练和不断变化的环境背景而演进。当利益相关者的参与在部署阶段终止时，系统就失去了其社会纽带。因此，那些曾帮助塑造初始模型的社区，在系统开始表现出不可预见的偏见或其运行范围超出原始协议时，发现自己被边缘化了。
语言学视角：参与的语义学
放大来看，我们可以看到这种紧张关系反映在我们使用的语言中。在科技行业，“用户”长期以来一直是主导描述词。从语言学上讲，用户是服务的被动接受者。向“利益相关者”的转变旨在暗示能动性和切身利益。然而，如果利益相关者仅在 90 分钟的焦点小组讨论中拥有发言权，那么这个词就变成了一种象征性的姿态，而非功能性的现实。
透过这个镜头，参与式人工智能的现状看起来不像是一场民主革命，而更像是一个剧院舞台。我们执行包容的仪式——便签纸、市政厅会议、伦理宪章——但剧本往往是预先写好的。要实现真正的参与，论述必须超越“发布”时短暂的兴奋，转而进入监测和系统演进的平凡、长期工作中。
治理群岛
从历史上看，我们可以将其与现代城市变成原子化空间群岛的方式进行类比。我们居住得很近，但我们的治理系统往往是孤立的岛屿。一个岛屿处理技术开发，另一个岛屿处理法律合规，还有一个临时的微小岛屿是为“社区参与”而建的。项目一旦完成，通往社区岛的桥梁就被拆除了。
| 人工智能生命周期阶段 | 典型的参与程度 | 理想的权力水平 |
|---|---|---|
| 问题识别 | 高（咨询性） | 共同定义 |
| 数据收集 | 中等（提取性） | 数据主权 |
| 模型开发 | 低（技术性） | 算法监督 |
| 部署 | 微乎其微 | 否决权 / 红队测试 |
| 监测与审计 | 罕见 | 社区主导的审计 |
| 停用 | 不存在 | 集体决策 |
矛盾的是，利益相关者发挥影响力的最关键时刻发生在系统上线之后。这是现实世界影响的细微差别变得可见的时候。如果没有持续参与的机制，反馈回路就会断裂。系统变成了一个“镜像大厅”，只反映开发者的内部指标，而非受其影响的人们的真实生活体验。
重塑叙事：纵向能动性
最终，参与式人工智能的目标应该是建立纵向能动性。这意味着创建一种结构，让利益相关者在技术的整个生命周期中不仅是顾问，而且是共同治理者。这需要从“一次性”参与转向“持久性”参与。
用日常术语来说，这可能看起来像是由社区主导的审计委员会，他们有权触发系统审查；或者是“人机回圈”机制，将当地知识置于算法效率之上。这涉及到承认：一位了解社区社会结构的居民所具备的专业知识，与一位了解神经网络架构的数据科学家所具备的专业知识同样至关重要。
值得思考的问题
当我们在这个不断变化的格局中航行时，我们必须问自己关于数字时代权力本质的令人不安的问题。如果你参与了一个科技项目，请思考以下反思：
- 谁在治理演进？ 如果人工智能系统明天改变了行为，社区是否有清晰、便捷的途径进行干预？
- 这种参与是变革性的还是表演性的？ 利益相关者的输入是否有权停止一个项目，还是只能微调其边缘？
- 我们能否跨越工作坊？ 我们如何构建数字基础设施，以实现持续而非片段式的公民参与？
通过将人工智能治理视为一份生动的社会契约，而非静态的技术要求，我们可以开始弥合参与的承诺与权力的现实之间的鸿沟。目标不仅是构建更好的人工智能，而是构建一个技术服务于人类集体韧性，而非仅仅服务于机器效率的社会。
来源
- 对 80 个参与式人工智能倡议及“参与清洗”现象的分析。
- 《经合组织人工智能原则》关于利益相关者参与和可信赖人工智能的内容。
- 《欧盟人工智能法案》中关于基本权利影响评估和利益相关者参与的规定。
- 关于“流动的现代性”和公民生活原子化的社会学框架。
- 关于技术论述中“用户”与“利益相关者”演变的语言学研究。
