新加坡IMDA发布全球首个Agentic AI治理框架：四大领域规范AI自主行为

当AI系统开始在仓库里搬运货架、在街头送外卖、在城市里调度车辆——传统的AI治理框架突然发现，自己只擅长处理文字和图片，根本管不住这些会”动手”的AI。

5月20日，新加坡信息通信媒体发展局（IMDA）发布了Model AI Governance Framework for Agentic AI Version 1.5。这是全球首份专门针对Agentic AI的政府级治理框架。与其说是”发布”，不如说是新加坡在AI治理战场上的一次卡位。

为什么是现在？

过去两年，大语言模型的能力爆发，让AI从”对话”走向”执行”。Agentic AI系统可以自主规划多步骤任务、调用外部工具、控制物理设备、完成用户定义的复杂目标。这带来了前所未有的治理挑战：传统的AI治理框架主要关注线上危害——偏见、虚假信息、有害内容——但对于可以在物理世界造成实际影响的AI系统，这些框架远远不够。

“数字领域的任何风险，在物理领域都会被放大，而且物理领域会产生真实的后果。”清华大学AI研究院院长张亚勤在新加坡AI峰会上这样说。他的判断是：车辆、无人机、智能电网等基础设施，可能会随着AI系统更深地嵌入物理操作而暴露在新的风险之中。

Grab样本：AI部署的实操经验

新加坡Grab正在其Punggol区试点自动驾驶汽车和配送机器人。Grab CTO Suthen Thomas Paradatheth在峰会上分享了部署经验：”我们做大量仿真测试，在封闭场地和开放场地测试，确保机器人的可靠性。在扩展到数百台机器人之前，我们先在仿真环境中验证，然后小规模部署。”

Grab的实践揭示了一个关键认知：Agentic AI的治理，本质上是deployment-based governance——基于部署的治理。传统的一过性认证（one-time certification）已经失效，系统需要持续的监控、仿真迭代和部署后测试。

IMDA框架的四个核心领域

新加坡IMDA框架将Agentic AI治理分为四个领域，构成一个迭代循环而非一次性评估：

1. 上线前风险评估（Upfront Risk Assessment）

组织需要根据以下因素评估Agentic AI的使用场景：

• 数据访问权限
• 外部系统访问权限
• 自主程度和任务复杂度
• 行动的范围和可逆性
• 第三方参与度
• 系统整体复杂度

这个评估不是一次性检查，而是持续迭代的基础。

2. 人类问责（Human Accountability）

这是最具挑战性的领域。IMDA指出，当AI Agent具备高度能力时，连续审查所有工作流程变得不实际——人不可能7×24小时盯着AI做决策。

框架建议采用“检查点审批”模式：

• 高风险行动前需要人类批准
• 不可逆操作需要明确授权
• 异常行为需要触发人工介入

但IMDA也识别了两个关键风险：

自动化偏差（Automation Bias）：当人类过度依赖AI推荐时，可能会忽视不一致的证据或关键信号。

预警疲劳（Alert Fatigue）：当人类需要监督大量AI操作时，常规的预警会变得无效。

框架建议通过人类覆盖率和响应时间等指标审计监督有效性，并使用自动化实时监控标记异常行为。

3. 技术控制（Technical Controls）

IMDA建议的技术措施包括：

• 限制Agent对工具和系统的访问权限
• 应用最小权限原则
• 定义Agent工作流程的标准操作程序
• 建立将故障Agent下线的机制

4. 最终用户责任（End-User Responsibility）

用户需要被告知：

• Agent可以执行哪些操作
• Agent可以访问哪些数据
• 用户自身保留哪些责任

框架还建议对员工进行培训，使其了解人机交互、有效监督，以及评估Agent输出所需的专业技能。

责任扩散：一个多方参与的难题

Agentic AI的价值链涉及多个参与方：AI开发者、机器人制造商、半导体供应商、基础设施运营商。当系统在部署后通过软件更新、遥测数据和运营数据持续适应时，责任归属变得更加复杂。

IMDA的立场是：组织和人类对Agent行为负责，即使Agent自主运行。框架呼吁在Agentic AI价值链上明确划分责任——从模型和平台提供商，到部署者、工具提供商和最终用户。

治理框架的地理扩散

新加坡不是唯一在推进AI治理的国家。日本东京大学工程研究生院的Yutaka Matsuo教授提到，日本正在通过”AI协会”项目收集100,000小时的机器人数据，用于支持机器人基础模型。同时，日本的AI安全研究所和广岛AI进程正在与新加坡及其他亚洲国家合作，开发 embodied AI 系统的治理标准。

中国机器人创业公司Galbot已在零售、仓库和制药运营中部署人形机器人系统，包括全天候运营的自主商店。Galbot首席战略官Zhao Yuli表示，半结构化工业环境很可能成为早期商业化路径。

对中国AI行业的启示

新加坡IMDA框架的发布，对中国AI行业有直接参考价值：

首先，这是一个可以落地的实践指南，而非抽象原则。框架提供了具体的评估维度、控制措施和监督机制，企业可以直接参考建立自己的Agentic AI治理体系。

其次，”检查点审批”模式值得借鉴。连续审查不现实，但完全撒手也不负责任——在关键节点设置人工批准，是平衡效率和安全的务实选择。

第三，责任链划分具有参考意义。框架明确将AI开发者、部署者、工具提供商和最终用户的责任分开，有助于在复杂的AI服务关系中建立清晰的问责机制。

最后，仿真测试和持续监控的重要性值得重视。Grab的经验表明，在仿真环境中验证 before 真实部署，是降低Agentic AI风险的有效手段。

当AI开始”动手”——搬运货架、控制机器人、调度车辆——治理框架的职责也从”管理内容”扩展到”管理行为”。新加坡IMDA的这份框架，是一个及时的起点。对中国AI行业而言，理解并参考这一框架，将有助于在Agentic AI浪潮中建立更安全的部署实践。

毕竟，当AI开始影响物理世界时，治理不能只停留在屏幕上。