本日报作者不通中文。这些译文由人工智能自动生成,作者本人无法亲自核对其语言准确性和文化适切性。我们以谦逊和真诚的态度发布此版本,希望与中文读者建立连接。若发现翻译错误、表达不当或文化误读之处,恳请告知 — 我们将虚心接受并改进。
L'auteur du Journal d'un Progressiste ne parle pas chinois ; ces traductions sont produites par intelligence artificielle et n'ont pas été vérifiées par lui. Cette version est publiée dans un esprit d'échange et d'humilité — vos retours sur les erreurs éventuelles ou les contresens culturels sont les bienvenus.
— 《进步者日报》编辑部 / La rédaction

2026年1月至2月,新加坡和美国国家标准与技术研究院(NIST)相继推出AI代理专项举措;欧盟此前已有2024年生效的《人工智能法案》。三份文件目标部分重合,但法律地位和运作机制各不相同。没有证据表明它们在刻意互相回避。据云安全联盟数据,82%的受访组织在过去一年内至少发现一个此前未知的AI代理运行于自身环境中。法律总是滞后于技术,这在网络技术领域并不罕见,但这一次差距格外悬殊——而且代理不是被动工具。
要点
- 新加坡、NIST和欧盟在2026年1月至2月几乎同步推出三个AI代理治理框架,没有设计任何趋同机制。
- 82%的企业部署自主代理时未知会安全团队(Zylos Research,2026年):企业实践在公共标准出台之前已成为事实标准。
- AI代理与此前系统的关键区别:它们在组织内部系统中自主行动,做出连锁决策,并可将子任务委托给其他代理,责任追溯因此极为困难。
- 各国际框架之间的差异可能引发监管碎片化。
- Gartner预测,到2027年,40%的企业AI代理部署将因内部治理不足而被放弃或降级。
代理不像它们所取代的工具
传统AI系统接收请求、输出结果、然后停止。自主代理接收目标,规划执行步骤,在第三方系统(邮件、数据库、支付接口、开发工具)中执行操作,并可将子任务委托给其他代理。部分代理能在人工监督有限的情况下连续执行操作,但人工验证的程度取决于设计、权限和部署控制。
代理需要对现有框架进行调整和补充,而非必然使这些框架整体失效。审计、可追溯性和责任规则是为确定性系统设计的:一个输入、一次处理、一个可识别的输出。代理的出现改变了这一链条:从人类的初始决策到关键系统中的最终操作,中间可能跨越多个代理,每个代理各按自身参数运行。链条中段出现错误时,责任归属在相关司法管辖区引发了法律疑问。
据云安全联盟数据,82%的受访组织在过去一年内至少发现一个AI代理或工作流此前不为安全或IT团队所知。在其他技术领域,如此大规模的部署绕过IT安全部门,属于明显疏忽。在AI代理领域,这已成为常态。原因直接:这类部署往往由业务团队通过SaaS平台完成,不经过IT部门。易用性制造了这种不对称。
三份严谨的文本,各行其道
新加坡资讯通信媒体发展局(IMDA)于2026年1月22日发布的框架建议了治理实践,包括技术控制和人工监督,但不设定监管义务。该框架建议限制代理权限、确保有意义的人类责任、部署技术控制,并不为每个代理创设通用的日志、边界和停止按钮义务。该框架要求组织根据风险评估代理的自主程度和访问权限,没有提出二元分类。这一区分有实际价值,另外两份文件均未涉及。
NIST的倡议旨在推动行业标准、开放协议以及代理安全、身份和互操作性研究,目前尚未设定具体义务。该倡议延续了美国自愿标准的传统,定位是良好实践指南而非约束性框架。其优势是模块化:企业可以部分采用,有助于快速推广,但存在选择性采纳的风险,容易架空文本的实质内容。
《人工智能法案》分阶段实施:部分规则自2026年8月2日起适用,附件三关于高风险系统的规则自2027年12月2日起适用。对相关高风险系统,该法案要求在上市或投入使用前完成合格评定,提交文档和日志,并在规定情形下向欧盟数据库登记。该法案的适用范围主要依据系统的角色、类型、预期用途及风险程度确定,部分高风险类别针对特定领域。
三份文件在治理主题上有部分共通之处,但法律地位、适用范围和细化程度差异显著。一家企业可能同时受多个体系约束,具体取决于其业务、角色和市场,须逐案判断;IMDA框架属于自愿性质。监管碎片化在其他领域已被证明是增长的阻碍;对AI代理而言,这一问题出现在实践尚未固化为难以纠正的习惯之前。
治理之前的先占:一个已知的机制
专注于技术与治理关系研究的学者亚当·贝克尔(Adam Becker)记录了一个在网络技术史中反复出现的机制:技术推广者的乐观情绪往往系统性地低估系统性风险,直到实践根深蒂固,任何实质性监管都会遭遇强大阻力。推广者未必出于恶意,他们真诚地相信自己部署的技术,但评估视野局限于成功用例,而非级联式的失败。
云安全联盟公布的82%这一数字印证了这一机制。这些组织并非在规避监管——它们在试验,发现技术适用于目标场景,然后扩大规模。治理问题只会在之后显现:当一个代理在关键系统中做出意外操作,当审计揭示出无从追溯的决策,或当安全漏洞追溯到无人记得授权过的代理。
这一判断存在竞争性观点,同样值得认真对待。研究技术采用效果的经济学家——菲利普·阿吉翁(Philippe Aghion)分析熊彼特式创造性破坏,卡尔·贝内迪克特·弗雷(Carl Benedikt Frey)研究创新周期——认为过早、过严的治理可能在技术发挥生产潜力之前就将其扼杀。自主代理或许正是发达经济体二十年来所寻求的生产力跃升:在尚未厘清用途之前就以沉重合规义务加以束缚,将是与放任自流对称的另一种错误。
这种张力是真实存在的,但并不均等地适用于所有类型的代理。自动化仓库库存管理的代理与做出信贷决策或管理关键系统访问权限的代理,风险截然不同。IMDA和《人工智能法案》都采用了基于风险的方法,但机制各异;NIST倡议目前尚未制定按类型和风险级别对代理进行的通用正式分类。
治理一个先于观察而行动的行动者
将权力集中于单一接口是大型数字平台已有记录的风险。代理的出现使这种集中发生了位移:接口仍然可见,但决策在更上游做出,处于最终用户乃至部署组织通常实时看不到的自动化层中。治理这一层需要相应的工具。
核心技术问题是代理链的可追溯性。多代理架构可能增加责任归属的复杂度,需要强化身份、授权和日志记录机制。三个框架均认识到这一问题。《人工智能法案》对相关高风险系统要求具备自动记录事件的技术能力;IMDA和NIST的框架提供或正在开发技术控制和自愿标准。NIST等标准化工作若能获得足够资源和时间,恰好可以填补这一技术空白。
第二个较少讨论的问题是代理间的交叉验证。当一个代理将子任务委托给另一个代理时,并非所有框架都明确规定了代理间权限验证的方式。这是一个设计缺陷,将代理链变成潜在的权限升级载体:一个恶意或配置不当的代理,可以指示权限范围更广的代理执行前者无权直接启动的操作。
2028年将解决或仍悬而未决的问题
2027至2028年这一时间窗口具有决定性,原因有两个。其一,自2026年8月2日起,部分规则和执行机制开始适用,主要期限的全面落实延续至2028年8月2日。其二,Gartner预测,到2027年,40%的企业将在生产事故后因识别出治理缺陷而降级或停用自主AI代理。
这一时间节点有两条可能的路径。第一条:监管碎片化持续存在,但同时在三个司法管辖区运营的大型科技公司开发出内部标准,这些标准事实上趋同于一个最低限度的国际规范。这是《通用数据保护条例》(GDPR)模式移植到代理领域:一个主要司法管辖区的高标准通过渗透效应形成全球基准。这条路径有先例可循,但前提是美国企业愿意接受部分由布鲁塞尔和新加坡定义的义务,这一点并非理所当然。
第二条路径:三个框架维持平行状态,各自在其辖区内适用,没有协调。企业按运营司法管辖区分别开发合规实践,成本叠加、规则冲突随之而来。这一场景下,受益最多的是能够承担多重合规成本的大型平台,损害的是无力承担的中小参与者。碎片化的治理成为在位者的竞争优势。
第三种路径可能性较低,但不可排除:由某个国际组织推动趋同,例如经合组织(OECD,已于2019年制定AI原则)或二十国集团(G20,轮值主席国经常轮转至技术利益各异的国家)。实现这种趋同需要一个触发事件:关键系统中的代理级联故障、三个司法管辖区之一的重大司法判决,或某个有意推动协调的行动者发起外交倡议。新加坡的框架在三者中最为精确,其经济战略又依赖于成为全球科技企业的参考司法管辖区,具备扮演这一角色的条件。
2026至2027年在自主代理治理上做出的决定,将对各社会能否对日益关键的决策系统施行民主控制产生持久影响。谁控制开放标准的问题在信息领域已经提出;如今同样的问题指向在信息系统中行动的代理。答案不尽相同,但关于标准被主导行动者俘获的教训可以直接适用。
可用于判断的信号
三个指标将在2027年底前显示我们处于哪条路径。第一个:新加坡IMDA、NIST和欧盟委员会之间是否建立联合工作组——关于标准兼容性的正式技术会议表明政治趋同的意愿,缺失则确认有意识的碎片化。第二个:《人工智能法案》首批执法决定的内容——若欧洲监管机构对非欧洲企业在欧盟内部署的代理采取严格解释,向上趋同的压力将显著增大。第三个:大型代理部署平台的选择——微软Copilot Studio、谷歌Agentspace、Salesforce Agentforce各有内部标准,若它们以新加坡框架作为参考,意味着最精确、最可操作的文本胜出,司法管辖区规模不再是决定因素。
自主代理的治理需要协调利益、时间表和工具各不相同的多方行动者,工程师无法单独解决,律师同样不能。截至2026年,至少有两项明确针对AI代理的公共举措:IMDA的代理框架和NIST的标准倡议。现在的关键,是这些机构能否在企业实践使趋同变得困难之前完成协调。
来源
- 新加坡IMDA,《生成式AI模型治理框架》,2026年1月,https://www.imda.gov.sg
- NIST,《AI代理标准倡议》,2026年2月,https://www.nist.gov/artificial-intelligence
- 欧盟人工智能法案,分阶段实施至2026年8月,https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- Zylos Research,《AI代理治理与合规2026》,2026年5月,https://zylos.ai/research/2026-05-01-ai-agent-governance-compliance-2026/
- Gartner,《企业AI风险调查2026》,Gartner Inc.,2026年
- Adam Becker,技术与治理研究,https://www.adamkbecker.com
- OECD,《关于人工智能的理事会建议》,2019年,https://oecd.ai/en/ai-principles