关于本中文版的说明  /  Note sur cette version chinoise

本日报作者不通中文。这些译文由人工智能自动生成,作者本人无法亲自核对其语言准确性和文化适切性。我们以谦逊和真诚的态度发布此版本,希望与中文读者建立连接。若发现翻译错误、表达不当或文化误读之处,恳请告知 — 我们将虚心接受并改进。

L'auteur du Journal d'un Progressiste ne parle pas chinois ; ces traductions sont produites par intelligence artificielle et n'ont pas été vérifiées par lui. Cette version est publiée dans un esprit d'échange et d'humilité — vos retours sur les erreurs éventuelles ou les contresens culturels sont les bienvenus.

— 《进步者日报》编辑部  /  La rédaction

德勤AI研究所2026年1月发布的《企业AI现状:未开发的边缘》显示,全球74%的受访企业计划在未来两年内至少适度使用AI代理。但大多数企业尚未指定任何人对这些代理的错误负责。

技术成熟度只是问题的一个维度。这份调查覆盖24个国家、3,235名高管,结果显示:仅21%的企业建立了成熟的AI代理治理模式,84%尚未围绕这些工具重新设计岗位。部署速度与制度适应速度之间的落差,形成了一个责任真空——重大决策在此发生,却无人知晓真正的决策者是谁。

核心要点

根据德勤《企业AI现状:未开发的边缘》(2026年1月),74%的受访企业计划在两年内使用AI代理,但84%尚未重新设计岗位,仅21%建立了成熟治理。核心风险不是失业,而是自主代理出错时责任链缺失。已重新定义岗位并建立人工监督协议的企业,在可衡量的成果上优于仅部署代理的企业。

75%计划部署,21%实施治理:真空的算术

人类交易员做出错误决策,我们知道该找谁。AI代理批准一笔贷款、触发一份订单或淘汰一名候选人,因果链就模糊了。谁配置了这个代理?谁验证了它的决策阈值?出错时谁在监督?

这些问题并非假设。它们已在开始部署代理的企业中出现,答案往往令人尴尬。毕马威第四季度AI脉搏调查证实了同一趋势:采用在加速,治理在慢慢跟进。两者之间的差距不是统计上的趣闻,而是制度真空的写照。

这一真空有其内在逻辑。AI代理承诺立竿见影的生产力提升。治理则成本高昂、进展迟缓,无法给董事会提供亮眼指标。于是,部署先行,组织结构在后。

研究科技政策与AI监管的研究员米洛·里涅尔指出:部署决策由激励导向短期绩效的行为者做出,治理却要求投资于收益分散且延迟的事项。若无外部纠正——来自监管或市场约束——这一差距往往只会扩大。

这套机制与其他技术转型如出一辙:工具先到,使用方式即兴摸索,规则在事故之后才出现。AI代理的不同之处在于,它的决策可能波及第三方、预算和职业生涯,而可追溯性在大多数情况下至今仍是可选项。

为何失业是错误的话题

关于AI与工作的公共讨论,被失业问题占据。这可以理解,但转移了对数据所揭示的更紧迫问题的注意力。

84%的企业尚未围绕AI代理重新设计岗位,说明一个具体问题:与代理共存的人类员工,角色没有被重新定义。他们仍按旧有岗位描述工作,没有明确哪些决策属于他们的判断,哪些属于代理的判断。这种模糊性在日常管理中令人不安,在法律上更是脆弱:一旦出错,归责几乎无从实现。

研究技术转型的经济学家达龙·阿西莫格鲁和西蒙·约翰逊在分析技术如何惠及多数人时指出,技术首先重构的是权力关系和决策链,而不只是替代劳动力。谁控制代理?谁能叫停它?谁知晓它的决策?这些内部治理问题对人类工作的影响,远大于就业增减的数字。

有一个值得参考的先例。1990年代自动化改造生产线时,将操作员重新定义为流程监督者而非执行者的企业,长期表现优于那些只用机器替代人手的企业。这一教训仍然适用:工具本身不够,决定结果的是它在重新设计的组织中如何整合。农业自动化中也出现过类似动态:生产力提升伴随着角色的深度重组,而地方机构未能预见。

已开始重新定义岗位的企业获得更多成果

德勤的数据提供了一个直接对比:投资于岗位重新定义和人工监督的企业,与仅部署代理的企业相比,在生产力、团队满意度和代理决策质量上,均取得了更高的可衡量成果。

这个结果并不难理解。AI代理在参数设定的目标内运行。参数校准不当,代理就会高效地优化错误目标。人工监督不是检查每一个决策——那样会抵消生产力收益——而是保持对边缘案例的干预能力、检测系统性偏差并及时调整参数。

将监督角色正式化的企业——指定明确负责人、设定超出阈值须寻求人工验证的规则、记录代理决策以备审计——正在构建责任架构。不这样做的企业,构建的是不透明架构。

管理审慎是基本要求,法律层面的压力同样在增加。在决策直接影响第三方的行业——信贷、保险、医疗、招聘——责任链缺失已引起法律专家和监管机构的关注。AI代理能否成为法律意义上的”决策者”,在大多数司法管辖区仍未有定论。在裁决出现之前,未建立人工监督协议的企业处于法律盲区。

在差距演变为社会问题之前,有两种路径

采用与治理之间的差距并非固定不变。根据当前信号,到2030年可能出现两种轨迹。

第一种是事故倒逼的收敛。某个自主代理在高风险场景下出错:基于未被发现偏见的信贷拒绝、AI辅助协议中的医疗失误、被起诉的自动化解雇。事故经媒体曝光,迫使监管机构行动。企业被迫快速建立本可逐步形成的责任框架。治理追赶部署,但代价高昂。欧盟的AI法案于2024年生效,已针对高风险系统部分预见了这一情景。美国的框架仍以行业为主、高度碎片化。

第二种是预防性治理。早期投资于岗位重新定义和人工监督的企业,在决策质量、应对错误的韧性、向客户和监管机构证明合规性等方面形成竞争优势。这一优势产生示范效应。治理标准在监管强制之前就因竞争压力而提升。那21%拥有成熟治理的企业成为市场基准,而非少数特例。

这两条轨迹并不互斥。监管压力可以加速竞争动态,反之亦然。但它们对应不同的集体需求。第一种情景下,迫切需要的是算法决策的法律责任框架,让法院能够判定谁对代理错误负责、依据什么标准。第二种情景下,需求更偏向方法论:自动化决策的可审计标准、按行业调整的人工监督参考框架、以及让治理具有可比性和可验证性的认证机制。

判断哪条轨迹占主导,有两个关键信号。一是拥有成熟治理的企业比例:如果这一数字在无重大触发事故的情况下超过30%,预防性情景正在形成。二是首批AI代理决策诉讼:其性质、结果和媒体关注度将决定制度回应的速度与形式。欧洲AI办公室负责监督AI法案的实施,它提供的数据也将间接折射出美国的情况。

领先企业的具体做法

已开始填补差距的企业没有统一模式,但实践上趋于几个共同方向。

岗位重新定义从决策映射开始。这些企业明确了哪些决策由代理做出、哪些由人类负责、哪些需要事前或事后人工验证。这份映射不是内部政策文件,而是责任重组的基础。对受影响的员工,这意味着角色的明确重新定义:从执行者变为流程监督者,负责检测异常和处理边缘案例。

在这些组织中,人工监督是明确制度化的,而非默认存在的。超出阈值时代理必须上报并等待验证;决策日志被保留以供审计;定期审查代理的决策记录,在系统性偏差演变为事故前加以识别。

在治理层面,这些企业指定了明确负责代理绩效和错误的责任人。部分情况下,这一责任由技术、法律和运营团队共同组成的跨职能委员会承担。目标不是放慢部署,而是确保在代理做出第一个重大决策之前,责任链已经就位。

这种方法不能消除错误风险。AI代理会犯错。德勤和毕马威的数据所提出的问题,不是错误是否会发生,而是错误发生时,所在组织是否有能力应对:快速识别、查明原因、修正参数、并承担责任。正是这种应对能力——而非无事故记录——区分了治理成熟的组织与其他组织。

监管是信号,不是解决方案

面对这一差距,等待监管出台标准是一种诱惑。这种等待短期内看似理性,中期则存在风险。

米洛·里涅尔和其他科技政策研究者指出,监管在编纂已被验证的实践时有效,在发明行为者尚未测试的解决方案时则不然。欧洲AI法案的构建借鉴了行业和研究中已有的实践。在美国,监管框架更加碎片化,事实标准往往先由企业自行形成,再被行业监管机构正式采纳。

对于美国企业,监管前景仍不明朗。对AI代理部署标准影响最大的大型科技平台,倾向于统一规则而非各州分散立法,但在规则的具体形式上立场分歧显著。实际使用代理的企业则倾向于行业参考框架,以便向客户和监管机构证明合规性。

在这种背景下,现在投资于治理的企业不只是在管理风险。它们在建立一种组织能力,这种能力将成为前提条件——无论这一条件由监管还是市场预期来施加。关键问题是:这一投资是否足够早,让治理走在事故前面,而不是跟在后面。未来两三年将开始给出答案。


来源

  1. 毕马威第四季度AI脉搏调查
  2. 德勤2026年企业AI现状——官方新闻稿,《企业AI现状:未开发的边缘》(德勤AI研究所,2026年1月)(对24个国家3,235名高管的调查)
  3. 达龙·阿西莫格鲁与西蒙·约翰逊,《权力与进步》,PublicAffairs,2023年,MIT塑造工作
  4. 欧洲AI法案——欧盟法规2024/1689——EUR-Lex
  5. 欧洲AI办公室——欧盟委员会官方页面
  6. 德勤——AI代理扩展速度快于其护栏
  7. 国家法律评论——代理型AI的法律考量