已部署的AI智能体问题频发，治理严重滞后

过去十二个月，65%部署了AI智能体的组织至少遭遇过一次相关网络安全事件，其中61%涉及敏感数据。这组数据由云安全联盟和Token Security于2026年4月发布，描述的不是未来风险，而是当下正在发生的事——那些在建立治理体系之前就已部署智能体的企业，正在付出代价。

AI智能体的争论持续了两年，围绕两个阵营：一方认为其普及将大幅提升生产力，另一方担忧工作岗位被取代。两方各有道理。但2026年真正的问题在别处。智能体已进入现实世界，它们行动、执行、决策，而没有人建立起管控它们的机制。

要点

• 云安全联盟和Token Security（2026年4月）数据显示，65%的组织在十二个月内遭遇过与AI智能体相关的网络安全事件，其中61%涉及敏感数据。
• Gartner预测，到2027年，40%的企业将因管控不足而降级或关闭其智能体。
• 问题并非单纯技术层面：根源在于缺乏对智能体身份识别、权限边界划定和决策可追溯性的制度框架。
• 现在就着手建立治理规范的组织能够保留其系统；其余组织将耗费两到三年重建内部和监管信任。

承诺兑现了，麻烦也来了

有一点必须先说清楚：危言耸听和盲目乐观都失实。AI智能体确实做到了人们承诺它们能做的事。它们自动化复杂工作流程，无需持续人工监督即可串联执行任务，处理的数据量远超人工处理的上限。在金融、物流、客户支持和研究领域，有记录的效益是真实的。

正因如此，部署速度持续加快。竞争压力巨大：使用AI智能体实现自动化的企业，在速度和成本上都压过不这么做的对手。《财富》杂志及Gartner在2025至2026年间的多份报告显示，中型组织正在快速跟进——这些组织有能力部署，却未必有团队负责监管。一种新创业模式正在兴起：一个人单独操控一支智能体团队，管理整个业务流程。这种模式真实且高效，但需要一套许多人尚未具备的管理纪律。

结果是两条曲线越拉越远：部署智能体的能力快速提升，治理智能体的能力远远落后。

“惹事”指的是什么

云安全联盟记录的事件，并非那种引人注目的重大故障。大多数情况既平常，又严重。

一个负责自动化客户沟通的智能体，在日常操作中访问了本不应访问的内部数据库。它并非恶意为之，只是没有人给它划定严格的访问权限边界。另一个处理金融文档的智能体，为完成任务将数据复制到外部存储空间——这一行为无人预见，没有规则阻止，也没有任何记录留存。第三个负责协调人力资源流程的智能体，依据已过期的数据对员工档案作出了决策。

三个案例中，智能体都完成了自己的任务。问题出在运行环境配置不当：没有智能体身份注册表，没有正式的权限边界，没有决策追溯系统。这三项缺失，正是云安全联盟报告指出的核心问题。

这看起来是技术问题，实质上是企业制度问题。信息系统中对人类身份的管理花了几十年才成熟：每名员工有标识符、有定义好的访问权限、有活动日志。AI智能体到来时，没有携带这套制度基础。在许多组织中，没有人确切知道当前有多少智能体在运行、它们接触哪些系统、是谁部署的、上周做了什么。

40%的企业准备关闭智能体：Gartner真正衡量的是什么

Gartner的预测需要仔细解读。40%的企业将在2027年前降级或关闭智能体，这不是对技术失去信心的信号，而是市场走向成熟的信号。

技术周期遵循一个规律。第一波部署往往在竞争压力下仓促推进，组织还没有准备好消化新事物的流程。部分部署引发事件、监管摩擦，或结果低于预期。部分组织随后后退、重组，在更严格的管控下重新部署。这不是技术的失败，而是技术倒逼制度升级。

Gartner真正提出的问题是：在那40%关闭智能体的企业中，有多少是被迫的（事件、监管压力、网络保险公司要求），有多少是主动的（为了在更扎实的基础上重建）？两种路径的差异，以年计算。遭遇严重事件的组织——敏感数据泄露、错误自动化决策导致法律后果、经核实的违规行为——面临的不只是技术问题，还有需要重建的信任，无论是内部信任还是与监管机构之间的信任。

智能体治理：做得好的组织在做什么

有些组织大规模部署AI智能体，却没有遭遇云安全联盟报告中记录的那些事件。原因不在于技术不同，而在于它们将部署同时视为工程问题和制度问题。

区分这些组织的实践，体现在三个原则上。

第一是每个智能体的身份管理。在信息系统中行动的智能体必须可识别：谁创建的、何时创建、用于做什么、拥有什么权限。没有身份注册表，就无法在事件发生后还原经过，也无法划清责任。工具已经存在——机器身份管理方案在2025至2026年间快速发展，HashiCorp、CyberArk等公司以及多家专业初创企业均有布局。但采用率仍然不足。

第二是权限边界划定。智能体只能访问完成任务所必需的系统。”最小权限”原则在计算机安全领域由来已久，但将其应用于AI智能体是新课题，技术上也更复杂。智能体通常以动态方式运行，串联调用不同系统。静态边界不够用，需要根据任务上下文进行实时访问控制。

第三是决策可追溯性。智能体每一项重大操作——金融交易、数据移动、人事决策——都必须留有人类可读的记录。不只是技术日志，而是可理解的说明：智能体为何作出该选择、当时的背景是什么、依据的初始指令是什么。这是审计的前提，也是监管机构开始明确要求的内容。

欧盟《人工智能法案》自2024年起逐步实施，对高风险AI系统提出了可追溯性要求。在人力资源、信贷、保险、医疗领域运行的智能体属于这一范畴。提前布局的组织，顺带建立了稳健治理的基础。没有布局的组织，将在遭遇运营事件的同时撞上监管要求。

安全团队没有预料到的问题

AI智能体带来的安全挑战，与传统软件有结构性的不同。软件执行的是被编码要求它做的事。智能体可以自主推断如何完成任务，串联工具，自行决定一系列行动。这种自主性是其价值所在，也使其边界难以预判。

企业安全团队有成熟的软件评估方法：渗透测试、代码审计、访问审查。这些方法不足以应对可能在操作过程中调用第三方API、生成并执行代码、或决定发送外部通信的智能体。攻击面是动态的，取决于上下文、任务和时机。

云安全联盟记录了一种尤为令人担忧的攻击类型：间接提示注入攻击。攻击者将指令嵌入智能体将要处理的文档或网页中。智能体以为在执行合法指令，实际上执行的是攻击者的命令——数据外泄、文件篡改、敏感信息传输。这一攻击向量早在2023年就已针对通用大语言模型被正式描述，但智能体因攻击面更广、自主行动后果更重，大幅放大了这一风险。传统安全手册中没有对应的应对方案。

技术层面的防御措施存在：指令源验证机制、智能体输出过滤、将能访问敏感数据的智能体与能访问执行系统的智能体隔离的架构设计。但落地实施需要专业知识，大多数安全团队仍在学习中。AI技能已能带来显著的薪资溢价，但专门针对智能体系统安全的人才依然稀缺且价格高昂。

2027年的问题不是要不要智能体

有人会得出结论：谨慎意味着放慢速度。部分组织会这样做——Gartner的数据已经反映了这一点。但减速不是持久策略。智能体带来的实际生产力提升制造了竞争压力，关闭智能体的企业不可能长期视而不见。真正的问题不是”要不要部署智能体”，而是”如何部署才能不失去控制”。

在未来十八个月内回答这个问题的组织，将拥有持久优势。不是因为技术更好，而是因为它们具备大规模运行自主系统所需的流程、技能和制度信任。监管机构、保险公司、合作伙伴和客户都在越来越明确地要求这种能力的证明。智能体治理不是合规成本，而是运营前提。

围绕AI智能体建立的管理规范，在结构上类似于航空业自20世纪80年代起对驾驶舱自动化的处理方式。问题从来不是取消自动化——它让飞行更安全。而是精确定义：自动驾驶仪在哪些情境下独立运行，在哪些情境下向飞行员报警，机组如何重新接管。这项制度性工作花了十年，产生了至今仍在适用的国际标准。AI智能体的运行环境远比驾驶舱复杂，但逻辑一致：自主性有用，前提是边界清晰，决策可追溯。

到2027年关闭智能体的企业，问题不在于技术不够好，而在于部署时没有完成这项基础工作。

来源

1. 云安全联盟 / Token Security，《自主但不受控：AI智能体事件在企业中已很常见》（2026年4月21日）— https://cloudsecurityalliance.org/press-releases/2026/04/21/new-cloud-security-alliance-survey-reveals-82-of-enterprises-have-unknown-ai-agents-in-their-environments
2. Gartner，2027年AI智能体部署预测 — Gartner报告（无可验证URL）
3. 欧盟人工智能法案（AI Act），《欧盟官方公报》，2024年
4. Gartner – 预测40%的智能体项目将在2027年前被取消（2025年6月）— https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
5. Gartner – 预测40%的AI智能体将被降级/退役（2026年5月）— https://www.gartner.com/en/newsroom/press-releases/2026-05-26-gartner-says-applying-uniform-governance-across-ai-agents-will-lead-to-enterprise-ai-agent-failure
6. 欧盟AI法案 – 《欧盟官方公报》（2024年7月12日）— https://artificialintelligenceact.eu/the-act/
7. 欧盟AI法案 – 附件三（高风险AI系统）— https://artificialintelligenceact.eu/annex/3/
8. Kiteworks – CSA/Token Security报告分析文章 — https://www.kiteworks.com/cybersecurity-risk-management/ai-agent-security-incidents-2026/