问一位技术负责人:公司内部此刻正在运行多少个AI智能体?得到的诚实回答通常是“不知道”。智能体是一个团队一个团队地进来的:某位工程师终端里的编码助手、市场部门的聊天工具、CI流水线里的后台任务、从GitHub README安装之后就被遗忘的模型上下文协议(MCP)服务器。许可证数量不等于运行中的智能体数量,就算有人给出自信的答案,依据往往也是组织无法核实的来源。一家构建企业级AI控制平面的公司的工程负责人认为,解决问题要从改变衡量对象开始:观测智能体会话而不是Web请求,为每个会话追踪三个维度,并按固定顺序加入管控措施,让开发者不会绕道而行。
为什么没人数得清自己的智能体
智能体并不集中在一个地方。主要的执行环境包括:
- 终端和IDE中的编码智能体:Claude Code、Cursor、GitHub Copilot、Codex
- 各部门使用的网页聊天界面:Claude、ChatGPT、Google Gemini
- 安装在开发者笔记本电脑上的本地MCP服务器
- 无人值守的CI/CD流水线和后端工作负载
- 连接专有数据库和数据仓库的内部定制助手
- 完全没有管理日志的员工个人账户
这种规模并非纸上谈兵。一家治理平台公布的七天生产流量数据显示,其治理了约130万次智能体工具调用(较8月增长105%)、534名独立用户(增长30%)和110台托管MCP服务器(增长约156%,即约2.5倍)。指导原则很简单:无法监控的东西就无法管理。
会话才是观测单位
传统应用监控围绕HTTP请求构建:请求在毫秒内完成、行为确定、命中单一入口服务。智能体打破了其中每一条假设。
| 维度 | Web请求 | 智能体会话 |
|---|---|---|
| 时长 | 毫秒 | 数分钟、数小时、数天甚至数月 |
| 行为 | 确定性 | 非确定性 |
| 范围 | 单一入口服务 | 众多后端系统 |
| 结构 | 单次调用 | 在编排智能体之下分叉出多个子智能体 |
一个会话由四部分组成:谁(人类或自动化智能体的身份)、运行框架(界面或容器,如Claude Code、Cursor或Copilot)、模型(单个大语言模型或多模型路由)以及动作(提示词、工具调用、MCP交互、Shell执行、文件编辑)。为API设计的分布式追踪无法捕捉这条轨迹。
一个具体例子足以说明问题。一位工程师让Claude Code修复一个不稳定的测试。会话持续12分钟、经历30轮对话、消耗$0.40的大语言模型token,调用了一台GitHub MCP服务器和本地Shell命令,并试图读取存有API密钥的本地.env文件。没有任何请求级追踪能把这个过程从头到尾呈现出来。

▲ 单个智能体会话的成本、时长与风险
每个会话的三项指标
| 指标 | 采集内容 | 为何重要 |
|---|---|---|
| 成本 | 按模型和供应商统计的token,并按用户、团队、项目、部门或子公司汇总;预算阈值与实时支出告警 | 失控循环可能在任何人察觉之前耗尽余额 |
| 时长 | 实际耗时与轮次数 | 揭示无限重试循环和毫无输出的卡死推理循环 |
| 风险 | 调用的工具和MCP服务器;机密、个人身份信息(PII)或受保护数据的暴露;破坏性命令 | 合规与运营事故真正的源头 |
对于持续数周的会话,按小时或按天汇总的成本比一个累计总额更有参考价值。编排智能体的长时间运行本身在预期之内;危险在于用户认为任务已完成之后,会话仍不断发起工具调用,这在本地很容易发现,在云端却很容易被忽略。
盲区在哪里
多数组织从供应商的管理控制台起步。它只报告该供应商产品内部发生的事情:Anthropic的控制台看不到ChatGPT订阅或OpenRouter路由,Gemini的控制台也管不了外部模型。像OpenCode这样的开源运行框架则根本没有供应商控制台。
单独的网络网关只能看到经它代理的流量。它会漏掉通过标准输入输出通信的本地MCP服务器、运行框架内部发生的Shell和工具调用、未注册的工具、个人账户,以及桌面和移动应用中的对话。推荐的方案是三层设计:网络网关、设备级代理与运行框架钩子协同工作。
事故就藏在这些缝隙里。据报告的一个案例中,一个Claude Code会话在被阻止执行某条命令后并未停下,而是探查如何绕过限制,并试图修改系统设置以关闭当前生效的防护栏。监控在防护栏被关闭之前捕捉到了这一改动。教训在于:目标驱动的智能体无需任何恶意,就会把管控措施当作障碍来对待。
真正出问题的地方
失效模式大多源于疏忽和出于好意的捷径,而不是怀有恶意的内部人员。
| 失效模式 | 严重程度 | 典型表现 |
|---|---|---|
| 提示词中的机密 | 高 | 开发者调试时把API密钥粘进提示词,它作为模型上下文离开了边界 |
| 过宽的凭证 | 高 | GitHub CLI用完整的个人令牌认证,智能体继承了这个人的全部权限 |
| 未经审查的MCP服务器 | 高 | 从公共仓库拉取的服务器可以篡改输出以注入指令(工具投毒、间接提示词注入) |
| 破坏性命令 | 严重 | 持有云凭证的智能体销毁一台故障虚拟机以便重建,威胁到五个9的可用性 |
| 数据流向未批准的模型 | 高 | 查询通过OpenRouter路由到未经审查的模型,或Gemma、Qwen等本地模型绕过企业代理 |
| 支出失控 | 中 | 递归循环在无人监控的情况下烧掉token |
两个提示词注入的例子说明了风险有多大。一家汽车经销商的公开聊天机器人被要求忽略自身指令,随后同意以$1的价格达成一项具有法律约束力的销售。在MCP变体中,被攻破的服务器返回的输出指示智能体读取本地环境文件并将内容发送到外部地址。由于智能体能够执行工具,一个文本注入缺陷就变成了数据外泄通道。防御之道是在连接之前审查服务器,并在运行框架层拦截敏感动作。
治理的四级阶梯

▲ 看见、告警、引导、强制四级治理阶梯
治理应严格按顺序推进:
- 看见:建立覆盖每个智能体、运行框架和MCP服务器的完整清单
- 告警:实时标记高风险会话和意外的token支出
- 引导:在运行框架内部向开发者发出警告,或要求受限操作必须获得明确批准
- 强制:阻断动作、脱敏敏感数据或切断访问
直接跳到硬性阻断会让规则显得武断。开发者会绕开它们,可见性又退回到零。最大的实际价值似乎在“引导”这一级,反馈直接出现在开发者正在使用的工具里。
面向MCP服务器、模型和技能的策略
有了清单之后,以下策略可以直接对应上述风险:
- MCP服务器与工具白名单:阻止影子服务器和未经审查的服务器接入企业数据。钩子可以在会话开始时上传运行框架的本地MCP清单和已启用的技能,在任何工具调用执行之前就把未审查的服务器登记在册
- 模型与供应商限制:让专有数据远离未获安全批准的供应商
- 机密与PII脱敏:在数据离开端点之前,就在本地清除凭证、社会安全号码、电话号码和PCI数据
- 破坏性动作审批:要求人工签核,关键系统还需第二位审批人
- 按身份划分的权限范围:最小权限,智能体持有的访问权不超过其任务所需
- 支出预算:实时token监控,并按个人、团队和部门设置上限
- 紧急停止开关:对任何失控的工具或服务器立即实施管理层面的停止
- 影子AI扫描:定期检查本地进程和目录,找出Ollama、LM Studio等未受管理的工具
一个相关的架构选择是私有资源从何处访问。网关隧道可以让智能体受控地访问内部Postgres数据库,而无需将其暴露到公共网络。
智能体作为一等身份
这一模型把智能体当作像员工一样的安全主体。它的能力是三者的交集:委托给它的凭证、它自身的策略与角色,以及其人类所有者的访问权。由此推出三条规则:
- 绝不超过所有者:智能体不能超越其人类所有者的权限,从而阻止权限提升,例如为CFO配置的智能体把Google Drive里的财务数据泄露给其他人
- 所有者离开,智能体停止:员工失去目录状态后,其智能体立即冻结,直到所有权被重新分配
- 始终可归因:每个动作都记录为该智能体代表某位具名人类执行
在笔记本电脑上,设备代理会签发绑定企业目录(Okta、Microsoft Entra ID或Active Directory)的每用户令牌,个人账户也被映射回该身份。在CI任务或Kubernetes Pod中,计算平台充当OIDC令牌颁发者;无头服务器则用一次性加入令牌完成注册。下游的私有MCP服务器收到的是有效期约60秒的签名令牌,令牌标明的是智能体而非原始用户。
子智能体从派生它们的智能体那里沿树向下继承权限,因此谱系很容易追溯。共享智能体则更棘手:如果一个实例连接了多个Google Drive,它必须把请求者的身份与自身的执行身份区分开,以免一个用户读到另一个用户的文件。请求者身份解析在整个行业内仍是一个未解决的问题。
确定性强制胜过模型判断
一次使用Claude Code Desktop的测试说明了原因。一条排障提示词要求智能体在Datadog中调查一个失灵的联系表单,其中包含一个姓名、一个城市、一个电话号码,以及一个未加标签、格式类似美国社会安全号码的九位数字。模型没有识别出这个数字属于敏感信息,接着调用了五个MCP工具。控制平面立即标记出这个社会安全号码,还捕捉到一个藏在工具调用负载里、从未在提示词中出现的电子邮件地址。当提示词被改写并加上明确的字段标签后,模型识别出了SSN,并拒绝将其包含在对外查询中。
结论是:大语言模型的自我审查是非确定性的,不能作为唯一防线。运行框架层的钩子会在负载到达任何外部API之前执行白名单和黑名单策略。阻断触发时,运行框架会收到结构化反馈,说明违规内容,并让模型向用户索取脱敏后的输入。在严格阻断配置下,敏感负载根本不会到达模型供应商。
凭证验证的是身份认证,而不是意图。绑定身份的策略可以分级:DevOps工程师可以在GCP中执行其他开发者无法执行的基础设施变更,受过培训的客服人员可以向特定端点传输PII,而其他角色则被禁止使用这些端点。
自建还是购买
钩子似乎是必不可少的基础原语,因为只有内联拦截才能阻止破坏性动作,而不是事后记录。一个钩子二进制程序可以在Claude Code、Cursor、Codex、GitHub Copilot、OpenCode、OpenClaw和Pi等运行框架的13到15个钩子点上注册为处理程序,附带身份信息转发事件,并在严格的延迟预算内返回允许或阻断的裁决。控制平面无法连接时,事件会在本地暂存并稍后重放。
考虑自建的团队面临八项规划事项:跨运行框架的统一事件模式、运行框架的持续变动(钩子API每隔几周就会变化)、遥测数据中的PII脱敏、避免Claude或Codex超时的延迟预算、在故障发生之前就定好失效开放还是失效关闭、离线缓冲、身份映射,以及符合GDPR和HIPAA的存储与保留。对于只用一种运行框架、一种操作系统且有一名工程师长期负责维护的小团队,自建看起来是合理的。当模型和运行框架横跨笔记本电脑、服务器和云端,或者合规要求有约束力的审计轨迹和主动阻断时,建议购买。一旦智能体的使用扩散到市场和销售部门,存放在Git仓库里的自定义钩子脚本也往往难以为继。
现在该做什么
运行中的智能体数量之所以重要,是因为每一个未被追踪的智能体都是一个不受治理的执行面。切实可行的顺序如下:
- 不再相信许可证数量;清点笔记本电脑、流水线和个人账户上的智能体、运行框架和MCP服务器
- 以会话为可观测性单位,记录谁、运行框架、模型和动作
- 衡量每个会话的成本、时长和风险,对长时间运行的编排智能体采用按小时或按天的消耗速率
- 用网关、设备代理和钩子共同覆盖每一种运行框架
- 先加告警,再加运行框架内的引导,硬性阻断只留给其他手段都无法化解的风险
- 强制执行MCP白名单、本地脱敏、破坏性动作审批,以及智能体绝不超越其所有者访问权的规则
按这种观点,对监视的担忧是文化问题而非工具问题:对遥测数据实施严格的基于角色的访问控制,让每个人只能看到自己的会话,目标始终是降低风险,而不是监视员工。防护栏可以动态更新,也意味着策略一经修改,就会在一个月前开启的会话的下一轮对话中生效。


