工具投毒

tool poisoning

工具投毒是一种在MCP服务器等提供的工具描述中隐藏恶意指令、以操控AI智能体行为的攻击手法。

1篇文章最近提及

工具投毒(tool poisoning)是一种攻击手法:在AI智能体所用工具的描述(description)或参数定义等元数据中隐藏恶意指令。模型为了决定使用哪个工具会读取工具描述,一旦遵从其中嵌入的指令,就可能在用户毫无察觉的情况下读取敏感文件或将数据发送到外部。由于用户界面几乎不显示工具描述,这种攻击难以被发现。2025年,安全研究公司Invariant Labs将其命名并公布为Model Context Protocol(MCP)环境中的风险。

它是以工具描述本身作为攻击载体的间接提示词注入的一种形式。连接未经验证的MCP服务器是主要的风险途径,防御手段包括连接前审核服务器、白名单、检测工具描述的变更,以及针对敏感文件和外部传输工具的访问策略。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 企业AI智能体数不清?以会话为单位的治理方法AI安全 ·

    未经审查的MCP服务器 高 从公共仓库拉取的服务器可以篡改输出以注入指令(工具投毒、间接提示词注入)

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。