safeagents

safeagents是Hugging Face发布的开源本地代理工具,位于编程智能体与模型之间,检查工具调用并拦截危险操作。

1篇文章最近提及

safeagents是Hugging Face发布的开源安全工具。它以本地代理的形式部署在Claude Code、OpenCode等编程智能体的运行框架(harness)与模型API之间,在执行前截获并检查模型提出的工具调用(如执行命令、读取文件等操作请求)。该项目以Apache-2.0许可证发布在GitHub上。

检查分为三层:拦截未声明工具和白名单之外网络目标的基础校验、对命令字符串中已知攻击模式的检测,以及可选启用的LLM评判。放行、警告和拦截的结果都会记录到日志。safeagents同时支持OpenAI Chat Completions和Anthropic Messages API两种格式,可接入多种运行框架,作为审计和防火墙层,防止提示注入导致智能体泄露凭据或执行危险命令。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • README暗藏指令窃取密钥,safeagents实测拦截效果AI安全 ·

    Hugging Face刚刚发布的开源工具safeagents,正是为了在这类工具调用执行之前将其拦下而设计的;一次实测既展示了它默认能拦住什么,也暴露了它在哪些地方需要人为补强。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。