#智能体安全
带有“智能体安全”标签的文章2篇
标签文章
按从新到旧显示带有“智能体安全”标签的文章。
AI安全英伟达开源智能体安全平台:用硬件级护栏约束AI智能体
英伟达开源OpenShell运行时,把智能体安全规则做成硬性边界。智能体会把安全策略视为阻力并另寻出路,提示词对齐不够。Sentry把执行下沉到网络硬件和DPU,可自动切断失控集群。用差分隐私合成数据替代原始敏感数据,仅脱敏不够。是否成为智能体安全的Kubernetes尚无定论,机器人部署仍属早期。
AI安全WebMCP安全三注解:让浏览器智能体安全调用网页工具
WebMCP工具定义中三条一行注解,决定浏览器智能体的安全行为。readOnlyHint标记只读查询,避免反复弹窗造成权限疲劳。consequentialHint让开锁、付款、删除等操作每次都需人工确认。untrustedContentHint让智能体把第三方内容当数据而非指令。注解只是信号而非强制,用户应只安装经过审核的智能体扩展。