#模型安全

AI安全的三道信任边界：网页、RAG文档与模型文件

网页可能指挥智能体，RAG 文档可能改写回答，模型文件可能加载即执行代码。光让模型忽略可疑指令不够，还要管住哪些内容能进流程、流程能用它做什么。收紧智能体的工具权限，并用植入指令的内容测试它会不会照做。RAG 知识库要像源代码一样管理：审查变更、核实来源，索引前先扫描。共享模型优先用 Safetensors 或 ONNX，旧 pickle 文件要隔离加载、禁止出站联网。