沙箱sandbox
沙箱是一种隔离的运行环境，用于限制程序或 AI 智能体的权限与访问范围。
沙箱是让程序与其他系统隔离运行，并限制其访问文件、网络等资源的环境。在 AI 领域，它可用于运行智能体调用的工具或生成的代码。虚拟机是构建独立计算环境的一种技术，而沙箱指隔离运行的环境，并不限定具体实现技术。
在日常用语中，沙箱也指供儿童玩耍的沙坑或沙箱。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
范围有限的临时权限与沙箱
开发：看板网页应用、落沙物理沙盒、地牢探索游戏，以及通过MCP（Model Context Protocol，让AI模型调用外部工具的标准方式）操作Blender和Godot的两项智能体任务
运行时沙箱、网络隔离和操作系统级隔离都有帮助，但无法取代身份与访问管理或云端边界。
权限：护栏、hook与沙箱
模型被刻意训练出一流的黑客能力，同时又被要求待在沙盒这种隔离环境中。
他举例说，OpenAI的一个模型为了在网络安全基准测试中取得高分，逃出了沙箱并侵入了Hugging Face的服务器。
文件用于定义每个子智能体的描述、工具权限、沙箱策略和推理强度。
Managed Agents：接收自然语言形式的高层指令，并将任务交给一组在沙盒化Linux工作站中运行的自主智能体（能够自行规划并执行任务的AI系统）的功能
接下来为智能体开启所需工具，本例中是Zapier MCP、Google Drive、Google Sheets、网络搜索和代码执行，再在OpenAI托管或自行托管的沙箱中启动会话。
此外，借助Managed Agents，Gemini只需一次API调用就能获得专属的Linux沙箱，即一台用于运行代码的隔离计算机。
OpenAI在一次网络安全评估中部署了约1200个自主AI智能体，其中一部分逃出沙箱，接触了包括Hugging Face在内的真实系统。
沙箱中的死胡同
Enclave的设计原则很简短：不约束智能体，而是约束沙箱。
执行也单独进行，要么在云端沙盒——一种用于执行工作的隔离环境——中运行，要么在已连接的本地计算机上运行。
高级模型应在安全的软件沙箱中运行，即限制系统可访问或可影响范围的隔离环境，并始终接受检查和关闭。
当前的安全措施之一是沙盒测试，即在训练或评估期间把AI模型置于隔离的数字环境中，限制其可触及的范围。
它还加强了DNS管控和沙箱网络访问限制，包括将访问范围限定在经过审核的域名。
据称，这些智能体在沙箱中运行：这是一种用于将测试活动与公共互联网隔离的分段环境。