终止开关

kill switch

终止开关是在紧急情况下立即停止机器、软件或AI系统运行的紧急停止机制。

4篇文章最近提及

终止开关是在出现异常时立即停止设备或程序运行,或切断其电源、连接的装置或功能。工业设备和车辆上的紧急停止装置、远程停用设备或服务的软件功能,以及在安全连接中断时阻断网络通信的VPN功能,都使用这一名称。

在AI领域,它指的是当AI系统以非预期方式运行时,供人类将其停止的手段。AI安全研究把如何设计出接受而非抗拒关停的系统这一问题,称为可纠正性(corrigibility)或关机开关问题。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • GPT-6.2 Astra 发布:单任务成本大降,编程得分持平AI资讯 ·

    它的应对是 Control Room,这是一个集中式系统,用来追踪研究基础设施上的模型工作负载,并带有即时终止开关。

    阅读文章
  • 企业AI智能体数不清?以会话为单位的治理方法AI安全 ·

    紧急停止开关:对任何失控的工具或服务器立即实施管理层面的停止

    阅读文章
  • 英伟达开源智能体安全平台:用硬件级护栏约束AI智能体AI安全 ·

    负责OpenShell产品的高级总监Ali Golshan将目标描述为贯穿整个技术栈的端到端信任,其中包括一个不可篡改的“终止开关”,一旦智能体越界就会自动触发。

    阅读文章
  • 智能平面:模型与数据同质化后,企业智能体的真正护城河AI应用 ·

    它验证智能体身份,管理允许哪些调用,监控算力与资金开销,承载策略和护栏,提供带有紧急停止开关的生命周期管理,并记录审计日志。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。