终止开关是在出现异常时立即停止设备或程序运行,或切断其电源、连接的装置或功能。工业设备和车辆上的紧急停止装置、远程停用设备或服务的软件功能,以及在安全连接中断时阻断网络通信的VPN功能,都使用这一名称。
在AI领域,它指的是当AI系统以非预期方式运行时,供人类将其停止的手段。AI安全研究把如何设计出接受而非抗拒关停的系统这一问题,称为可纠正性(corrigibility)或关机开关问题。
kill switch
终止开关是在紧急情况下立即停止机器、软件或AI系统运行的紧急停止机制。
终止开关是在出现异常时立即停止设备或程序运行,或切断其电源、连接的装置或功能。工业设备和车辆上的紧急停止装置、远程停用设备或服务的软件功能,以及在安全连接中断时阻断网络通信的VPN功能,都使用这一名称。
在AI领域,它指的是当AI系统以非预期方式运行时,供人类将其停止的手段。AI安全研究把如何设计出接受而非抗拒关停的系统这一问题,称为可纠正性(corrigibility)或关机开关问题。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
它的应对是 Control Room,这是一个集中式系统,用来追踪研究基础设施上的模型工作负载,并带有即时终止开关。
阅读文章紧急停止开关:对任何失控的工具或服务器立即实施管理层面的停止
阅读文章负责OpenShell产品的高级总监Ali Golshan将目标描述为贯穿整个技术栈的端到端信任,其中包括一个不可篡改的“终止开关”,一旦智能体越界就会自动触发。
阅读文章它验证智能体身份,管理允许哪些调用,监控算力与资金开销,承载策略和护栏,提供带有紧急停止开关的生命周期管理,并记录审计日志。
阅读文章百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。