キルスイッチkill switch

キルスイッチは、異常が起きたときに機器やプログラムの動作を即座に止めたり、電源や接続を断ったりする装置や機能を指す。工場設備や車両の非常停止装置、機器やサービスを遠隔で無効化するソフトウェア機能、安全な接続が切れたときに通信を遮断するVPNの機能などがこの名で呼ばれる。

AI分野では、AIシステムが意図しない動作をしたときに人間が停止させるための手段を指す。AI安全性の研究では、システムが停止に抵抗せず受け入れるように設計する問題が、修正可能性（corrigibility）やオフスイッチ問題として扱われている。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。