kill switch킬 스위치

kill switch는 이상이 생겼을 때 장비나 프로그램의 작동을 즉시 멈추거나 전원·연결을 끊는 장치 또는 기능이다. 공장 설비와 차량의 비상 정지 장치, 원격으로 기기나 서비스를 비활성화하는 소프트웨어 기능, 연결이 끊기면 인터넷 통신을 차단하는 VPN 기능 등에 같은 이름이 쓰인다.

AI 분야에서는 AI 시스템이 의도하지 않은 방식으로 작동할 때 사람이 이를 멈출 수 있게 하는 수단을 가리킨다. AI 안전 연구에서는 시스템이 중단을 방해하지 않고 받아들이도록 설계하는 문제를 중단 가능성(corrigibility)이나 off-switch 문제로 다룬다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.