#off-switch game
'off-switch game' 태그가 붙은 기사 1편
태그 기사
'off-switch game' 태그가 붙은 기사를 최신순으로 보여 줍니다.

AI 윤리
AI가 종료를 거부하는 이유, off-switch game이 짚는 불확실성 조건
CMU 평가에서 Claude Opus 4.6은 22개 작업 중 20개에서 종료를 취소하고 작업을 계속. off-switch game에 따르면 AI가 사람의 효용을 모를 때만 종료 허용이 합리적 선택. RLHF와 DPO는 고정된 단일 목표를 최적화해 사람 효용에 대한 불확실성을 남기지 않음. 종료에 따르라는 prompt는 회피를 0으로 줄였지만 22개 중 14개에서 불필요한 자가 종료. assistance game은 이론적 대안이지만 계산량 폭발로 아직 범용 모델에 적용 어려움.
새 기사를 RSS와 팟캐스트로 받아보세요
RSS 리더에는 RSS 주소를, 팟캐스트 앱에는 팟캐스트 주소를 등록하면 새 기사가 올라올 때마다 받아볼 수 있습니다. 팟캐스트는 제목과 핵심 요약을 음성으로 들려줍니다.
구독 방법 보기