assistance game어시스턴스 게임

assistance game은 Stuart Russell과 동료 연구자들이 제안한 AI 설계의 틀이다. 사람과 AI를 한 게임의 두 참가자로 보고, AI의 유일한 목표를 사람의 선호 충족으로 두되 그 선호가 무엇인지는 AI가 확실히 알지 못하게 한다. AI는 사람의 행동을 선호에 대한 증거로 삼아 추론한다.

고정된 목표를 최대화하는 기존 방식과 달리, 선호가 불확실한 AI는 사람에게 확인을 구하거나 사람이 자신을 멈추는 것을 받아들일 유인을 갖는다는 점이 특징이다. 사람이 AI를 끌 수 있는지를 다루는 off-switch game 연구도 이 틀에 속한다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.