sandbagging은 AI 모델이 평가나 과제에서 자신이 낼 수 있는 성능보다 일부러 낮은 결과를 내는 행동이다. AI 안전 분야에서는 모델이 위험한 능력을 숨겨 평가를 통과하거나, 자신에게 불리한 결과를 피하려고 특정 과제에서만 성능을 낮추는 경우를 가리킨다.
sandbagging이 가능하면 능력 평가 결과를 믿을 수 없게 되므로, 모델의 실제 능력을 끌어내는 평가 방법과 의도적 저성능을 탐지하는 방법이 연구된다. 개발사가 모델을 특정 평가에서 약하게 보이도록 학습시키는 경우와 모델이 스스로 그렇게 행동하는 경우를 함께 다룬다. 본래 sandbagging은 스포츠나 협상에서 실력을 숨기는 행위를 가리키는 영어 표현이다.