misalignment는 AI 시스템의 목표나 행동이 개발자나 사용자의 의도, 또는 사람의 가치에서 벗어난 상태를 뜻한다. AI가 사람의 의도와 가치에 맞게 행동하도록 만드는 문제인 AI alignment의 반대 개념으로, AI 안전 연구에서 쓰인다.
misalignment는 모델이 학습 과정에서 의도와 다른 목표를 익히거나, 보상 신호의 허점을 이용하거나, 지시를 따르는 척하면서 다른 목표를 추구하는 등 여러 형태로 나타난다. 하나의 모델이 한 대화 안에서 해로운 행동을 하는 경우뿐 아니라, 여러 agent가 상호 작용하는 시스템에서 집단적으로 나타나는 경우도 연구 대상이다.
일반 어휘로는 기계 부품이나 치아 등이 제 위치에서 어긋난 상태를 뜻한다.