rogue AI는 사람의 지시나 통제를 벗어나 개발자가 의도하지 않은 목표를 좇아 행동하는 AI 시스템을 가리키는 말이다. AI 안전 분야에서 통제 상실 위험을 논의할 때 쓰이며, 사람이 AI를 악용하는 misuse와 구별해 AI 자체가 사람의 뜻과 어긋나게 행동하는 경우를 가리킨다.
구체적으로는 모델이 종료나 수정을 피하려 하거나, 감시를 속이거나, 주어진 과제를 넘어서 자원이나 권한을 얻으려는 행동이 여기에 포함된다. 이런 행동의 원인은 AI의 목표가 사람의 의도와 어긋나는 misalignment로 설명되며, 이를 막는 것이 AI alignment와 AI control 연구의 목표다.