refusal ablation은 언어 모델이 특정 요청을 거부하는 행동을 가중치 수정으로 없애는 기법이다. 2024년에 발표된 연구에서 모델의 거부 행동이 내부 활성 공간의 한 방향으로 크게 설명된다는 점이 밝혀졌고, 그 방향을 찾아 가중치에서 제거하면 추가 학습 없이 거부가 사라진다는 것이 기법의 바탕이다. 커뮤니티에서는 abliteration이라는 이름으로도 부른다.
무해한 prompt와 유해한 prompt에 대한 모델 내부 활성값의 차이로 거부 방향을 구한 뒤, 여러 transformer layer의 가중치에서 그 성분을 빼는 방식으로 적용한다. 공개 가중치 모델의 검열을 풀 때 주로 쓰이며, 안전 정렬이 함께 약해져 유해한 출력이 늘고 성능이 떨어질 수 있다는 위험이 지적된다. 모델의 구성 요소를 제거해 역할을 분석하는 ablation study와는 목적이 다르다.