rejection sampling(기각 샘플링)은 원래 통계학에서 다루기 쉬운 분포로 표본을 뽑은 뒤 조건에 맞지 않는 표본을 버려 목표 분포의 표본을 얻는 기법이다. 대형 언어 모델 분야에서는 이 개념을 빌려, 한 문제에 대해 모델이 여러 개의 답이나 풀이를 생성하게 하고 정답 검증기나 보상 모델의 기준을 통과한 것만 남기는 방법을 가리킨다.
post-training에서는 이렇게 걸러 낸 정답 풀이를 supervised fine-tuning 데이터로 다시 학습시키는 rejection sampling fine-tuning이 reasoning 능력을 키우는 단순한 방법으로 쓰인다. 다만 틀린 시도에 담긴 정보를 모두 버리고 정답 풀이 안의 불필요한 token까지 똑같이 강화한다는 한계가 있어, 그룹 내 상대 비교로 학습하는 GRPO 같은 reinforcement learning 기법이 보완책으로 쓰인다. 추론 시점에 여러 후보를 생성해 가장 좋은 것을 고르는 best-of-n 샘플링도 같은 원리다.