reranking은 검색 시스템이 1차 검색으로 추려 낸 후보 문서들을 질문과의 관련성에 따라 다시 평가해 순서를 바꾸는 단계다. 1차 검색은 vector 유사도나 키워드 일치처럼 빠르지만 거친 방법으로 많은 후보를 모으고, reranking은 더 정교하고 비용이 큰 모델(reranker)로 적은 수의 후보를 정밀하게 평가한다. 질문과 문서를 함께 입력받아 관련도 점수를 내는 cross-encoder 방식이 널리 쓰인다.
RAG 시스템에서는 LLM에 넘길 문서를 고르는 마지막 단계로 쓰여, 관련 없는 문서가 context에 섞여 답변 품질이 떨어지는 것을 막는다. Cohere Rerank, NVIDIA NeMo Retriever의 reranking 모델처럼 상용·오픈소스 reranker가 제공된다.