重排序(reranking)是检索系统对初次检索得到的候选文档按与查询的相关性重新打分并调整顺序的环节。初次检索使用向量相似度或关键词匹配等快速但粗略的方法收集大量候选,重排序则用更精确、开销更大的模型(重排器)对少量候选进行细致评估。同时输入查询和文档并输出相关度分数的交叉编码器方式被广泛采用。
在RAG系统中,重排序作为挑选交给LLM的文档的最后一步,可防止无关文档混入上下文而降低回答质量。Cohere Rerank、NVIDIA NeMo Retriever中的重排序模型等商用和开源重排器均有提供。