重排序Rerank详解，提升RAG检索准确率的关键一步

摘要：RAG重排序(Rerank)技术详解，包括Cross-Encoder重排序原理、Cohere Rerank API使用、BGE-Reranker本地部署，附Rerank前后检索效果对比重排序Rerank详解，提升RAG检索准确率的关键一步RAG系统的检索环节，通常分两步走。第一步是初筛，用向量检索或者关键词检索，从海量文档里快速捞出一批可能相关的内容。第二步是精排，把这批内容重新打分排序，把最相关的排到最前面。这个精排的步骤，就是重排序，英文叫Rerank。很多人做RAG的时候忽略了这一步。向量检索返回Top 10的结果，直接全塞给大模型生成答案。效果不好的时候，就去调Embedding模型、调分块策略、调Prompt。折腾半天，其实加一个Rerank就能解决大半问题。这一篇我们讲清楚Rerank是什么，为什么它能提升效果，怎么用，以及有哪些常见的模型。为什么需要重排序先说为什么向量检索的结果需要重排序。向量检索的特点是快，但不够精确。它用的是近似最近邻搜索，为了速度牺牲了一部分精度。返回的Top K结果里，可能有一些不完全相关的混进来了，真正最相关的可能排在第五第六位。还有一个问题，向量相似度高，不代表语义上真的相关。两段文本在向量空间里距离近，可能只是因为用词相近，但讨论的是不同的事。这种假相关，光靠向量距离很难区分。重排序模型做的事情不一样。它不追求速度，追求精度。它会对查询和每一个候选文