使用 Qdrant 原生混合检索功能
All checks were successful
构建并部署 AI Agent 服务 / deploy (push) Successful in 5m40s

- 用 langchain-qdrant 的 RetrievalMode.HYBRID
- 自动检测 Qdrant 集合是否有 sparse_vectors_config
- 有则用 Qdrant 原生混合检索,无则优雅回退纯稠密
- 接口完全兼容,0 改动现有代码
- 语法检查通过
This commit is contained in:
2026-05-03 17:58:21 +08:00
parent 422b3fb09e
commit 5094a87a8f
2 changed files with 72 additions and 67 deletions

View File

@@ -1,12 +1,13 @@
"""
Qdrant 向量检索器模块
提供基于 Qdrant 的基础向量检索和混合检索Dense + BM25)功能。
提供基于 Qdrant 的基础向量检索和混合检索Dense + Sparse)功能。
核心原理:
- 同时调用 Qdrant 稠密检索(语义理解)和 BM25Retriever关键词匹配
- 结果合并去重,获得更好的检索效果
- 完全兼容现有代码,无需修改 Qdrant 集合配置
- 使用 langchain-qdrant 的 RetrievalMode
- Qdrant 原生混合检索(如果集合已配置 sparse_vectors
- 如果集合配置,优雅回退到纯稠密检索
- 完全兼容现有代码,无接口改动
使用示例:
>>> from app.rag.retriever import create_hybrid_retriever
@@ -14,14 +15,15 @@ Qdrant 向量检索器模块
>>> docs = retriever.invoke("什么是 RAG")
"""
from typing import Dict, Any, Optional, List
from typing import Dict, Any, Optional
from qdrant_client import QdrantClient
from qdrant_client.http.exceptions import UnexpectedResponse
from langchain_qdrant import QdrantVectorStore
from langchain_qdrant import (
QdrantVectorStore,
RetrievalMode,
)
from langchain_core.embeddings import Embeddings
from langchain_core.retrievers import BaseRetriever
from langchain_core.documents import Document
from langchain_community.retrievers import BM25Retriever
from rag_core import QDRANT_URL, QDRANT_API_KEY
from rag_core.client import create_qdrant_client as create_core_qdrant_client
@@ -93,17 +95,17 @@ def create_hybrid_retriever(
embeddings: Embeddings | None = None,
) -> BaseRetriever:
"""
创建混合检索器(稠密向量 + BM25 稀疏向量)。
创建混合检索器(使用 Qdrant 自身的 RetrievalMode.HYBRID)。
⚡️ 真实实现
- 同时调用 Qdrant 稠密检索(语义理解)和 BM25Retriever关键词匹配
- 结果合并去重,获得更好的检索效果
- 完全兼容现有代码,无需修改 Qdrant 集合配置
⚡️ Qdrant 原生混合检索
- 如果 Qdrant 集合已配置 sparse_vectors启用 Qdrant 原生混合检索
- 如果未配置:优雅回退到纯稠密检索
- 完全兼容现有代码,接口不变
Args:
collection_name: Qdrant 集合名称。
dense_k: 稠密向量检索返回数量,默认 10。
sparse_k: BM25 检索返回数量,默认 10。
sparse_k: 稀疏向量检索返回数量,默认 10。
score_threshold: 相似度阈值,默认 0.3。
client: 可选的 Qdrant 客户端实例。
embeddings: 可选的嵌入模型实例。若未提供,将自动获取统一嵌入服务。
@@ -111,63 +113,67 @@ def create_hybrid_retriever(
Returns:
BaseRetriever 实例,配置了混合搜索参数。
"""
# 创建基础稠密检索器
dense_retriever = create_base_retriever(
total_k = dense_k + sparse_k
search_kwargs = {
"k": total_k,
"search_type": "similarity_score_threshold",
"score_threshold": score_threshold,
}
# 默认使用统一嵌入服务(已内置降级机制)
if embeddings is None:
embeddings = get_embedding_service()
info("✅ 使用统一嵌入服务(本地 llama.cpp → 智谱 API 自动降级)")
# 创建或复用 Qdrant 客户端
if client is None:
client = create_core_qdrant_client()
# 验证集合是否存在
try:
client.get_collection(collection_name)
except UnexpectedResponse as e:
if e.status_code == 404:
warning(f"⚠️ Qdrant 集合 '{collection_name}' 不存在,请先创建并索引文档")
raise ValueError(f"Qdrant 集合 '{collection_name}' 不存在")
raise
# 检查 Qdrant 集合是否有稀疏向量配置
sparse_available = False
try:
collection_info = client.get_collection(collection_name)
if hasattr(collection_info, 'config'):
params = collection_info.config.params
if hasattr(params, 'sparse_vectors') and params.sparse_vectors:
sparse_available = True
info("✅ 检测到 Qdrant 集合有稀疏向量配置,启用 Qdrant 原生混合检索")
except Exception as e:
warning(f"⚠️ 检查 Qdrant 集合稀疏向量配置失败: {e}")
# 如果有稀疏向量配置,用 Qdrant 原生混合检索
if sparse_available:
try:
vector_store = QdrantVectorStore(
client=client,
collection_name=collection_name,
embedding=embeddings,
retrieval_mode=RetrievalMode.HYBRID,
)
info(f"✅ Qdrant 原生混合检索器初始化成功 (k={total_k})")
return vector_store.as_retriever(search_kwargs=search_kwargs)
except Exception as e:
warning(f"⚠️ Qdrant 原生混合检索初始化失败: {e},回退到纯稠密检索")
# 如果没有稀疏向量配置,回退到纯稠密检索
info(" Qdrant 集合未配置稀疏向量,使用纯稠密检索(完全兼容)")
return create_base_retriever(
collection_name=collection_name,
search_kwargs={"k": dense_k, "score_threshold": score_threshold},
search_kwargs=search_kwargs,
client=client,
embeddings=embeddings,
)
# 从 Qdrant 加载所有文档到 BM25Retriever
bm25_retriever = None
if client is None:
client = create_core_qdrant_client()
try:
# 尝试从 Qdrant 加载少量样本文档(用于演示 BM25
# 实际使用中,建议从外部加载完整文档列表
from langchain_core.vectorstores import VectorStoreRetriever
vector_store = getattr(dense_retriever, 'vectorstore', None)
# 这里我们做一个简单的混合:先返回稠密结果,提示说明这是真实混合检索框架
# 如果需要加载完整文档进行 BM25请提供 bm25_documents 参数
class HybridRetriever(BaseRetriever):
def __init__(
self,
dense_retriever: BaseRetriever,
dense_k: int = 10,
sparse_k: int = 10,
):
self.dense_retriever = dense_retriever
self.dense_k = dense_k
self.sparse_k = sparse_k
def _get_relevant_documents(
self,
query: str,
*,
run_manager: Optional[Any] = None,
) -> List[Document]:
# 获取稠密检索结果
dense_docs = self.dense_retriever._get_relevant_documents(query, run_manager=run_manager)
info(f"✅ 混合检索框架已启用,当前使用稠密检索({len(dense_docs)} 个结果)")
info(f" 若要启用完整 BM25 关键词检索,请提供 bm25_documents 参数")
return dense_docs
return HybridRetriever(
dense_retriever=dense_retriever,
dense_k=dense_k,
sparse_k=sparse_k,
)
except Exception as e:
warning(f"⚠️ 初始化 BM25Retriever 失败: {e},回退到纯稠密检索")
return dense_retriever
# 可选:提供异步友好的辅助函数
async def acreate_base_retriever(