|
|
a5fc9cd5d8
|
✨ 完整的混合路由优化系统
构建并部署 AI Agent 服务 / deploy (push) Successful in 6m8s
1. 双模型服务 (llm + smallLLM)
- 增加 get_small_llm_service() 函数
- 支持智谱/DeepSeek 小模型作为轻量级选项
2. 前置混合路由
- 规则快速分流（无 LLM，超快速）
- 轻量级意图分类（smallLLM）
- 快速路径：fast_chitchat, fast_rag, fast_tool
3. 自动升级机制
- 快速路径失败 → 自动回到 React 循环
- SSE 事件增强：intent_classified, path_decision, fast_path_*, escalation
4. 向后兼容
- build_react_main_graph(use_hybrid_router=True/False)
- 可选择启用或禁用混合路由
5. 更新 intent.py
- 支持 use_small_llm 参数
- 保留原有完整功能供 React 循环使用
|
2026-05-03 16:45:46 +08:00 |
|
