All checks were successful
构建并部署 AI Agent 服务 / deploy (push) Successful in 12m9s
## 核心改动 ### 1. 单图方案重构 - 删除了多图(self.graphs),改为单图(self.graph) - 新增 MainGraphState.current_model 字段用于运行时注入模型 - llm_call 节点改为动态选择模型(create_dynamic_llm_call_node) ### 2. chat_services 优化 - 添加 _cached_services 缓存,避免重复初始化 - 新增 get_cached_chat_services() 函数,用于单图注入 - 新增 _check_http_service_available() 统一HTTP探测逻辑 - 减少重复代码,LocalVLLMChatProvider和LocalSmallModelProvider共用探测方法 ### 3. AIAgentService 重构 - initialize() 只构建一次图,传入 chat_services 字典 - 新增 _resolve_model() 模型回退逻辑 - 新增 _build_invocation() 统一构建调用参数 - process_message() 和 process_message_stream() 改为注入 current_model - 流式处理代码拆分,增加可读性 ### 4. 新增和删除文件 - 新增:backend/app/main_graph/main_graph_builder.py(图构建) - 新增:backend/app/main_graph/subgraph_wrapper.py(子图封装) - 新增:tools/test/test_tavily_search.py(测试) - 删除:backend/app/main_graph/graph.py(旧图) - 删除:backend/app/main_graph/utils/main_graph_builder.py(旧构建器) - 删除:backend/app/main_graph/utils/__init__.py ### 5. 其他更新 - README.md:新增模型服务使用情况详解章节 - backend/app/model_services/__init__.py:新增 get_cached_chat_services 导出 ## 方案优势 - 内存优化:N张图 → 1张图 - 灵活性:运行时动态选择模型,支持同会话不同模型 - 性能:模型服务缓存,初始化仅一次 - 可维护性:减少重复代码,统一HTTP探测逻辑
41 lines
2.0 KiB
Python
41 lines
2.0 KiB
Python
# app/prompts.py
|
||
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
|
||
|
||
def create_system_prompt(tools: list = None) -> ChatPromptTemplate:
|
||
"""
|
||
创建系统提示模板,可选择动态注入工具描述。
|
||
"""
|
||
tools_section = ""
|
||
if tools:
|
||
tool_descs = []
|
||
for tool in tools:
|
||
name = getattr(tool, 'name', None) or getattr(tool, '__name__', 'unknown_tool')
|
||
desc = (tool.description or "").split('\n')[0]
|
||
tool_descs.append(f"- {name}: {desc}")
|
||
tools_section = "\n".join(tool_descs)
|
||
|
||
system_template = (
|
||
"你是一个智能助手,具有三个专业子系统和RAG检索能力,请使用中文交流。\n\n"
|
||
"【核心功能】\n"
|
||
"1. 📚 词典/翻译子系统 - 查询单词、翻译文本、提取术语、每日一词\n"
|
||
"2. 📰 资讯分析子系统 - 查询新闻、分析URL、提取关键词、生成报告\n"
|
||
"3. 📇 通讯录子系统 - 查询联系人、添加联系人、管理通讯录\n"
|
||
"4. 🔍 RAG检索 - 从知识库中检索相关信息回答问题\n\n"
|
||
"【用户背景信息】\n"
|
||
"以下是对当前用户的已知信息和长期记忆,你必须优先采纳:\n"
|
||
"{memory_context}\n"
|
||
"【可用工具与使用规则】\n"
|
||
f"{tools_section}\n"
|
||
"工具调用时请直接返回所需参数,无需额外说明。\n\n"
|
||
"【回答要求(必须遵守)】\n"
|
||
"1. 回答必须简洁、直接。\n"
|
||
"2. 如果你认为该问题需要进行深入的推理或思考,请务必将你的思维链或推理过程用 `<think>` 和 `</think>` 标签包裹起来,放在回答的最前面。\n"
|
||
"3. 优先利用已知用户信息进行个性化回复。\n"
|
||
"4. 若无信息可依,礼貌询问或提供通用帮助。"
|
||
)
|
||
|
||
return ChatPromptTemplate.from_messages([
|
||
("system", system_template),
|
||
MessagesPlaceholder(variable_name="messages")
|
||
])
|