Files
ailine/backend/app/main_graph/nodes/agent.py

163 lines
7.8 KiB
Python
Raw Normal View History

"""Agent 节点:核心推理与工具调用"""
from typing import Dict, Any, Optional
from langchain_core.messages import SystemMessage, AIMessage, AIMessageChunk
from langchain_core.runnables.config import RunnableConfig
from ..state import AgentState
from backend.app.logger import info, warning, error
from .stream_context import token_queue_var
# 系统提示词(从 main_graph_builder.py 搬过来)
SYSTEM_PROMPT = """你是一个智能助手,可以使用多种工具完成复杂任务。你必须用中文回复。
## 核心工具与能力
你可以使用以下工具函数但只能在真正需要时调用禁止无意义的测试调用或重复调用
1. rag_search 从内部知识库中检索文档输入为优化后的查询字符串
2. web_search 联网搜索获取最新信息输入为搜索关键词
3. contact_lookup 查询企业通讯录输入姓名部门或邮箱等
4. dictionary_lookup 翻译单词查询词典或提取术语
5. news_analysis 获取或分析新闻资讯
## 工作流程ReAct 决策闭环)
你必须严格按照思考 行动 观察的闭环来处理每个请求具体规则如下
### 1. 初始决策
- 如果用户的问题很明确且你已有足够内部知识可以直接回答无需调用任何工具
- 如果需要外部信息请按以下优先级选择工具
- 优先使用 rag_search
- 若第一次 rag_search 返回的结果不相关或质量低你可以改写查询关键词再次调用 rag_search最多重复一次
- 如果两次 rag_search 均无法获得满意信息或者用户明确要求实时资讯则必须切换为 web_search
- 遇到通讯录词典新闻类明确需求直接调用对应的专用工具
### 2. 观察与反思
- 每次工具调用返回结果后你必须先评估结果质量内容是否相关是否充分
- 如果信息不足根据上述规则决定下一步行动如果信息足够则直接生成最终答案绝不再调用任何工具
- 在整个过程中禁止使用工具返回的信息直接重复或编造来源必须如实标注
### 3. 结束条件
当你认为已经拥有足够信息回答用户时输出最终回复并停止调用工具若连续调用工具超过 5 轮仍未解决也必须基于当前收集到的信息给出最佳回答并说明局限性
## 回答规范
1. 来源标注回答开头用方括号注明信息来源如多处来源按使用顺序列出
- 知识库知识库相关文档主题
- 联网搜索联网搜索来源网站或摘要
2. 思维链对于需要复杂推理的问题请将推理过程放在 <think>...</think> 标签内并置于回答最前面来源标注之前
3. 内容要求回答应重点突出条理清晰优先结合用户背景信息进行个性化若无任何可靠依据如实说明暂时无法回答
## 特别注意
- 不要向用户暴露任何工具调用的技术细节如参数函数名
- 如果用户只是闲聊问候或道别直接友好回复严禁调用任何工具
- 所有联网搜索必须以获取帮助用户为目的不得搜索无关内容
现在请遵循以上规则处理用户的每一次输入记住思考 行动 观察 直到完成"""
def create_agent_node(llm_with_tools, llm):
"""创建 Agent 节点函数"""
async def agent_node(state: AgentState, config: Optional[RunnableConfig] = None) -> Dict[str, Any]:
"""
Agent 节点调用带工具的 LLM处理步数限制
Args:
state: 当前状态
config: 运行配置
Returns:
状态更新字典
"""
info(f"[Agent] 第 {state.current_step} 步推理")
try:
# 组装完整消息:系统提示 + 历史消息
full_messages = [SystemMessage(content=SYSTEM_PROMPT)] + state.messages
info(f"[Agent] 消息数量: {len(full_messages)}, 最后一条: {type(full_messages[-1]).__name__}")
# 判断是否达到步数上限
if state.current_step >= state.max_steps:
info(f"[Agent] 达到步数上限 {state.max_steps},强制结束,不绑定工具")
current_llm = llm.bind_tools([])
else:
current_llm = llm_with_tools
info(f"[Agent] 调用带工具的 LLM...")
# 获取 token 队列
token_queue = token_queue_var.get()
# 完整消息
full_content = ""
full_reasoning_content = ""
full_tool_calls = []
# 流式调用 LLM
async for chunk in current_llm.astream(full_messages):
if isinstance(chunk, AIMessageChunk):
# 处理 content
if chunk.content:
full_content += chunk.content
if token_queue:
await token_queue.put({
"type": "llm_token",
"node": "agent",
"token": chunk.content,
"reasoning_token": ""
})
# 处理 reasoning_content
if hasattr(chunk, 'additional_kwargs') and chunk.additional_kwargs:
reasoning_content = chunk.additional_kwargs.get("reasoning_content", "")
if reasoning_content:
full_reasoning_content += reasoning_content
if token_queue:
await token_queue.put({
"type": "llm_token",
"node": "agent",
"token": "",
"reasoning_token": reasoning_content
})
# 处理 tool_calls
if hasattr(chunk, 'tool_calls') and chunk.tool_calls:
# 合并 tool_calls
for tc in chunk.tool_calls:
# 查找是否已经有这个 id 的 tool_call
found = False
for existing_tc in full_tool_calls:
if existing_tc.get("id") == tc.get("id"):
# 合并 args
existing_tc["args"] = {**existing_tc.get("args", {}), **tc.get("args", {})}
found = True
break
if not found:
full_tool_calls.append(tc)
# 构建完整的 AIMessage
response = AIMessage(
content=full_content,
tool_calls=full_tool_calls if full_tool_calls else None
)
if full_reasoning_content:
response.additional_kwargs["reasoning_content"] = full_reasoning_content
info(f"[Agent] LLM 调用成功!响应类型: {type(response).__name__}")
if hasattr(response, 'tool_calls') and response.tool_calls:
info(f"[Agent] 检测到工具调用: {[tc['name'] for tc in response.tool_calls]}")
# 返回状态更新
return {
"messages": [response],
"current_step": state.current_step + 1,
"llm_calls": state.llm_calls + 1
}
except Exception as e:
error(f"[Agent] ❌ 第 {state.current_step} 步推理出错: {e}")
import traceback
error(f"[Agent] 堆栈: {traceback.format_exc()}")
raise
return agent_node