Files
ailine/QUICKSTART.md
root a5b8820d13
Some checks failed
构建并部署 AI Agent 服务 / deploy (push) Failing after 12m40s
修改端口信息
2026-04-16 00:31:33 +08:00

8.0 KiB
Raw Blame History

快速开始指南

详细的启动和部署指南,面向开发者和运维人员。


🚀 快速启动3 步)

方式一Docker Compose推荐

适合生产环境,一键启动所有服务。

1. 配置环境变量

# 复制 Docker 部署模板
cp .env.docker .env

# 编辑 .env 文件,填入真实的 API Key
vim .env  # 或使用你喜欢的编辑器

必需配置项

  • ZHIPUAI_API_KEY - 智谱 AI API 密钥(从 智谱开放平台 获取)
  • LLAMACPP_API_KEY - llama.cpp 服务认证 Token与容器启动参数一致默认 token-abc123

可选配置项

  • VLLM_BASE_URL - LLM 服务地址(默认已配置为 http://localhost:8081/v1
  • VLLM_EMBEDDING_URL - Embedding 服务地址(默认已配置为 http://localhost:8082/v1
  • DB_URI - PostgreSQL 连接字符串(默认已配置,使用远程服务器地址)
  • QDRANT_URL - Qdrant 向量数据库地址(默认已配置,使用远程服务器地址)

注意Docker Compose 部署时,API_URLdocker-compose.yml 自动注入,无需在 .env 中配置。

2. 启动服务

docker compose -f docker/docker-compose.yml up -d --build

3. 访问应用

如果配置了 Nginx 反向代理

  • 访问地址:http://your-domain.comhttp://your-server-ip

如果未配置 Nginx直接访问容器

常用命令

# 查看服务状态
docker compose ps

# 查看日志
docker compose logs -f

# 重启特定服务
docker compose restart backend

# 停止所有服务
docker compose down

方式二:本地开发模式

适合开发和调试。

前置要求

  • Python 3.10+

1. 安装依赖

pip install -r requirement.txt

2. 配置环境变量

复制并编辑 .env 文件:

# 基于 Docker 模板创建
cp .env.docker .env
vim .env

本地开发需要修改以下配置

``env ZHIPUAI_API_KEY=your_api_key_here LLAMACPP_API_KEY=token-abc123

本地开发时llama.cpp 服务在 localhost

VLLM_BASE_URL=http://localhost:8081/v1 VLLM_EMBEDDING_URL=http://localhost:8082/v1

数据库和向量存储使用远程服务器

DB_URI=postgresql://postgres:mysecretpassword@115.190.121.151:5432/langgraph_db?sslmode=disable QDRANT_URL=http://115.190.121.151:6333

本地开发时,后端也在 localhost

API_URL=http://localhost:8083/chat


#### 3. 启动服务

**终端 1 - 后端:**
```bash
python app/backend.py

终端 2 - 前端:

cd frontend && streamlit run app.py

浏览器自动打开前端页面(如果配置了 Nginx访问 http://your-domain.com;否则访问 http://localhost:8501


🐳 Docker 部署详解

文件说明

文件 用途
docker-compose.yml 服务编排配置(仅包含 backend 和 frontend
Dockerfile.backend 后端镜像构建
Dockerfile.frontend 前端镜像构建
.gitea/workflows/deploy.yml CI/CD 自动化部署

docker-compose.yml 结构

services:
  backend:      # FastAPI 后端服务(连接远程 PostgreSQL 和 Qdrant
  frontend:     # Streamlit 前端界面

特性:

  • 通过环境变量连接远程 PostgreSQL 和 Qdrant
  • 自动重启策略(restart: unless-stopped
  • 内部网络隔离

只更新特定服务

# 只重新构建后端
docker compose up -d --build backend

# 只重新启动前端
docker compose up -d frontend

🔧 开发指南

添加新工具

app/tools.py 中添加:

@tool
def my_new_tool(param: str) -> str:
    """
    工具描述(会显示给 LLM
    
    Args:
        param: 参数说明
        
    Returns:
        返回值说明
    """
    # 实现逻辑
    return result

工具会自动注册,无需修改其他文件。

添加新模型

app/agent.py 中:

def _create_new_model_llm(self):
    """创建新模型的 LLM"""
    return YourChatModel(
        model="model-name",
        api_key=os.getenv("YOUR_API_KEY"),
    )

# 在 initialize() 方法中注册
model_configs = {
    "zhipu": self._create_zhipu_llm,
    "local": self._create_local_llm,
    "new_model": self._create_new_model_llm,  # 新增
}

在前端 frontend/app.py 中添加选项:

MODEL_OPTIONS = {
    "智谱 GLM-4": "zhipu",
    "本地 Gemma-4": "local",
    "新模型": "new_model",  # 新增
}

调试技巧

# 进入后端容器
docker compose exec backend bash

# 查看实时日志
docker compose logs -f backend

# 测试后端 API
curl http://localhost:8001/health

🔄 CI/CD 自动化部署

Gitea Workflows

项目包含自动化部署配置 .gitea/workflows/deploy.yml

触发条件:

  • 推送到 mainmaster 分支
  • 手动触发workflow_dispatch

部署流程:

  1. 检出代码
  2. 准备环境变量
  3. 重新构建并启动前后端(不影响远程数据库)
  4. 健康检查(等待后端就绪)
  5. 清理无用 Docker 资源

配置 Secrets

在 Gitea 仓库设置中添加:

  • ZHIPUAI_API_KEY
  • VLLM_LOCAL_KEY

🐛 故障排查

常见问题

1. 无法连接远程数据库

# 测试 PostgreSQL 连接
psql -h 115.190.121.151 -U postgres -d langgraph_db -c "SELECT version();"

# 测试 Qdrant 连接
curl http://115.190.121.151:6333/collections

解决方案:

  • 确认远程服务器防火墙开放了 5432 和 6333 端口
  • 检查网络连接是否正常
  • 验证用户名和密码是否正确

2. 后端启动失败

# 查看详细日志
docker compose logs backend

# 检查端口占用
lsof -i :8001

常见原因:

  • API Key 未配置或错误
  • 端口 8001 被占用
  • 依赖包缺失

3. 前端无法连接后端

错误信息:

HTTPConnectionPool(host='backend', port=8001): Max retries exceeded

解决方案:

  1. 检查容器是否在同一网络中:
docker network inspect docker_ai-network
  1. 验证环境变量配置:
docker compose exec frontend env | grep API_URL
  1. 重启服务:
docker compose down
docker compose up -d --build
docker compose logs -f

4. 模型初始化失败

# 查看后端启动日志
docker compose logs backend | grep -i "model\|error"

可能原因:

  • 智谱 API Key 无效
  • vLLM 容器未启动(如使用本地模型)
  • 网络连接问题

5. 环境变量未生效

症状:

  • 服务启动时提示缺少必需的环境变量
  • API Key 为空或使用默认值

解决方案:

  1. 检查 .env 文件格式:
cat -A .env
  1. 验证环境变量已加载:
docker compose exec backend env | grep ZHIPUAI_API_KEY
docker compose exec frontend env | grep API_URL
  1. 重新构建容器:
docker compose down
docker compose up -d --build

📊 监控和维护

查看资源使用

# Docker 容器资源使用
docker stats

# 磁盘空间
docker system df

# 清理无用资源
docker system prune -f

日志管理

# 查看所有服务日志
docker compose logs

# 查看特定服务最近 100 行日志
docker compose logs --tail=100 backend

# 实时跟踪日志
docker compose logs -f backend frontend

备份和恢复

# 备份远程数据库
pg_dump -h 115.190.121.151 -U postgres langgraph_db > backup.sql

# 恢复数据库
cat backup.sql | psql -h 115.190.121.151 -U postgres langgraph_db

🎯 性能优化建议

开发环境

  • 使用 docker compose watch 实现热重载(需配置)
  • 挂载代码目录而非复制到镜像
  • 启用 Python 调试模式

生产环境

  • 使用反向代理Nginx
  • 启用 HTTPS
  • 配置日志轮转
  • 设置资源限制CPU、内存
  • 定期备份远程数据库

📞 获取帮助

  • 完整文档: README.md
  • 报告问题: 提交 Issue 并附上日志

祝您部署顺利! 🎉