DataAgent部署#

资源要求#

CPU:8核 内存:32GB+

环境要求#

项目存储依赖mongodb,在开始安装之前需要提前安装

源码部署#

SQLAgent依赖Python >= 3.10

1、[可选] 创建conda环境

conda create -n sqlagent python=3.10
conda activate sqlagent

2、可以通过运行以下命令来下载源码和安装依赖:

#源码下载
git clone https://github.com/hitsz-ids/SQLAgent.git``
cd SQLAgent
# 安装依赖
pip install poetry && poetry install

3、创建.env文件,可以从.env_template文件复制

cp .env_template .env

4、请根据实际情况对以下变量进行配置

# mongodb 配置
MONGODB_URI="mongodb://localhost:27017"
MONGODB_DB_NAME='sqlagent'
MONGODB_DB_USERNAME=''
MONGODB_DB_PASSWORD=''
# OpenAI 配置,留空即可
OPENAI_KEY=''
MODEL_NAME=''
# [可选]embedding 模型名称 默认使用 infgrad/stella-large-zh-v2
EMBEDDINGS_MODEL_NAME='infgrad/stella-large-zh-v2'
# [可选]embedding 模型名称 默认使用 infgrad/stella-large-zh-v2
EMBEDDINGS_MODEL_NAME='infgrad/stella-large-zh-v2'

5、启动服务

python sqlagent/server.py

Docker部署#

1、构建镜像

bash docker/build.sh

2、创建embedding模型存储目录

mkdir -p /data/huggingface

3、启动容器

docker run -idt --privileged=true \
-p 8888:8888 \
-v /data/huggingface:/root/.cache/huggingface \
-e LLM_SQL_ORIGIN=http://xxx.xxx.xxx.xxx:8000 \ # 按实际情况替换
-e MONGODB_URI=mongodb://xxx.xxx.xxx.xxx:27017 \ # 按实际情况替换
-e MONGODB_DB_NAME=sqlagent \
-e MONGODB_DB_USERNAME=xxx \ # 按实际情况替换
-e MONGODB_DB_PASSWORD=xxx \ # 按实际情况替换
-e EMBEDDINGS_MODEL_NAME=infgrad/stella-large-zh-v2 \
--restart always \
--name sqlagent \
langcode/sqlagent:Alpha