ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

DB-GPT Docker 部署指南:无 GPU 3 条命令 5 分钟跑通

DB-GPT Docker 部署指南:无 GPU 3 条命令 5 分钟跑通 DB-GPT Docker 部署指南无 GPU 3 条命令 5 分钟跑通【免费下载链接】DB-GPTopen-source agentic AI data assistant for the next generation of AI Data products.项目地址: https://gitcode.com/GitHub_Trending/db/DB-GPT没有 GPU、没有 CUDA、没有漫长的 pip 安装。这篇 DB-GPT Docker 部署教程面向想用一条推理 API Key 在裸机上快速拉起数据分析助手的你3 条命令5 分钟出结果。先看表两条路线横评维度云端路线代理模型本地路线GPU 推理硬件门槛裸机即可无需 GPUNVIDIA GPU建议显存 ≥8GB启动耗时2~3 分钟拉镜像 启动30 分钟以上大头是下模型适合人群快速体验、测试、轻量生产数据不能出内网、高频调用核心命令数3 条5 条含取模型、写配置容器镜像 ≈ 一个打包好的迷你系统DB-GPT 后端、Web 界面和全部依赖都在里面你只管把浏览器对准端口。无 GPU 路线云端推理最小可行部署准备确认 Docker 就位docker versionClient 和 Server 都有版本号即可。另需准备一个推理服务的 API Key文中统一写作你的密钥。拉取一行取回官方镜像docker pull eosphorosai/dbgpt-openai:latest这是预构建镜像等价于把装好所有依赖的系统直接搬进你的机器无需本地构建。启动注入密钥并放行端口docker run -it --rm -e SILICONFLOW_API_KEY你的密钥 -p 5670:5670 --name dbgpt eosphorosai/dbgpt-openai-p 5670:5670把容器内的默认服务端口映射到本机--rm表示退出即自动清理容器。验证浏览器打开页面打开http://localhost:5670界面加载后在对话框里随便问一句有回答即部署成功。✅ 终端进程保持 Up 且浏览器能打开界面说明已跑通。GPU 路线小模型跑在内网数据不能出公司时把云端 API 换成本地 0.5B 小模型。取模型国内走 ModelScope 更快mkdir -p ./models cd ./models git lfs install git clone https://www.modelscope.cn/Qwen/Qwen2.5-Coder-0.5B-Instruct.git git clone https://www.modelscope.cn/BAAI/bge-large-zh-v1.5.git cd ..写配置同目录建dbgpt-local-gpu.toml关键是两个模型路径[[models.llms]] name Qwen2.5-Coder-0.5B-Instruct provider hf path /app/models/Qwen2.5-Coder-0.5B-Instruct完整示例见configs/dbgpt-local-qwen.toml。启动容器docker run --ipc host --gpus all -it --rm -p 5670:5670 \ -v ./dbgpt-local-gpu.toml:/app/configs/dbgpt-local-gpu.toml \ -v ./models:/app/models --name dbgpt eosphorosai/dbgpt \ dbgpt start webserver --config /app/configs/dbgpt-local-gpu.toml--gpus all相当于把宿主机显卡借给容器验证方式与云端路线相同。生产加固三处值得加数据持久化—— 否则容器重建聊天记录和知识库全丢mkdir -p ./pilot/data ./pilot/message在原 run 命令里追加两个挂载-v ./pilot/data:/app/pilot/data -v ./pilot/message:/app/pilot/message守护运行—— 去掉-it --rm换成-d关终端服务不掉线docker run -d -p 5670:5670 -e SILICONFLOW_API_KEY你的密钥 --name dbgpt eosphorosai/dbgpt-openai端口被占—— 只改宿主侧映射容器内不动-p 5671:5670 三条高频调优多卡用--gpus device0,1指定卡号大模型加载补--shm-size 8g要配 MySQL 时用根目录docker-compose.ymlSILICONFLOW_API_KEY你的密钥 docker compose up -d一条命令全起。踩坑实录我遇到容器起来就退出浏览器连不上 排查docker logs dbgpt直接报模型鉴权失败 解决Key 失效或尾部带了空格重新签发后再用-e传入我遇到宿主机nvidia-smi正常容器里却找不到 GPU 排查没装 NVIDIA Container Toolkit宿主机驱动不会自动透传 解决装上 Toolkit 重跑原命令--gpus all立刻生效我遇到GPU 首次启动极慢以为卡死了 排查日志显示正在加载模型权重属于正常现象 解决用ls -lh核对两个模型目录LFS 指针文件只有几十 KB真实权重是 GB 级偏小就重新 clone上线自检docker ps里 dbgpt 容器状态为 Up无反复重启浏览器打开http://localhost:5670Web 界面正常加载对话框输入测试问题模型返回正常回答而非连接错误数据目录已挂载持久化容器重建后数据不丢API Key 通过环境变量传入未硬编码在任何脚本里确认服务端口可访问 记录当前镜像版本号docker image inspect eosphorosai/dbgpt-openai的 tag 字段【免费下载链接】DB-GPTopen-source agentic AI data assistant for the next generation of AI Data products.项目地址: https://gitcode.com/GitHub_Trending/db/DB-GPT创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表