ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

配了三个AI平台API Key就把我整懵了,用绿联NAS搭了个统一入口救了我:TaoToken 统一 Key 通道实战

配了三个AI平台API Key就把我整懵了,用绿联NAS搭了个统一入口救了我:TaoToken 统一 Key 通道实战 1. 三个 Key 三套配置绿联 NAS 上到底乱在哪我一开始的用法很原始OpenAI 一个 Key、Claude 一个 Key、NVIDIA 又一个 Key每个平台一套 Base URL每个客户端里各填一遍。桌面备忘录里躺着七八条地址换台设备就得重新翻。问题不是模型不够用而是入口太散——你每接一个新平台就要把所有下游客户端改一遍。这套场景放到绿联 NAS 上会更明显。NAS 本来就是个 7×24 小时开机的设备你完全可以让它当AI 网关但前提是得有一个统一入口层。CLI Proxy API 就是干这个的它本身不是模型而是夹在上游模型服务和下游客户端之间的一层代理对外提供 OpenAI / Gemini / Claude / Codex 兼容的 API 形式。上游可以接 OpenAI、Gemini、Claude也能通过 OpenAI-compatible 方式接入 NVIDIA 这类平台下游不管是聊天客户端、脚本还是知识库只认你这一个地址和一把 Key。对个人自用来说它比较实用的能力有几项兼容多种接口风格方便不同客户端统一接入支持 OAuth 登录OpenAI Codex、Claude Code 这类支持多账号轮询做负载分担支持流式输出、工具调用和多模态输入内置管理页面能管配置、API Keys、凭据、日志和用量。说白了你要的是改中间一层下游全不动。这篇就按这个思路在绿联 NAS 上用 Docker 把 CLI Proxy API 跑起来接一个 NVIDIA 上游再用客户端验证整条链路。适合谁手里有绿联 NAS、装了 Docker、被多平台 Key 管理搞烦的人。下面每一步都能直接复制跟做。2. 前置准备绿联 NAS 装 Docker、开 SSH、拿 NVIDIA Key这一节把三样东西备齐Docker跑服务、SSH进终端执行命令、NVIDIA API Key当上游。前两样如果之前配过直接跳到 2.3。2.1 在绿联 NAS 上安装 Docker进入绿联 NAS 首页打开应用中心搜索 Docker找到后点安装等它装完。装好后桌面会多出一个 Docker 图标顺手点进去确认能正常打开——后面 CLI Proxy API 的部署、启动、运行都靠它。2.2 开启 SSH 并连接 NAS进控制面板点终端机图标勾选 SSH 功能后点应用。这里提醒一句SSH 密码就是你的登录密码公网环境下务必设强密码。然后在电脑端开终端。Windows 按 Win X 选终端管理员macOS / Linux 用自带终端。执行# ssh 你的绿联NAS用户名你的绿联NAS访问IP地址 ssh susu192.168.50.99连上后切到 rootsudo -i2.3 注册 NVIDIA 并获取 API Key打开 NVIDIA Build 页面build.nvidia.com点右上角 Login。有账号直接登没有就输邮箱按提示注册设密码、完成验证、创建账户。系统会发验证邮件去邮箱拿验证码完成验证。之后页面可能要求补充账号名称等基础资料按提示填。如果右上角出现 Verify 提示继续按引导填手机号验证支持 86。验证完成后点右上角头像菜单里找 API Keys 进管理页点 Generate API Key起个名字、选有效期、生成。页面会给出一串 Key复制保存好下一步配置上游要用。3. 可复制配置一键脚本部署 NVIDIA 上游接入这一节是全文的核心操作区分两步先把 CLI Proxy API 用 Docker 跑起来再把 NVIDIA 作为 OpenAI 兼容上游接进去。3.1 一键脚本部署 CLI Proxy API手动搭要建目录、处理权限、准备配置文件太啰嗦。这里用一键脚本把基础环境先跑起来。在 NAS 终端执行curl -fsSL https://gitee.com/jun-wan/script/raw/master/cliproxyapi_deploy/cpa_docker_deploy.sh -o /tmp/cpa_docker_deploy.sh chmod x /tmp/cpa_docker_deploy.sh /tmp/cpa_docker_deploy.sh执行后终端进入脚本初始化界面选1或直接回车用默认配置。后面几步同理不改默认参数就一路回车。脚本跑完会输出部署结果复制终端里显示的管理页面登录地址粘到浏览器打开用终端输出的管理员账号密码登录后台。如果你更想手动控制容器下面这份docker-compose.yml片段可以直接参考路径按你 NAS 实际目录调整services: cli-proxy-api: image: ghcr.io/router-for-me/cliproxyapi:latest container_name: cli-proxy-api restart: unless-stopped ports: - 8317:8317 volumes: - /volume1/docker/cliproxyapi/config:/app/config - /volume1/docker/cliproxyapi/logs:/app/logs environment: - TZAsia/Shanghai注意端口 8317 是后面客户端要填的地址端口别和 NAS 上已有服务冲突。挂载目录先建好权限给足否则容器起不来。3.2 在后台添加 NVIDIA 上游回到 CLI Proxy API 后台左侧菜单找AI 提供商滚到最下方OpenAI 兼容提供商点右侧添加提供商。先给提供商起个名方便区分然后在 Base URL 填 NVIDIA 接口地址https://integrate.api.nvidia.com/v1填好后点右侧从 /models 获取程序会尝试拉取可用模型列表。没自动显示就再点一次然后全选模型列表点添加。滚到页面底部在 API Key 位置填入前面 NVIDIA 后台生成的密钥任选一个刚添加的模型推荐 gpt-oss-120b做连接测试。页面提示密钥测试通过就说明这条上游可用点底部保存完成添加。这里有个关键点Base URL 和 Key 必须成对。Base URL 填 NVIDIA 的Key 就得是 NVIDIA 的等你在客户端里填的时候Base URL 要换成 CLI Proxy API 的地址Key 换成 CLI Proxy API 的统一密钥。两套东西别混。4. 验证请求客户端接入与成功结果确认上游接好了得用真实客户端验证整条链路。这里以 OpenClaw 为例思路对 Cherry Studio、Open WebUI 都一样。4.1 先拿 CLI Proxy API 的统一密钥进后台左侧配置面板→认证配置能看到当前 API 密钥列表复制其中一条。想给某个客户端单独建密钥也可以在这里新增。顺手把页面下方系统配置里的使用统计开关打开点保存后面能看请求记录和用量。4.2 在 OpenClaw 里填地址和 Key在 Windows 的 CMD 或 PowerShell 执行openclaw configure进向导后选 Local → Model → Custom Provider自定义提供商然后填三件套配置项填写内容示例API Base URLNAS 上 CLI Proxy API 地址 /v1http://192.168.50.99:8317/v1API KeyCLI Proxy API 后台复制的统一密钥sk-xxxx非 NVIDIA 原始 KeyEndpoint compatibilityOpenAI-compatible—Model ID后台实际接入成功的模型名openai/gpt-oss-120b两个坑要特别注意第一API Key 填的是 CLI Proxy API 的统一调用密钥不是 NVIDIA 后台生成的原始 Key第二Model ID 别照抄示例填你后台实际接入成功的模型名。界面出现Verification successful.就说明这组配置验证通过选 Continue (Done) 保存退出。4.3 对话测试确认链路配置完如果当前会话没切到新模型重启一下网关或在网页端改当前会话模型再发/new开新会话。然后输入你运行在什么操作系统上当前接入的是什么模型你可以干什么能正常返回、且回复里识别出当前模型信息就说明统一入口生效了。返回内容大致会提到运行环境、当前模型名形如custom-192-168-50-99-8317/openai/gpt-oss-120b以及可用能力。到这一步OpenClaw 已经通过 CLI Proxy API 接上了 NVIDIA 上游。5. 本篇常见错排查401、local proxy failed、reading choices配置过程中最容易卡在几个报错上逐个对照。401 Unauthorized九成是 Key 填错层了。客户端里填的必须是 CLI Proxy API 的统一密钥不是 NVIDIA 原始 Key后台上游里填的才是 NVIDIA Key。两边搞反就 401。另外检查密钥有没有多余空格复制时容易带上换行。local proxy failed / connection refused客户端连不上 CLI Proxy API。先确认容器在跑docker ps看状态再确认 Base URL 里的 IP 和端口对——NAS 的局域网 IP 8317末尾/v1别漏。如果客户端和 NAS 不在同一网段或者走了公网地址检查穿透隧道是否在线。reading choices / 返回结构解析失败多半是 Endpoint compatibility 选错或者 Model ID 填了后台不存在的模型。回后台确认模型列表里确实有这个名字客户端兼容模式选 OpenAI-compatible。OAuth 相关报错如果你用的是 Codex 或 Claude Code 的 OAuth 接入方式注意 OAuth 凭据和 API Key 是两套机制别在需要 OAuth 的地方填 API Key。OAuth 登录失败时重新走一遍授权流程确认回调地址可达。容器起不来 / 权限报错挂载目录没建或权限不足。SSH 里ls -l看下目录属主必要时chmod给足权限再docker restart。排查顺序建议先看容器状态 → 再看后台上游测试是否通过 → 最后看客户端三件套。哪一层断了就在哪一层修别一上来就重装。6. 长期用下去统一入口 稳定地址的 CTA局域网里跑通之后如果你想让这套入口在公司、外出时也能用可以再叠一层内网穿透把 CLI Proxy API 的页面和接口映射出去并配一个固定的二级子域名这样客户端里配一次地址就不用老改。不过对多数人来说真正省事的核心还是统一入口这四个字上游在 CLI Proxy API 这一层统一管下游不管接 OpenClaw、Hermes 还是 Cherry Studio都是同一套地址和 Key。后面想加新平台后台接一下上游就行客户端不动。如果你不想自己维护这套代理层也可以直接用托管方案模型对话入口在 https://taotoken.net/api 接入文档和 API Keys 在控制台里拿长期编码或跑 Agent 的场景可以看 Coding Plan。把 Base URL、Key、Model ID 三件套填对链路就通了。实测下来最值的两个场景一是多平台轮着用不用再翻备忘录找 Key二是统一调用后在后台看用量统计哪个模型用了多少次一目了然。整套搭下来一两个小时长期看是划算的。
返回列表