尧图网站建设 
Wenyi 开发者教程10分钟注册一个新LLM Provider或模型操作【免费下载链接】wenyi将被语言阻隔的作品带到读者的语言中。Bringing literature into your language.项目地址: https://gitcode.com/BigDawnGhost/wenyiWenyiwenyi是一个多语言小说翻译工具它的核心能力来自可路由的 LLM 模型系统。本教程面向新手开发者教你如何在 Wenyi 中快速注册一个新的 LLM Provider模型提供商或接入一个已有的模型并配置操作路由全程只需 10 分钟。为什么需要注册 ProviderWenyi 把连接Provider和模型Model分开管理Provider一个厂商或端点的连接配置如 DeepSeek、OpenAI、Gemini、Ollama、vLLMModel挂在某个 Provider 下的具体模型附带推理参数Operation操作工作流中的具体任务如translation.body正文翻译、review.verify取证核查每个操作通过档位strong / cheap / fast或显式路由选择模型。这种设计让你可以只用 YAML 配置就把不同任务指向不同模型无需改代码。第一步查看内置 Provider 注册表所有内置 Provider 都在注册表中声明文件是 registry.py。每个 Provider 用一条ProviderSpec描述ProviderSpec(deepseek, deepseek, DeepSeekClient, DeepSeekOptions) # kind 模块 客户端类 选项类目前内置的 kind 包括deepseek、openai、openrouter、opencode-go、openai-compatible、orcarouter、ollama、vllm、gemini、fake离线假模型方便无密钥调试。技巧如果你的目标服务兼容 OpenAI Chat Completions 协议比如自建的 vLLM、Ollama 或第三方网关不需要写新代码直接用openai-compatible类型即可见 openai_compatible.py。第二步用配置注册新连接和模型大多数场景只需编辑config.yaml项目根目录。最小示例llm: preset: deepseek providers: my-ollama: kind: ollama base_url: http://localhost:11434/v1 models: local-chat: provider: my-ollama model: qwen2.5:14b max_output_tokens: 8192 tiers: {strong: local-chat, cheap: local-chat, fast: local-chat}关键字段说明详见 configuration.py字段含义kind注册表中的 Provider 类型必须是已注册的 kindbase_url自定义端点必须是无凭据的绝对 HTTP(S) 地址api_key_env环境变量名密钥本身永不写入配置max_output_tokens该模型输出的 token 上限options厂商专属参数如thinking、reasoning_effort第三步把操作路由到新模型默认所有操作按三个档位strong / cheap / fast选模型。如果你想让某类任务走新模型用routes覆盖routes: polish.body: {model: local-chat} review.verify: {model: local-chat}操作清单如translation.body、polish.body、review.scan统一注册在 operations.py共 17 个操作覆盖语言检测、风格分析、翻译、润色、术语、审校、字幕等全部环节。第四步验证配置无需发送任何真实请求三条命令即可完成验证源码见 model_commands.pyuv run wenyi models list uv run wenyi models explain --operation review.verify uv run wenyi models check --for translatemodels list打印所有操作当前生效的路由Provider、模型、并发等models explain解释某个操作的默认档位与实际请求参数models check本地校验密钥环境变量是否可达不创建客户端、不发送请求。进阶注册一个全新类型的 Provider如果你的服务协议与所有内置类型都不兼容比如全新的私有 API需要三步写适配器在 llm/providers/ 下新增一个模块如myvendor.py实现客户端类与选项类。最简单的做法是继承OpenAICompatibleClient参考 vllm.py——它只有一行差异化逻辑默认 base_url注册 kind在 registry.py 的PROVIDERS里追加一条ProviderSpec配置使用在config.yaml的llm.providers中使用新 kind然后wenyi models check验证。注册表采用声明式设计校验、预览、构建客户端三个阶段共用同一份ProviderSpec所以注册后models list / explain / check会立即识别你的新类型。常见坑位清单 ⚠️kind 写错报Unknown provider错误信息会列出所有可用 kind直接复制即可base_url 带了 query 或密码会被拒绝凭据请走api_key_envtiers 不完整tiers必须恰好包含strong、cheap、fast三个键可全部指向同一模型路由引用未知模型 IDroutes里引用的模型必须已在models注册未知引用会在请求前报错而非静默回退。延伸阅读完整配置规则与提供商选项表docs/zh/configuration.md默认配置示例config.yaml路由解析实现routing.py客户端构建入口factory.py至此你已经可以在 10 分钟内为 Wenyi 接入任意 LLM 提供商或为新任务定制模型路由。先跑通wenyi models list再逐步把审校、润色等操作切到更便宜或更强的模型上是控制成本与质量的最佳实践。【免费下载链接】wenyi将被语言阻隔的作品带到读者的语言中。Bringing literature into your language.项目地址: https://gitcode.com/BigDawnGhost/wenyi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Wenyi 开发者教程：10分钟注册一个新LLM Provider或模型操作
Wenyi 开发者教程10分钟注册一个新LLM Provider或模型操作【免费下载链接】wenyi将被语言阻隔的作品带到读者的语言中。Bringing literature into your language.项目地址: https://gitcode.com/BigDawnGhost/wenyiWenyiwenyi是一个多语言小说翻译工具它的核心能力来自可路由的 LLM 模型系统。本教程面向新手开发者教你如何在 Wenyi 中快速注册一个新的 LLM Provider模型提供商或接入一个已有的模型并配置操作路由全程只需 10 分钟。为什么需要注册 ProviderWenyi 把连接Provider和模型Model分开管理Provider一个厂商或端点的连接配置如 DeepSeek、OpenAI、Gemini、Ollama、vLLMModel挂在某个 Provider 下的具体模型附带推理参数Operation操作工作流中的具体任务如translation.body正文翻译、review.verify取证核查每个操作通过档位strong / cheap / fast或显式路由选择模型。这种设计让你可以只用 YAML 配置就把不同任务指向不同模型无需改代码。第一步查看内置 Provider 注册表所有内置 Provider 都在注册表中声明文件是 registry.py。每个 Provider 用一条ProviderSpec描述ProviderSpec(deepseek, deepseek, DeepSeekClient, DeepSeekOptions) # kind 模块 客户端类 选项类目前内置的 kind 包括deepseek、openai、openrouter、opencode-go、openai-compatible、orcarouter、ollama、vllm、gemini、fake离线假模型方便无密钥调试。技巧如果你的目标服务兼容 OpenAI Chat Completions 协议比如自建的 vLLM、Ollama 或第三方网关不需要写新代码直接用openai-compatible类型即可见 openai_compatible.py。第二步用配置注册新连接和模型大多数场景只需编辑config.yaml项目根目录。最小示例llm: preset: deepseek providers: my-ollama: kind: ollama base_url: http://localhost:11434/v1 models: local-chat: provider: my-ollama model: qwen2.5:14b max_output_tokens: 8192 tiers: {strong: local-chat, cheap: local-chat, fast: local-chat}关键字段说明详见 configuration.py字段含义kind注册表中的 Provider 类型必须是已注册的 kindbase_url自定义端点必须是无凭据的绝对 HTTP(S) 地址api_key_env环境变量名密钥本身永不写入配置max_output_tokens该模型输出的 token 上限options厂商专属参数如thinking、reasoning_effort第三步把操作路由到新模型默认所有操作按三个档位strong / cheap / fast选模型。如果你想让某类任务走新模型用routes覆盖routes: polish.body: {model: local-chat} review.verify: {model: local-chat}操作清单如translation.body、polish.body、review.scan统一注册在 operations.py共 17 个操作覆盖语言检测、风格分析、翻译、润色、术语、审校、字幕等全部环节。第四步验证配置无需发送任何真实请求三条命令即可完成验证源码见 model_commands.pyuv run wenyi models list uv run wenyi models explain --operation review.verify uv run wenyi models check --for translatemodels list打印所有操作当前生效的路由Provider、模型、并发等models explain解释某个操作的默认档位与实际请求参数models check本地校验密钥环境变量是否可达不创建客户端、不发送请求。进阶注册一个全新类型的 Provider如果你的服务协议与所有内置类型都不兼容比如全新的私有 API需要三步写适配器在 llm/providers/ 下新增一个模块如myvendor.py实现客户端类与选项类。最简单的做法是继承OpenAICompatibleClient参考 vllm.py——它只有一行差异化逻辑默认 base_url注册 kind在 registry.py 的PROVIDERS里追加一条ProviderSpec配置使用在config.yaml的llm.providers中使用新 kind然后wenyi models check验证。注册表采用声明式设计校验、预览、构建客户端三个阶段共用同一份ProviderSpec所以注册后models list / explain / check会立即识别你的新类型。常见坑位清单 ⚠️kind 写错报Unknown provider错误信息会列出所有可用 kind直接复制即可base_url 带了 query 或密码会被拒绝凭据请走api_key_envtiers 不完整tiers必须恰好包含strong、cheap、fast三个键可全部指向同一模型路由引用未知模型 IDroutes里引用的模型必须已在models注册未知引用会在请求前报错而非静默回退。延伸阅读完整配置规则与提供商选项表docs/zh/configuration.md默认配置示例config.yaml路由解析实现routing.py客户端构建入口factory.py至此你已经可以在 10 分钟内为 Wenyi 接入任意 LLM 提供商或为新任务定制模型路由。先跑通wenyi models list再逐步把审校、润色等操作切到更便宜或更强的模型上是控制成本与质量的最佳实践。【免费下载链接】wenyi将被语言阻隔的作品带到读者的语言中。Bringing literature into your language.项目地址: https://gitcode.com/BigDawnGhost/wenyi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考