ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

OctaFuse Gateway 2.5.0:接入 Responses 端点、更易理解的路由配置

OctaFuse Gateway 2.5.0:接入 Responses 端点、更易理解的路由配置 2.5.0 将 OpenAI Responses API 纳入 OctaFuse 的统一路由体系。应用可以继续使用现有的用户 API Key、预算和公开模型通过POST /v1/responses访问支持 Responses 的上游。管理后台也同步升级了 Routes 与 Providers 工作台让请求入口、公开模型、路由组和上游目标之间的关系更加直观。一句话看懂 2.5.0统一路由 OpenAI Responses API并让多模型、多协议的配置与排查更加简单。01统一路由 OpenAI Responses API2.5.0 新增 OpenAI Responses 兼容接口支持非流式 JSON 和streamtrue的 SSE 事件流并沿用 Chat 已有的鉴权、预算、路由、故障转移和异步记账能力。流式请求的输入、输出、推理和缓存 Token 都会进入现有的用量统计与计费链路。已有的 Chat、Messages、Gemini、Images 和 Audio 接口不受影响。对于使用previous_response_id的连续调用路由需要保证请求回到同一个上游目标无法保证时网关会明确返回错误避免状态错乱。当前版本主要支持 Responses 的创建与流式调用。02全新的 Routes 工作台新版 Routes 工作台提供两种查看方式并将尚未接入请求入口的模型集中展示总览Overview按请求入口查看完整路由拓扑。按模型By model查看单个模型的路由组、优先级、权重和故障转移关系。未接线模型Unrouted models快速发现已导入但尚未配置请求入口的模型。总览视角按请求入口展示完整拓扑并在页面底部集中列出未接线模型。按模型视角可以在一张拓扑图中查看同一模型的不同路由组和全部上游目标。拓扑不仅用于查看。打开任一路由即可在同一页面配置协议与 operation 映射、路由组、上游目标、自定义参数和计费倍率。从客户端模型到上游 Provider路由关系和关键参数可以在一个页面内完成配置。配合状态、类型、厂商和 Provider 筛选复杂路由的配置检查与问题排查会更加直接。03Provider 管理更直观Provider 列表改为卡片网格每张卡片都会展示 API Key 状态、活动路由数量以及 Chat、Responses、Messages 等协议能力。列表还支持按启用状态和协议筛选。无需逐个打开 Provider即可快速确认密钥、路由和协议配置。Provider 编辑界面也会按协议管理端点。Responses 可以使用独立地址也可以根据 OpenAI Base URL 自动生成/v1/responses。04联调入口与模型预设同步更新Playground 和 Simulator 新增 Responses 模式可以直接验证普通响应、SSE 事件和实际命中的路由目标。模型预设新增gemini-3.7-flash、glm-5.3、grok-4.6和grok-imagine-image-2.0。DeepSeek V4 Pro 规格和 Grok 4 系列阶梯价格同步更新。2.5.0 不包含数据库迁移更新 Proxy、Admin 与 migrate 镜像后滚动重启即可。小结2.5.0 的重点是让 Responses API 可以直接进入 OctaFuse 现有的路由与治理体系同时通过全新的 Routes 和 Providers 工作台降低多模型、多协议环境的管理成本。OctaFuse 是一个可自托管的开源 AI 能力网关与运营控制台。它为模型、图片、语音和智能体工具提供统一入口并将路由、密钥、预算、计费、日志与审计留在你自己的基础设施中。OctaFuse 官网GitHub 仓库如果 OctaFuse 对你的项目有帮助欢迎在 GitHub 上点一个Star。你的关注和反馈会帮助我们继续完善路由、协议适配与自托管体验。
返回列表