
OmniRoute MCP Server 指南用 MCP 协议把 AI 网关的监控、路由与配额能力暴露给任意 Agent【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute本文基于仓库文档 MCP-SERVER.md 整理成文讲解 OmniRoute 内置 Model Context ProtocolMCP服务器的启动方式、16 个核心工具8 个基础工具 8 个进阶工具的用法、API Key 细粒度 Scope 鉴权模型以及每次工具调用都会落库的mcp_tool_audit审计日志机制。读完本文你能够把任意支持 MCP 的客户端Claude Desktop、Cursor、自定义 Agent接入 OmniRoute并通过工具完成健康检查、Combo 切换、配额查询、路由模拟、预算护栏与会话快照等运维操作。一、MCP Server 的定位与启动方式OmniRoute MCP 是内置在网关中的 Model Context Protocol 服务器它将网关的路由、缓存、配额、成本等网关智能封装成 MCP 工具使任何 AI AgentClaude Desktop、Cursor、VS Code Copilot、自研 Agent都能以标准 MCP 协议监控、控制和优化整个 AI 网关。整体链路为AI Agent / IDE ──(MCP 协议: stdio 或 HTTP)──▶ OmniRoute MCP Server │ Scope 鉴权 工具分发 │ HTTP内部调用 ▼ OmniRoute Gateway端口 20128 /v1/chat/completions /api/combos /api/usage ...文档给出了两种启动方式# 方式一stdio 直启IDE 集成常用 omniroute --mcp# 方式二通过 open-sse 传输层HTTP streamable transport端口 20130 # 以 --dev 启动后MCP 自动挂载在 /mcp 端点 omniroute --dev从源码看MCP 服务器的工厂函数是createMcpServer()定义在 server.ts它基于modelcontextprotocol/sdk的McpServer实例化名为omniroute的服务器并在注册循环中把每个工具包一层withScopeEnforcement做 Scope 校验。服务器创建时还会读取两个key_value配置项compression.mcpDescriptionCompressionEnabledMCP 描述压缩开关默认开启与compression.mcpAccessibility工具结果可访问性树过滤配置分别控制注册期元数据压缩与运行期结果过滤。二、Essential Tools8 个基础工具基础工具覆盖了日常运维的读多写少场景完整清单如下Scope 列对应后文的鉴权模型工具Scope说明omniroute_get_healthread:health网关健康状态、熔断器状态、运行时长omniroute_list_combosread:combos列出所有已配置 Combo 及其模型链omniroute_get_combo_metricsread:combos查询指定 Combo 的性能指标omniroute_switch_combowrite:combos按 ID 或名称切换当前激活的 Comboomniroute_check_quotaread:quota查询单个或全部 Provider 的配额状态omniroute_route_requestwrite:route通过 OmniRoute 智能路由发送一次 chat completionomniroute_cost_reportread:usage按时间段输出成本分析报告omniroute_list_models_catalogread:models完整模型目录含能力与定价以omniroute_get_health为例看注册方式server.ts工具名、描述、ZodinputSchema如getHealthInput三要素齐全handler 外层统一套withScopeEnforcement入参先用 Zod 校验再交给具体 handler。这种Schema 校验 Scope 守卫 纯 handler的三段式注册在全部工具中保持一致使得新增工具只需三行声明即可接入鉴权与审计体系。三、Advanced Tools8 个进阶工具进阶工具面向诊断、演练与运行时调参适合 Agent 自动化运维Auto-Healing、成本护栏等工具Scope说明omniroute_simulate_routeread:health,read:combos干跑dry-run路由模拟返回完整 fallback 树omniroute_set_budget_guardwrite:config设置会话预算超限后执行 degrade/block/alertomniroute_set_resilience_profilewrite:config应用 conservative/balanced/aggressive 弹性预设omniroute_test_combowrite:route用真实上游请求实测 Combo 中所有模型omniroute_get_provider_metricsread:health单 Provider 详细指标延迟分位数、熔断状态omniroute_best_combo_for_taskread:models按任务类型推荐最适配 Combo并给出备选omniroute_explain_routeread:usage解释某次历史路由决策评分因子 fallback 触发原因omniroute_get_session_snapshotread:usage完整会话状态成本、Token、错误统计这 8 个进阶工具的 handler 集中在 advancedTools.ts包括handleSimulateRoute、handleSetBudgetGuard、handleTestCombo、handleExplainRoute等见 server.ts 的导入清单。一个典型用法组合是先simulate_route干跑估算成本与 fallback 路径再set_budget_guard设置maxCostaction: degrade最后才真正发起route_request把先估算、再设护栏、后执行的预算感知流程完整交给 Agent 编排。说明文档中的 Scope 映射如route_request归write:route、预算/弹性配置归write:config以本文档为准仓库英文主文档 MCP-SERVER.md 中对应 Scope 命名execute:completions、write:budget、write:resilience与工具面均已随版本扩展接入时请以当前部署版本的 Scope 实际返回为准。四、AuthenticationAPI Key Scope 双因子鉴权文档明确每个 MCP 工具调用都通过 API Key 的 Scope 进行鉴权工具与 Scope 的对应关系即上文两张工具表中的 Scope 列归纳为Scope覆盖工具read:healthget_health、get_provider_metricsread:comboslist_combos、get_combo_metricswrite:combosswitch_comboread:quotacheck_quotawrite:routeroute_request、simulate_route、test_comboread:usagecost_report、get_session_snapshot、explain_routewrite:configset_budget_guard、set_resilience_profileread:modelslist_models_catalog、best_combo_for_task从源码结构看Scope 校验集中实现在 scopeEnforcement.ts导出evaluateToolScopes工具级 Scope 求值与resolveCallerScopeContext解析调用方身份两个核心函数被 server.ts 导入后包裹每个工具 handler。是否强制启用由环境变量OMNIROUTE_MCP_ENFORCE_SCOPES控制server.ts 中 true才生效默认关闭默认允许的 Scope 白名单可通过OMNIROUTE_MCP_SCOPES逗号分隔注入此外OMNIROUTE_BASE_URL默认http://localhost:20128决定工具回调网关内部 API 的基址OMNIROUTE_API_KEY作为 Bearer 转发到内部调用。HTTP 传输下的调用方身份解析则走 httpAuthContext.ts从 Bearer 中提取并校验 API Key。IDE 客户端接入示例stdio 模式下把 MCP Server 直接写进 IDE 的 MCP 配置即可。以 Cursor 为例示例取自 open-sse/mcp-server/README.md{ mcpServers: { omniroute: { command: npx, args: [tsx, open-sse/mcp-server/server.ts], env: { OMNIROUTE_BASE_URL: http://localhost:20128 } } } }Claude Desktop 的claude_desktop_config.json结构相同command可用node指向open-sse/mcp-server/server.ts并在env中补充OMNIROUTE_API_KEY以通过内部 API 鉴权。更完整的客户端配置Cline、Copilot 等可参考 SETUP_GUIDE.md 的 MCP Client 配置章节。五、Audit Loggingmcp_tool_audit 审计日志文档规定每一次工具调用都会写入mcp_tool_audit表记录内容包括工具名、参数、结果耗时ms、成功/失败标志API Key 哈希、时间戳实现落在 audit.ts。文件头注释交代了两个关键的隐私设计输入参数以 SHA-256 哈希存储绝不落库原始 Prompt输出结果截断到 200 字符摘要分别由 schemas/audit.ts 的hashInput与summarizeOutput完成。审计库同时兼容better-sqlite3与 Node 内置node:sqlite两种驱动见 audit.ts 的AuditDatabase适配层并暴露McpAuditQuery支持limit/offset/tool/success/apiKeyId过滤供仪表盘查询最近调用与聚合统计。Scope 拒绝事件也会以scope_denied:reason形式进入同一审计流便于区分鉴权拦截与执行失败。六、源码文件地图与测试验证文档给出的文件清单如下并附当前仓库中可深入阅读的对应位置文件用途open-sse/mcp-server/server.tsMCP 服务器工厂 工具注册含 Scope 包装open-sse/mcp-server/httpTransport.tsHTTPSSE/Streamable传输与会话管理文档中的transport.ts对应物open-sse/mcp-server/scopeEnforcement.tsAPI Key Scope 校验文档中的auth.ts对应物open-sse/mcp-server/audit.ts工具调用审计日志mcp_tool_auditopen-sse/mcp-server/tools/advancedTools.ts8 个进阶工具 handleropen-sse/mcp-server/schemas/tools.tsZod Schema 与工具注册表回归验证方面tests目录 提供了对应的测试用例essentialTools.test.ts与advancedTools.test.ts直接调用createMcpServer()注册完整工具集并断言各 handler 行为audit.test.ts覆盖审计写入与统计逻辑修改任何工具行为时可直接运行这些测试验证。七、工具面演进说明文档标题所述16 个智能工具对应 Essential8 Advanced8这一经典工具面。从当前仓库源码看工具面已显著扩展countUniqueMcpTools()toolCount.ts在 server.ts 中汇总MCP_TOOLS、memory、skills、compression、pool、gamification、plugins、Notion、Obsidian、local corpus 等十余个工具模块计算出的唯一工具数与英文主文档 MCP-SERVER.md 宣称的 110 个一致。此外createMcpServer()中还内建了两个与 Token 成本直接相关的机制注册期对工具/提示词/资源描述做 Caveman 规则集压缩compressMcpRegistryMetadata以及运行期对含冗长可访问性树的工具结果做智能过滤smartFilterText——二者默认开启分别对应compression.mcpDescriptionCompressionEnabled与compression.mcpAccessibility两个key_value配置。对于仍按 16 工具面设计的集成方案这些扩展是向后兼容的原有 16 个工具的命名与语义保持不变新增工具通过omniroute_tool_search工具目录检索在运行时发现即可。小结OmniRoute 的 MCP Server 把一个多 Provider AI 网关的运维面完整地工具化了omniroute --mcp一条命令启动 stdio 接入HTTP 传输则随--dev自动挂载16 个核心工具覆盖健康、Combo、配额、路由、成本五大运维域API Key Scope 决定每个 Agent 的最小权限边界mcp_tool_audit表则以哈希化输入 截断输出的方式记录每一次调用兼顾可观测性与 Prompt 隐私。对于需要让 Agent 参与网关自愈、预算护栏或路由复盘的场景这是一套可直接落地的标准 MCP 集成方案。【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考