ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

一处配好四家大模型密钥:Fabric多AI供应商集成与模型切换实战

一处配好四家大模型密钥:Fabric多AI供应商集成与模型切换实战 一处配好四家大模型密钥Fabric多AI供应商集成与模型切换实战【免费下载链接】FabricFabric is an open-source framework for augmenting humans using AI. It provides a modular system for solving specific problems using a crowdsourced set of AI prompts that can be used anywhere.项目地址: https://gitcode.com/GitHub_Trending/fa/Fabric如果你之前只用过 OpenAI某天它的服务变慢、涨价或者你想试试 Claude 处理长文档你会发现整个工具链都得跟着换。Fabric 把这件事简化成了两步在一个配置文件里写好所有供应商的 API 密钥然后运行任何命令时都可以指定用哪家的哪个模型来干活。多供应商密钥配置和模型切换从此不需要改代码、不需要重装一行命令就能换大脑。先说清楚这个功能解决什么麻烦很多 AI 工具的底层写死了某一家供应商意味着模型能力上限被锁死账单也被锁死。Fabric 的设计思路相反它把各家 AI 服务统一注册进同一个插件管理器你在 供应商集成源码 里能看到 OpenAI、Anthropic、Google Gemini、Amazon Bedrock 等各自独立的客户端实现但它们对外暴露的是同一套调用接口。这带来三个直接好处不被绑定密钥配了四家任何一家出问题切到另一家只需改命令行里的一个参数按任务分工长文档分析用上下文窗口大的模型批量摘要用便宜快的模型各自为战本地与云端混用接上 Ollama 或 LM Studio敏感内容不出本机普通任务走云端密钥放在哪里所有密钥集中在一个文件~/.config/fabric/.env。Fabric 首次运行会自动创建它你只需要把用到的供应商填进去。填了哪家的密钥哪家的模型就可被调用没填的不会出现在可选列表里。最典型的四家配置如下按注释取消对应行即可# OpenAI OPENAI_API_KEY你的密钥 # AnthropicClaude ANTHROPIC_API_KEY你的密钥 # Google Gemini GEMINI_API_KEY你的密钥除了这四家Fabric 还支持 Bedrock、Perplexity、Groq、Mistral、Azure、Vertex AI以及通过 OpenAI 兼容协议接入的 Groq、Mistral、Together 等本地方案则有 Ollama 和 LM Studio。全部走同一套.env机制格式大同小异供应商名_API_KEY密钥。一行命令换模型指定模型用-m参数格式是供应商|模型名竖线前面是谁家后面是具体模型。比如fabric -p summarize -m openai|gpt-4o fabric -p summarize -m anthropic|claude-sonnet-4-20250514同一条 summarize 命令两行之间只是换了背后的模型。供应商名不区分大小写写OpenAI或openai都行。如果你更习惯分开写也有独立的-V参数指定供应商、-m只写模型名两种写法效果一致。想看看当前机器上到底配好了哪几家、各有哪些模型可用直接看启动后的供应商列表即可——Fabric 会并行向每家拉取模型清单连不上的会自动跳过不影响其他家。每个模式绑定一个默认模型命令行临时切换适合试错但很多任务你其实有固定偏好代码审查永远要最强的日常摘要用最省钱的。Fabric 支持用环境变量按模式pattern固化默认模型变量名规则是FABRIC_MODEL_加上模式名的大写形式export FABRIC_MODEL_SUMMARIZEanthropic|claude-sonnet-4-20250514 export FABRIC_MODEL_REVIEW_CODEopenai|gpt-4o写进你的 shell 配置文件后再运行fabric -p summarize就不用在命令行写-m了它会自动套用上面绑定的模型。命令行显式传了-m时优先级更高临时覆盖依然有效。各家有哪些专属能力统一接口不等于能力拉平。几家主流供应商在 Fabric 里有各自用不上的超能力选型时值得留意供应商在 Fabric 中的专属能力Anthropic支持 OAuth 登录ANTHROPIC_USE_OAUTH_LOGINtrue可用 Max 订阅代替 API 按量付费部分模型开启百万 token 上下文窗口长文档一把梭OpenAI语音转文字、图像生成适合多模态任务Google Gemini文本转语音并可选发音人内置网络搜索本地Ollama / LM Studio数据不出本机配合 OpenAI 兼容协议使用适合隐私敏感场景拿长文档来说把一份两百页的年报丢给 Anthropic 的百万上下文模型一次读完并输出摘要同样文档给普通上下文窗口的模型就得切段处理质量不稳定。这种差异是按任务分派供应商最实际的依据。REST API 里怎么继续用多供应商Fabric 自带的 REST API 会继承.env里配置的全部供应商启动时全部就绪fabric --serve --address :8080 --api-key 你的密钥端点请求中按同样的方式带上供应商与模型参数即可也就是说命令行里能做的换大脑操作API 调用方同样能做。接口细节见 REST API 文档。怎么按任务选供应商没有全能选手给几条务实的对应关系超长文档、代码库级分析优先 Anthropic 的 1M 上下文模型或先用便宜模型分段摘要再汇总日常批量处理、对成本敏感OpenAI 的中端模型或 Groq 这类高吞吐服务需要联网搜索Gemini隐私敏感、离线环境Ollama / LM Studio 本地部署混合云团队Azure AI Gateway 或 Bedrock走企业已有的云账号实际操作中不用纠结哪家最强同一任务换两三家的模型各跑一遍对比输出再定默认绑定成本几乎为零。连不上时先查这三处密钥本身确认.env里对应的行没拼错、密钥没过期尤其是从旧账号迁移过来的供应商服务状态看该家的状态页Fabric 端报的错有时只是上游在抖动用另一家验证立刻换一家供应商跑同一条命令如果成功问题就锁定在原供应商侧而不是 Fabric 配置再不行可以跑fabric --setup重新走一遍供应商配置向导它会逐家检测并只保留真正连通的那些。供应商的注册、模型清单拉取与按名查找逻辑都在 供应商管理器源码 里想弄清某个行为的具体机制时比翻文档更快。【免费下载链接】FabricFabric is an open-source framework for augmenting humans using AI. It provides a modular system for solving specific problems using a crowdsourced set of AI prompts that can be used anywhere.项目地址: https://gitcode.com/GitHub_Trending/fa/Fabric创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表