ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

新手快速上手FreeLLMAPI:从安装到第一个免费AI回复的完整图文教程

新手快速上手FreeLLMAPI:从安装到第一个免费AI回复的完整图文教程 新手快速上手FreeLLMAPI从安装到第一个免费AI回复的完整图文教程【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapiFreeLLMAPI 是一款免费 LLM API 路由工具把 Google、Groq、Mistral 等 34 家 AI 提供商的免费额度、共 635 个免费模型端点聚合到一个 OpenAI 兼容的/v1接口后面智能路由、自动故障转移、密钥加密存储。本教程带你从零安装、配置密钥到收到第一条免费的 AI 回复全程约 10 分钟。为什么从 FreeLLMAPI 开始免费 token 的叠加玩法每一家 AI 厂商都给开发者一点免费额度单看都不多。FreeLLMAPI 把 34 家的免费层叠在一起相当于每月约74 亿免费 token的推理能力某个提供商被限流时路由器会自动切到下一个模型你几乎感觉不到中断。3 种快速安装方法选最顺手的一种方法一一行命令最快需要 Dockercurl -fsSL https://freellmapi.co/install.sh | bash它会自动创建~/freellmapi目录、生成加密密钥、拉取镜像并启动容器。命令可重复执行——重跑只会更新到最新版不会丢配置。方法二Docker Compose 源码部署更可控git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY$(openssl rand -hex 32) printf ENCRYPTION_KEY%s\nPORT3001\n $ENCRYPTION_KEY .env docker compose up -dWindows PowerShell 下把生成密钥那两行换成$Bytes New-Object Byte[] 32 [Security.Cryptography.RandomNumberGenerator]::Create().GetBytes($Bytes) $ENCRYPTION_KEY -join ($Bytes | ForEach-Object { {0:x2} -f $_ }) ENCRYPTION_KEY$ENCRYPTION_KEYnPORT3001 | Out-File -Encoding utf8 .env方法三下载桌面应用Windows / macOS 最简单桌面版把完整的路由器和仪表盘装进系统托盘不需要设置任何账号密码点击托盘图标即可打开仪表盘甚至能看到实时的请求统计。Windows 用户直接安装.exe安装包即可。完整步骤见项目文档docs/install.md。首次配置添加提供商密钥拿到统一 API 密钥浏览器打开http://localhost:3001桌面版从托盘点 Open Dashboard按三步走进入Keys页添加你手里任意一个提供商的密钥Google AI Studio、Groq、Mistral……也可以添加任意 OpenAI 兼容端点调整Fallback Chain顺序决定优先用哪个提供商从 Keys 页顶部复制统一 API 密钥freellmapi-…格式——之后你的应用只跟这一把钥匙打交道你的真实提供商密钥以 AES-256-GCM 加密存放在本地 SQLite 里每次请求时才在内存中解密绝不直接暴露。发出你的第一个免费 AI 回复方式一用内置 Playground 试试手气打开仪表盘Playground页输入一句话发送。回复下方会直接标注实际由哪个提供商、哪个模型应答以及延迟——这是验证安装是否成功的最好方式。方式二接入任意 OpenAI 兼容客户端只要程序用 OpenAI SDK把base_url指向本地服务即可from openai import OpenAI client OpenAI( base_urlhttp://localhost:3001/v1, api_keyfreellmapi-your-unified-key, ) resp client.chat.completions.create( modelauto, # 让路由器自动挑当前最优的免费模型 messages[{role: user, content: 用一句话总结罗马帝国的衰落。}], ) print(resp.choices[0].message.content)modelauto路由器自动选择也支持auto:fast、auto:smart或直接写具体模型名响应头里的X-Routed-Via会告诉你是哪家提供商真正处理了请求完整接口流式、工具调用、Embedding、图像/语音生成等参考docs/api.md智能路由是怎么工作的每个请求进来后路由器会按速度、能力、可靠性三项实时评分挑出优先级最高、密钥健康且未触限的模型去应答遇到 429 或 5xx 错误就把该密钥冷却自动重试链路上的下一个模型。路由核心逻辑在server/src/services/router.ts故障转移重试循环在server/src/lib/fallback-loop.ts感兴趣可以翻一翻docs/architecture.md。随时查看模型状态与用量Models页每个模型都有实时可靠性/速度/智能评分列表顺序就是当前真实的路由顺序还能看到整个模型池的月度 token 预算。Analytics页请求量、成功率、token 进出量、平均延迟、按提供商拆分支持 24 小时到 90 天多个时间窗。新手常见问题问题答案需要密码吗桌面版不需要自动登录服务器版Docker/源码需设置邮箱 密码忘记密码了点登录页 Forgot password?重置码会打印在服务器日志里15 分钟内有效局域网其他设备能访问吗用HOST_BIND0.0.0.0 docker compose up -d启动仅限可信网络日志在哪看Dockerdocker compose logs -f freellmapi桌面版托盘 → Open Logs Folder更多细节卸载、数据目录位置、Android Termux 安装等都在docs/install.md。总结下一步可以玩什么到这里安装 → 加密钥 → 第一条免费 AI 回复 的完整流程已经跑通 ✅ 接下来推荐接上编程智能体Claude Code、Codex CLI、Aider、Cline 等都有现成配方见docs/clients.md加自定义端点把 Ollama、vLLM、LM Studio 等本地模型接进 Keys 页试试 Fusion 多模型合成请求虚拟fusion模型多个免费模型并行起草、由裁判模型合成一份答案 温馨提示FreeLLMAPI 定位为个人实验与学习用途。免费层没有 SLA如果要上线真实产品发布前请换成付费 API。【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表