FreeLLMAPI搭建教程：34家免费LLM聚合成一个/v1接口（每月74亿token）

📅 2026-08-29 · 🏷️ LLM网关 · API聚合 · 自建部署

FreeLLMAPI是什么？

各家 AI 实验室都有免费层，但单独看每家都是玩具。FreeLLMAPI 把 34 家提供商、635 个免费模型端点、474 个模型家族叠起来，得到约 74 亿 token/月的推理容量，全部收敛到一个 OpenAI 兼容的 /v1 端点。任何 OpenAI 客户端指向你的本地服务器即可，路由、限流、故障转移全自动。

注意：官方定位是个人实验用途（Personal experimentation only），商用请走各厂商付费通道。

部署：三种方式

方式一：一行脚本（需 Docker）

curl -fsSL https://freellmapi.co/install.sh | bash

自动建 ~/freellmapi、生成加密 Key、拉镜像起容器。重复执行安全：保留 .env，只更新到 :latest。

方式二：桌面应用（Windows/macOS）

去 Releases 下载 .exe / .dmg 安装，常驻菜单栏/托盘，玻璃弹窗实时显示请求统计。桌面版免登录，仪表盘自动用隐藏本地账户。

方式三：源码开发

npm install && npm run dev
# 服务 :3001，仪表盘 :5173，均带热更新

初始化配置

打开 http://localhost:3001，三步搞定：

1. Keys 页：添加各厂商的 API Key（AES-256-GCM 加密存 SQLite，内存中解密，应用只看到统一的 freellmapi-… token）
2. Fallback Chain：拖拽调整模型故障转移顺序
3. Keys 页顶部：复制统一 API Key

接入 AI 编码工具

最快的路径是自动生成器，拉取你服务器的实时模型目录、备份旧配置、绝不覆盖已有设置：

npx freellmapi setup-claude --url http://localhost:3001 --api-key <统一Key>

工具	命令	Base URL
Claude Code	setup-claude	根路径（/v1/messages）
Codex CLI	setup-codex	/v1
Aider	setup-aider	/v1
Cline / Roo	setup-cline / setup-roo	/v1
Qwen Code	setup-qwen	/v1 或原生 /v1beta
DeepSeek Harness	setup-dsh	/v1

还有零持久化启动器 freellmapi launch / launch-codex：凭据只注入子进程环境，不落盘。

核心特性

• 六策略智能路由：按实时速度/能力/可靠性打分排链，429/5xx 自动冷却切换下一家
• Anthropic 原生兼容：/v1/messages 走同一路由，Claude Code 和官方 SDK 直连免费池
• Fusion 多模型合成：请求虚拟 fusion 模型，并行发给多个免费模型，再由裁判模型合成一个答案
• 媒体生成：/v1/images/generations、/v1/videos/generations、/v1/audio/speech 全覆盖，视频任务统一返回 MP4
• 粘性会话：30 分钟内同一对话锁定同一模型，切换时附带上下文交接摘要
• 目录自更新：每天两次同步签名模型目录，新模型、配额变化自动生效
• 轻量：空闲约 40 MB 内存，树莓派都能跑

同类的开源网关还有不少，选型对比看New API自托管LLM网关教程和AI Gateway 1600+模型统一网关教程。想彻底摆脱外部依赖、本地跑开源模型，看DeepSeek本地部署教程。