freellmapi聚合 28 个 LLM 免费层为单一 API

如果一个开源项目能在 GitHub 上攒到 1.9 万星，说明它戳中了某种普遍需求。freellmapi 正是这样的项目：一个 OpenAI 兼容代理，把 28 家 LLM 提供商的 免费额度 堆叠到同一个 /v1 端点后面。官方宣称，这些免费额度加起来大约相当于每月 40 亿 token。对个人开发者来说，这几乎就是“免费模型全家桶”。

不过它并没有把免费额度简单灌进一个管道。freellmapi 的核心逻辑是做分发：请求进来以后，由代理决定交给哪家提供商，并在出错时自动切换。项目用 TypeScript 编写，定位非常明确——个人实验。官方在描述里毫不含糊地写着 “Personal experimentation only”。

为什么要做一个 LLM 聚合代理

现在的 LLM 生态已经碎片化了。各家厂商都有自己的 API、计费方式和免费额度，开发者常常要同时维护好几套 key，还得记着哪家免费额度还没用完。freellmapi 的思路是把这些零散的免费层打包，对外只暴露一个 统一端点。这样，任何用惯 OpenAI API 的项目，只要把地址指过来，就能访问背后多个模型。

这种设计对刚起步的个人项目尤其友好。你不需要先开通几个付费服务，也不用为了测试不同模型各写一套客户端。改一行 base URL，剩下的由代理处理。

核心功能：路由、故障转移与密钥加密

• 智能路由：在不同提供商之间分配请求，找到可用且合适的免费层。
• 自动故障转移：某个提供商超时或不可用时，自动切换请求到备用端点。
• 加密密钥：多个提供商的 API key 集中保存，官方声称经过加密处理。
• 自定义端点：除内置的 28 家之外，还可以添加任何 OpenAI 兼容的端点。

这些功能加在一起，等于把“管理多个模型账号”这件事藏到了代理后面。你看到的只是一个标准 API，实际触达的却是几十个不同的免费服务。

适合谁用，不适合谁用

官方已经把边界划清楚了：个人实验。如果你在跑学习项目、做 demo、写自动化脚本，或者想横向对比不同模型的输出，freellmapi 能省下不少事。但如果你打算把它接到面向用户的业务里，建议三思。免费层通常伴随 速率限制、低频配额，稳定性也没有保证；代理本身也可能成为单点故障。

另一个需要留神的地方是安全。所有提供商的密钥集中在一个代理里，虽然官方提到加密，但完整的实现细节没有公开。如果你是谨慎派，可以先在隔离环境里跑一个实例，观察日志，确认它不会把密钥意外输出到别处。

上手之前的小建议

仓库目前有 19k 星、2.8k fork，社区活跃度不低，说明有不少人在实际使用。但项目仍是实验性质，API 和配置方式可能随版本变化。动手前先去 GitHub 仓库看 README，确认它内置了哪 28 家提供商、有没有部署文档，再决定怎么跑。别指望开箱即用——你需要自己获取各提供商的免费额度凭证，并填入配置。

freellmapi 最吸引人的地方，是它把“免费”这件事认真做了产品化。如果你正在为模型订阅发愁，或者想试试多个免费模型但又懒得管一大堆 key，它值得一试。记得把它当作一个玩具加强力工具，而不是生产依赖。