Nadir

Nadir先便宜模型后验证, LLM 调用成本省 60%

Nadir 是一款验证器门控的 LLM 路由器:先用便宜模型回答,再由校准验证器打分,质量不足才升级。官方称可省 60% 成本、保持 98% 质量,OpenAI 兼容、两行接入,适合请求量大但复杂度不均的团队。

free
LLM路由大模型成本优化验证器门控OpenAI兼容AI模型路由RouterBenchRouterArenaBYKAPI接入智能API网关
收录日期
3.6 (0 评价数量)

登录后可为项目评分

LLM 路由不是新名词,但 Nadir 在“路由”前面加了一个关键步骤——验证。它的做法很直接:先让成本最低的模型回答,再由一个校准过的验证器给回复打分,分数不过关就自动升级到更强的模型。这相当于在每一条响应真正发给用户之前,先过一道质检。

官方介绍里,Nadir 把自己定位为 verifier-gated 路由器,而不是单纯按提示词难度来分流。它给出的数字也很敢说:60% 的成本削减,同时在 RouterBench 的留出集上保持 98% 的“始终使用 Opus”质量水平;在 RouterArena 公共榜上也排到了第 3 名。

“先便宜后验证”的逻辑

常见路由器的思路是预判:判断提示词难不难,再决定发给哪个模型。Nadir 的思路更像事后把关:先让便宜模型跑,用验证器判断结果是否达标。预判可能出错,而事后打分更接近真实质量。当然,验证器本身也会犯错,所以“校准”是这个方案的核心。

从公开信息看,官方没有展开验证器如何训练、如何校准。这点对技术选型的人来说是个需要自己评估的部分。

官方数字,先别急着全信

做技术选型时,厂商公布的数字只能作为参考。按照官方口径,以下数据都来自 Nadir 自己的宣传,尚未见到独立的第三方复测,实际效果会和你的请求分布、模型组合、验证器配置有很大关系。

  • 成本降低约 60%(官方宣称)
  • 在 RouterBench 留出提示集上保持 98% 的“始终使用 Opus”质量(官方宣称)
  • RouterArena 公共排行榜第 3 位(截至采集时的官方信息)
  • 接口 OpenAI 兼容,支持 BYOK,接入仅需两行改动

集成与适合谁

Nadir 提供的是 OpenAI 兼容接口,这意味着你不需要重写业务逻辑,只需把 base URL 和 API key 换掉。官方称集成只需要两行变更,BYOK 也允许团队直接带上自己的模型密钥。对于已经用过 OpenAI SDK 的团队,切换成本很低。

典型使用场景是请求量很大、但大部分请求并不复杂的业务:比如内容分类、信息抽取、客服话术生成。这些任务用顶级模型有点浪费,用太小的模型又怕质量不稳定,Nadir 的验证器会在中间兜底。如果你的团队几乎只跑复杂推理,或者调用量很小,这类路由器的收益就比较有限。

需要注意的限制

目前关于验证器如何训练、如何做质量校准,官方公开的技术细节不多。RouterBench 和 RouterArena 都是比较新的评测基准,榜单排名会变动。稳妥的做法是先拿自己的真实流量做小规模试点,对比成本和输出质量,再决定要不要全量切过去。

整体来看,Nadir 踩中了 LLM 优化工具的务实方向:不追求让每个回答都来自最强模型,而是用验证器保证质量底线。对想控制 AI 账单、又担心质量下滑的团队来说,这是一个值得放进评测清单的选项。

优缺点

优点

  • 先便宜模型后验证,成本逻辑清晰
  • OpenAI 兼容接口,迁移成本低
  • 支持 BYOK,自带密钥部署灵活
  • 官方给出的成本与质量数据有吸引力

缺点

  • 验证器技术细节公开有限
  • 官方数据未经独立第三方复测
  • RouterArena 榜单排名会变化
  • 调用量小的团队收益可能有限

常见问题

Nadir 是什么?

Nadir 是一款验证器门控的 LLM 路由器。它先让价格更低的模型回答请求,再用一个校准过的验证器给回答打分,质量不达标才升级到更贵的模型,目的是在不牺牲整体质量的前提下降低调用成本。

Nadir 集成复杂吗?

不复杂。官方表示接口是 OpenAI 兼容的,并且支持 BYOK(自带 API Key),接入只需要两行代码改动。对已经使用 OpenAI SDK 的团队来说,基本就是换 base URL 和密钥的事。

官方宣称的 60% 成本削减靠谱吗?

60% 成本削减和 98% 质量保持都是官方宣称的数据,基于他们自己的 RouterBench 评测,尚未看到独立第三方复测。真实效果取决于你的请求复杂度分布和模型选择,建议先小流量验证。

Nadir 适合哪些场景?

适合请求量大、复杂度不均的业务,例如内容分类、信息抽取、客服话术生成。这类任务用顶级模型浪费,用太小模型又怕质量不稳,Nadir 的验证器可以在中间兜底。

Nadir 有免费版吗?

官方目前未公开定价信息,具体收费模式需要以官网或官方渠道的说明为准。

探索更多

相似工具

StackBuilder

StackBuilder

StackBuilder 是一款免费的 AI 云架构图生成工具,用自然语言描述系统即可自动生成 AWS、Azure、GCP、Kubernetes 等架构图,支持导出 PNG、SVG、PDF,无需注册,适合系统设计面试、架构文档和演示场景。

Nest by RAVEN

Nest by RAVEN

Nest by RAVEN(官网品牌名 NestMux)是一款面向开发者的多 AI 终端工作台,可在同一窗口并行运行 Claude、Gemini、Codex、Copilot 和 Aider,支持 Git worktrees、团队终端共享、MCP 面板与广播提示。本地优先、无遥测,免费开放下载,支持 macOS、Windows、Linux。

h5i

h5i

h5i是一款面向Claude Code、Codex等AI编码代理的开源沙箱工具,将代理、Shell、依赖与浏览器放进同一个隔离边界,轻量沙箱启动不到200毫秒,支持导出可审阅补丁与执行日志,本地优先、无SaaS、单Rust二进制。

Deep Work Plan

Deep Work Plan

Deep Work Plan 是一套开源方法论, 通过 init.md 将任何仓库改造成 AI 代理可执行的结构化环境: 原子任务、验收标准、校验门和可恢复状态, 让长周期编码任务不跑偏。支持任意代理, 无锁定, MIT 开源。

Spanly

Spanly

Spanly 是一款面向 MCP 服务器的可观测性与监控工具,帮助 SaaS 团队在生产环境中追踪错误率、会话轨迹、延迟与客户端行为。支持 CLI/SDK 快速接入,可与现有监控栈共存,并提供美欧数据驻留选项。官方提供免费扫描,可快速定位协议层隐患。

Yaeris

Yaeris

Yaeris 是一个 MCP 服务器市场,开发者可以免费浏览和发布经过人工审核的 MCP 服务器,并支持 OAuth/API token 集成。基础功能免费,另有付费增值服务提升曝光。适合 AI agent 开发者和软件公司。

开源项目

guidellm:评估与优化 LLM 推理性能的开源工具

guidellm 是由 vLLM 团队开发的开源工具,用于评估和优化大型语言模型(LLM)在生产环境中的推理性能。它提供压力测试、延迟分析和吞吐量评估,帮助开发者识别瓶颈并调整部署配置。项目主要使用 Python 编写,采用 Apache-2.0 许可证,在采集时拥有 1214 个星标。

ai-gateway:基于 Envoy Gateway 的统一 AI 网关

ai-gateway 是一个基于 Envoy Gateway 的开源项目,提供统一的 API 网关来管理对多种生成式 AI 服务的访问。它简化了 AI 应用的集成与运维,支持负载均衡、缓存和速率限制等功能。项目使用 Go 语言开发,采用 Apache-2.0 许可证。

Kun:本地优先的 AI 代理工作区

Kun 是一个本地优先的 AI 代理工作区,通过共享 GUI 和 TUI 运行时统一编码、写作、设计、研究和自动化。项目主要使用 TypeScript 开发,许可证为 Other。截至采集时拥有 4813 个 GitHub 星标。

go-micro:融合 AI 与微服务的 Go 框架

go-micro 是一个开源的 Go 编程语言框架,它融合了 AI 代理工具集与微服务架构,并支持 MCP、A2A 协议以及多 LLM 集成。该项目采用 Apache-2.0 许可证,主要使用 Go 语言开发。截至采集时,该项目在 GitHub 上获得22755颗星。

terax-ai:轻量级 Tauri 桌面开发环境

terax-ai 是一个基于 Tauri 的桌面开发环境,体积仅 7-8 MB。它集成了 GPU 终端、CodeMirror 编辑器、Git 工具和多提供商 AI 代理,为开发者提供一体化的开发体验。项目主要使用 TypeScript 编写,采用 Apache-2.0 许可证。

jar-analyzer: Java JAR 包分析 GUI 工具,集成 AI 助手

jar-analyzer 是一款开源的 Java JAR 包分析 GUI 工具,集成了 AI 助手。它提供 JAR DIFF、方法调用图探索、DFS 调用链分析、污点分析以及控制流图程序分析等强大功能,适用于 Java 开发者和安全研究员,简化代码审计与逆向工程任务。项目主要语言为 Java,采用 GPL-3.0 许可证,在采集时拥有 2111 个星标。