LLM 路由不是新名詞，但 Nadir 在「路由」前面加了一個關鍵步驟——驗證。它的做法很直接：先讓成本最低的模型回答，再由一個校準過的驗證器給回覆打分，分數不過關就自動升級到更強的模型。這相當於在每一條響應真正發給使用者之前，先過一道質檢。
官方介紹裡，Nadir 把自己定位為 verifier-gated 路由器，而不是單純按提示詞難度來分流。它給出的數字也很敢說：60% 的成本削減，同時在 RouterBench 的留出集上保持 98% 的「始終使用 Opus」質量水平；在 RouterArena 公共榜上也排到了第 3 名。
「先便宜後驗證」的邏輯
常見路由器的思路是預判：判斷提示詞難不難，再決定發給哪個模型。Nadir 的思路更像事後把關：先讓便宜模型跑，用驗證器判斷結果是否達標。預判可能出錯，而事後打分更接近真實質量。當然，驗證器本身也會犯錯，所以「校準」是這個方案的核心。
從公開資訊看，官方沒有展開驗證器如何訓練、如何校準。這點對技術選型的人來說是個需要自己評估的部分。
官方數字，先別急著全信
做技術選型時，廠商公佈的數字只能作為參考。按照官方口徑，以下資料都來自 Nadir 自己的宣傳，尚未見到獨立的第三方複測，實際效果會和你的請求分佈、模型組合、驗證器配置有很大關係。
- 成本降低約 60%（官方宣稱）
- 在 RouterBench 留出提示集上保持 98% 的「始終使用 Opus」質量（官方宣稱）
- RouterArena 公共排行榜第 3 位（截至採集時的官方資訊）
- 介面 OpenAI 相容，支援 BYOK，接入僅需兩行改動
整合與適合誰
Nadir 提供的是 OpenAI 相容介面，這意味著你不需要重寫業務邏輯，只需把 base URL 和 API key 換掉。官方稱整合只需要兩行變更，BYOK 也允許團隊直接帶上自己的模型金鑰。對於已經用過 OpenAI SDK 的團隊，切換成本很低。
典型使用場景是請求量很大、但大部分請求並不複雜的業務：比如內容分類、資訊抽取、客服話術生成。這些任務用頂級模型有點浪費，用太小的模型又怕質量不穩定，Nadir 的驗證器會在中間兜底。如果你的團隊幾乎只跑複雜推理，或者呼叫量很小，這類路由器的收益就比較有限。
需要注意的限制
目前關於驗證器如何訓練、如何做質量校準，官方公開的技術細節不多。RouterBench 和 RouterArena 都是比較新的評測基準，榜單排名會變動。穩妥的做法是先拿自己的真實流量做小規模試點，對比成本和輸出質量，再決定要不要全量切過去。
整體來看，Nadir 踩中了 LLM 優化工具的務實方向：不追求讓每個回答都來自最強模型，而是用驗證器保證質量底線。對想控制 AI 賬單、又擔心質量下滑的團隊來說，這是一個值得放進評測清單的選項。
評論
暫無評論
成為第一個評論的人