AI 輸出的稽覈，正在成為高風險業務裡最尷尬的環節。凡是 AI 可能造成嚴重損失的地方，都面臨同一個問題：機器生產內容的速度，已經遠超人類逐一核驗的能力。一篇 2026 年 4 月提交至 arXiv 的論文，把這個矛盾拆開來看，然後提出了一個完全不同的治理思路。
真正要擔心的不是速度，是速度乘以認知負荷
論文首先回顧了現有的觀察：當 AI 輸出速度 V 超過人類認知容量 C_max 時，人類介入的監督在結構上就不可行了。但作者 Hiroki Naito 認為，真正的約束條件不是 V 本身，而是 V×L，其中 L 是每一條輸出所需要的認知負荷。這個 L 又拆成三部分。
分診（triage）、判斷（judgment）和響應（response），這三者面對 AI 能力提升時的變化並不一樣。分診成本不會因為模型變得更聰明而下降——通用型設計本身就帶有語義不確定性，你永遠得先決定「這條要不要看」。響應成本也基本不變，因為不管你稽覈結果如何，該做的動作還得做。唯一有下降壓力的是判斷成本，但論文指出，這種下降常常是「用漏掉來代替真正的減少」。
能力提升並沒有真正降低 L，而是重新結構了 L。
這意味著，常見的兩種治理路徑都走不通。把稽覈交給 AI，等於繼承了模型的幻覺風險；把稽覈交給人類，則必然撞上 V×L 的天花板。
Flow-by-Flow：不判斷內容，只控制流程
既然內容判斷本身是瓶頸，Flow-by-Flow 的思路乾脆繞開它。這個正規化不評估輸出「對不對」，而是通過一組基於形式化、可數特徵的認知成本分（cognitive cost score），對大批量生產施加非線性成本。具體來說，就是讓「生產方」在試圖輸出大量內容時付出越來越高的稽覈代價，同時用一個機構容量上限（capacity cap），把處理總量限制在 C_max 之內。
論文還推匯出任何「繞過內容判斷」的方案都必須滿足的四條設計不變數：
- 不做內容判斷（no content judgment）
- 不能讓審查者能力被可擴充套件地消耗（no scalable consumption of examiner capacity）
- 每個應用都必須有身份繫結的摩擦（identity-bound per-application friction）
- 不允許批量放行（no batch clearance）
這四條聽起來抽象，實際上是在給治理機制劃邊界：你可以不讀內容，但不能因此把審查者的精力變成無限的、可以批量消耗的資源。
論文同時討論了一個參考實現，並且坦率承認了實際工程中的難點。這比大部分只講理念的論文要務實。
用模擬說話：90.8% 的引數抽樣下複合流量控制更優
為了驗證思路，作者做了一次蒙特卡洛分析，在 1000 組引數抽樣下，比較「複合多指標流量控制」與「單純加強監督」兩種策略。結果顯示，前者的表現優於後者的比例是 90.8%。當然，這只是模擬，不等同於真實部署，但至少說明方向是值得繼續探索的。
整篇論文 52 頁，配了 3 張圖，作為一篇偏治理理論的稿件，資訊密度不低。作者沒有迴避「參考實現不好做」這件事，這也是它讀起來相對可信的地方。
對於正在制定 AI 監管規則的人，或者那些被「AI 稽覈 AI」折騰得頭疼的平臺方，這篇文章提供了一條不同的思路：也許我們不需要更聰明的審查器，而是需要更聰明的流量控制。下一步值得關注的，是這套正規化能不能從模擬走向現實——比如在某一個具體的高損失場景裡落地，那時候才能真正看到它的價值。
評論
暫無評論
成為第一個評論的人