Genebench-Pro: OpenAI 用科學推理新基準考驗模型

Genebench-Pro: OpenAI 用科學推理新基準考驗模型

Grace Sullivan
143
original

OpenAI 釋出 Genebench-Pro,一個專注於基因組學、蛋白質工程等領域的 AI 推理評估基準。它比前代更難,要求模型從實驗資料中推導結論,而非檢索知識。對科研和 AI 開發意義重大。

OpenAI 最近低調上線了 Genebench-Pro,一個專為評估 AI 在科學推理領域能力的新基準。雖然名字裡帶「基因」,但它的覆蓋面遠不止基因組學——蛋白質設計、代謝路徑、結構預測都在射程之內。這個問題很實際:現在的 LLM 在考試類基準上刷分容易,可一旦面對真實研究場景,往往抓瞎。Genebench-Pro 想做的,就是把「考試」變成「實驗」。

為什麼科學推理需要單獨測

傳統基準測試(比如 MMLU)測的是知識儲備:模型知道 Watson-Crick 配對法則嗎?它記得 CRISPR 的工作機制嗎?Genebench-Pro 則換了一個角度:給你一組未公開的實驗資料,讓你倒推出背後的生物學規律。這要求模型具備 假設生成因果推斷多步推理 的能力,而不是單純記憶。

  • 從原始序列資料預測蛋白質穩定性變化
  • 根據基因表達譜推斷調控關係
  • 設計突變實驗來驗證某個假說

這些任務對人類科研人員都不輕鬆,對當前的大模型更是如此。OpenAI 用 Pro 版本把難度拔高了一截。

它怎麼工作,又有什麼用

Genebench-Pro 由一系列領域專家手工構建的題目組成,每道題都附帶 模擬實驗環境——模型可以「呼叫」計算工具,比如 BLAST 搜尋、Rosetta 能量計算,甚至小型虛擬實驗室。評測時模型必須主動做選擇,而不是輸出一句話就完事。

一個典型的場景:給定一組酶序列,要求模型設計三個點突變並進行虛擬篩選,最後解釋哪個組合最有希望。這已經不是「問答」,而是「研究」。

對於科研機構來說,這個基準可以幫他們篩選更合適的基礎模型;對於開發者,它明確了下一步優化方向——複雜推理工具使用 的融合。On the downside,基準目前僅限 OpenAI 內部使用,外部研究者暫時只能讀到案例,無法直接提交模型結果。公開化計劃尚未公佈。

對領域意味著什麼

Genebench-Pro 的出現,反映出 AI 評估正在從「知識問答」轉向「能力展示」。類似方向還有 Google 的 MMLU-Pro 和 DeepMind 的 MATH,但 Genebench 系列聚焦生命科學,細分賽道。如果未來開放參與,可能會像 Big-Bench 一樣成為社羣協作標杆。不過目前門檻還高:題目設計成本大、領域知識壁壘深。

實用角度來看,如果你在尋找能輔助生物資訊學研究的模型,可以關注哪些模型在 Genebench-Pro 上表現好——這是比論文指標更硬核的參考。但別指望馬上能拿到公開排名;OpenAI 向來謹慎,資料洩露風險管控嚴格。耐心等一兩年吧。

Genebench-Pro科學推理基準OpenAI評估基因組學AI蛋白質工程AI科研能力大模型評測生命科學AI

分享

評論

0
0/500 字元

暫無評論

成為第一個評論的人

探索更多

開源專案

Awesome AI for Science: 精選AI科學發現資源

這是一個精選AI工具、庫、論文、數據集和框架的倉庫,覆蓋物理、化學、生物學和材料科學。為研究人員和開發者提供快速掌握AI在科學探索中應用的價值資源。擁有超過1700顆星,採用MIT許可證。

earth2studio: NVIDIA 面向天氣與氣候的深度學習框架

earth2studio 是 NVIDIA 開源的一個深度學習框架,專為天氣和氣候領域設計。它簡化了從研究到部署的完整工作流,提供通用 API 和預訓練模型,幫助研究人員快速構建 AI 驅動的天氣預報和氣候模擬應用,降低開發門檻並加速領域創新。

ai4paper: 面向研究者的開源AI學術平臺

ai4paper是一個面向研究人員的開源AI平臺,聲稱可訪問2.4億篇學術論文。其核心功能包括全文PDF翻譯、AI驅動的文獻搜索和一鍵生成評論,通過網頁界面即可使用,無需安裝插件。該平臺還支持Zotero集成,並可通過小程序訂閱期刊,旨在提升文獻綜述和學術寫作的效率。項目主要使用HTML編寫,採用MIT許可證,截至採集時在GitHub上獲得2739個星標。

openscience: 面向科學研究的開源 AI 工作臺

openscience 是一個由 synthetic-sciences 開源的 AI 工作臺,專為科學研究場景設計。專案使用 TypeScript 構建,在 GitHub 已獲超 3.2k 星標,倉庫包含前後端、CLI 和評估模組。目前公開文件有限,適合對 AI for Science 感興趣的團隊關注。

ResearchStudio: 微軟開源AI協作研究工具

ResearchStudio 是微軟發布的開源 AI 協作工具,旨在支持研究人員從問題提出到最終發表的完整學術旅程。它集成了文獻綜述、實驗設計、數據分析和論文寫作等功能,並利用大型語言模型提供智能建議。該項目特別適合希望優化工作流程的學術研究者。主要程式語言為 Python,採用 MIT 許可證,採集時 GitHub 星標數為 1911。

open-science: 本地優先的AI科研工作臺

open-science 是一個開源、本地優先、模型無關的 AI 研究工作臺,專為科學發現設計。它讓科研人員在自己的機器上執行 AI 輔助流程,不繫結特定模型,兼顧資料隱私與靈活性。