Genebench-Pro: OpenAI 用科学推理新基准考验模型

Genebench-Pro: OpenAI 用科学推理新基准考验模型

Grace Sullivan
143
original

OpenAI 发布 Genebench-Pro,一个专注于基因组学、蛋白质工程等领域的 AI 推理评估基准。它比前代更难,要求模型从实验数据中推导结论,而非检索知识。对科研和 AI 开发意义重大。

OpenAI 最近低调上线了 Genebench-Pro,一个专为评估 AI 在科学推理领域能力的新基准。虽然名字里带“基因”,但它的覆盖面远不止基因组学——蛋白质设计、代谢路径、结构预测都在射程之内。这个问题很实际:现在的 LLM 在考试类基准上刷分容易,可一旦面对真实研究场景,往往抓瞎。Genebench-Pro 想做的,就是把“考试”变成“实验”。

为什么科学推理需要单独测

传统基准测试(比如 MMLU)测的是知识储备:模型知道 Watson-Crick 配对法则吗?它记得 CRISPR 的工作机制吗?Genebench-Pro 则换了一个角度:给你一组未公开的实验数据,让你倒推出背后的生物学规律。这要求模型具备 假设生成因果推断多步推理 的能力,而不是单纯记忆。

  • 从原始序列数据预测蛋白质稳定性变化
  • 根据基因表达谱推断调控关系
  • 设计突变实验来验证某个假说

这些任务对人类科研人员都不轻松,对当前的大模型更是如此。OpenAI 用 Pro 版本把难度拔高了一截。

它怎么工作,又有什么用

Genebench-Pro 由一系列领域专家手工构建的题目组成,每道题都附带 模拟实验环境——模型可以“调用”计算工具,比如 BLAST 搜索、Rosetta 能量计算,甚至小型虚拟实验室。评测时模型必须主动做选择,而不是输出一句话就完事。

一个典型的场景:给定一组酶序列,要求模型设计三个点突变并进行虚拟筛选,最后解释哪个组合最有希望。这已经不是“问答”,而是“研究”。

对于科研机构来说,这个基准可以帮他们筛选更合适的基础模型;对于开发者,它明确了下一步优化方向——复杂推理工具使用 的融合。On the downside,基准目前仅限 OpenAI 内部使用,外部研究者暂时只能读到案例,无法直接提交模型结果。公开化计划尚未公布。

对领域意味着什么

Genebench-Pro 的出现,反映出 AI 评估正在从“知识问答”转向“能力展示”。类似方向还有 Google 的 MMLU-Pro 和 DeepMind 的 MATH,但 Genebench 系列聚焦生命科学,细分赛道。如果未来开放参与,可能会像 Big-Bench 一样成为社区协作标杆。不过目前门槛还高:题目设计成本大、领域知识壁垒深。

实用角度来看,如果你在寻找能辅助生物信息学研究的模型,可以关注哪些模型在 Genebench-Pro 上表现好——这是比论文指标更硬核的参考。但别指望马上能拿到公开排名;OpenAI 向来谨慎,数据泄露风险管控严格。耐心等一两年吧。

Genebench-Pro科学推理基准OpenAI评估基因组学AI蛋白质工程AI科研能力大模型评测生命科学AI

分享

评论

0
0/500 字符

暂无评论

成为第一个评论的人

探索更多

开源项目

Awesome AI for Science:精选 AI 科学发现资源

这是一个精选 AI 工具、库、论文、数据集和框架的仓库,覆盖物理、化学、生物学和材料科学。为研究人员和开发者提供快速掌握 AI 在科学探索中应用的价值资源。拥有超过1700颗星,采用 MIT 许可证。

earth2studio: NVIDIA 面向天气与气候的深度学习框架

earth2studio 是 NVIDIA 开源的一个深度学习框架,专为天气和气候领域设计。它简化了从研究到部署的完整工作流,提供通用 API 和预训练模型,帮助研究人员快速构建 AI 驱动的天气预报和气候模拟应用,降低开发门槛并加速领域创新。

ai4paper:面向研究者的开源 AI 学术平台

ai4paper 是一个面向研究人员的开源 AI 平台,声称可访问2.4亿篇学术论文。其核心功能包括全文 PDF 翻译、AI 驱动的文献搜索和一键生成评论,通过网页界面即可使用,无需安装插件。该平台还支持 Zotero 集成,并可通过小程序订阅期刊,旨在提升文献综述和学术写作的效率。项目主要使用 HTML 编写,采用 MIT 许可证,截至采集时在 GitHub 上获得2739个星标。

openscience: 面向科学研究的开源 AI 工作台

openscience 是一个由 synthetic-sciences 开源的 AI 工作台,专为科学研究场景设计。项目使用 TypeScript 构建,在 GitHub 已获超 3.2k 星标,仓库包含前后端、CLI 和评估模块。目前公开文档有限,适合对 AI for Science 感兴趣的团队关注。

ResearchStudio:微软开源 AI 协作研究工具

ResearchStudio 是微软发布的开源 AI 协作工具,旨在支持研究人员从问题提出到最终发表的完整学术旅程。它集成了文献综述、实验设计、数据分析和论文写作等功能,并利用大型语言模型提供智能建议。该项目特别适合希望优化工作流程的学术研究者。主要编程语言为 Python,采用 MIT 许可证,采集时 GitHub 星标数为 1911。

open-science: 本地优先的AI科研工作台

open-science 是一个开源、本地优先、模型无关的 AI 研究工作台,专为科学发现设计。它让科研人员在自己的机器上运行 AI 辅助流程,不绑定特定模型,兼顾数据隐私与灵活性。