OpenAI は最近、科学推論分野における AI の能力を評価するための新しいベンチマーク Genebench-Pro をひっそりと公開した。「遺伝子」という名前が付いているが、その射程はゲノミクスだけにとどまらない——タンパク質設計、代謝経路、構造予測までをカバーしている。ここには実に現実的な問題意識がある。現在の LLM は試験型ベンチマークで高得点を稼ぐのは容易だが、実際の研究現場に直面すると途端に役に立たなくなる。Genebench-Pro が目指すのは、「試験」を「実験」に変えることだ。
科学推論に専用のテストが必要な理由
従来のベンチマーク(MMLU など)が測定するのは知識の蓄積だ。モデルはワトソン・クリックの塩基対形成則を知っているか? CRISPR の作用機序を覚えているか? 一方 Genebench-Pro は視点を変える。未公開の実験データを与え、その背後にある生物学の法則を逆算させるのだ。これに求められるのは、仮説生成、因果推論、多段階推論の能力であり、単なる記憶ではない。
- 一次配列データからタンパク質の安定性変化を予測する
- 遺伝子発現プロファイルから調節関係を推測する
- 仮説を検証するための変異実験を設計する
これらのタスクは、人間の研究者にとっても容易ではない。ましてや現在の大規模モデルにとってはなおさらだ。OpenAI は Pro バージョンで難易度を一段階引き上げた。
仕組みと用途
Genebench-Pro は、各分野の専門家が手作業で構築した問題群で構成され、各問題には シミュレーション実験環境 が付属している。モデルは BLAST 検索や Rosetta のエネルギー計算、さらには小型の仮想ラボといった計算ツールを「呼び出す」ことができる。評価の際、モデルは主体的に選択を下さなければならず、ひとこと回答を出力すれば終わり、というわけではない。
典型的なシナリオ:一連の酵素配列が与えられ、モデルは 3 つの点変異を設計して仮想スクリーニングを実施し、最後にどの組み合わせが最も有望かを説明する。これはもはや「質疑応答」ではなく「研究」だ。
研究機関にとって、このベンチマークはより適切な基盤モデルを選定する助けになる。開発者にとっては、次の最適化の方向性——複雑な推論とツール使用の融合——が明確になる。欠点もある。このベンチマークは現在 OpenAI 内部でのみ使用されており、外部の研究者が読めるのは事例のみで、モデルの結果を直接提出することはできない。公開計画はまだ発表されていない。
この分野にとっての意味
Genebench-Pro の登場は、AI 評価が「知識の質疑応答」から「能力のデモンストレーション」へと移行しつつあることを示している。同様の方向性として Google の MMLU-Pro や DeepMind の MATH があるが、Genebench シリーズは生命科学に特化したニッチな領域を扱う。将来、参加がオープンになれば、Big-Bench のようにコミュニティ協力のベンチマークとなる可能性もある。ただし、現時点でのハードルは高い。問題設計のコストは大きく、領域知識の参入障壁は深い。
実用的な観点から言えば、バイオインフォマティクス研究を支援するモデルを探しているなら、Genebench-Pro で好成績を収めているモデルに注目すべきだ。これは論文の指標よりはるかに実践的な参考になる。ただし、公開ランキングがすぐに手に入ると期待しないほうがいい。OpenAI はこれまで慎重で、データ漏洩リスクの管理に厳格だ。気長に 1〜2 年待とう。











コメント
コメントはまだありません
最初のコメントを書きましょう