EnvACE: 世界リハーサルによる長期的ツール呼び出しエージェントの訓練

EnvACE: 世界リハーサルによる長期的ツール呼び出しエージェントの訓練

Grace Sullivan
145
original

EnvACE は世界リハーサル手法を提案し、大規模言語モデルエージェントが訓練中に自分自身で環境を演じ、環境のダイナミクスを内部化することで、外部シミュレータへの依存を減らす。BFCL-v4、tau²-Bench などのベンチマークで環境拡張ベースラインを上回り、テスト段階ではプライベートリハーサルも可能であり、長期的ツール呼び出しエージェントの訓練に新たな道筋を提供する。

大規模言語モデルのエージェントに長周期のツール呼び出しを学習させるのは、コストも手間もかかる作業です。一般的な方法は、実環境または合成の実行可能環境と繰り返しインタラクションさせることですが、こうした環境の構築と検証には高いコストがかかります。外部シミュレータを使う場合も、実際のシナリオとの整合が難しいことがあります。最近arXivに掲載されたEnvACEという論文は、まったく異なる視点を提案しています。エージェントを外部環境で試行錯誤させるのではなく、エージェント自身に環境の役割を演じさせるというアプローチです。

発想の転換:エージェント自身に環境を想像させる

EnvACEの中核となる概念はワールドリハーサル(world rehearsal)です。学習プロセスにおいて、ポリシーは外部環境が各ステップの操作に応答する必要はもはやありません。ツール呼び出しを生成した後、すぐに環境の役割を演じ、その呼び出しがどのような結果を引き起こすかを想像し、その「想像上の」応答に基づいて意思決定を続けます。アクターと環境という2つの役割が同じモデル内で交互に切り替わり、タスク成功報酬を用いてエンドツーエンドの共同最適化が行われます。

一見すると自問自答のようにも思えますが、重要なのは、このリハーサルを通じてポリシーが「アクションと環境応答」の法則をパラメータに直接内部化する点です。これはモデル内部にエージェント世界モデル

EnvACE、世界リハーサル、Agentic RL、大規模言語モデル、エージェント訓練、ツール呼び出し、強化学習、研究論文、長期ツール呼び出しエージェント

共有

コメント

0
0/500 文字

コメントはまだありません

最初のコメントを書きましょう

もっと見る

オープンソース代替

Awesome AI for Science:AIによる科学発見の厳選リソース

これは、物理学・化学・生物学・材料科学を対象とした、AIツール、ライブラリ、論文、データセット、フレームワークの厳選リポジトリです。研究者や開発者が科学探索におけるAI活用の価値を迅速に把握できるリソースを提供します。1,700以上のスターを獲得し、MITライセンスを採用しています。

earth2studio: NVIDIAによる天気・気候向けディープラーニングフレームワーク

earth2studioは、NVIDIAがオープンソースで公開している、天気と気候の分野に特化したディープラーニングフレームワークです。研究からデプロイまでの完全なワークフローを簡素化し、汎用APIと事前学習済みモデルを提供することで、研究者がAIを活用した天気予報や気候シミュレーションアプリケーションを迅速に構築できるようにし、開発のハードルを下げて分野のイノベーションを加速します。

ai4paper:研究者向けのオープンソースAI学術プラットフォーム

ai4paper は研究者向けのオープンソースAIプラットフォームであり、2.4億件の学術論文にアクセスできると謳っています。主な機能には、全文PDF翻訳、AI駆動の文献検索、ワンクリックでのコメント生成が含まれます。ウェブインターフェースで利用でき、プラグインのインストールは不要です。また、Zotero統合をサポートし、ミニアプリでジャーナルを購読することもでき、文献レビューと学術執筆の効率向上を目指しています。このプロジェクトは主にHTMLで書かれており、MITライセンスを採用し、収集時点でGitHubで2739スターを獲得しています。

ResearchStudio:マイクロソフトが公開したオープンソースのAI共同研究ツール

ResearchStudioは、マイクロソフトが公開したオープンソースのAI共同研究ツールで、研究者が問題提起から最終的な論文発表に至るまでの学術研究の全プロセスを支援することを目的としています。文献レビュー、実験計画、データ分析、論文執筆などの機能を統合し、大規模言語モデルを活用してスマートな提案を提供します。このプロジェクトは、ワークフローの最適化を希望する学術研究者に特に適しています。主要なプログラミング言語はPythonで、MITライセンスを採用しており、収集時点でのGitHubスター数は1911です。

open-science: ローカル優先のAI研究ワークベンチ

open-science は、科学発見のために設計された、オープンソースでローカル優先、モデル非依存のAI研究ワークベンチです。研究者は自分のマシンでAI支援プロセスを実行でき、特定のモデルに縛られず、データプライバシーと柔軟性を両立できます。