論文の概要: World Models as an Intermediary between Agents and the Real World
- arxiv url: http://arxiv.org/abs/2602.00785v1
- Date: Sat, 31 Jan 2026 15:52:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:33.400161
- Title: World Models as an Intermediary between Agents and the Real World
- Title(参考訳): エージェントと現実世界の仲介者としての世界モデル
- Authors: Sherry Yang,
- Abstract要約: 本稿では,エージェントと現実世界の仲介者として,世界モデルを用いるべきだと論じる。
我々は、世界モデルが極端に非政治的な学習のような高コストな行動の基本的な障壁を克服する方法について論じる。
我々は、世界モデルが幅広い領域にまたがるエージェントに対して、批判的で豊かな学習信号を提供する方法を実証する。
- 参考スコア(独自算出の注目度): 7.025260853701487
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) agents trained using reinforcement learning has achieved superhuman performance in low-cost environments like games, mathematics, and coding. However, these successes have not translated to complex domains where the cost of interaction is high, such as the physical cost of running robots, the time cost of ML engineering, and the resource cost of scientific experiments. The true bottleneck for achieving the next level of agent performance for these complex and high-cost domains lies in the expense of executing actions to acquire reward signals. To address this gap, this paper argues that we should use world models as an intermediary between agents and the real world. We discuss how world models, viewed as models of dynamics, rewards, and task distributions, can overcome fundamental barriers of high-cost actions such as extreme off-policy learning and sample inefficiency in long-horizon tasks. Moreover, we demonstrate how world models can provide critical and rich learning signals to agents across a broad set of domains, including machine learning engineering, computer use, robotics, and AI for science. Lastly, we identify the challenges of building these world models and propose actionable items along dataset curation, architecture design, scaling, and evaluation of world models.
- Abstract(参考訳): 強化学習を用いて訓練された大規模言語モデル(LLM)エージェントは、ゲーム、数学、コーディングなどの低コスト環境で超人的性能を達成した。
しかしながら、これらの成功は、ロボットの動作の物理的コスト、MLエンジニアリングの時間コスト、科学実験の資源コストなど、相互作用のコストが高い複雑な領域に翻訳されていない。
これらの複雑で高コストなドメインに対して、次のレベルのエージェントパフォーマンスを達成するための真のボトルネックは、報酬信号を取得するためのアクションを実行することにある。
このギャップに対処するために、エージェントと現実世界の間の仲介手段として、世界モデルを用いるべきである、と本論文は主張する。
我々は,世界モデルを動的,報酬,タスク分布のモデルとみなし,極端に非政治的な学習や長期的タスクにおけるサンプル非効率といった高コスト行動の基本的な障壁を克服する方法について論じる。
さらに、我々は、機械学習工学、コンピュータ利用、ロボティクス、科学のためのAIなど、幅広い分野のエージェントに対して、世界モデルがどのようにクリティカルでリッチな学習信号を提供できるかを実証する。
最後に、これらの世界モデルを構築する上での課題を特定し、データセットのキュレーション、アーキテクチャ設計、スケーリング、世界モデルの評価に沿って実行可能なアイテムを提案する。
関連論文リスト
- Generative World Models of Tasks: LLM-Driven Hierarchical Scaffolding for Embodied Agents [0.0]
本稿では,世界物理学とそのタスク意味論をモデル化した意思決定のための効果的な世界モデルを提案する。
低リソースマルチエージェントサッカーにおける2024年の研究の体系的レビューは、象徴的手法と階層的手法を統合するための明確な傾向を明らかにしている。
私たちはこの傾向を階層的タスク環境(HTE)のフレームワークとして形式化し、シンプルでリアクティブな振る舞いと洗練された戦略的チームのプレーのギャップを埋めるのに不可欠です。
論文 参考訳(メタデータ) (2025-09-05T01:03:51Z) - AdaWorld: Learning Adaptable World Models with Latent Actions [76.50869178593733]
我々は,効率的な適応を実現する革新的な世界モデル学習手法であるAdaWorldを提案する。
主要なアイデアは、世界モデルの事前トレーニング中にアクション情報を統合することである。
次に、これらの潜伏行動を条件とした自己回帰的世界モデルを開発する。
論文 参考訳(メタデータ) (2025-03-24T17:58:15Z) - Robotic World Model: A Neural Network Simulator for Robust Policy Optimization in Robotics [50.191655141020505]
この研究は、長期水平予測、エラー蓄積、およびsim-to-real転送の課題に対処することで、モデルに基づく強化学習を前進させる。
スケーラブルでロバストなフレームワークを提供することで、現実のアプリケーションにおいて適応的で効率的なロボットシステムを実現することができる。
論文 参考訳(メタデータ) (2025-01-17T10:39:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。