論文の概要: Train An Imaginative Agent
- arxiv url: http://arxiv.org/abs/2610.26845v1
- Date: Mon, 19 Oct 2026 17:59:12 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:38:01.394242
- Title: Train An Imaginative Agent
- Title(参考訳): 原住民のエージェントを訓練する
- Abstract要約: 本稿ではエージェント・イマジネーション(Agima)について紹介する。
Agimaは単一のオムニモデルをトレーニングし、アクションを提案し、結果の画像を生成し、これらの想像された未来を推論して、実際の環境で実行すべきものを決定する。
- 参考スコア(独自算出の注目度): 102.69469330781357
- License:
- Abstract: A seemingly reasonable push in Sokoban can make the puzzle unsolvable. To avoid such mistakes, an agent has to anticipate the consequences of its actions before execution, especially when feedback from the real environment is sparse or actions are irreversible. We introduce Agentic Imagination (Agima), a training framework that trains an agent to imagine before acting, i.e. to be imaginative. Agima trains a single omni model to propose actions, generate images of their outcomes, and then reason over these imagined futures to decide what to execute in the real environment. Rather than committing to a single plan, the agent can simulate a sequence of actions, explore alternatives, and compare possible futures. We first use supervised fine-tuning (SFT) to unify policy and world modeling within a single omni model. This enables the agent to predict future outcomes and perform basic forms of imagination, such as forward thinking and counterfactual branching. We then use agentic reinforcement learning (RL) to teach the agent to reason with its imagined futures and use them effectively for planning. Across four environments spanning Maze2D, Sokoban, Pacman, and PushT, Agima generalizes to harder settings unseen during training. Trained with SFT alone on two-box Sokoban, Agima solves 40% of four-box puzzles while seeing the real board only once every five moves, compared with an action-only planner that only solves 2%. After RL, new behaviors emerge in how Agima uses its imagination: it learns a new unified format that was unseen during the SFT stage, learns to conduct forward thinking only when necessary, and branches more frequently at critical decision points. An agent that can picture where its actions lead can learn when and where to look ahead, that is, to plan. Project page: https://agima.net/.
- Abstract(参考訳): ソコバンを合理的に押すとパズルが解けなくなる。
このようなミスを避けるには、エージェントは実行前にアクションの結果を予測しなければならない。
本稿ではエージェント・イマジネーション(Agima)について紹介する。
Agimaは単一のオムニモデルをトレーニングし、アクションを提案し、結果の画像を生成し、これらの想像された未来を推論して、実際の環境で実行すべきものを決定する。
1つの計画にコミットするのではなく、エージェントは一連のアクションをシミュレートし、代替品を探究し、可能な未来を比較することができる。
まず、教師付き微調整(SFT)を用いて、単一のオムニモデル内にポリシーと世界モデリングを統合する。
これにより、エージェントは将来の成果を予測し、前方思考や反現実分岐のような基本的な想像力の形式を実行することができる。
次に、エージェント強化学習(RL)を用いて、エージェントが想像する未来を推論し、計画に効果的に利用するように教える。
Maze2D、Sokoban、Pacman、PushTの4つの環境にまたがって、Agimaはトレーニング中に目に見えない厳しい設定に一般化する。
2箱のソコバンでSFTだけでトレーニングされたAgimaは、本物のボードを5回に1回しか見ることなく、4箱のパズルの40%を解決している。
RLの後、Agimaの想像力の使い方に新たな行動が現れ、SFTの段階では目に見えない新しい統一フォーマットを学び、必要な時にのみ前方思考を行うことを学び、重要な決定ポイントでより頻繁に分岐する。
エージェントは、いつどこで、いつ、いつ、いつ、どのように、どのように、計画するかを学ぶことができる。
プロジェクトページ:https://agima.net/.com
関連論文リスト
- See Tomorrow, Act Today: Foresight-Driven Autonomous Driving [87.02582063534608]
ForeSightは、予測された意思決定として自動運転を再設計する基礎的世界モデル中心の計画フレームワークである。
提案手法は,(1)事前学習された世界モデルを用いて,有望な未来世界を生成すること,(2)これらの未来を前提とした計画行動を行うこと,の2段階からなる。
論文 参考訳(メタデータ) (2026-05-08T03:42:05Z) - Dyna-Mind: Learning to Simulate from Experience for Better AI Agents [62.21219817256246]
私たちは、現在のAIエージェントは、行動する前に、別の未来を精神的にシミュレートする能力である「悪意ある試行錯誤」を必要としていると論じます。
我々は、(V)LMエージェントに対して、そのようなシミュレーションを推論に組み込むように明示的に教える2段階のトレーニングフレームワークであるDyna-Mindを紹介した。
論文 参考訳(メタデータ) (2025-10-10T17:30:18Z) - AI planning in the imagination: High-level planning on learned abstract
search spaces [68.75684174531962]
我々は,エージェントが訓練中に学習する抽象的な検索空間において,エージェントが計画することを可能にする,PiZeroと呼ばれる新しい手法を提案する。
本研究では,旅行セールスマン問題,ソコバン問題,2048年,施設立地問題,パックマン問題など,複数の分野で評価を行った。
論文 参考訳(メタデータ) (2023-08-16T22:47:16Z) - Thinker: Learning to Plan and Act [18.425843346728648]
思考アルゴリズムは環境を世界モデルで包み、世界モデルと対話するために設計された新しいアクションを導入する。
本研究では,ソコバンとアタリ2600ベンチマークを用いて,実験結果を用いてアルゴリズムの有効性を実証する。
論文 参考訳(メタデータ) (2023-07-27T16:40:14Z) - Agents Explore the Environment Beyond Good Actions to Improve Their
Model for Better Decisions [0.0]
MuZeroのエージェントは、ネットワークモデルによる予測と、予測を用いた木探索による計画を組み合わせる。
我々は、エージェントに、そうでなければ探索しない環境における決定木の一部を探索させるために、これを衝動として使用します。
シンプルなボードゲームTic-Tac-Toeは、このアプローチがエージェントの意思決定能力をどのように改善するかを説明するために使用される。
論文 参考訳(メタデータ) (2023-06-06T05:11:58Z) - Shaping embodied agent behavior with activity-context priors from
egocentric video [102.0541532564505]
そこで我々は,人間の着用カメラで撮影した野生の自我中心の映像から,アクティビティ・コンテクストの先行情報を発見するためのアプローチを提案する。
我々は,ビデオの先行を補助報酬関数としてエンコードし,エージェントが対話を試みる前に,互換性のあるオブジェクトをまとめるように促す。
我々は,AI2-iTHORの様々な複雑なタスクを行う仮想家庭ロボットエージェントに利益をもたらすために,記述されていないキッチン活動を行う人々のエゴセントリックEPIC-Kitchensビデオを用いて,私たちのアイデアを実証する。
論文 参考訳(メタデータ) (2021-10-14T20:02:59Z) - Modeling the Mistakes of Boundedly Rational Agents Within a Bayesian
Theory of Mind [32.66203057545608]
我々は、ベイズ的マインド理論フレームワークを拡張し、目標、計画、行動の誤りを犯したかもしれない有理論的エージェントをモデル化する。
本研究では,扉の裏に宝石を閉じ込めたグリッドワールドパズル (i) とブロックスタッキングドメイン (ii) の2つの領域において,人間の目標推論を導出する実験を行う。
論文 参考訳(メタデータ) (2021-06-24T18:00:03Z) - Learning Affordance Landscapes for Interaction Exploration in 3D
Environments [101.90004767771897]
エージェントは環境の仕組みを習得できなければならない。
相互作用探索のための強化学習手法を提案する。
AI2-iTHORで私たちのアイデアを実証します。
論文 参考訳(メタデータ) (2020-08-21T00:29:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。