論文の概要: Learning Task-Sufficient World Models by Synergizing Agentic Exploration and Structured Modeling
- arxiv url: http://arxiv.org/abs/2607.04409v1
- Date: Sun, 05 Jul 2026 17:02:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.922608
- Title: Learning Task-Sufficient World Models by Synergizing Agentic Exploration and Structured Modeling
- Title(参考訳): エージェント探索と構造化モデリングを併用したタスク十分世界モデル学習
- Abstract要約: エージェントは、タスク固有の、最小限の、意思決定に十分な表現を持つ世界モデルを学ぶことができるかを検討する。
エージェントとワールドモデル間の閉ループシナジーによりこれを実現できる。
- 参考スコア(独自算出の注目度): 44.18914219393549
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning and planning in imagination using world models provides an effective paradigm for training agents for decision-making. However, existing approaches often rely on high-dimensional latent spaces or generic visual embeddings that retain many factors irrelevant to control, limiting efficiency and generalization across tasks. To this end, we study how agents can learn world models with representations that are task-specific, minimal, and sufficient for decision-making. We achieve this via a closed-loop synergy between the agent and the world model, in which structured world-model learning distills task-sufficient representations from informative interaction data. On the agent side, agents actively probe the environment to collect informative trajectories that expose task-relevant latent factors, guided by an adaptive curriculum. On the world-model side, we learn structured representations over observations to distill compact, task-sufficient latent states from the collected interaction data. This synergy enables the empirical recovery of task-sufficient latent representations that capture all control-relevant factors. Leveraging these representations, the resulting policies achieve improved sample efficiency and generalization, including generalization across skills, object-skill compositions, and previously unseen tasks on standard continuous-control and robotic-manipulation benchmarks.
- Abstract(参考訳): 世界モデルを用いた想像力の学習と計画は、意思決定のためのトレーニングエージェントに効果的なパラダイムを提供する。
しかし、既存のアプローチはしばしば高次元の潜伏空間や一般的な視覚埋め込みに頼り、制御に無関係な多くの要素を保ち、効率を制限し、タスク全体にわたって一般化する。
この目的のために、エージェントは、タスク固有の、最小限の、意思決定に十分な表現を持つ世界モデルを学ぶことができるかを検討する。
我々はエージェントとワールドモデル間のクローズドループのシナジーによりこれを達成し、構造化されたワールドモデル学習は情報的相互作用データからタスク十分表現を抽出する。
エージェント側では、エージェントが積極的に環境を探索し、適応的なカリキュラムによって導かれるタスク関連潜在要因を明らかにする情報トラジェクトリを収集する。
世界モデル側では、収集された相互作用データから、観測上の構造化表現を学習し、コンパクトでタスクに十分である潜在状態を蒸留する。
このシナジーは、すべての制御関連因子を捕捉するタスク十分潜在表現の実証的な回復を可能にする。
これらの表現を活用して、結果として得られたポリシーはサンプル効率と一般化を向上し、スキルをまたいだ一般化、オブジェクトスキルの合成、標準の連続制御とロボット操作のベンチマークでこれまで見つからなかったタスクを含む。
関連論文リスト
- Contextual Latent World Models for Offline Meta Reinforcement Learning [17.917947576971816]
本研究では、文脈潜在世界モデルを導入し、推論されたタスク表現に潜在世界モデルを条件付けし、文脈エンコーダと共同で学習する。
これはタスク条件の時間的一貫性を強制し、タスク依存のダイナミクスをキャプチャするタスク表現を生成する。
提案手法はより表現力のあるタスク表現を学習し,MuJoCo,Contextual-DeepMind Control,Meta-Worldベンチマークにまたがる未確認タスクへの一般化を大幅に改善する。
論文 参考訳(メタデータ) (2026-03-03T12:45:20Z) - Object-Centric World Models for Causality-Aware Reinforcement Learning [13.063093054280946]
カルーサリティ対応強化学習(ASTICA)を用いたEmph Transformer Imaginationを提案する。
オブジェクト中心のトランスフォーマーが世界モデルおよび因果対応ポリシーおよびバリューネットワークとして機能する統合フレームワーク。
オブジェクトリッチベンチマークの実験では、STICAはサンプル効率と最終性能の両方において、最先端のエージェントよりも一貫して優れていた。
論文 参考訳(メタデータ) (2025-11-18T08:53:09Z) - Uniting contrastive and generative learning for event sequences models [51.547576949425604]
本研究では,2つの自己指導型学習手法 – 例えば,コントラスト学習と,潜在空間におけるマスクイベントの復元に基づく生成的アプローチ – の統合について検討する。
いくつかの公開データセットで行った実験は、シーケンス分類と次点型予測に焦点を合わせ、統合された手法が個々の手法と比較して優れた性能を達成することを示した。
論文 参考訳(メタデータ) (2024-08-19T13:47:17Z) - Building Minimal and Reusable Causal State Abstractions for
Reinforcement Learning [63.58935783293342]
Causal Bisimulation Modeling (CBM) は、各タスクのダイナミクスと報酬関数の因果関係を学習し、最小限のタスク固有の抽象化を導出する手法である。
CBMの学習された暗黙的ダイナミクスモデルは、明確なものよりも根底にある因果関係と状態抽象化を正確に識別する。
論文 参考訳(メタデータ) (2024-01-23T05:43:15Z) - Leveraging sparse and shared feature activations for disentangled
representation learning [112.22699167017471]
本稿では,教師付きタスクの多種多様な集合から抽出した知識を活用し,共通不整合表現を学習することを提案する。
我々は6つの実世界分布シフトベンチマークと異なるデータモダリティに対するアプローチを検証する。
論文 参考訳(メタデータ) (2023-04-17T01:33:24Z) - Investigating the role of model-based learning in exploration and
transfer [11.652741003589027]
本稿では,モデルベースエージェントの文脈における伝達学習について検討する。
モデルベースアプローチは,移動学習におけるモデルフリーベースラインよりも優れていることがわかった。
本研究の結果から,本質的な探索と環境モデルが組み合わさって,自己監督的かつ新たな報酬関数に一般化可能なエージェントの方向性を示すことが明らかとなった。
論文 参考訳(メタデータ) (2023-02-08T11:49:58Z) - Curious Exploration via Structured World Models Yields Zero-Shot Object
Manipulation [19.840186443344]
そこで本研究では,制御ループに帰納バイアスを組み込む構造的世界モデルを用いて,サンプル効率の高い探索を実現することを提案する。
提案手法は,早期にオブジェクトと対話し始める自由プレイ動作を生成し,時間とともにより複雑な動作を発達させる。
論文 参考訳(メタデータ) (2022-06-22T22:08:50Z) - Multi-Agent Imitation Learning with Copulas [102.27052968901894]
マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。
本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。
提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
論文 参考訳(メタデータ) (2021-07-10T03:49:41Z) - Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。
本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。
提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
論文 参考訳(メタデータ) (2020-07-14T16:42:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。