論文の概要: CausalDreamer: Learning Predictive World Models with Latent Disentanglement
- arxiv url: http://arxiv.org/abs/2610.12016v1
- Date: Thu, 08 Oct 2026 14:12:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.07298
- Title: CausalDreamer: Learning Predictive World Models with Latent Disentanglement
- Title（参考訳）: CausalDreamer: 潜伏障害のある予測的世界モデルを学ぶ
- Abstract要約: ドリーマー4のような生成的世界モデルは、各フレームをラテントにエンコードするビデオトークンーザで構成されている。
我々は、トークン化剤を凍結保存し、その潜伏剤を4つのグループの因子的表現に再符号化するtextitCausalDreamerを提案する。
textitCausalDreamerと、20 MMBench2タスクのモデル予測計画から始まる事前訓練された世界モデルを評価する。
- 参考スコア（独自算出の注目度）: 15.126014996118654
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World models for control must capture which aspects of the environment respond to the agent's actions and which are relevant to reward. Generative world models such as Dreamer 4 consist of a video tokenizer, which encodes each frame into a latent, and a dynamics model, which is pretrained to predict future latents from past latents and actions. Yet the tokenizer is trained with a reconstruction objective, without action or reward supervision, so its latent provides no explicit mechanism to separate controllable, uncontrollable, reward-relevant, and reward-irrelevant information. We propose \textit{CausalDreamer}, which keeps the tokenizer frozen and re-encodes its latent into a factored representation of four groups along two axes: controllability, where only the two controllable groups receive the action, and reward relevance, learned by predicting the reward from the two reward-relevant groups. The pretrained dynamics model is then fine-tuned to predict the factored representation. We evaluate \textit{CausalDreamer} and the pretrained world model it starts from with model-predictive planning on 20 MMBench2 tasks: 10 clean tasks seen during training and 10 unseen tasks, of which 6 are manipulated variants of clean tasks with a changed background, object, or maze layout, and 4 are new environments. We normalize returns so that a policy taking uniformly random actions scores 0 and an expert scores 1. \textit{CausalDreamer} achieves a 14\% higher normalized score than the pretrained world model on the clean tasks (0.199 vs.\ 0.175) and a 25\% higher score on the manipulated variants (0.307 vs.\ 0.246), while neither model scores meaningfully above the random policy in the new environments. Additionally, our analysis shows that the factored representation separates reward-irrelevant changes, such as a changed background, from its reward-relevant groups.
- Abstract（参考訳）: 制御のための世界モデルは、エージェントの行動に反応する環境のどの側面と報酬に関連があるかを捉えなければならない。
Dreamer 4のような生成的世界モデルは、各フレームを潜伏子にエンコードするビデオトークンーザと、過去の潜伏子や行動から将来の潜伏子を予測するために事前訓練されたダイナミックスモデルで構成されている。
しかし、トークンーザは、行動や報酬の監督なしに、再建の目的で訓練されているため、その潜伏者は、制御可能で制御不能で、報酬に関係のない情報を分離するための明確なメカニズムを提供していない。
本稿では,2つの軸に沿った4つの群,すなわち2つの制御可能な群のみが作用を受ける可制御性,および2つの報酬関連群からの報酬を予測して学習した報酬関連性という因子的表現に,トークン化剤を凍結し,その潜伏を再符号化する「textit{CausalDreamer}」を提案する。
事前学習された力学モデルは、因子表現を予測するために微調整される。
20 MMBench2 タスクのモデル予測計画から始まる,<textit{CausalDreamer} と事前訓練された世界モデルを評価する。
我々は、一様ランダムな行動を取るポリシーが0、専門家が1となるように、返却を正規化する。
\textit{CausalDreamer}は、クリーンタスク(0.199対0.199)の事前トレーニングされた世界モデルよりも14\%高い正規化スコアを達成する。
0.175)、操作した変種(0.307 vs。
0.246)だが、どちらのモデルも新しい環境におけるランダムなポリシーよりも有意なスコアは得られなかった。
さらに, 因子表現は, 背景の変化などの報酬非関連な変化を, 報酬関連群から分離することを示した。
関連論文リスト
- Does Learning to Predict the World Help Agents Act? Auditing World-Model Post-Training [33.73456133272386]
訓練後、エージェントは次の観察を予測し、その予測を報酬または直接的な監視信号に変換する必要がある。
我々は、トレーニングプロセス中に、真の次の観測対象を、分布不一致の観察に置き換える。
この発見をVisualWebArenaに一般化します。そこでは、ランダムリワードトレーニングがベースモデルに対してpass@64を14.3%上昇させます。
論文 参考訳（メタデータ） (2026-09-27T08:07:05Z) - GE-Act 2.0: Pretraining and Scaling a World-Action Model for Robotic Manipulation [63.853929983870955]
本稿では,ジェニー・エンスペクタ法 2.0 (GE-Act 2.0) について紹介する。
制御指向オートエンコーダ(CoAE)、ワンステップビジュアルプランナー(SVP)、逆ダイナミクスモデル(IDM)を組み合わせている。
それらのコンポーネントは、知識に整合した選択最適化(KASO)で共同で訓練され、記録された行動に適合していると判断された予測された未来のみを選択することで、ミスマッチした監視を減らす。
論文 参考訳（メタデータ） (2026-09-04T17:16:48Z) - Discriminative World Models for Web Agents [52.31107486410659]
最近のWebエージェントは、テストタイムアクションの選択に世界モデルを使用し、候補アクションをサンプリングし、結果のWeb状態を予測し、ランキングモデルまたはプロセスリワードモデル(PRM)でランキングする。
予測状態マッチング(英: predict-state matching)は、予測された表現が真の結果状態と、代替行動によって到達した状態とを区別しなければならない訓練目的である。
提案手法は,WebPRMBench上でのPRMスタイルのアクションランキングを改善する。
論文 参考訳（メタデータ） (2026-09-02T17:59:40Z) - Benchmarking World-Model Learning [48.64929865461133]
我々は、異なるが関連する環境において、評価されたフェーズを分離するモデル学習エージェントを評価するためのプロトコルであるWorldTestを提案する。
秋のベンチでは,517人の参加者と3つのモデルを比較した。
人間はいくつかの環境でモデルより優れていますが、他の環境では優れていません。
論文 参考訳（メタデータ） (2025-10-22T17:23:18Z) - Test-Time Alignment via Hypothesis Reweighting [56.71167047381817]
大規模な事前訓練されたモデルは、しばしば未指定のタスクで苦労する。
テストタイムのユーザ意図にモデルを整合させるという課題に対処する新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2024-12-11T23:02:26Z) - PoseBench: Benchmarking the Robustness of Pose Estimation Models under Corruptions [57.871692507044344]
ポース推定は、単眼画像を用いて人や動物の解剖学的キーポイントを正確に同定することを目的としている。
現在のモデルは一般的に、クリーンなデータに基づいてトレーニングされ、テストされる。
実世界の腐敗に対するポーズ推定モデルの堅牢性を評価するためのベンチマークであるPoseBenchを紹介する。
論文 参考訳（メタデータ） (2024-06-20T14:40:17Z) - Adam-Smith at SemEval-2023 Task 4: Discovering Human Values in Arguments
with Ensembles of Transformer-based Models [1.9833664312284154]
本稿では,SemEval-2023 タスク 4 における "Adam Smith" の最も優れた手法として,"Identification of Human Values behind Arguments" を提案する。
タスクの目標は、テキスト引数内の値を自動的に識別するシステムを作ることだった。
論文 参考訳（メタデータ） (2023-05-15T13:20:14Z) - Unifying Language Learning Paradigms [96.35981503087567]
データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。
本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。
また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
論文 参考訳（メタデータ） (2022-05-10T19:32:20Z) - Resilience from Diversity: Population-based approach to harden models
against adversarial attacks [0.0]
この研究は、敵の攻撃に対して回復力のあるモデルを導入する。
我々のモデルは、生物科学から確立された原則を生かし、人口多様性は環境変化に対して弾力性を生み出す。
Counter-Linked Model (CLM) は、周期的ランダム類似性検査を行う同じアーキテクチャのサブモデルで構成されている。
論文 参考訳（メタデータ） (2021-11-19T15:22:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。