論文の概要: Dynamics-Aligned Representation Learning under Induced Partial Observability
- arxiv url: http://arxiv.org/abs/2610.25511v1
- Date: Sun, 18 Oct 2026 19:59:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 20:40:33.802214
- Title: Dynamics-Aligned Representation Learning under Induced Partial Observability
- Title(参考訳): 部分観測可能性を考慮した動的適応型表現学習
- Abstract要約: 本研究では,Beta-Bernoulliランダムフィールドから空間二乗マスクをサンプリングすることにより,トレーニング中に制御された部分観測性を誘導する機構を提案する。
本稿では,DeepMind Control Suite から選択した画素ベースの連続制御タスクについて,提案手法の評価を行う。
- 参考スコア(独自算出の注目度): 0.7018547803286913
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model-based reinforcement learning (MBRL) has enabled sample-efficient learning of continuous control policies from high-dimensional observations through learned latent dynamics models. These models are typically trained with observation reconstruction objectives, which provide strong supervision but can bias representations toward visual fidelity leading to an undertrained prior and unreliable long-horizon predictions. We propose a stochastic gating mechanism that induces controlled partial observability during training by sampling a spatial binary mask from a Beta--Bernoulli random field and applying it to the raw observation. The gate probability is resampled at each time step, exposing the encoder to conditions ranging from near-total occlusion to near-full visibility. Integration of our method requires minimal architectural changes from existing dynamics models: the gated observation and the binary mask are channel-wise concatenated and passed to the encoder as a single augmented input, with no modifications to the broader training pipeline. We evaluate the proposed approach on a set of pixel-based continuous control tasks selected from the DeepMind Control Suite. Using model predictive control for evaluation, which relies solely on open-loop model rollouts, we show that stochastic gating improves planning performance and data efficiency across tasks. Further analysis demonstrates that performance is robust to the spatial scale of the mask, and a balanced observability during training outperforms configurations biased toward either sparser or denser observations.
- Abstract(参考訳): モデルベース強化学習(MBRL)は、学習された潜在力学モデルを通して高次元観測から連続制御ポリシーのサンプル効率の学習を可能にした。
これらのモデルは一般的に観察再構成の目的で訓練され、強力な監視を提供するが、視覚的忠実度に対する偏見の表現は、訓練されていない事前および信頼性の低い長距離予測に繋がる。
本研究では,Beta-Bernoulliランダムフィールドから空間二乗マスクをサンプリングし,それを生観測に適用することにより,トレーニング中に制御された部分観測性を誘導する確率ゲーティング機構を提案する。
ゲート確率を各タイミングで再サンプリングし、エンコーダをほぼ全周の閉塞からほぼ全周の可視性までの範囲に露出させる。
ゲートオブザーバとバイナリマスクはチャネルワイドに連結され、エンコーダに1つの拡張入力として渡される。
本稿では,DeepMind Control Suite から選択した画素ベースの連続制御タスクについて,提案手法の評価を行う。
オープンループモデルロールアウトのみに依存するモデル予測制御を用いて、確率的ゲーティングがタスク間の計画性能とデータ効率を改善することを示す。
さらなる分析により、マスクの空間スケールに対して性能が堅牢であることが示され、トレーニング中のバランスの取れた可観測性は、スペーサーまたはより密度の高い観測に偏った構成よりも優れていた。
関連論文リスト
- Observation-Grounded Self-Predictive Reinforcement Learning for Visual Continuous Control [10.054153317469096]
本稿では,連続制御のための観察型自己予測表現(OG-SPR)を提案する。
OG-SPRは、多段階の潜伏自己予測と次の観測予測という、2つの中核的な補助的目的を取り入れている。
実験により、OG-SPRは、最先端の自己予測および観察予測RL法よりも集約性能を向上させることが示された。
論文 参考訳(メタデータ) (2026-08-06T13:02:59Z) - Monitoring the Internal Monologue: Probe Trajectories Reveal Reasoning Dynamics [42.27928681606673]
大規模推論モデル (LRM) は, 思考の連鎖 (CoT) 推論を通じて, 安全監視のための新たな機会を導入する。
本研究では,LRMの隠れ表現について検討し,今後の挙動をプロンプトおよびCoT表現から予測できるかどうかを検証した。
将来のモデル行動は, 単一の静的予測より, 完全な軌道上での検証において, より区別し易いことが判明した。
論文 参考訳(メタデータ) (2026-05-18T15:29:04Z) - Model-Based Diffusion Sampling for Predictive Control in Offline Decision Making [48.998030470623384]
オフラインの意思決定は、さらなるインタラクションを伴わずに、固定データセットからの信頼性の高い振る舞いを必要とする。
i)タスク整列軌道を多様に生成するプランナー,(ii)システム力学との整合性を強制するダイナミクスモデル,(iii)タスク目標に整合した動作を選択するランサーモジュールからなる構成モデルに基づく拡散フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-09T06:26:02Z) - Consistent World Models via Foresight Diffusion [56.45012929930605]
我々は、一貫した拡散に基づく世界モデルを学習する上で重要なボトルネックは、最適下予測能力にあると主張している。
本稿では,拡散に基づく世界モデリングフレームワークであるForesight Diffusion(ForeDiff)を提案する。
論文 参考訳(メタデータ) (2025-05-22T10:01:59Z) - Trajectory Forecasting through Low-Rank Adaptation of Discrete Latent Codes [36.12653178844828]
トラジェクトリ予測は、一連のエージェントの将来の動きを予測できるため、ビデオ監視分析に不可欠である。
本稿では,離散潜在空間を用いたベクトル量子変分オートエンコーダ(VQ-VAEs)を導入し,後方崩壊問題に対処する。
このような2段階のフレームワークは、インスタンスレベルの離散化によって強化され、正確で多様な予測につながることを示す。
論文 参考訳(メタデータ) (2024-05-31T10:13:17Z) - Learning Robust Representations via Bidirectional Transition for Visual Reinforcement Learning [49.23256535551141]
本稿では, 環境遷移を前方と後方の両方で双方向に予測し, 信頼性のある表現を抽出するBidirectional Transition (BiT) モデルを提案する。
本モデルでは,DeepMind Controlスイートの2つの設定に対して,競合一般化性能とサンプル効率を示す。
論文 参考訳(メタデータ) (2023-12-04T14:19:36Z) - Actively Learning Reinforcement Learning: A Stochastic Optimal Control Approach [3.453622106101339]
本研究では,2つの相互に結びついた目的を達成するための枠組みを提案する。 (i) 積極的な探索と意図的な情報収集を伴う強化学習と, (ii) 最適制御法の計算的難易度を克服する枠組みである。
我々は、強化学習を用いて最適制御則を計算することにより、両方の目的にアプローチする。
一定の探索と搾取バランスとは異なり、学習プロセスが終了しても、警告と探索はリアルタイムでコントローラによって自動的に行われる。
論文 参考訳(メタデータ) (2023-09-18T18:05:35Z) - Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level
Stability and High-Level Behavior [51.60683890503293]
生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。
任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
論文 参考訳(メタデータ) (2023-07-27T04:27:26Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - Continual Visual Reinforcement Learning with A Life-Long World Model [55.05017177980985]
視覚力学モデリングのための新しい連続学習手法を提案する。
まず,タスク固有の潜在ダイナミクスを学習する長寿命世界モデルを紹介する。
そして,探索・保守的行動学習手法を用いて,過去の課題に対する価値推定問題に対処する。
論文 参考訳(メタデータ) (2023-03-12T05:08:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。