論文の概要: Motion-guided Contrastive Regularization For Latent World Models
- arxiv url: http://arxiv.org/abs/2611.06901v1
- Date: Wed, 04 Nov 2026 18:49:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.238731
- Title: Motion-guided Contrastive Regularization For Latent World Models
- Title(参考訳): 潜在世界モデルのための運動誘導コントラスト正規化
- Abstract要約: JEPAスタイルの世界モデルは、観測を再構築することなく行動条件付き潜伏ダイナミクスを学習するが、分布正規化だけでは、それらの表現が制御に必要な情報を保存することを保証しない。
エンコーダは、操作関連状態の変化を抑えつつ、エピソード固有の静的コンテンツを保存する。
OGBench-Cubeの制御された研究によると、ランダムなバックグラウンドの導入は、基礎となる操作タスクをそのままにして、計画性能を著しく低下させる。
- 参考スコア(独自算出の注目度): 21.707569450965575
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: JEPA-style world models learn action-conditioned latent dynamics without reconstructing observations, but distributional regularization alone does not ensure that their representations preserve information needed for control. We identify static collapse, a failure mode in which the encoder preserves episode-specific static content while suppressing manipulation-relevant state changes. Because static content is temporally predictable yet diverse across episodes, this failure can persist despite regularizers such as SIGReg. A controlled study on OGBench-Cube shows that introducing randomized backgrounds substantially degrades planning performance while leaving the underlying manipulation task unchanged. To address this problem, we propose motion-guided contrastive regularization. Our approach compares predicted latent transitions with transitions to candidate observations from the same episode, reducing the usefulness of static background identity for distinguishing action outcomes. Optical-flow similarities provide soft contrastive targets, allowing candidates with similar motion to receive similar supervision. Combined with latent prediction and SIGReg, our objective encourages representations to preserve within-episode state distinctions and similarities between related transitions. Our method improves planning success over LeWorldModel (LeWM) from 52% to 78% on OGBench-Cube with randomized backgrounds and from 14% to 54% on LIBERO-Object, while maintaining comparable performance on four other visual-control benchmarks.
- Abstract(参考訳): JEPAスタイルの世界モデルは、観測を再構築することなく行動条件付き潜伏ダイナミクスを学習するが、分布正規化だけでは、それらの表現が制御に必要な情報を保存することを保証しない。
エンコーダは、操作関連状態の変化を抑えつつ、エピソード固有の静的コンテンツを保存する。
静的コンテンツは時間的に予測可能であるが、エピソード毎に多様性があるため、SIGRegのような正規化機能にもかかわらず、この障害は持続することができる。
OGBench-Cubeの制御された研究によると、ランダムなバックグラウンドの導入は、基礎となる操作タスクをそのままにして、計画性能を著しく低下させる。
この問題に対処するため,動作誘導型コントラスト正規化を提案する。
提案手法は, 予測潜時遷移と同一エピソードからの候補観測への遷移を比較し, 動作結果の識別に静的な背景同定が有用であることを示す。
光フローの類似性はソフトコントラストターゲットを提供し、類似した動きを持つ候補が同様の監督を受けることを可能にする。
我々の目的は潜在予測とSIGRegと組み合わせることで、表象がエピソード内状態の区別と関連する遷移間の類似性を維持することを奨励する。
提案手法は,LeWorldModel (LeWM) のランダムな背景を持つOGBench-Cubeでは52%から78%,LIBERO-Objectでは14%から54%に向上し,他の4つのビジュアルコントロールベンチマークでは同等の性能を維持した。
関連論文リスト
- Learning Commute-Time-Preserving World Models for Planning [6.7022518034438585]
通勤時間保存世界モデル(CTWM)を紹介する。
CTWMは遅延変位予測器と崩壊を防ぐ対数決定正則化器を結合する。
数値シミュレーションでは、CTWMはタスク非依存のベースラインであるLeWMにマッチする。
論文 参考訳(メタデータ) (2026-10-01T09:42:42Z) - Beyond One-Step Accuracy: State-Affine Latent Transition for Reliable Visual Planning [53.476598858325985]
複数ステップのロールアウトエラーを個々のステップで導入したエラーに分解し,その後の遷移を通した伝播を行う。
状態-アフィンダイナミクスは、状態非依存のヤコビアンとの微分可能遷移であることを示す。
動作条件付き状態-アフィンダイナミクスモデルであるSALTを導入し、動作が状態変換と追加更新の両方を変調する。
論文 参考訳(メタデータ) (2026-09-27T14:12:27Z) - On-Policy Self-Distillation in Diffusion Models [89.32656931795293]
強化学習は、拡散モデルと人間の好みやタスク固有の目的とを一致させることができるが、エンドポイント報酬は、中間的偏見予測をどのように変更すべきかを規定していない。
そこで我々は、DiffusionOPSDを、画像レベルの報酬誘導を明示的なターゲットに変換して、サンプルクエリにおけるクリーンな出力予測を行うオンライン自己蒸留フレームワークとして導入する。
SD 3.5-Mとステップ蒸留したZ-Image-Turboを用いて、2つのバックボーンと10個の評価器で20の報酬マッチング設定のうち19のファイナルホールトアウトスコアを達成した。
論文 参考訳(メタデータ) (2026-08-25T14:55:24Z) - ContextShift: A Controlled Benchmark for Context Dependence in Object Detection [1.8320252176005443]
我々は、オブジェクトの外観を保ちながら、オブジェクト-コンテキスト関係を操作するベンチマークであるContextShiftを紹介する。
偽陰性は227%まで増加し,予測量は44%まで減少する。
拡張されたすべての変種は、オリジナルの画像と操作されたテストイメージの両方でデータセットのみのベースラインよりも優れています。
論文 参考訳(メタデータ) (2026-06-08T13:48:16Z) - Contrast encodes inductive bias: separating slow noise from dynamics in predictive representation learning [0.0]
自己監督法は、徐々に変化するノイズと、それらが捉えようとするダイナミックな信号とを混同することが示されている。
システムを管理する真の潜伏変数の代わりに、対照的な予測目的がこれらの特徴を優先的に符号化することを示します。
この結果は,動的表現学習において,対照的な予測目標を設計するための原則をめざすものである。
論文 参考訳(メタデータ) (2026-06-05T18:28:43Z) - CLaD: Planning with Grounded Foresight via Cross-Modal Latent Dynamics [25.518388341069492]
CLaDは,行動下での受容的状態と意味的状態の共進化をモデル化するフレームワークである。
CLaDは、EMAターゲットエンコーダと補助的な再構成損失による自己監督目標により、接地された潜伏監視を予測する。
LIBERO-LONGベンチマークでは、CLaDは94.7%の成功率を達成した。
論文 参考訳(メタデータ) (2026-03-31T08:13:45Z) - CORE: Context-Robust Remasking for Diffusion Language Models [51.59514489363897]
我々は、推論時リビジョンのためのトレーニング不要フレームワークであるContext-Robust Remasking (CORE)を提案する。
静的トークンの確率を信頼するのではなく、COREは、ターゲットとなるマスク付きコンテキストの摂動に対する感受性を示すことによって、コンテキスト不安定なトークンを識別する。
LLaDA-8B-Baseでは、COREは推論とコードベンチマークの間で一貫した改善を行い、計算に適合したベースラインを上回り、MBPPを最大9.2%改善した。
論文 参考訳(メタデータ) (2026-02-04T00:12:30Z) - From Observations to States: Latent Time Series Forecasting [65.98504021691666]
本稿では,TSFを観測回帰から潜時予測に移行する新しいパラダイムであるLatent Time Series Forecasting(LatentTSF)を提案する。
具体的には、LatentTSFはAutoEncoderを使用して、各段階での観測結果を高次元の潜在状態空間に投影する。
提案する潜伏目標は,予測潜伏状態と地道状態と観測値との相互情報を暗黙的に最大化する。
論文 参考訳(メタデータ) (2026-01-30T20:39:44Z) - Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。
推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文 参考訳(メタデータ) (2023-11-02T16:45:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。