論文の概要: LRC-JEPA: Disentangling Dynamics and Residual Context for Efficient World Models
- arxiv url: http://arxiv.org/abs/2609.34375v1
- Date: Mon, 28 Sep 2026 05:48:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 21:21:13.699575
- Title: LRC-JEPA: Disentangling Dynamics and Residual Context for Efficient World Models
- Title(参考訳): LRC-JEPA:効率的な世界モデルのための拡張ダイナミクスと残留文脈
- Abstract要約: 報酬のない自己超越の下で訓練された低次元表現は、アクション条件付き力学と予測可能な視覚コンテキストの両方をエンコードする必要がある。
LRC-JEPAは、情報をコンパクトな予測潜水器にルーティングする軽量なエンド・ツー・エンド・ワールドモデルである。
結果の表現は十分で、最小限で、ニュアンス不変であり、非絡み合っていることを示す。
- 参考スコア(独自算出の注目度): 7.568664163065148
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Compact JEPA world models enable efficient latent-space planning, but low-dimensional representation trained under reward-free self-supervision must encode both action-conditioned dynamics and predictable visual context. This competition can entangle controllable state with high-rank nuisance appearance and degrade planning as scenes become more complex. We introduce LRC-JEPA, a lightweight end-to-end world model that routes information into a compact predictive latent $\mathbf{z}$ and learned-query residual-context embeddings $\mathbf{u}$. Only $\mathbf{z}$ is propagated by the dynamics model and used for planning, while $\mathbf{u}$ captures temporally persistent information for cross-attention reconstruction; a differentiable residual connection encourages the latent to retain complementary dynamic content. Under explicit assumptions, we show that the resulting representation is sufficient, minimal, nuisance-invariant, and disentangled. Across four simulated control environments, LRC-JEPA improves average planning success over a parameter-matched JEPA baseline by 9 percentage points and matches or exceeds substantially larger pretrained models. On the real-world Bridge-v2 set, its 5.5M-parameter active encoder outperforms DINO-WM (22.1M) and V-JEPA2 (303.9M) encoders while also enabling faster planning. Physical-state probes, reconstruction interventions, and ablations confirm the effectiveness of LRC-JEPA's representation disentanglement.
- Abstract(参考訳): コンパクトなJEP 世界モデルは効率的な潜在空間計画を可能にするが、報酬のない自己スーパービジョンの下で訓練された低次元表現は、アクション条件付きダイナミクスと予測可能なビジュアルコンテキストの両方をエンコードする必要がある。
この競技は、シーンがより複雑になるにつれて、ハイランクなニュアンスな外観で制御可能な状態を絡み合わせることができ、計画が悪化する。
LRC-JEPAは、情報をコンパクトな予測潜在子$\mathbf{z}$と学習クエリ残語埋め込み$\mathbf{u}$にルーティングする軽量なエンド・ツー・エンドの世界モデルである。
$\mathbf{z}$は、動的モデルによって伝播され、計画に使用されるが、$\mathbf{u}$は、横断的アテンション再構成のために時間的に永続的な情報をキャプチャする。
明示的な仮定の下では、結果の表現は十分であり、最小であり、ニュアンス不変であり、非絡み合っていることを示す。
4つのシミュレートされた制御環境の中で、RC-JEPAはパラメータマッチングされたJEPAベースラインに対する平均的な計画成功を9ポイント改善し、かなり大きな事前訓練モデルにマッチまたは超えている。
現実世界のBridge-v2セットでは、5.5MパラメーターのアクティブエンコーダはDINO-WM (22.1M) とV-JEPA2 (303.9M) エンコーダより優れ、高速な計画を可能にしている。
身体状態調査,再建介入,アブレーションにより,RC-JEPAの表現障害の有効性が確認された。
関連論文リスト
- Semigroup-JEPA: Latent Dynamics Consistency for Zero-Shot Physics Generalization [32.65135632960651]
JEPA(Joint-Embedding Predictive Architecture)の世界モデルは、予測と計画をサポートする世界のコンパクトな潜在表現を学ぶ。
物理制御パラメータを時間モデルに供給することにより,LeWorldModelフレームワークを拡張したSemiGroup-JEPAを提案する。
我々は、同じ物理法則に従うにもかかわらず、定性的に異なる力学を示す異なる重力場の下で動的タスクを設計する。
論文 参考訳(メタデータ) (2026-09-09T17:08:13Z) - Flow-JEPA: Flow Matching for Robust Latent Dynamics in JEPA World Models [18.035166689862205]
JEPA(Joint-Embedding Predictive Architectures)は、コンパクトな予測表現を学習する強力な可能性を示している。
本研究では,現在の観測と動作を条件とした将来の潜伏状態列を共同生成する条件付き流れマッチング力学モデルであるFlow-JEPAを提案する。
論文 参考訳(メタデータ) (2026-08-29T03:40:06Z) - Temporal-Distance JEPA: Plan-Aware Representation Learning for Latent World Model Predictive Control [8.39933163242427]
JEPAsは、ピクセルを再構築するのではなく、表現空間で予測することで世界モデルを学ぶ。
以前のJEPAプランナーは、しばしば埋め込み幾何学(典型的には遅れたユークリッド距離)からランキングを継承する。
本稿では,LWMエンコーダのバックボーンを保持するテンポラルディスタンスJEPAを提案する。
論文 参考訳(メタデータ) (2026-07-28T06:38:16Z) - UWM-JEPA: Predictive World Models That Imagine in Belief Space [0.2864713389096699]
本稿では,JEPAの世界モデルであるUnitary World Model JEPAを紹介した。
この構造はロールアウト中に関節状態スペクトルを正確に保存するため、予測器自体が表現された不確かさを解消することはできない。
JEPAの世界モデルでは、部分的な可観測性、潜伏幾何学、予測力学が重要であり、フリーズされたコンテキストエンコーディング能力だけではありません。
論文 参考訳(メタデータ) (2026-05-25T00:28:51Z) - LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels [49.35636088613484]
JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供する。
最初のJEPAであるLeModelWorldを紹介します。
数時間で1つのGPU上で15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも48倍高速に計画している。
論文 参考訳(メタデータ) (2026-03-13T19:48:14Z) - ProAct: Agentic Lookahead in Interactive Environments [56.50613398808361]
ProActは、2段階のトレーニングパラダイムを通じて、エージェントが正確なルックアヘッド推論を内部化することを可能にするフレームワークである。
そこでは,環境に基づく探索から得られたトラジェクトリの微調整をエージェントが行うGLAD(Grounded LookAhead Distillation)を紹介する。
また,政策段階のアルゴリズムを改良する補助値推定器であるモンテカルロ批判(MC-Critic)を提案する。
論文 参考訳(メタデータ) (2026-02-05T05:45:16Z) - Infinite-World: Scaling Interactive World Models to 1000-Frame Horizons via Pose-Free Hierarchical Memory [101.2076718776139]
複雑な実環境において,1000フレーム以上のコヒーレントな視覚記憶を維持することのできる,堅牢な対話型世界モデルを提案する。
我々は,歴史的潜水剤を固定予算の幾何学的表現に蒸留するpose-free Memory (HPMC)を導入する。
また,連続動作を三状態論理に識別する不確実性認識型アクションラベルモジュールを提案する。
論文 参考訳(メタデータ) (2026-02-02T17:52:56Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳(メタデータ) (2025-11-11T18:21:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。