論文の概要: A Generalization Theory for JEPA-Based World Models
- arxiv url: http://arxiv.org/abs/2606.27014v1
- Date: Thu, 25 Jun 2026 13:29:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.293604
- Title: A Generalization Theory for JEPA-Based World Models
- Title（参考訳）: JEPAに基づく世界モデルの一般化理論
- Abstract要約: JEPA(Joint Embedding Predictive Architectures)は、世界モデリングのための有望なパラダイムとして登場した。
実証的な成功にもかかわらず、JEPAベースの世界モデルの理論的理解は依然として限られている。
- 参考スコア（独自算出の注目度）: 34.09833992943572
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Joint Embedding Predictive Architectures (JEPAs) have recently emerged as a promising paradigm for world modeling by learning predictive dynamics in a latent space rather than generating future observations at the input level. Despite their empirical success, the theoretical understanding of JEPA-based world models remains limited. In this paper, we develop the first generalization theory for JEPA-based world models. We formulate JEPA pretraining as a conditional spectral graph learning problem and show that the JEPA objective is equivalent to a low-rank factorization of an action-conditioned co-occurrence matrix. Building on this characterization, we establish a connection between JEPA pretraining error and downstream planning regret, leading to a finite-sample generalization bound for JEPA-based world models. Our analysis reveals an inherent trade-off between approximation and sample errors with respect to the latent dimension, providing theoretical insights into the advantages and limitations of latent predictive models compared with input-level predictive approaches.
- Abstract（参考訳）: JEPA(Joint Embedding Predictive Architectures)は、最近、入力レベルで将来の観測を生成するのではなく、潜在空間で予測力学を学習することで、世界モデリングのための有望なパラダイムとして登場した。
実証的な成功にもかかわらず、JEPAベースの世界モデルの理論的理解は依然として限られている。
本稿では,JEPAに基づく世界モデルの最初の一般化理論を開発する。
我々は、条件付きスペクトルグラフ学習問題としてJEPA事前学習を定式化し、JEPA目的が行動条件付き共起行列の低ランク因子化と等価であることを示す。
この特徴に基づいて、JEPA事前学習エラーと下流計画後悔の関連を確立し、JEPAベースの世界モデルに限定した有限サンプル一般化をもたらす。
本分析により,近似と標本誤差の潜在次元に関する本質的にのトレードオフが明らかとなり,入力レベルの予測手法と比較して,潜在予測モデルの利点と限界に関する理論的知見が得られた。
関連論文リスト
- UniJEPA: A Unified Joint-Embedding Predictive Architecture for Task-Agnostic Visual World Modeling [24.745715007832953]
JEPA(Joint-Embedding Predictive Architectures)は、コンパクトな潜在空間における世界モデルの自己教師型学習のためのフレームワークとして登場した。
我々は,光度予測(画像レベルの変換)と時間的予測(映像レベルの次状態ダイナミクス)を協調的に学習する統合JEPAであるUniJEPAを提案する。
論文 参考訳（メタデータ） (2026-08-07T16:55:58Z) - Beyond Generative Priors: Minority Sampling with JEPA-Guided Diffusion [7.276372008305617]
本稿では,実世界の先行する先進国に対する希少性を定義したマイノリティサンプリングに関する世界中心の視点を提案する。
本稿では,JEPAガイダンスについて紹介する。
我々は,JEPAガイダンスがマイノリティサンプルの忠実度と意味的妥当性を一貫して改善することを示す。
論文 参考訳（メタデータ） (2026-05-23T15:40:56Z) - World Action Models: The Next Frontier in Embodied AI [123.5787299299832]
VLA(Vision-Language-Action)モデルは、具体的政策学習のための強力なセマンティックな一般化を実現している。
彼らは、物理的な世界が介入の下でどのように進化するかを明示的にモデル化することなく、リアクティブな観察から行動へのマッピングを学ぶ。
成長するこの制限には、世界モデル、環境ダイナミクスの予測モデル、アクション生成パイプラインを統合することで対処する。
論文 参考訳（メタデータ） (2026-05-12T13:10:52Z) - Sub-JEPA: Subspace Gaussian Regularization for Stable End-to-End World Models [26.928611870426383]
JointEmbedding Predictive Architectures (JEPA)は、将来の潜伏表現を予測することで、世界モデルを学ぶためのシンプルなフレームワークを提供する。
最近のLeWorldModel (LeWM) は、この問題を、同型ガウス先行の埋め込みを単純に制限することで緩和できることを示している。
元の埋め込み空間ではなく、複数のランダム部分空間にガウス的制約を適用することにより、バイアス分散フロンティア上の有利な操作点を求めるameを提案する。
論文 参考訳（メタデータ） (2026-05-10T00:51:47Z) - Self-Supervised JEPA-based World Models for LiDAR Occupancy Completion and Forecasting [11.278785857643575]
我々は、LiDARデータから将来の時間的進化を予測する自動運転のための自己監督型世界モデルである textbfAD-LiST-JEPA を提案する。
そこで我々は,下流をベースとした作業の完了と予測タスクを通じて,学習した表現の質を評価する。
論文 参考訳（メタデータ） (2026-02-13T02:42:21Z) - VJEPA: Variational Joint Embedding Predictive Architectures as Probabilistic World Models [0.0]
EmphVariational JEPA (VJEPA) はテキスト確率論的な一般化であり、変動目的を通して将来の潜伏状態の予測分布を学習する。
VJEPA表現は、画素再構成なしで最適な制御のための十分な情報状態として機能し、崩壊回避の正式な保証を提供する。
我々は、予測的信念を学習力学の専門家とモジュラー事前専門家に分解する拡張であるEmphBayesian JEPA (BJEPA)を提案する。
論文 参考訳（メタデータ） (2026-01-20T18:04:16Z) - Value-guided action planning with JEPA world models [44.84158001773079]
環境を推論できるディープラーニングモデルを構築するには、その基盤となるダイナミクスをキャプチャする必要がある。
JEPA(Joint-Embeded Predictive Architectures)は、そのようなダイナミクスをモデル化するための有望なフレームワークを提供する。
本稿では,JEPAワールドモデルを用いて,表現空間を形作ることで計画を強化する手法を提案する。
論文 参考訳（メタデータ） (2025-12-28T20:17:49Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳（メタデータ） (2025-11-11T18:21:55Z) - Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。
FASTは最先端のベースラインを超え、デバイアス性能が優れている。
これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
論文 参考訳（メタデータ） (2024-08-07T17:14:58Z) - A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳（メタデータ） (2023-11-13T01:48:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。