論文の概要: SplitJEPA: Learning Invariant and Variant Latent Worlds without Reconstruction
- arxiv url: http://arxiv.org/abs/2610.12349v1
- Date: Thu, 08 Oct 2026 17:19:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.209203
- Title: SplitJEPA: Learning Invariant and Variant Latent Worlds without Reconstruction
- Title(参考訳): SplitJEPA:リコンストラクションなしの不変性と可変潜在世界を学習する
- Abstract要約: 統合埋め込み予測アーキテクチャ(JEPA)は、潜伏状態を直接モデル化し、決して再構築しないが、既存の結果が学習した状態の不変部分と変分部分を復元することはない。
スプリットJEPAは遅延状態とその不変かつ不変な組織を直接的に表現空間で復元するJEPAである。
定常ガウス予測力学とフルランク変動条件の下では、スプリットJEPAは観測デコーダを導入することなく、独立ブロックワイドなアイソメトリーまで不変部分空間と変分部分空間を同定する。
- 参考スコア(独自算出の注目度): 13.689860949454998
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Understanding a dynamical world calls for more than a latent state that summarizes its observations: the state should also be organized into the factors that stay shared across related observations and the factors that vary between them. For example, a robot pushing a cube to a goal should take the same action when the camera shifts or the lights dim, since nothing in the scene has moved. Existing approaches to this decomposition commonly obtain it through reconstruction, so the latent variables must first explain the entire observational world before their organization can be trusted. Joint embedding predictive architectures (JEPAs) model the latent state directly and never reconstruct, yet no existing result recovers the invariant and variant parts of the state they learn. How to learn the invariant-variant structure of the latent world without paying for its reconstruction therefore remains open. To close this gap, we introduce SplitJEPA, a JEPA that jointly recovers the latent state and its invariant and variant organization directly in representation space, without any reconstruction. We prove that, under stationary Gaussian predictive dynamics and a full-rank variation condition, SplitJEPA identifies the invariant and variant subspaces up to independent block-wise isometries, without introducing an observation decoder. Since the guarantee needs no decoder, the result extends reconstruction-free latent recovery to invariant-variant block identification. Experiments on synthetic nonlinear systems and robotic manipulation tasks support the theoretical results and show their practical value for both robustness and efficiency.
- Abstract(参考訳): 動的世界を理解することは、その観察を要約する潜伏状態以上のものを要求する: 状態は関連する観察間で共有される要因とそれらの間に異なる要因に分けられる。
例えば、立方体をゴールにプッシュするロボットは、カメラがシフトしたり、ライトが薄くなったりする際に同じアクションをとるべきだ。
この分解に対する既存のアプローチは、再構築を通じて一般的にそれを得るので、潜伏変数は組織が信頼される前に、まず観察の世界全体を説明する必要がある。
統合埋め込み予測アーキテクチャ(JEPA)は、潜伏状態を直接モデル化し、決して再構築しないが、既存の結果が学習した状態の不変部分と変分部分を復元することはない。
したがって、潜在世界の不変変分構造をその再構築の費用を払わずに学べばよいのかは未解決のままである。
このギャップを埋めるために、私たちはJEPAであるSplitJEPAを紹介します。
定常ガウス予測力学とフルランク変動条件の下では、スプリットJEPAは観測デコーダを導入することなく、独立ブロックワイドなアイソメトリーまで不変部分空間と変分部分空間を同定する。
保証はデコーダを必要としないため、リコンストラクションのない遅延リカバリを不変なブロック識別にまで拡張する。
合成非線形システムとロボット操作タスクの実験は、理論的結果をサポートし、ロバスト性と効率性の両方に実用的価値を示す。
関連論文リスト
- DSReg: Provably Recovering Individual World Latents without Reconstruction [60.17145882973659]
個々の世界の潜伏者は、復元もデコーダもラベルも無しで、確実に回復できることを示す。
構造的多様性の下では、DSRegは、再構成やデコーダなしで、署名された置換まで個々の世界の潜伏者を回復させる。
依存性フットプリントの条件として、構造的多様性は、以前の識別可能な潜在変数モデルのすべての構造的条件よりも厳密に弱い。
論文 参考訳(メタデータ) (2026-10-07T05:12:39Z) - Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。
そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。
制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
論文 参考訳(メタデータ) (2026-08-20T13:59:57Z) - Prototype-Anchored Generalized Manifold Regression for Unknown-Domain Object Detection [58.25418970608328]
単一ソースドメイン上でトレーニングされた検出器を複数の未確認領域に転送することを目的としたシングルドメイン一般化オブジェクト検出(Single-DGOD)について検討する。
既存の手法は主に、トレーニング分布を拡大するために、データ拡張やテキストプロンプトといったシミュレーション駆動の戦略に依存している。
本稿では, 未知領域の一般化を多様体回帰問題として定式化する, Visual-Text Dual Chain-of-Thought (MR-DCoT) を用いたマニフォールド回帰を提案する。
論文 参考訳(メタデータ) (2026-07-08T09:27:15Z) - Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。
既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。
動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-25T09:57:46Z) - Entropic Auto-Encoding via Implicit Free-Energy Minimization [0.0]
本稿では,再建損失が唯一の明示的な目的であるエントロピーオートエンコーダ(EAE)について紹介する。
EAEは非ガウス的, 多モードの潜伏分布を学習することにより, 後部崩壊を緩和することを示した。
論文 参考訳(メタデータ) (2026-05-15T16:43:45Z) - Beyond Spatial Compression: Interface-Centric Generative States for Open-World 3D Structure [55.17771962316751]
現在の3Dトークンは、表現を空間圧縮として扱うが、コンポーネントの所有権とアタッチメントの妥当性は暗黙的に残す。
我々は、トークン化がパッシブ圧縮コードではなく操作状態を構成する、インターフェイス中心の生成状態という別の視点を定式化する。
我々は、この定式化を、C2LT-3D(Component-Conditioned Canonical Local Tokens)でインスタンス化し、表現を標準局所幾何学、パーティション条件付きコンテキスト、およびリレーショナルシーム変数に分解する。
論文 参考訳(メタデータ) (2026-05-11T12:09:28Z) - JRM: Joint Reconstruction Model for Multiple Objects without Alignment [18.700935077095956]
オブジェクト中心の再構成は、独立したオブジェクトの合成によってシーンの3次元構造を復元しようとする。
本研究では, フレーミングオブジェクト再構成による反復をパーソナライズされた世代の一つとして活用する統合再構成モデル(JRM)を提案する。
JRMは3次元フローマッチング生成モデルであり、その潜在空間における無秩序な観測を暗黙的に集約する。
論文 参考訳(メタデータ) (2026-03-27T00:15:30Z) - Toward Architecture-Agnostic Local Control of Posterior Collapse in VAEs [0.6144680854063939]
変分オートエンコーダ(VAE)は、生成されたサンプルの多様性を低下させる現象である後部崩壊に苦しむことが知られている。
本稿では,特定の構造に制約を加えることなく後部崩壊を制御するために,射影関数と合成関数の数学的性質に着想を得た遅延再構成(LR)損失を提案する。
MNIST, fashionMNIST, Omniglot, CelebA, FFHQなどの各種データセットの後方崩壊を制御する手法を実験的に評価した。
論文 参考訳(メタデータ) (2025-08-17T23:45:41Z) - Diagnosing and Rectifying Fake OOD Invariance: A Restructured Causal
Approach [51.012396632595554]
不変表現学習(IRL)は、不変因果的特徴から環境から切り離されたラベルへの予測を促進する。
最近の理論的結果は、IRLによって回復されたいくつかの因果的特徴は、訓練環境ではドメイン不変のふりをするが、目に見えない領域では失敗する。
本研究では,RS-SCMに関する条件付き相互情報に基づく手法を開発し,その効果を巧みに補正する。
論文 参考訳(メタデータ) (2023-12-15T12:58:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。