論文の概要: Hamiltonian JEPA: Action-Conditioned World Models with an Inherited Control State
- arxiv url: http://arxiv.org/abs/2609.33497v1
- Date: Sun, 27 Sep 2026 12:05:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-05 16:21:05.147239
- Title: Hamiltonian JEPA: Action-Conditioned World Models with an Inherited Control State
- Title(参考訳): Hamiltonian JEPA: 継承された制御状態を持つアクション・コンディションド・ワールドモデル
- Abstract要約: ピクセルからの計画には、安定かつ予測可能な潜在空間以上のものが必要である。
統合埋め込み予測アーキテクチャ(JEPA)は、将来の表現を予測することでピクセル再構成を避ける。
我々はこの2つを分離するH-JEPAを紹介する。
- 参考スコア(独自算出の注目度): 49.52703800684483
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Planning from pixels needs more than a latent space that is stable and predictable. The state the planner scores must also be organized by how actions move the system. Joint-embedding predictive architectures (JEPAs) avoid pixel reconstruction by predicting future representations, but existing action-conditioned JEPAs ask one embedding to serve both perception and control. We introduce H-JEPA, which separates the two. A wide perceptual code is regularized toward a well-scaled isotropic geometry with a Bures-Wasserstein prior, and a fixed orthonormal slice of that code is the control state, which inherits the code's covariance without any objective of its own. The state evolves under phase-conditioned dissipative port-Hamiltonian dynamics whose input port has orthonormal columns. Port-inverse consistency (PIC) reads the executed action back through the transpose of that port. We show that this readout is exactly the rollout error projected onto the port directions, so PIC is a parameter-free reweighting of prediction error and not an auxiliary action decoder. Untying the readout from the port breaks this identity and loses half of the gain. H-JEPA matches or exceeds reconstruction-free baselines, including the action-decoding Delta-JEPA, on four pixel-based control benchmarks after at most $10$ training epochs, and its largest gain is on OGB-Cube ($91.9$ against $79.3$ percent). Ablations on PushT and OGB-Cube separate the contributions of the structured predictor, PIC, the prediction horizon, the state rank, and the anti-collapse prior.
- Abstract(参考訳): ピクセルからの計画には、安定かつ予測可能な潜在空間以上のものが必要である。
プランナーのスコアは、アクションがどのようにシステムを動かすかによって構成されなければならない。
統合埋め込み予測アーキテクチャ(JEPA)は、将来の表現を予測することによってピクセル再構成を避けるが、既存のアクション条件のJEPAは、ある埋め込みに知覚と制御の両方を提供するよう要求する。
我々はこの2つを分離するH-JEPAを紹介する。
広視野の知覚コードは、バーレス=ヴァッサーシュタインが先行するよくスケールした等方幾何学に向けて正規化され、その符号の固定直交スライスはその制御状態であり、符号の共分散をその目的なしに継承する。
状態は、入力ポートが正則列を持つ相条件の散逸ポート-ハミルトン力学の下で進化する。
ポート逆整合性(PIC)は、そのポートの変換を通じて実行されるアクションを読み返す。
この読み出しはまさにポート方向に投影されるロールアウトエラーであることを示すので、PICはパラメータフリーな予測誤差の再重み付けであり、補助的なアクションデコーダではない。
ポートからの読み出しを解除すると、このアイデンティティが破壊され、利得の半分を失う。
H-JEPAは、最大で10ドル以上のトレーニングエポック後の4つのピクセルベースの制御ベンチマークで、Delta-JEPAを含むリコンストラクションフリーのベースラインと一致または超え、最大の利益はOGB-Cube(91.9ドル、79.3ドル)である。
PushTとOGB-Cubeのアブレーションは、構造化予測器、PIC、予測水平線、状態ランク、および反崩壊前の反崩壊の貢献を分離する。
関連論文リスト
- $λ$-JEPA Spectral Anti-Collapse Regularization for Self-Supervised Learning [47.712647817061566]
共同埋め込み型自己教師学習は、通常、拡張ビュー全体にわたる不変目的と、表現的崩壊を防ぐための追加メカニズムを組み合わせる。
本稿では、$$- Balanceの分析により、スペクトル反崩壊正則化器SACRegを紹介する。
二層線形ネットワークでは、(i)$- Balanceが崩壊を防止し、(ii)バックボーンに適用した正規化器が$- Balanceを誘導することを示す。
論文 参考訳(メタデータ) (2026-09-28T14:34:54Z) - LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics [50.45297537821907]
我々はLeJEPAの崩壊のない目的の下で訓練された最初のビデオエンコーダLeVJEPAを紹介する。
単一のエンコーダは、クリップのグローバルおよびローカルビューよりも分散損失で訓練される。
LeVJEPAはV-JEPA 2とVT-S/B/Lの5.6から20.8倍の速さで一致または超える。
論文 参考訳(メタデータ) (2026-08-27T17:26:24Z) - Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。
そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。
制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
論文 参考訳(メタデータ) (2026-08-20T13:59:57Z) - No Gaussian Required: Contrastive Inverse Dynamics for JEPA World Models [2.506624215459612]
JEPA(Joint-Embedding Predictive Architectures)は、将来の埋め込みを予測することで世界モデルを学ぶ。
すべての実用システムは、反崩壊機構を追加します。
我々は、反崩壊圧は移行データ自体から得ることができると主張している。
論文 参考訳(メタデータ) (2026-08-18T09:03:35Z) - The JEPA Predictor: A Transferable Operator for Occluded Feature Completion [1.2664079403656765]
JEPA(Joint-Embedding Predictive Architectures)は、予測器をエンコーダと共同でトレーニングするが、下流デプロイメントは予測器を捨て、エンコーダから機能を読み取る。
この演算子はエンコーダファミリ間で可搬可能であることを示す。
論文 参考訳(メタデータ) (2026-07-08T10:20:40Z) - MoP-JEPA: Hard-Assigned Predictor Mixtures for Stochastic JEPA World Models [14.76812870029721]
MoP-JEPAは、有限個の候補セットを1つのパスで生成する。
ホールドアウトのOGBenchトランジションでは、単一出力予測器によるグラフ検索が0.02$--0.09$のクエリで成功し、MoP-JEPAは0.85$に達した。
論文 参考訳(メタデータ) (2026-07-06T15:47:37Z) - Unitary fault-tolerant encoding of Pauli states in surface codes [0.8314040122511801]
表面符号におけるパウリ固有状態を作成するための一元的かつスケーラブルで、距離保存可能な符号化方式を提案する。
我々の研究は、表面コード状態の計測ベースとユニタリエンコーディングのギャップを埋める。
論文 参考訳(メタデータ) (2026-01-08T17:00:25Z) - Multistep Inverse Is Not All You Need [87.62730694973696]
実世界の制御環境では、観測空間は不要に高次元であり、時間関連ノイズにさらされることが多い。
したがって、観測空間を制御関連変数のより単純な空間にマッピングするエンコーダを学ぶことが望ましい。
本稿では,多段階逆予測と遅延フォワードモデルを組み合わせた新しいアルゴリズムACDFを提案する。
論文 参考訳(メタデータ) (2024-03-18T16:36:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。