論文の概要: Orthogonal JEPA: Factorized Predictive States for Latent World Models

• arxiv url: http://arxiv.org/abs/2608.20065v1
• Date: Thu, 20 Aug 2026 13:59:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-21 20:28:51.593632
• Title: Orthogonal JEPA: Factorized Predictive States for Latent World Models
• Title（参考訳）: 直交JEPA: 潜在世界モデルの因子予測状態
• Abstract要約: 予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。 そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。 制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
• 参考スコア（独自算出の注目度）: 95.20158869896393
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: World models construct latent states that support prediction, planning, and reasoning about an underlying system. Joint-embedding predictive architectures (JEPAs) offer a direct way to learn such states by predicting targets in representation space instead of reconstructing every detail of the observation. Standard JEPAs, however, organize all predictable content through one target embedding and one prediction pathway. In complex systems, this monolithic state can allocate redundant capacity to dominant signals while providing weak or conflicting gradients to less dominant predictive structure. We introduce \method, a latent world-modeling framework based on orthogonal predictive factorization. Learned basis matrices analyze each target state into multiple components, and a dedicated prediction branch estimates each component from a shared context representation. Predictive regression preserves the factor magnitudes required for state synthesis, an orthogonality objective discourages repeated directions, factor-activity regularization maintains variation in projected targets, and online variance regularization discourages coordinate-wise encoder collapse. Predicted components are synthesized into a complete latent state that can be used by a readout, decoder, planner, or autoregressive rollout. The same predictive-state mechanism applies when the target is temporally future, spatially hidden, or another partial observation of the same system. Experiments on controlled vision, single-cell transcriptomics, longitudinal health records, continuous control, and molecular dynamics evaluate representation quality, forecasting, planning, and long-horizon stability.
• Abstract（参考訳）: 世界モデルは、下層のシステムに関する予測、計画、推論をサポートする潜在状態を構成する。 共同埋め込み予測アーキテクチャ(JEPA)は、観測のすべての詳細を再構築する代わりに、表現空間におけるターゲットを予測することによって、そのような状態を学ぶ直接的な方法を提供する。 しかし、標準JEPAは、1つのターゲット埋め込みと1つの予測経路を通じて、予測可能なすべてのコンテンツを整理する。 複雑なシステムでは、このモノリシックな状態は、支配的な信号に余剰容量を割り当てると同時に、支配的な予測構造に弱いあるいは矛盾する勾配を与える。 直交予測因子化に基づく潜在的世界モデリングフレームワークである \method を紹介する。 学習ベース行列は、各ターゲット状態を複数のコンポーネントに分析し、専用の予測分岐は、共有コンテキスト表現から各コンポーネントを推定する。 予測回帰は状態合成に必要な因子の大きさを保ち、直交目的は繰り返し方向を阻害し、因子活性正規化は投影対象の変動を維持し、オンライン分散正規化は座標エンコーダの崩壊を阻害する。 予測されたコンポーネントは、読み取り、デコーダ、プランナー、自動回帰ロールアウトで使用できる完全な遅延状態に合成される。 同じ予測状態のメカニズムは、ターゲットが時間的に未来か、空間的に隠れているか、あるいは同じシステムの別の部分的な観測である場合に適用される。 制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。

関連論文リスト

• UniJEPA: A Unified Joint-Embedding Predictive Architecture for Task-Agnostic Visual World Modeling [24.745715007832953]
  JEPA(Joint-Embedding Predictive Architectures)は、コンパクトな潜在空間における世界モデルの自己教師型学習のためのフレームワークとして登場した。 我々は,光度予測(画像レベルの変換)と時間的予測(映像レベルの次状態ダイナミクス)を協調的に学習する統合JEPAであるUniJEPAを提案する。
  論文  参考訳（メタデータ） (2026-08-07T16:55:58Z)
• APO: Unsupervised Atomic Policy Optimization for 3D Structure Prediction of Atomic Systems [64.56252173115246]
  そこで本研究では, 基幹構造を不要とした非教師なしアライメントフレームワーク(Atomic Policy Optimization)を提案する。 APOは、新しい二重回帰機構を利用して、3次元原子環境にグループ相対的なポリシー最適化を適用する。 この結果から,本質的な物理的整合性は,ノイズや教師付き座標マッチングよりも優れたアライメントのガイドとなる可能性が示唆された。
  論文  参考訳（メタデータ） (2026-07-30T17:21:58Z)
• On the Identifiability of Controlled World Models [34.31084112465058]
  本稿では,ガウス潜在状態を持つ制御された世界モデルに対する合同識別可能性条件を提案する。 この条件が成立すると、LeJEPAスタイルの予測目標の最小化が潜伏状態と制御力学の両方を回復できることを示す。 また、最も弱い条件-励起マージンで逆スケールする反事実予測誤差の達成可能な増幅を特徴付ける。
  論文  参考訳（メタデータ） (2026-07-24T15:49:12Z)
• A Bayesian Framework for Evaluating Scenario Compatibility in Generative Population Synthesis [6.719751155411076]
  本研究では,条件付き集団合成におけるシナリオ互換性を定量化するためのアンサンブルに基づくベイズ更新フレームワークを提案する。 人口適応型条件付き変分オートエンコーダを開発した。 実験により、シナリオの影響は目標の大きさだけでなく、学習された関節構造との整合にも依存することが示された。
  論文  参考訳（メタデータ） (2026-07-03T10:50:44Z)
• Learning Transferable Predictability Representations [2.1505812656718795]
  予測可能性条件の順序付き連続体上の位置を反映した短い軌跡窓にスカラースコアを割り当てる問題について検討する。 我々はこれを5段階の予測可能性はしご上での順序推定として定式化し、システム間のあいまいさの構造的源を特定する。 GON(Gauge-Fixed Ordinal Network)は,レベルワイドスコアをピン留めして目標座標を共有するアンカー・アンド・ディスラプティビティで訓練された時間的畳み込みモデルである。
  論文  参考訳（メタデータ） (2026-05-28T21:38:49Z)
• ThinkJEPA: Empowering Latent World Models with Large Vision-Language Reasoning Model [53.15040805435013]
  視覚言語モデル(VLM)は、一様にサンプリングされたフレームを解析することで、強力なセマンティックグラウンドと一般的な知識を提供する。 本稿では,高密度フレーム・ダイナミックス・モデリングと長軸意味指導を組み合わせたVLM誘導型JEPA型潜在世界モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-23T17:59:42Z)
• BiJEPA: Bi-directional Joint Embedding Predictive Architecture for Symmetric Representation Learning [0.0]
  BiJEPAは、データセグメント間のサイクル一貫性予測を強制する。 合成周期信号,カオス的ロレンツ誘導軌道,高次元画像データという3つの異なるモードでBiJEPAを評価した。
  論文  参考訳（メタデータ） (2026-02-10T01:16:20Z)
• Topology-Aware Conformal Prediction for Stream Networks [68.02503121089633]
  本研究では,ネットワークトポロジと時間的ダイナミクスを共形予測フレームワークに統合した新しいフレームワークであるspatio-Temporal Adaptive Conformal Inference (textttCISTA)を提案する。 この結果から,TextttCISTAは予測効率とカバレッジのバランスを効果的に保ち,既存のストリームネットワークの共形予測手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-03-06T21:21:15Z)
• DR-Label: Improving GNN Models for Catalysis Systems by Label Deconstruction and Reconstruction [72.20024514713633]
  本稿では,新しいグラフニューラルネットワーク(GNN)と予測戦略DR-Labelを提案する。 この戦略は、監視信号を強化し、エッジ表現における解の多重度を低減し、ノード予測を堅牢にすることを促す。 DR-Labelは3つの根本的に異なるモデルに適用され、それぞれが一貫した性能向上を示した。
  論文  参考訳（メタデータ） (2023-03-06T04:01:28Z)
• Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
  本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。 我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
  論文  参考訳（メタデータ） (2020-01-23T02:37:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。