論文の概要: I Act Therefore I Am: When Is JEPA's Action-Conditioning Enough to Learn Causal Mechanisms?

• arxiv url: http://arxiv.org/abs/2609.31161v1
• Date: Fri, 25 Sep 2026 11:54:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.370324
• Title: I Act Therefore I Am: When Is JEPA's Action-Conditioning Enough to Learn Causal Mechanisms?
• Title（参考訳）: ですから私は,JEPAのアクション・コンディショニングはいつ,因果メカニズムを学ぶのに十分なのか?
• Abstract要約: 近年の実証的・理論的進歩は,JEPAが将来の成果の行動条件予測に有意義な表現を学習できることを示唆している。 この研究は、JEPAsが観測から根底にある因果状態をいつ、どのように回復できるかを調査する。
• 参考スコア（独自算出の注目度）: 21.630026933215188
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent empirical and theoretical advances suggest that joint-embedding predictive architectures (JEPAs) may learn meaningful representations for action-conditioned prediction of future outcomes, thus becoming one of the foundational structures for world models. However, accurate prediction does not, in general, necessarily imply recovery of underlying causal states that give rise to the observed dynamics. This work investigates when and how JEPAs can recover the underlying causal states from observations. We first introduce a latent variable model, in which high-dimensional observations are generated from latent causal states whose dynamics are governed by action-conditioned transition mechanisms. Based on this formulation, we develop a general information-theoretic objective that combines conditional likelihood maximization for learning transition dynamics with entropy maximization for preserving latent state information. We then establish identifiability conditions under which representations learned by this general objective recover the underlying latent causal states up to component-wise invertible transformations and permutation. One key condition for such identifiability is sufficient action-induced variation in the transition mechanisms. Guided by this finding, we instantiate the general objective with an action-modulated Gaussian additive-noise model, yielding action-modulated JEPA (A-JEPA). Experiments on synthetic environments verify the theoretical findings under the identifiability conditions and robustness to moderate violations, while visual benchmarks demonstrate improved state recovery and transfer to unseen transition mechanisms.
• Abstract（参考訳）: 近年の実証的・理論的進歩は、JEPAが将来の成果を行動条件で予測する意味のある表現を学習し、世界モデルの基盤構造の一つとなることを示唆している。 しかし、正確な予測は、一般的には、観測されたダイナミクスを引き起こす根底にある因果状態の回復を必ずしも示唆するものではない。 この研究は、JEPAsが観測から根底にある因果状態をいつ、どのように回復できるかを調査する。 まず,動作条件の遷移機構によって動的に制御される潜在因果状態から高次元の観測が生成される潜在変数モデルを提案する。 この定式化に基づいて,学習遷移ダイナミクスの条件付き極大化とエントロピー最大化を組み合わせ,潜伏状態情報を保存するための一般情報理論の目標を策定する。 次に、この一般目的によって学習された表現が、コンポーネントワイドの可逆変換や置換に至るまでの根底にある潜在因果状態を取り戻すための識別可能性条件を確立する。 そのような識別可能性の鍵となる条件は、遷移機構における十分な作用誘起変化である。 この発見に導かれて、動作変調されたガウス加法音モデルを用いて一般目的をインスタンス化し、アクション変調されたJEPA(A-JEPA)を生成する。 合成環境における実験は、識別可能性条件下での理論的な結果と、適度な違反に対する堅牢性を検証する一方、ビジュアルベンチマークでは、状態回復と未知の遷移機構への移行が改善された。

関連論文リスト

• Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
  予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。 そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。 制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
  論文  参考訳（メタデータ） (2026-08-20T13:59:57Z)
• On the Identifiability of Controlled World Models [34.31084112465058]
  本稿では,ガウス潜在状態を持つ制御された世界モデルに対する合同識別可能性条件を提案する。 この条件が成立すると、LeJEPAスタイルの予測目標の最小化が潜伏状態と制御力学の両方を回復できることを示す。 また、最も弱い条件-励起マージンで逆スケールする反事実予測誤差の達成可能な増幅を特徴付ける。
  論文  参考訳（メタデータ） (2026-07-24T15:49:12Z)
• The Causal Round Trip: Generating Authentic Counterfactuals by Eliminating Information Loss [4.166536642958902]
  構造再構成誤差(SRE)を除去して因果音を発生させる最初の拡散型フレームワークであるBELM-MDCMを紹介する。 我々の研究は、古典的因果論の厳密さと近代的な生成モデルのパワーを調和させる。
  論文  参考訳（メタデータ） (2025-11-07T13:37:23Z)
• Towards Error-Centric Intelligence II: Energy-Structured Causal Models [0.0]
  インテリジェンスは説明を構築し、洗練する能力である。 本稿では、単に予測するだけでなく、理解しようとするシステムにおける因果推論のための形式言語を提供する。
  論文  参考訳（メタデータ） (2025-10-24T22:19:17Z)
• Beyond Progress Measures: Theoretical Insights into the Mechanism of Grokking [50.465604300990904]
  グロキング(Grokking)とは、オーバーフィッティングの拡張後のテスト精度の急激な改善を指す。 本研究では、素数演算のタスクにおいて、Transformerの基盤となるグルーキング機構について検討する。
  論文  参考訳（メタデータ） (2025-04-04T04:42:38Z)
• Learning Chemical Reaction Representation with Reactant-Product Alignment [50.28123475356234]
  RAlignは、様々な有機反応関連タスクのための新しい化学反応表現学習モデルである。 反応物質と生成物との原子対応を統合することにより、反応中に起こる分子変換を識別する。 モデルが重要な機能群に集中できるように,反応中心認識型アテンション機構を導入する。
  論文  参考訳（メタデータ） (2024-11-26T17:41:44Z)
• Generative Intervention Models for Causal Perturbation Modeling [80.72074987374141]
  多くの応用において、システムのメカニズムが外部の摂動によって変更されるかは未定である。 本稿では、これらの摂動特徴を原子間干渉による分布にマッピングする方法を学習する生成的介入モデル(GIM)を提案する。
  論文  参考訳（メタデータ） (2024-11-21T10:37:57Z)
• Discovering Latent Causal Variables via Mechanism Sparsity: A New Principle for Nonlinear ICA [81.4991350761909]
  ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。 潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
  論文  参考訳（メタデータ） (2021-07-21T14:22:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。