論文の概要: Predictive Objectives Discard Exogenous Control-Relevant Features: A Controlled Mechanistic Study
- arxiv url: http://arxiv.org/abs/2606.30068v1
- Date: Mon, 29 Jun 2026 10:00:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.173699
- Title: Predictive Objectives Discard Exogenous Control-Relevant Features: A Controlled Mechanistic Study
- Title(参考訳): 予測対象が外因性制御関連特徴を識別する:制御力学による研究
- Abstract要約: 共同埋め込み予測(JEPA)の目的は、将来の潜伏者を予測することによって表現を学ぶことである。
これは、制御関連性よりも時間的予測可能性の最適化が目的であるからである。
報酬ラベル付き遷移の2%がこの機能を回復すると、その効果は2つの環境にまたがることがわかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Joint-embedding predictive (JEPA-style) objectives learn representations by predicting future latents. In doing so they can discard features that are exogenous (uncontrollable by the agent) yet control-relevant, even when those features are trivially encodable. This occurs because the objective optimizes temporal predictability rather than control-relevance. We isolate this failure mode in a controlled 2x2 experimental design that varies feature controllability and relevance independently, using a predictability knob that decouples a feature's temporal predictability from its control-relevance. Comparing six objectives: reconstruction, JEPA, action-conditioned JEPA, controllability-based JEPA, inverse dynamics under a random policy, and reward-grounded JEPA, we observe that all evaluated reward-free predictive objectives leave the exogenous control-relevant feature near chance accuracy, while a reward-grounded variant retains it selectively. The remedy is label-efficient and robust: as little as 2% of reward-labeled transitions recovers the feature, the effect holds across two environments with different surface forms, and it persists across latent dimensions from 16 to 1024. Comparing the learned latent geometry against bisimulation theory's prediction, the JEPA latent realizes only a small fraction of the class separation a supervised reference attains.
- Abstract(参考訳): 統合埋め込み予測(JEPAスタイル)の目的は、将来の潜伏者を予測することによって表現を学ぶことである。
そうすることで、たとえこれらの特徴が自明にエンコード可能であったとしても、外因性(エージェントによって制御できない)でながらコントロール関連のある機能を破棄することができる。
これは、制御関連性よりも時間的予測可能性を最適化するためである。
我々は,この障害モードを,特徴の時間的予測可能性を制御関連性から切り離す予測可能性ノブを用いて,特徴の制御可能性と妥当性を独立に変化させる制御された2x2実験設計において分離する。
再現,JEPA,動作条件付きJEPA,制御可能性に基づくJEPA,ランダムなポリシー下での逆ダイナミクス,報酬基底型JEPAの6つの目標を比較し,評価された報酬のない予測対象物が外因性制御関連機能をほぼ精度良く残し,報酬接地型は選択的に保持する。
報酬ラベル付き遷移の2%が特徴を回復し、その効果は2つの環境にまたがって異なる表面形態を持ち、16から1024までの潜伏次元で持続する。
ビシミュレーション理論の予測に対する学習された潜伏幾何学と比較すると、JEPA潜伏者は、教師付き参照が達成したクラス分離のごく一部しか認識できない。
関連論文リスト
- JEPA-x: Cross-Predictive Physics Grounding for Forecastable Latent Dynamics [9.006010556484968]
自己予測モデルでは、エンコーダと予測器は共同で最適化され、潜伏遷移に適応することができる。
我々は、特権的物理軌道の潜在ダイナミクスを基盤とするクロス予測型JEPA(JEPA-x)を紹介する。
論文 参考訳(メタデータ) (2026-08-25T04:07:07Z) - Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。
そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。
制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
論文 参考訳(メタデータ) (2026-08-20T13:59:57Z) - Diagnosing JEPA World Models with Action-Conditioned Predictive Consistency [38.88857369304745]
クリーンな歴史と、前方へ転がった後の視界のゆがみを計測する診断手法を導入する。
この分散は、多段階予測誤差とプランナーコストの摂動によって引き起こされる変化を束縛することを証明する。
4つの視覚制御タスクの実験は、ペアワイズACPCが摂動による予測とコスト変化を予測することを示している。
論文 参考訳(メタデータ) (2026-08-13T08:18:41Z) - IADD-TR: Intervention-Aware Dynamics Decoupling with Targeted Regularization for Model-Based Reinforcement Learning [57.16513298507272]
IADD-TRは、IADD(Intervention-Aware Dynamics Decoupling)とTR(Targeted Regularization)を組み合わせた統合フレームワークである。
IADDは、ゼロアクションアンカーを用いて、アクション干渉段階とアクションフリー自然進化段階への遷移を分解し、堅牢な一般化のためにこの2段階の分解の非特異性を解決する。
政策学習においては,リプレイ状態の政策段階関数の効率的な影響関数からTRを導出する。
論文 参考訳(メタデータ) (2026-08-11T08:20:02Z) - Calibrating Conservatism for Scalable Oversight [9.553819152637493]
本稿では,多彩な補助的スコアリング機能を,保守的ベースラインからの逸脱を測定するペナルティに集約するCalibrated Collective Oversight(CCO)を紹介する。
CCOは、Conformal Decision Theoryを使って、この保守主義をオンラインで校正し、望ましくない結果がユーザ指定の目標閾値以下であることを保証する。
SWEベンチの修正版では、より弱い監督者が敵に不整合な強いエージェントを拘束することに成功し、マチャイアヴェリでは、CCOは報酬を保ちながら倫理的違反を著しく軽減する。
論文 参考訳(メタデータ) (2026-05-27T17:56:47Z) - UWM-JEPA: Predictive World Models That Imagine in Belief Space [0.2864713389096699]
本稿では,JEPAの世界モデルであるUnitary World Model JEPAを紹介した。
この構造はロールアウト中に関節状態スペクトルを正確に保存するため、予測器自体が表現された不確かさを解消することはできない。
JEPAの世界モデルでは、部分的な可観測性、潜伏幾何学、予測力学が重要であり、フリーズされたコンテキストエンコーディング能力だけではありません。
論文 参考訳(メタデータ) (2026-05-25T00:28:51Z) - Var-JEPA: A Variational Formulation of the Joint-Embedding Predictive Architecture -- Bridging Predictive and Generative Self-Supervised Learning [2.1127261244588156]
JEPA(Joint-Embedding Predictive Architecture)は、確率に基づく自己教師型学習の非生成的代替と見なされることが多い。
我々は、標準のJEPA設計、コンテクスト・ツー・ターゲット予測器との結合エンコーダは、変分後部と学習条件前部を反映すると主張している。
Var-JEPAは、単一のエビデンス下界を最適化することにより、潜伏する遺伝子構造を明示する。
論文 参考訳(メタデータ) (2026-03-20T16:36:29Z) - Observationally Informed Adaptive Causal Experimental Design [55.998153710215654]
本稿では,観測モデルを基礎的先行として活用する新たなパラダイムであるアクティブ残留学習を提案する。
このアプローチは、実験的な焦点を、目標因果量の学習から、観察バイアスの補正に必要な残差を効率的に推定するへとシフトさせる。
合成および半合成ベンチマークの実験は、R-Designがベースラインを大幅に上回ることを示した。
論文 参考訳(メタデータ) (2026-03-04T06:52:37Z) - DiffusionRollout: Uncertainty-Aware Rollout Planning in Long-Horizon PDE Solving [28.440795270548705]
DiffusionRolloutは自己回帰拡散モデルのための新しい選択的ロールアウト計画戦略である。
本稿では,自動回帰ロールアウト時のステップサイズを適応的に選択する機構を導入し,長期予測の信頼性を向上させる。
論文 参考訳(メタデータ) (2026-02-14T06:08:05Z) - VJEPA: Variational Joint Embedding Predictive Architectures as Probabilistic World Models [0.0]
EmphVariational JEPA (VJEPA) はテキスト確率論的な一般化であり、変動目的を通して将来の潜伏状態の予測分布を学習する。
VJEPA表現は、画素再構成なしで最適な制御のための十分な情報状態として機能し、崩壊回避の正式な保証を提供する。
我々は、予測的信念を学習力学の専門家とモジュラー事前専門家に分解する拡張であるEmphBayesian JEPA (BJEPA)を提案する。
論文 参考訳(メタデータ) (2026-01-20T18:04:16Z) - Forecasting Fails: Unveiling Evasion Attacks in Weather Prediction Models [60.728124907335]
本研究では,気象適応型対向摂動最適化(WAAPO)を紹介した。
WAAPOは、チャネルの間隔、空間的局所化、滑らかさの制約を取り入れ、摂動が物理的に現実的で知覚不能であることを保証することでこれを達成している。
我々の実験は、AI駆動予測モデルにおける重要な脆弱性を強調しており、初期状態への小さな摂動が大きな逸脱をもたらす可能性がある。
論文 参考訳(メタデータ) (2025-12-09T17:20:56Z) - Efficient Thought Space Exploration through Strategic Intervention [54.35208611253168]
本稿では,この知見を2つの相乗的コンポーネントを通して操作するHint-Practice Reasoning(HPR)フレームワークを提案する。
フレームワークの中核となる革新は、動的に介入点を識別する分散不整合低減(DIR)である。
算術的および常識的推論ベンチマークによる実験は、HPRの最先端の効率-精度トレードオフを実証している。
論文 参考訳(メタデータ) (2025-11-13T07:26:01Z) - SynCast: Synergizing Contradictions in Precipitation Nowcasting via Diffusion Sequential Preference Optimization [62.958457694151384]
本研究では,大規模な言語モデルにおける人的フィードバックからの強化学習の成功を動機として,降水量の最適化を初めて導入する。
第一段階では、フレームワークはFARを減らすことに焦点を当て、誤報を効果的に抑えるためにモデルを訓練する。
論文 参考訳(メタデータ) (2025-10-22T16:11:22Z) - TD-JEPA: Latent-predictive Representations for Zero-Shot Reinforcement Learning [63.73629127832652]
本稿では,TDに基づく潜在予測表現を教師なしRLに活用するTD-JEPAを紹介する。
TD-JEPAは、明示的な状態とタスクエンコーダ、ポリシー条件付きマルチステップ予測器、パラメータ化されたポリシーのセットを潜時空間で直接訓練する。
実証的には、TD-JEPAは13のデータセットにわたる移動、ナビゲーション、操作のタスクにおいて、最先端のベースラインをマッチまたは上回る。
論文 参考訳(メタデータ) (2025-10-01T10:21:18Z) - Control-Aware Prediction Objectives for Autonomous Driving [78.19515972466063]
本研究では,制御に対する予測の下流効果を評価するための制御認識予測目標(CAPOs)を提案する。
本稿では,エージェント間の注意モデルを用いた重み付けと,予測軌跡を接地真実軌跡に交換する際の制御変動に基づく重み付けの2つの方法を提案する。
論文 参考訳(メタデータ) (2022-04-28T07:37:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。