論文の概要: One-Step Prediction Fidelity Is a Poor Proxy for Planning Performance in JEPA World Models
- arxiv url: http://arxiv.org/abs/2610.19375v1
- Date: Wed, 14 Oct 2026 01:19:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.881412
- Title: One-Step Prediction Fidelity Is a Poor Proxy for Planning Performance in JEPA World Models
- Title(参考訳): ワンステップ予測フィデリティはJEPAワールドモデルのパフォーマンスを計画する粗末なプロキシ
- Abstract要約: 物理ユニットのワンステップエラーを報告するフリーズデコーダプロトコルを導入する。
同じチェックポイント上で,目標条件のプランニングを3つのトレーニングシードとペアのプランニングシードで測定する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Latent world models are routinely selected, checkpointed and ablated on one-step prediction loss, on the assumption that a model which predicts the next latent better is a better model. In model-based RL this assumption is known to be unreliable; we ask whether it also fails for latent world models, where the training target is the model's own embedding and the loss is not expressed in interpretable units. We introduce a frozen-decoder protocol reporting one-step error in physical units, decomposed into the part already present in the encoder's representation and the part the predictor adds. Applying it to a recent end-to-end JEPA world model across three continuous-control environments, we move the metric by fine-tuning and measure goal-conditioned planning on the same checkpoints, with three training seeds and paired planning seeds throughout. Within one environment, a per-epoch ladder shows the relationship saturating after a single epoch: the first epoch improves fidelity by 32% and planning by 4.4 pp, but across the fifteen checkpoints that follow -- a further 15% fidelity improvement, monotone in every training seed -- the correlation between one-step error and planning success is r = -0.010. This is not a task-ceiling artifact: stratifying by a model-independent measure of training-data support, planning in the lowest-support stratum starts at 80%, leaving ample headroom, and is nonetheless flat from epoch 1 onward. Across environments the exchange rate is equally unstable: a 93% fidelity reduction on TwoRoom yields -0.7 pp of planning, while a 40% reduction on PushT yields +4.9 pp [+1.1, +8.9]. All results replicate under a decoder-free measure, latent drift. We also show that a matched continued-training control absorbs the entire fidelity gain we had attributed to an auxiliary objective.
- Abstract(参考訳): 潜在世界モデルは、1段階の予測損失に基づいて日常的に選択され、チェックポイントされ、改善される。
モデルベースRLでは、この仮定は信頼できないことが知られており、学習対象がモデル自身の埋め込みであり、損失が解釈可能な単位で表現されない潜在世界モデルにも失敗するかどうかを問う。
物理単位の1ステップエラーを通知するフリーズデコーダプロトコルを導入し,すでにエンコーダの表現に存在している部分と,予測器が付加する部分とに分解する。
最近のエンドツーエンドのJEPAワールドモデルに3つの継続的制御環境に適用することにより、同じチェックポイント上で目標条件のプランニングを微調整し、測定することで、メトリクスを移動します。
第一のエポックはフィデリティを32%改善し、4.4ppで計画するが、続く15のチェックポイント -- さらに15%のフィデリティ改善、各トレーニングシードのモノトン -- は、ワンステップエラーと計画成功の相関は、r = 0.010である。
これはタスクシーリングの成果物ではなく、トレーニングデータサポートのモデル非依存の尺度によって成層化され、最低支持層での計画が80%から始まり、十分なヘッドルームが残され、それにもかかわらず、エポック1以降は平坦である。
環境全体でも交換レートは等しく不安定であり、TwoRoomの93%の忠実度低下は --0.7pp、PushTの40%の減少は+4.9pp[+1.1, +8.9]である。
すべての結果はデコーダなしで再現され、遅延ドリフトとなる。
また,一致した継続学習制御が,補助的目的に起因したフィリティゲイン全体を吸収することを示した。
関連論文リスト
- Action-Consequence Alignment for Reliable Planning and Self-Improving in Latent World Models [50.093046379641315]
学習された世界モデルが類似した行動結果対応を維持しているかどうかを検討する。
その結果、近くの代替手段は、記録された目標から遠く離れた物理的結果を生み出すにもかかわらず、より低い予測誤差を得られることが示された。
これらの結果は、予測学習と信頼性プランニングをブリッジする実践原則として、アクション・エフェクト・アライメントを支援する。
論文 参考訳(メタデータ) (2026-10-03T14:12:16Z) - Beyond One-Step Accuracy: State-Affine Latent Transition for Reliable Visual Planning [53.476598858325985]
複数ステップのロールアウトエラーを個々のステップで導入したエラーに分解し,その後の遷移を通した伝播を行う。
状態-アフィンダイナミクスは、状態非依存のヤコビアンとの微分可能遷移であることを示す。
動作条件付き状態-アフィンダイナミクスモデルであるSALTを導入し、動作が状態変換と追加更新の両方を変調する。
論文 参考訳(メタデータ) (2026-09-27T14:12:27Z) - ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。
SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。
モデル自身の失敗から両方を得るReDraftを紹介します。
論文 参考訳(メタデータ) (2026-09-15T04:59:03Z) - Learning Counterfactual World Models for Embodied Reasoning under Partial Observability [0.562873332680314]
世界モデルは予測力学を一度学習し、推論し、計画し、行動することを約束します。
このようなモデルの下の表現は、大規模ビデオ、インタラクション、マルチモーダルコーパスで事前訓練されている。
モデルは視覚的に妥当な未来を予測し、異なる行動結果の介入を区別できない。
論文 参考訳(メタデータ) (2026-09-05T02:56:47Z) - Online Reinforcement Learning in the Met Office Unified Model through Distributed Model-Agent Coupling [0.0]
機械リアント補正は、進化するモデル状態に適応した場合のみ、数値的な天気予報を補完することができる。
ランク局所テンソルを通した分散RLエージェントとMet Office (UKMO) Unified Model (UM) を結合する。
本研究では,北緯45.8%と南緯40.8%を含む6つの緯度帯のうち,Z$_500$ MAEが減少することを示す。
論文 参考訳(メタデータ) (2026-09-02T13:17:10Z) - Modeling What Changes: Sparse, Residual World Models for Object-Centric Manipulation [0.0]
スパース/残留モデルは高密度多層パーセプトロンの2.5倍から4.6倍の精度で次状態のポーズを予測する。
自動回帰ロールアウトでは誤差がはるかに少なくなり、密度の高いモデルがドリフトする間、動きのないフロアを抱きしめる。
世界全体を予測するのではなく、どのような変化をモデル化するかは、オブジェクト中心の物理的なAIに対して単純で効果的なバイアスとなります。
論文 参考訳(メタデータ) (2026-09-02T03:20:09Z) - The Evaluation Protocol Determines the Result: An Independent Reproduction of LeWorldModel on TwoRoom [0.0]
LeModelは、予測損失と1つの反崩壊正規化器を備えた潜在世界モデルを訓練する。
約25ドル(約2万5000円)のレンタルコンピュータ上で、独立した再実装によってこれを再現し、1台のラップトップCPU上で全ての評価を行う。
論文 参考訳(メタデータ) (2026-08-10T19:00:51Z) - MoP-JEPA: Hard-Assigned Predictor Mixtures for Stochastic JEPA World Models [14.76812870029721]
MoP-JEPAは、有限個の候補セットを1つのパスで生成する。
ホールドアウトのOGBenchトランジションでは、単一出力予測器によるグラフ検索が0.02$--0.09$のクエリで成功し、MoP-JEPAは0.85$に達した。
論文 参考訳(メタデータ) (2026-07-06T15:47:37Z) - Rethinking Training & Inference for Forecasting: Linking Winner-Take-All back to GMMs [48.245159309501666]
自律走行のための軌道予測は急速に進歩しているが、代表モデルはしばしば予測モードよりも非形式的な後部を生成する。
我々は、この K-平均的なハード割当 (one-hot) が非形式的モード確率の源であると主張する。
当科では,(1)近隣の候補軌跡を集約するテストタイム後方重み付け,(2)1段階の予測最大化(EM)更新の2つの治療方法を紹介した。
論文 参考訳(メタデータ) (2026-06-24T22:26:43Z) - LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels [49.35636088613484]
JEPA(Joint Embedding Predictive Architectures)は、コンパクトな潜在空間で世界モデルを学習するための魅力的なフレームワークを提供する。
最初のJEPAであるLeModelWorldを紹介します。
数時間で1つのGPU上で15万のパラメータをトレーニングできるため、LeWMはファンデーションモデルベースの世界モデルよりも48倍高速に計画している。
論文 参考訳(メタデータ) (2026-03-13T19:48:14Z) - Confidence Adaptive Anytime Pixel-Level Recognition [86.75784498879354]
任意の時間推論は、いつでも停止される可能性のある予測の進行を行うモデルを必要とする。
我々は,任意のピクセルレベルの認識に対して,最初の統一とエンドツーエンドのモデルアプローチを提案する。
論文 参考訳(メタデータ) (2021-04-01T20:01:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。