論文の概要: One-Step Next-Latent Prediction Is Not a World Model
- arxiv url: http://arxiv.org/abs/2609.36227v1
- Date: Mon, 28 Sep 2026 20:24:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.001338
- Title: One-Step Next-Latent Prediction Is Not a World Model
- Title(参考訳): 1段階の次世代予測は世界モデルではない
- Abstract要約: 次の遅延予測は、現在の埋め込みから次の埋め込みへのマップに適合する。
LeNEPAはこの目的を時系列に伝え、次のエンベディング予測の停止段階をLeJEPAの異方性ペナルティに置き換える。
- 参考スコア(独自算出の注目度): 29.10344289549364
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Next-latent prediction fits a map from the current embedding to the next one. LeNEPA carries this objective to time series, replacing the stop-gradient of next-embedding prediction with the isotropy penalty of LeJEPA. A world model is a transition kernel that can be rolled out. The one-step regression identifies a conditional mean, and a mean is a kernel only in special cases. For a linear-Gaussian Markov latent, the mean transition and the innovation covariance are fixed by the one-step problem, and the open-loop squared error at horizon $K$ equals the trace of the sum of the pushed-forward innovation covariances. That error grows with $K$ after the one-step fit is exact. If the conditional mean is nonlinear, composing it is not the multi-step conditional mean. If the observation is a non-injective function of a Markov state, a memoryless one-step map does not determine future observations, while a short window can. An isotropy penalty is a function of the embedding marginal, so its partial derivative in the transition weights is zero. On a scalar autoregression with coefficient $0.9$, the one-step mean squared error is $0.998$ and the $16$-step open-loop error is $5.10$. On a hidden rotation, an eight-step window reaches $16$-step error $0.056$, while the current scalar alone reaches $0.778$. Raising the isotropy weight from $0.1$ to $10$ leaves eight-step latent error inside $[0.78,0.85]$ on three seeds.
- Abstract(参考訳): 次の遅延予測は、現在の埋め込みから次の埋め込みへのマップに適合する。
LeNEPAはこの目的を時系列に伝え、次のエンベディング予測の停止段階をLeJEPAの異方性ペナルティに置き換える。
World Modelは、ロールアウト可能なトランジションカーネルである。
一段階回帰は条件平均を識別し、平均は特別な場合のみカーネルである。
線型ガウス的マルコフ潜在量に対して、平均遷移とイノベーション共分散はワンステップ問題によって固定され、水平線での開ループ二乗誤差は、プッシュフォワードのイノベーション共分散の和のトレースと等しい。
このエラーは、ワンステップフィットが正確になった後、$K$で増加する。
条件平均が非線形であれば、構成は多段階条件平均ではない。
観測がマルコフ状態の非射影関数である場合、メモリレスのワンステップマップは将来の観測を決定できないが、短いウィンドウは可能である。
等方性ペナルティは埋め込み辺の関数であり、遷移重みの偏微分はゼロである。
係数が0.9$のスカラー自己回帰では、1ステップ平均2乗誤差は0.998$で、16ステップオープンループエラーは5.10$である。
隠れた回転の場合、8ステップのウィンドウは16$-stepエラー0.056$に達し、現在のスカラーのみは0.778$になる。
等方性重量を0.1ドルから10ドルに引き上げると、3種の種子に8段階の遅延誤差が生じる。
関連論文リスト
- The Signed Geometry of One-Shot Recourse: On-Path Validity and the Signed-Curvature Criterion [0.16921396880325776]
クローズドフォームのリコースは、期待される距離によって分類器の$hat g$の単位勾配に沿って、拒否されたユーザーを移動させる。
このワンショットステップがいつ成功し、追加のモデルクエリが変更されるのかを問う。
論文 参考訳(メタデータ) (2026-09-28T20:44:23Z) - Convex Optimization Is Free When Accuracy Is Expensive [18.56538898519597]
我々は、勾配を正確に評価できないときに凸最適化を研究するが、精度$$$で$-$のように計算が成長するアルゴリズムの階層によってのみ近似される。
損失関数の最小化に要するコストは,問題要求の精度での勾配の1つの評価よりも,$のみに依存する。
論文 参考訳(メタデータ) (2026-09-28T15:30:18Z) - A Convergence Framework for Deep $V$-Learning: Error Propagation and Sharp Action-Gap Bounds [0.0]
更新エラーを、フィッティング、遷移再利用、ターゲット構築、リプレイ、アクション選択、探索の6つの残差に分解する。
次数$n-$の統計的誤差境界に対して、最適連続割り当てと、制約された最適値の係数2$以内の整数割り当てを導出する。
これらの結果から, FIFO/インターリーブされたSGDに対して, 厳密な動作スコアを有する固定水平生成-リセット近似-ERM法に対して, 期待されるポリシ-ロス一貫性が得られた。
論文 参考訳(メタデータ) (2026-09-16T15:03:46Z) - Fenchel-Young Duality Gaps: Certified Early Stopping for Regularized Inverse Problems [4.3686879183724665]
正規化逆問題に対して計算可能誤差境界と証明済み早期停止について検討する。
この分析は、$F()+R()$の合計ギャップをデータ学習用語に分割する、正確な双対対ギャップの同一性に依存する。
GBLの正確なサポートリカバリを確立するために、これらのエラー境界の上にコンパニオンペーパーが構築されている。
論文 参考訳(メタデータ) (2026-09-15T09:16:07Z) - Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。
スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
論文 参考訳(メタデータ) (2026-09-07T01:38:41Z) - Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳(メタデータ) (2026-08-01T13:49:46Z) - When Can You Correct Distribution Drift in Temporal Graph Generation? A Sharpening--Drift Tension and an Impossibility for Observation-Based Correction [16.716278644368]
時間グラフの生成モデルは、進化するネットワークの1つのストレッチでトレーニングされ、次にデプロイされる。
この劣化は一般に導出可能であり、観測では固定不可能である。
過去の観測に対して測定可能な任意の補正器が、少なくともその統計量の条件分散を残していることを証明している。
論文 参考訳(メタデータ) (2026-07-27T16:59:57Z) - Measurement-induced phase transition for free fermions above one dimension [46.176861415532095]
自由フェルミオンモデルに対する$d>1$次元における測定誘起エンタングルメント相転移の理論を開発した。
臨界点は、粒子数と絡み合いエントロピーの第2累積のスケーリング$$elld-1 ln ell$でギャップのない位相を分離する。
論文 参考訳(メタデータ) (2023-09-21T18:11:04Z) - Variance-Aware Sparse Linear Bandits [64.70681598741417]
余分な線形包帯に対する最悪のミニマックスは$widetildeThetaleft(sqrtdTright)$である。
ノイズがなく、アクションセットが単位球面である良性設定では、ディビジョン・アンド・コンカーを使用して、$widetildemathcal O(1)$ regretを達成することができる。
我々は,任意の分散対応線形帯域幅アルゴリズムを分散対応線形帯域幅アルゴリズムに変換する汎用フレームワークを開発した。
論文 参考訳(メタデータ) (2022-05-26T15:55:44Z) - Variance-Aware Confidence Set: Variance-Dependent Bound for Linear
Bandits and Horizon-Free Bound for Linear Mixture MDP [76.94328400919836]
線形バンドイットと線形混合決定プロセス(mdp)に対する分散認識信頼セットの構築方法を示す。
線形バンドイットに対しては、$d を特徴次元とする$widetildeo(mathrmpoly(d)sqrt1 + sum_i=1ksigma_i2) が成り立つ。
線形混合 MDP に対し、$widetildeO(mathrmpoly(d)sqrtK)$ regret bound を得る。
論文 参考訳(メタデータ) (2021-01-29T18:57:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。