論文の概要: Adaptive Latent Capacity for World Models

• arxiv url: http://arxiv.org/abs/2609.32921v1
• Date: Sat, 26 Sep 2026 20:16:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 11:57:15.370118
• Title: Adaptive Latent Capacity for World Models
• Title（参考訳）: 世界モデルのための適応潜在能力
• Abstract要約: 共同埋め込み予測アーキテクチャ(JEPA)に基づく世界モデルであるAdaptive LeWorldModel(ALeWM)を紹介する。 ALeWMはプレフィックス長のシーケンス条件分布を学習し、サンプル入力プレフィックスから次の完全な埋め込みを推定するように予測器を訓練する。 ALeWMは、調整した固定幅LeWMよりも平均成功率が高く、平均的な計画能力が低いことを示す。
• 参考スコア（独自算出の注目度）: 12.262878392750272
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce Adaptive LeWorldModel (ALeWM), a world model based on a joint-embedding predictive architecture (JEPA) that learns to concentrate predictive information in compact prefixes of a wide latent representation. To encourage this ordering, ALeWM learns a sequence-conditioned distribution over prefix lengths and trains the predictor to estimate the full next embedding from a sampled input prefix. As standard anti-collapse objectives encourage variation across latent coordinates and do not organize them by predictive importance, we also introduce MixSIGReg. MixSIGReg regularizes the masked embeddings against a prior-weighted mixture with Gaussian active prefixes and zeros in the remaining coordinates. As a result, the ALeWM objective encourages early coordinates to retain information useful for prediction and recursive planning. Our analysis shows that the mixture distribution used by MixSIGReg assigns higher variance to earlier coordinate blocks and lower variance to later ones. In addition, we show that, under specified assumptions, prediction error is minimized by placing the information most useful for prediction in earlier blocks. Empirically, we study the behavior of ALeWM in a controlled dynamical system with known state variables and in goal-conditioned visual control. We show that ALeWM consistently achieves higher mean success rates than tuned fixed-width LeWM, with lower planning capacity on average.
• Abstract（参考訳）: 本稿では,JEPA(Joint-embedding predictive Architecture)に基づく世界モデルであるAdaptive LeWorldModel(ALeWM)を紹介する。 この順序付けを促進するために、ALeWMはプレフィックス長のシーケンス条件付き分布を学習し、サンプル入力プレフィックスから次の完全な埋め込みを推定するように予測器を訓練する。 標準の反崩壊目的は潜在座標の変動を奨励し、予測的重要性によってそれらを整理しないので、MixSIGRegも導入する。 MixSIGRegは、残りの座標におけるガウス活プレフィックスとゼロとの事前重み付き混合に対するマスク埋め込みを正規化する。 結果として、ALeWMの目的は、予測と再帰計画に有用な情報を保持する早期座標を奨励する。 解析により、MixSIGRegが用いる混合分布は、以前の座標ブロックに高い分散を割り当て、後の座標ブロックに低い分散を割り当てることを示した。 さらに,特定の仮定の下では,予測に最も有用な情報を初期ブロックに配置することで,予測誤差を最小限に抑えることを示す。 実測的な状態変数を持つ制御力学系におけるALeWMの挙動と目標条件の視覚的制御について検討した。 ALeWMは、調整した固定幅LeWMよりも平均成功率が高く、平均的な計画能力が低いことを示す。

関連論文リスト

• Hierarchical Exponential-Gaussian Mixtures for Watch-Time Distribution Prediction [74.05279072166697]
  Exponential-Gaussian Mixture Network (EGMN) は完全な条件WT分布をモデル化する。 EGMNは分散崩壊、コンポーネントの冗長性、不活性成分に弱い。 本稿では,これらの故障モードに対処する階層型指数-ガウス混合(HEGM)モデルを提案する。
  論文  参考訳（メタデータ） (2026-08-24T15:06:18Z)
• Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
  予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。 そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。 制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
  論文  参考訳（メタデータ） (2026-08-20T13:59:57Z)
• SCALE: State-Calibrated Latent Embeddings for JEPA Planning in the Right Geometry [14.742804674497128]
  非崩壊表現を得るための2つの戦略は、事前訓練された特徴空間を継承し、非崩壊正則化を用いて埋め込み終端を学習することである。 課題関連情報が存在するかどうかだけでなく,計画者が消費する幾何を形作るかどうかにも依存することを示す。
  論文  参考訳（メタデータ） (2026-08-17T08:58:55Z)
• QQWorld: Quantile-Quantile Matching for World Model Regularization [7.147705178168053]
  LeWorldModel (LeWM) は、Epps-Pulley (EP) の目的を用いて、その潜伏者を等方ガウスへ正規化する。 分離した尾標本ではEPの補正勾配が急速に消失し, 重鎖偏差の制御が不十分であった。 本稿では,EPを量子量子量マッチングの目的に置き換えたQQWorldを提案する。
  論文  参考訳（メタデータ） (2026-07-30T16:00:39Z)
• Why Self-Supervised Encoders Want to Be Normal [0.0]
  自己教師型エンコーダにおける正規分布の優先性は,インフォメーション・ボトルネック(IB)の原理の直接的な帰結であることを示す。 この枠組みでは、潜在表現は、類似の予測分布を共有する入力のソフトクラスタリングに対応することを示す。 この観点は、広く使われている正規化スキームに対する原則的な説明として、教師付きおよび教師なしの目的を広範囲に統一する。
  論文  参考訳（メタデータ） (2026-04-30T11:33:05Z)
• A Predictive View on Streaming Hidden Markov Models [0.8122270502556375]
  隠れマルコフモデルをストリーミングするための予測ファースト最適化フレームワークを開発した。 我々の目的は、正確なステップアヘッド予測分布を維持しながら、潜伏状態の逐次同定を行うことである。
  論文  参考訳（メタデータ） (2026-04-10T10:51:50Z)
• Model Inversion Attacks Through Target-Specific Conditional Diffusion Models [54.69008212790426]
  モデル反転攻撃(MIA)は、ターゲット分類器のトレーニングセットからプライベートイメージを再構築することを目的としており、それによってAIアプリケーションにおけるプライバシー上の懸念が高まる。 従来のGANベースのMIAは、GANの固有の欠陥と潜伏空間における最適化の偏りにより、劣った遺伝子的忠実度に悩まされる傾向にある。 これらの問題を緩和するために拡散モデル反転(Diff-MI)攻撃を提案する。
  論文  参考訳（メタデータ） (2024-07-16T06:38:49Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• An adaptive Hessian approximated stochastic gradient MCMC method [12.93317525451798]
  後方からのサンプリング中に局所的幾何情報を組み込む適応型ヘッセン近似勾配MCMC法を提案する。 我々は,ネットワークの空間性を高めるために,等級に基づく重み付け法を採用する。
  論文  参考訳（メタデータ） (2020-10-03T16:22:15Z)
• Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
  我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。 予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。 この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
  論文  参考訳（メタデータ） (2020-06-19T05:08:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。