論文の概要: Gibbs Variational Last Layers for Long-Horizon Dynamics Learning
- arxiv url: http://arxiv.org/abs/2611.02891v1
- Date: Mon, 02 Nov 2026 10:25:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 14:37:34.790312
- Title: Gibbs Variational Last Layers for Long-Horizon Dynamics Learning
- Title(参考訳): 長距離ダイナミクス学習のためのギブズ変分最後の層
- Abstract要約: 長い水平構造、連続的なランク付け確率スコア(CRPS)による堅牢性、完全自己回帰ロールアウトのトレーニングを含む多段階トレーニング損失のファミリーを紹介する。
提案手法は,VBLLの単純さを維持しつつ,複数ステップの予測品質を直接最適化する。
図示的な合成環境,多様なカオス力学系,実世界のデータなどを通じて,多段階のCRPSに基づく目的が長期の精度と分布の適合性を大幅に向上させることを示す。
- 参考スコア(独自算出の注目度): 11.249287234281477
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Accurate long-horizon probabilistic predictions of dynamical systems are a prerequisite for model-based decision-making. Variational Bayesian last layers (VBLLs) are an attractive model class for this setting, offering tractable uncertainty at near-deterministic cost, yet they are trained exclusively with single-step likelihood objectives that may be insufficient for reliable multi-step rollouts. We revisit VBLLs through the lens of Gibbs variational inference, which decouples posterior inference from the choice of training loss. Building on this perspective, we introduce a family of multi-step training losses that progressively incorporate long-horizon structure, robustness via continuous ranked probability scores (CRPS), and training on full autoregressive rollouts. Our approach retains the simplicity of VBLLs while directly optimizing for multi-step predictive quality. Across illustrative synthetic environments, a diverse suite of chaotic dynamical systems, and real-world data, we show that multi-step, CRPS-based objectives substantially improve long-horizon accuracy and distributional fit, consistently outperforming single-step likelihood training.
- Abstract(参考訳): 力学系の正確な長距離確率予測はモデルに基づく意思決定の前提条件である。
変分ベイズ最後の層 (VBLL) はこの設定に魅力的なモデルクラスであり、ほぼ決定論的コストでトラクタブルな不確実性を提供するが、信頼性の高い複数ステップのロールアウトには不十分な単一ステップの可能性目標でのみ訓練されている。
トレーニング損失の選択から後部推論を分離するGibs変分推論のレンズを用いてVBLLを再検討した。
この観点から、長い水平構造、連続的なランク付け確率スコア(CRPS)による堅牢性、完全自己回帰ロールアウトのトレーニングを段階的に取り入れた多段階トレーニング損失のファミリーを導入する。
提案手法は,VBLLの単純さを維持しつつ,複数ステップの予測品質を直接最適化する。
図示的合成環境,多様なカオス力学系,および実世界のデータを用いて,多段階CRPSに基づく目的が長期的精度と分布的適合性を大幅に向上し,一段階の確率トレーニングを一貫して上回ることを示す。
関連論文リスト
- Adaptive Rollout Truncation Based on Epistemic Uncertainty for Efficient Offline World Model Training [1.376408511310322]
マルチステップ自己回帰学習は、長距離予測を改善するが、固定されたロールアウト水平線は計算コストを増大させる。
本稿では,オフライン世界モデルトレーニングのための適応的なロールアウト戦略を提案する。
ANYmal-DとANTの実験では、アンサンブルに基づく適応的トランケーションが一致し、固定水平トレーニングの予測精度が向上することが示された。
論文 参考訳(メタデータ) (2026-09-18T08:32:34Z) - PPDL: A Real-world Industrial User Retention Ratio Forecasting Framework Integrating Physical Priors with Deep Learning [13.789714731107617]
本稿では,物理先行情報と深層学習を統合する新しい予測フレームワークPPDLを提案する。
PPDLは産業規模のデータセットに関する包括的な実験を通じて検証される。
論文 参考訳(メタデータ) (2026-09-12T08:04:45Z) - Barrier-enforced multi-objective optimization for direct point and sharp interval forecasting [1.0966260566122237]
本稿では,単一ニューラルネットワークモデルを用いた多段階確率予測フレームワークを提案する。
我々のアプローチは、ターゲットカバレッジ確率(PICP)を厳密に満たしたモデル構造設計により、非交差予測間隔(PI)を保証する。
その結果, 提案した損失は, PI幅が最も狭い対象範囲を達成し, 現行文献よりも一貫して優れていた。
論文 参考訳(メタデータ) (2026-04-20T16:43:12Z) - Latent Generative Solvers for Generalizable Long-Term Physics Simulation [12.894423121609526]
Latent Generative Solvers (LGS) は、様々なPDE状態を事前訓練されたVAEで共有された潜在物理空間にマッピングするフレームワークである。
我々の重要なメカニズムは、トレーニングと推論中に潜伏入力を摂動する不確実性ノブであり、解法にオフマニフォールドロールアウトドリフトを補正するように教える。
LGSは短地平線上での強力な決定論的ニューラルネットワークベースラインと一致し、長い地平線上でのロールアウトドリフトを大幅に低減する。
論文 参考訳(メタデータ) (2026-02-11T15:34:52Z) - Unsupervised Online 3D Instance Segmentation with Synthetic Sequences and Dynamic Loss [52.28880405119483]
教師なしのオンライン3Dインスタンスのセグメンテーションは、基本的だが難しい課題だ。
UNITのような既存の手法はこの方向に進んできたが、訓練の多様性が制限されているままである。
本稿では,合成点雲列生成によるトレーニング分布の強化を目的とした新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-27T08:53:27Z) - Efficient Regression-Based Training of Normalizing Flows for Boltzmann Generators [85.25962679349551]
ボルツマン・ジェネレータ(BG)は効率的なサンプリングと可能性を提供するが、最大可能性によるトレーニングはしばしば不安定であり、計算的に困難である。
本稿では,従来の最大値トレーニングの数値不安定性と計算課題を回避し,新しい,スケーラブルなトレーニング目標である正規化フローの回帰トレーニングを提案する。
論文 参考訳(メタデータ) (2025-06-01T20:32:27Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - TACTiS-2: Better, Faster, Simpler Attentional Copulas for Multivariate Time Series [57.4208255711412]
パウラ理論に基づいて,最近導入されたトランスフォーマーに基づく注目パウラ(TACTiS)の簡易な目的を提案する。
結果から,実世界の予測タスクにまたがって,このモデルのトレーニング性能が大幅に向上し,最先端のパフォーマンスが達成できることが示唆された。
論文 参考訳(メタデータ) (2023-10-02T16:45:19Z) - Towards All-in-one Pre-training via Maximizing Multi-modal Mutual
Information [77.80071279597665]
マルチモーダル相互情報事前学習(M3I事前学習)を最大化するオールインワン単段階事前学習手法を提案する。
提案手法は,ImageNet分類,オブジェクト検出,LVIS長鎖オブジェクト検出,ADE20kセマンティックセマンティックセマンティックセマンティクスなど,様々なビジョンベンチマークにおける事前学習手法よりも優れた性能を実現する。
論文 参考訳(メタデータ) (2022-11-17T18:59:49Z) - Robust-Adaptive Control of Linear Systems: beyond Quadratic Costs [14.309243378538012]
線形システムのロバストかつ適応的なモデル予測制御(MPC)の問題を考える。
この設定に対して、最初のエンドツーエンドのサブ最適トラクティリティ解析を提供する。
論文 参考訳(メタデータ) (2020-02-25T12:24:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。