論文の概要: Adaptive Rollout Truncation Based on Epistemic Uncertainty for Efficient Offline World Model Training
- arxiv url: http://arxiv.org/abs/2609.21482v1
- Date: Fri, 18 Sep 2026 08:32:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.933637
- Title: Adaptive Rollout Truncation Based on Epistemic Uncertainty for Efficient Offline World Model Training
- Title(参考訳): 観血的不確実性に基づく効果的なオフライン世界モデルトレーニングのための適応型ロールアウトトランケーション
- Abstract要約: マルチステップ自己回帰学習は、長距離予測を改善するが、固定されたロールアウト水平線は計算コストを増大させる。
本稿では,オフライン世界モデルトレーニングのための適応的なロールアウト戦略を提案する。
ANYmal-DとANTの実験では、アンサンブルに基づく適応的トランケーションが一致し、固定水平トレーニングの予測精度が向上することが示された。
- 参考スコア(独自算出の注目度): 1.376408511310322
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Accurate neural world models are central to model-based robotics, where they enable robots to predict future states from previously observed trajectories. Multi-step autoregressive training improves long-horizon prediction, but fixed rollout horizons also increase computational cost and can amplify early training errors when the model is still inaccurate. Existing training schemes typically use the same rollout length throughout optimization, independent of the model's current predictive reliability. We propose an epistemic uncertainty-driven adaptive rollout strategy for offline world model training following an auto-curriculum training scheme. Instead of always unrolling to a fixed horizon, the model terminates autoregressive rollouts once epistemic uncertainty exceeds a threshold calibrated from a warm-up phase. We study two uncertainty estimators: a five-head ensemble with a shared recurrent backbone and Monte Carlo Dropout. A two-stage warm-up procedure stabilizes uncertainty estimates before we enable adaptive truncation. Experiments on ANYmal-D and ANT show that ensemble-based adaptive truncation matches or improves the prediction accuracy of fixed-horizon training and the RWM-U baseline while requiring substantially fewer cumulative rollout steps. Training a world model on ANYmal-D following the presented approach reaches comparable final performance with the baselines with roughly 72% less rollout computation. These results indicate that epistemic uncertainty is useful not only for downstream policy regularization, but also for making world model training itself more compute-efficient.
- Abstract(参考訳): 正確なニューラルワールドモデルはモデルベースのロボット工学の中心であり、ロボットが以前に観測された軌道から将来の状態を予測できるようにする。
マルチステップ自己回帰トレーニングは、長期水平予測を改善するが、固定ロールアウト水平線は計算コストを増大させ、モデルが不正確な場合の早期トレーニングエラーを増幅する。
既存のトレーニングスキームでは、モデルの現在の予測信頼性とは独立して、最適化を通して同じロールアウト長を使用するのが一般的である。
本稿では,オフライン世界モデルトレーニングのための適応型ロールアウト戦略を提案する。
常に固定地平線に展開する代わりに、エピステミックの不確かさがウォームアップフェーズから調整された閾値を超えると、モデルは自己回帰ロールアウトを終了する。
本研究では,2つの不確実性推定器について検討する:5つのヘッドアンサンブルと共有リカレントバックボーンとモンテカルロ・ドロップアウト。
2段階のウォームアップ手法は適応的切り離しを実現する前に不確実性推定を安定化する。
ANYmal-D と ANT の実験では,アンサンブルに基づく適応的トランケーションが,累積ロールアウトステップを著しく少なくしながら,固定水平トレーニングと RWM-U ベースラインの予測精度を向上することを示した。
提案手法に従ってANYmal-Dで世界モデルをトレーニングすると,約72%のロールアウト計算が可能となる。
これらの結果から, 疫学的な不確実性は, 下流政策の正則化だけでなく, 世界モデルトレーニング自体の計算効率の向上にも有用であることが示唆された。
関連論文リスト
- Balancing Accuracy and Efficiency: Adaptive Dynamics Orchestration for Model Predictive Control [8.262724319342945]
高忠実度力学モデルは、軌道のロールアウト中に複雑な車両とテランの相互作用を正確に予測できるが、計算コストは相当である。
軽量モデルは高速な更新と高密度サンプリングを可能にするが、安全クリティカルな条件下で誤った予測を発生させる可能性がある。
本稿では,現在のナビゲーションコンテキストに対して最適な動的モデルを動的に選択するフレームワークであるAdaptive Dynamics Orchestration (ADO)を提案する。
論文 参考訳(メタデータ) (2026-05-22T19:05:25Z) - ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
ResADは正規化された残留軌道モデリングフレームワークである。
学習タスクを再編成し、慣性参照からの残留偏差を予測する。
NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
論文 参考訳(メタデータ) (2025-10-09T17:59:36Z) - Heterogeneous Self-Supervised Acoustic Pre-Training with Local Constraints [64.15709757611369]
異種データを扱うための自己教師付き事前学習手法を提案する。
提案手法は、下流の教師付き微調整タスクに対する自己教師付き事前訓練モデルの適応性を大幅に向上させることができる。
論文 参考訳(メタデータ) (2025-08-27T15:48:50Z) - An Adaptive Framework for Autoregressive Forecasting in CFD Using Hybrid Modal Decomposition and Deep Learning [3.1337872355726084]
この研究は著者の知識を最大限に活用するために、ディープラーニング(DL)自己回帰予測モデルを長期間の地平線上で安定化させるために設計された、最初の一般化可能で完全なデータ駆動適応フレームワークを提示する。
提案手法は, (i) 訓練されたDLモデルを用いて, 選択した時間間隔で流れ場の進化を予測し, (ii) 安定度が低下した場合に新たに生成されたCFDデータを用いてモデルを更新することにより, 正確な長期予測を行う。
この枠組みは, 層流から乱流まで, より複雑化する3つの流路にまたがって検証され, 30%から95パーセントの範囲で実証された。
論文 参考訳(メタデータ) (2025-05-02T18:33:41Z) - Offline Robotic World Model: Learning Robotic Policies without a Physics Simulator [50.191655141020505]
強化学習(Reinforcement Learning, RL)は、ロボット制御において目覚ましい能力を示してきたが、高いサンプルの複雑さ、安全性の懸念、そしてシム・トゥ・リアルのギャップのため、依然として困難である。
物理シミュレータに頼らずに政策学習を改善するために不確実性を明示的に推定するモデルベースアプローチであるオフラインロボット世界モデル(RWM-O)を導入する。
論文 参考訳(メタデータ) (2025-04-23T12:58:15Z) - Model-Agnostic AI Framework with Explicit Time Integration for Long-Term Fluid Dynamics Prediction [7.740582267221137]
本稿では,データ駆動AR予測に適した2段階微分Adams-Bashforth法の最初の実装について紹介する。
我々は、異なる将来のステップの重要性を動的に調整する3つの新しい適応重み付け戦略を開発した。
本フレームワークは,平均二乗誤差を0.125から0.002に削減する350のステップを正確に予測する。
論文 参考訳(メタデータ) (2024-12-07T14:02:57Z) - Training Language Models to Self-Correct via Reinforcement Learning [98.35197671595343]
自己補正は、現代の大規模言語モデル(LLM)では、ほとんど効果がないことが判明した。
完全自己生成データを用いたLLMの自己補正能力を大幅に向上させるマルチターンオンライン強化学習手法であるSCoReを開発した。
SCoReは最先端の自己補正性能を実現し,MATHとHumanEvalでそれぞれ15.6%,9.1%向上した。
論文 参考訳(メタデータ) (2024-09-19T17:16:21Z) - Towards Stable Machine Learning Model Retraining via Slowly Varying Sequences [6.067007470552307]
そこで本研究では,リトレーニングを繰り返して安定なモデル列を見つけるためのモデルに依存しないフレームワークを提案する。
最適モデルの復元が保証される混合整数最適化の定式化を開発する。
平均的に、予測力の2%の低下は、安定性の30%の改善につながることが判明した。
論文 参考訳(メタデータ) (2024-03-28T22:45:38Z) - Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。
合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
論文 参考訳(メタデータ) (2023-02-23T18:57:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。