論文の概要: MHWA: Multi-timescale Hierarchical World-Action Model
- arxiv url: http://arxiv.org/abs/2610.14727v1
- Date: Sat, 10 Oct 2026 08:47:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.096029
- Title: MHWA: Multi-timescale Hierarchical World-Action Model
- Title(参考訳): MHWA:マルチ時間階層的世界行動モデル
- Abstract要約: MHWA(Multi-timescale Hierarchical World-Action model)を導入し,グローバルなコンテキスト更新頻度を低減するために,高度に高レベルなコンテキストチャネルを利用する。
この結果から,MHWAは,10パーセントのオフラインデータを用いて,14ゲームAtariサブセット上の3つのトレーニング種に対して 0.884 の IQM 正規化スコア(HNS)を達成することを示した。
- 参考スコア(独自算出の注目度): 25.343759363775103
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autoregressive world models have emerged as a powerful paradigm for sample efficient decision making, yet their open loop rollouts often exhibit increasing drift that leads to error accumulation even within a relatively small planning horizon. Hierarchical temporal abstraction is a natural candidate to mitigate such drift by reducing the effective prediction horizon; however, existing hierarchical designs can introduce added structural and conceptual complexity, sometimes making them difficult to control and limiting gains over flat baselines. To this end, we introduce MHWA (Multi-timescale Hierarchical World-Action model), which employs a strided high level context channel to reduce global context update frequency, effectively curbing the propagation of compounding drift. Crucially, via context aware routing, the gating network dynamically reconfigures a low level mixture of experts by using both global context and current observations, thereby enabling flexible high-low coordination, helping alleviate interference commonly observed in static hierarchies. Empirically, using RLiable's seed-by-game aggregation, MHWA (77M parameters) achieves an IQM human normalized score (HNS) of 0.884 across three training seeds on a 14-game Atari subset using 10% subsampled offline data, outperforming a matched JOWA-70M baseline (0.529) and achieving numerically comparable performance to JOWA-150M while using nearly half the parameters and 70.88% fewer training FLOPs per sequence.
- Abstract(参考訳): 自己回帰的世界モデルは、サンプリング効率の良い意思決定のための強力なパラダイムとして現れてきたが、その開放ループのロールアウトはしばしば、比較的小さな計画の地平線内でもエラーの蓄積につながるドリフトを増大させる。
階層的時間的抽象は、効果的な予測水平線を減らし、そのようなドリフトを緩和する自然な候補であるが、既存の階層的設計は構造的および概念的複雑さを付加し、時として平坦なベースラインよりも利得を制御および制限することが困難になる。
この目的のために,MHWA(Multi-timescale Hierarchical World-Action model)を導入する。これは,高度に高レベルなコンテキストチャネルを用いて,グローバルなコンテキスト更新頻度を低減し,複合ドリフトの伝播を効果的に抑制する。
重要なことは、コンテキスト認識ルーティングを通じて、ゲーティングネットワークは、グローバルコンテキストと現在の観測の両方を使用して、専門家の低レベルの混合を動的に再構成し、フレキシブルなハイローコーディネーションを可能にし、静的階層でよく見られる干渉を緩和する。
RLiableのシード・バイ・ゲームアグリゲーションを用いて、MHWA(77Mパラメータ)は、10%のサブサンプリングオフラインデータを用いて14ゲームAtariサブセット上の3つのトレーニングシードに対して0.884のIQMの人間正規化スコア(HNS)を達成し、一致したJOWA-70Mベースライン(0.529)を上回り、約半数のパラメータを使用し、78%のトレーニングFLOPを減らし、JOWA-150Mと数値的に同等のパフォーマンスを達成する。
関連論文リスト
- GroundAnything: Reconciling Parallel Decoding with Precise Visual Grounding at Flash Speed [71.05944634852158]
GroundAnythingはブロックワイズによる正確なローカライゼーションで高速並列デコーディングを再構成する。
30のグラウンドベンチマークで、私たちの自己回帰型であるGroundAnything-VLMは、この技術の新たな全体的な状態を確立します。
エントロピー誘導復号法により、GroundAnythingは、この規模の芸術の先行状態を超越している。
論文 参考訳(メタデータ) (2026-09-30T12:20:51Z) - DynaGraph: Lightweight Multi-Model Interaction Framework via Dynamic Topological Reconfiguration [7.0972889296550825]
DynaGraphは、動的トポロジ的再構成によって駆動される軽量なマルチモデルフレームワークである。
タイムディビジョンのPEFTアダプタを共有ベースモデルに倍増し、完全なシステムトレーニングとデプロイメントを可能にする。
制限のない動的アーキテクチャと比較してレイテンシを最大68.1%削減し、トークン消費を68.6%削減する。
論文 参考訳(メタデータ) (2026-05-28T07:33:29Z) - PrismFlow: Residual Dynamics for Flow Matching in Time-Series Generation [24.703364668945543]
フローマッチングは拡散モデルに代わる効率的な代替手段を提供するが、現実的な実装は典型的には単一の有限容量大域ベクトル場推定器に依存する。
したがって、標準$ell$ベロシティマッチング目標で訓練されたモノリシックな推定器は、局所輸送場の過度に滑らかな近似を学ぶことができる。
この推定器レベルの滑らか化は分枝特異的なダイナミクスとなり、スペクトル歪みとモードカバレッジが低下する。
クープマンにインスパイアされた動的専門家による新しいFM手法であるPrismFlowを提案する。
論文 参考訳(メタデータ) (2026-05-22T07:10:20Z) - Alternating Gradient Flow Utility: A Unified Metric for Structural Pruning and Dynamic Routing in Deep Networks [52.153950303594684]
交互勾配流(Alternating Gradient Flow, AGF)に着想を得た非結合型運動パラダイムを提案する。
AGFはネットワークの構造的「運動ユーティリティ」を正確にキャプチャする
我々は、AGFに誘導されるオフライン構造探索を、ゼロコストの物理プリミティブを介してオンライン実行から切り離すハイブリッドルーティングフレームワークを設計する。
論文 参考訳(メタデータ) (2026-03-12T18:19:21Z) - Mixture-of-World Models: Scaling Multi-Task Reinforcement Learning with Modular Latent Dynamics [39.854659234873644]
タスク適応型視覚圧縮のためのモジュラー変分オートエンコーダを組み合わせたスケーラブルなアーキテクチャであるMixture-of-World Models (MoW)を紹介する。
Atari 100kベンチマークでは、26のAtariゲームでトレーニングされた1つのMoWエージェントが平均110.4%の人間正規化スコアを達成する。
MoWは3万の環境ステップで平均74.5%の成功率を達成した。
論文 参考訳(メタデータ) (2026-02-01T15:00:30Z) - A Distributed Hierarchical Spatio-Temporal Edge-Enhanced Graph Neural Network for City-Scale Dynamic Logistics Routing [4.8267586387192445]
都市規模のロジスティクスルーティングは、都市道路網が急速に数千万のエッジと交通条件に成長するにつれて、ますます困難になっている。
従来の集中型ルーティングアルゴリズムとモノリシックグラフニューラルネットワーク(GNN)モデルは、限られたスケーラビリティ、高いレイテンシ、低リアルタイム適応性に悩まされている。
本稿では,超大型道路網上での動的ルーティングのための分散階層設計を提案する。
論文 参考訳(メタデータ) (2025-12-20T17:27:36Z) - Towards Generalizable Trajectory Prediction Using Dual-Level Representation Learning And Adaptive Prompting [107.4034346788744]
既存の車両軌道予測モデルは、一般化可能性、予測の不確実性、複雑な相互作用を扱う。
本研究では,(1)自己拡張(SD)とマスドレコンストラクション(MR)による二重レベル表現学習,グローバルコンテキストと細部の詳細の収集,(2)レジスタベースのクエリと事前学習の強化,クラスタリングと抑圧の必要性の排除,(3)微調整中の適応型プロンプトチューニング,メインアーキテクチャの凍結,および少数のプロンプトの最適化といった,新たなトラジェクタ予測フレームワークであるPerceiverを提案する。
論文 参考訳(メタデータ) (2025-01-08T20:11:09Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - Dynamic Regularized Sharpness Aware Minimization in Federated Learning: Approaching Global Consistency and Smooth Landscape [59.841889495864386]
フェデレートラーニング(FL)では、グローバルサーバの協調の下で、ローカルクライアントのクラスタがチェアリングされる。
クライアントは自身のオプティマに過度に適合する傾向にあり、グローバルな目標から非常に逸脱する。
tt Family FedSMOOは、グローバルな目的に対する局所的な最適性を保証するために動的正規化器を採用する。
理論解析により, tt Family FedSMOO は, 低境界一般化による高速$mathcalO (1/T)$収束率を達成することが示された。
論文 参考訳(メタデータ) (2023-05-19T10:47:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。