論文の概要: MAC-v2: Long-horizon model-based value expansion from pixels
- arxiv url: http://arxiv.org/abs/2611.07245v1
- Date: Wed, 04 Nov 2026 23:51:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.471878
- Title: MAC-v2: Long-horizon model-based value expansion from pixels
- Title(参考訳): MAC-v2:Long-Horizonモデルに基づく画素からの値展開
- Abstract要約: 本研究では,Emphlong-Horizonモデルに基づく値拡張が,画素ベースのオフライン強化学習において有効なフレームワークであるかどうかを考察する。
そこで我々はMAC-v2を導入し,アクションチャンキングによる再構成不要な潜在世界モデルをトレーニングすることにより,長軸モデルによる画素からの展開を可能にする。
- 参考スコア(独自算出の注目度): 54.486848660619216
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study whether \emph{long-horizon model-based value expansion} can serve as an effective framework in pixel-based offline reinforcement learning (RL). Long-horizon model-based value expansion from pixels is substantially harder than state-based environments, as the agent must learn both the representation and its dynamics, and errors from either can accumulate recursively over imagined trajectories. We introduce MAC-v2, which enables long-horizon model-based expansion from pixels by training a reconstruction-free latent world model with action chunking. By learning representations from prediction and control objectives, MAC-v2 does not need to encode control-irrelevant visual details that can hinder the dynamics prediction. Action chunking further mitigates the prediction error by reducing the number of recursive model predictions required for value expansion. Across diverse visual benchmarks including visual OGBench, MMBench2, Robomimic, and LIBERO-10, MAC-v2 achieves strong performance against model-free and model-based offline RL baselines. Our analyses show that long-horizon model-based value expansion is critical for the performance of MAC-v2, and that both action chunking and latent learning objectives are essential for reliable long-horizon latent imagination.
- Abstract(参考訳): 画素ベースオフライン強化学習(RL)において, 'emph{long-horizon model-based value expansion} が有効なフレームワークとなるかを検討した。
長期水平モデルに基づく画素からの値展開は、エージェントが表現とダイナミクスの両方を学ぶ必要があるため、状態ベースの環境よりもかなり難しい。
そこで我々はMAC-v2を導入し,アクションチャンキングによる再構成不要な潜在世界モデルをトレーニングすることにより,長軸モデルによる画素からの展開を可能にする。
MAC-v2は、予測と制御対象から表現を学習することにより、動的予測を妨げるコントロール非関連な視覚的詳細を符号化する必要がない。
アクションチャンキングは、値展開に必要な再帰的モデル予測の数を減らすことにより、予測誤差をさらに軽減する。
ビジュアルOGBench, MMBench2, Robomimic, LIBERO-10など、さまざまなビジュアルベンチマークの他、MAC-v2はモデルフリーおよびモデルベースオフラインRLベースラインに対して強力なパフォーマンスを実現している。
分析の結果,MAC-v2の性能には長軸モデルに基づく値展開が重要であり,アクションチャンキングと潜時学習の両目的が信頼性の高い長軸潜在的想像力には不可欠であることが示唆された。
関連論文リスト
- Generative Actor Critic [74.04971271003869]
Generative Actor Critic (GAC) は、軌道上での関節分布の生成モデル学習として、テキスト政治評価を反映して、シーケンシャルな意思決定を分離する新しいフレームワークである。
Gym-MuJoCoとMaze2Dベンチマークの実験では、GACの強いオフライン性能と、最先端の手法と比較してオフラインからオフラインへの大幅な改善が示されている。
論文 参考訳(メタデータ) (2025-12-25T06:31:11Z) - Scalable Offline Model-Based RL with Action Chunks [60.80151356018376]
モデルに基づく強化学習が、オフラインRLにおける複雑で長期のタスクに対処するためのスケーラブルなレシピを提供するかどうかを検討する。
我々はこのレシピを textbfModel-based RL with Action Chunks (MAC) と呼ぶ。
MAC はオフラインモデルベース RL アルゴリズムの中で,特に長期的タスクにおいて,最高の性能を発揮することを示す。
論文 参考訳(メタデータ) (2025-12-08T23:26:29Z) - FARMER: Flow AutoRegressive Transformer over Pixels [39.864972164994946]
本稿では,正規化フロー(NF)と自己回帰(AR)モデルを統一した新しいエンドツーエンド生成フレームワークを提案する。
FARMERは非可逆自己回帰流を用いて画像を潜在シーケンスに変換し、その分布は自己回帰モデルによって暗黙的にモデル化される。
FARMERは,既存の画素ベース生成モデルと比較して,競合性能が高いことを示す。
論文 参考訳(メタデータ) (2025-10-27T17:54:08Z) - DriveVLA-W0: World Models Amplify Data Scaling Law in Autonomous Driving [52.63591791507895]
将来の画像の予測に世界モデリングを利用するトレーニングパラダイムである textbfDriveVLA-W0 を提案する。
このタスクは、運転環境の基礎となる力学を学ぶためにモデルを補完する密集した自己教師信号を生成する。
NAVSIM v1/v2ベンチマークと680倍の社内データセットの実験は、DriveVLA-W0がBEVとVLAのベースラインを大きく上回っていることを示している。
論文 参考訳(メタデータ) (2025-10-14T17:59:47Z) - Stabilize the Latent Space for Image Autoregressive Modeling: A Unified Perspective [52.778766190479374]
遅延ベース画像生成モデルは、画像生成タスクにおいて顕著な成功を収めた。
同じ遅延空間を共有するにもかかわらず、自己回帰モデルは画像生成において LDM や MIM よりもかなり遅れている。
本稿では,画像生成モデルのための遅延空間を安定化する,単純だが効果的な離散画像トークン化手法を提案する。
論文 参考訳(メタデータ) (2024-10-16T12:13:17Z) - SIGMA:Sinkhorn-Guided Masked Video Modeling [69.31715194419091]
SIGMA (Sinkhorn-guided Masked Video Modelling) は、新しいビデオ事前学習法である。
時空管の特徴を,限られた数の学習可能なクラスタに均等に分散する。
10個のデータセットによる実験結果から,より高性能で時間的,堅牢な映像表現を学習する上で,SIGMAの有効性が検証された。
論文 参考訳(メタデータ) (2024-07-22T08:04:09Z) - Can AI be enabled to dynamical downscaling? A Latent Diffusion Model to mimic km-scale COSMO5.0\_CLM9 simulations [0.0]
ダウンスケーリング技術は、地球システムモデリングにおけるディープラーニング(DL)の最も顕著な応用の1つである。
本研究では,イタリア上空のERA5データを2kmまでダウンスケールするために,LDM(Latent Diffusion Model)を適用した。
我々のゴールは、最近の生成モデリングの進歩により、DLが数値力学モデルに匹敵する結果をもたらすことを実証することである。
論文 参考訳(メタデータ) (2024-06-19T15:20:28Z) - Value Memory Graph: A Graph-Structured World Model for Offline
Reinforcement Learning [35.5986167075913]
強化学習法(Reinforcement Learning, RL)は、一般的に、ポリシーを学ぶために環境に直接適用される。
オリジナル環境を抽象化するシンプルで離散的な世界モデルの構築を目指しています。
D4RLベンチマークを用いた実験により,VMGはゴール指向タスクにおいて,最先端のオフラインRLメソッドより優れることが示された。
論文 参考訳(メタデータ) (2022-06-09T09:51:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。