論文の概要: HALO-WA: Hybrid-Attention Latent-Guided Online Reinforcement Learning for World-Action Models
- arxiv url: http://arxiv.org/abs/2607.04265v1
- Date: Sun, 05 Jul 2026 12:24:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.879736
- Title: HALO-WA: Hybrid-Attention Latent-Guided Online Reinforcement Learning for World-Action Models
- Title(参考訳): HALO-WA:世界行動モデルのためのハイブリッドアテンション遅延型オンライン強化学習
- Abstract要約: World-action(WA)モデルは、汎用ロボット操作のための長距離アクションチャンクを生成することができる。
WAモデルのためのハイブリッドアテンション型オンライン強化学習フレームワークHALO-WAを提案する。
実世界の4つの精度操作タスクにおいてHALO-WAを検証し、WAベースの平均成功率を26.4%から87.1%に改善し、19.2%で最強のベースラインを上回りました。
- 参考スコア(独自算出の注目度): 31.82968414254732
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: World-action (WA) models can generate long-horizon action chunks for general-purpose robotic manipulation, but they remain vulnerable to calibration, perception, and contact-dynamics errors in real-world precision tasks, often failing in the final few millimeters of alignment or insertion. We propose HALO-WA, a hybrid-attention latent-guided online reinforcement learning (RL) framework for WA models, which leverages latent features and action priors from the WA generation process through a lightweight actor-critic adapter to enable fast online adaptation to real deployment errors. HALO-WA introduces a hybrid-attention structure that preserves the temporal consistency of action chunks while reading task-relevant information from WA latents conditioned on visual context and end-stage correction requirements, thereby producing refined action chunks. We validate HALO-WA on four real-world precision manipulation tasks, where it improves the average success rate from 26.4\% for WA-base to 87.1\%, outperforming the strongest baseline by 19.2 percentage points while requiring only 45--75 minutes of online training per task. To facilitate reproducibility, we further conduct supplementary simulation experiments in RoboTwin and release the code at https://github.com/YeanRoot/HALO-WA.
- Abstract(参考訳): 世界行動(WA)モデルは、汎用ロボット操作のための長距離アクションチャンクを生成することができるが、実際の精度タスクにおける校正、知覚、接触力学のエラーに弱いままであり、最終的な数ミリのアライメントや挿入で失敗することが多い。
本稿では,WAモデルのためのハイブリッドアテンション型遅延型オンライン強化学習(RL)フレームワークであるHALO-WAを提案する。
HALO-WAは、視覚的コンテキストと最終段階の補正条件で条件付けられたWA潜伏者からのタスク関連情報を読みながら、アクションチャンクの時間的一貫性を保つハイブリッドアテンション構造を導入し、洗練されたアクションチャンクを生成する。
実世界の4つの精度操作タスクにおいてHALO-WAを検証し、WAベースの平均成功率は26.4\%から87.1\%に改善し、タスク毎のオンライントレーニングを45~75分しか必要とせず、最強のベースラインを19.2ポイント上回った。
再現性を高めるため、RoboTwinで補足シミュレーション実験を行い、https://github.com/YeanRoot/HALO-WAでコードを公開します。
関連論文リスト
- Amortized Low-Rank Adaptation for Model-Based Reinforcement Learning [49.3087425299849]
世界モデルでは、エージェントは行動の結果を予測することで計画を立てるが、環境の変化はそれらを不正確なものにすることができる。
既存のアプローチでは、計算コストを表現性(すなわち、あるメソッドが生成できるモデルの範囲)と引き換えにしている。
本稿では、ハイパーネットワークを用いてテスト時にアダプタを生成することで、このトレードオフに対処するCLAWを提案する。
論文 参考訳(メタデータ) (2026-09-10T23:16:40Z) - VLA-Precision: Asymmetric Co-Bootstrapping for Efficient Real-World Online RL of Vision-Language-Action Models [18.46719160646894]
事前訓練された視覚言語アクション(VLA)モデルは広い操作を可能にするが、精度と再現性を必要とするタスクでは信頼性が保たれる。
実世界のオンライン強化学習(RL)をVLAポストトレーニングに適用することで、デモだけでなく、自律的な試行錯誤の改善が可能になる。
Asymmetric Co-BootstrappingアルゴリズムとACoB-Streamアーキテクチャを特徴とする,効率的な実世界のオンラインRLフレームワークであるVLA-Precisionを提案する。
論文 参考訳(メタデータ) (2026-09-03T18:19:36Z) - TACO: TActile World Model as a Self-COrrector forScalable VLA Post-Training [79.94818813802682]
TACOは触覚を意識したワールドモデル駆動型フレームワークで,コンタクトリッチな操作において,スケーラブルなVLAポストトレーニングを実現する。
TACOは、触覚矯正をVLA後トレーニングに組み込むため、知識を取り入れた触覚適応と有利な条件のトレーニングを組み合わせる。
論文 参考訳(メタデータ) (2026-07-03T00:23:30Z) - BORA: Bridging Offline Reinforcement Learning and Online Residual Adaptation for Real-World Dexterous VLA Models [13.727092172889305]
VLA(Vision-Language-Action)モデルは、現実のロボット操作に対する視覚言語理解の基盤となる、有望なパラダイムとして登場した。
実世界のデクスタスVLAモデル用に設計されたオフライン-オンラインRLポストトレーニングフレームワークBORAを提案する。
論文 参考訳(メタデータ) (2026-05-28T16:57:47Z) - EXPO-FT: Sample-Efficient Reinforcement Learning Finetuning for Vision-Language-Action Models [84.73890225707264]
提案するEXPO-FTは,事前学習したVLAポリシーの安定かつサンプル効率の良いRL微調整システムである。
本システムは,オンラインロボットデータの平均19.1分以内の全ての評価課題に対して,完全なタスク性能(30/30の成功)を実現する。
我々は、ロボット工学におけるVLAモデルのより広範なRLファインタニング導入を促進することを目的とした、オープンソースのロバスト性をリリースする。
論文 参考訳(メタデータ) (2026-05-25T06:31:03Z) - LaST-R1: Reinforcing Robotic Manipulation via Adaptive Physical Latent Reasoning [90.86828952599147]
提案するLaST-R1(LaST-R1)は,「最近の推論・行動」政策を活用するために設計された,新しい強化学習フレームワークである。
LaST-R1 は LIBERO ベンチマークで 99.9% の平均成功率を達成した。
実世界の展開では、LaST-R1はSOTAが監督する微調整アプローチよりも22.5%平均的に改善されている。
論文 参考訳(メタデータ) (2026-04-30T17:59:52Z) - DexWorldModel: Causal Latent World Modeling towards Automated Learning of Embodied Tasks [54.32016216994156]
本稿では,DINOv3特徴を生成対象として用い,視覚ノイズから相互作用意味を乱す因果潜在世界モデル(CLWM)を提案する。
メモリスケーリングを克服するため、CLWMはDual-State Test-Time Training (TTT)メモリを備えている。
EmbodiChainは、トレーニング中に物理基底軌道の無限の流れを注入することによって効率法を確立するオンラインフレームワークである。
論文 参考訳(メタデータ) (2026-04-13T03:19:36Z) - HypeLoRA: Hyper-Network-Generated LoRA Adapters for Calibrated Language Model Fine-Tuning [0.0]
現代のトランスフォーマーベースのモデルは、しばしば誤校正に悩まされ、真の経験周波数を反映しない自信過剰な予測を生み出す。
本研究は,LoRAのキャリブレーション・ダイナミクスであるローランド適応と,新しいハイパーネットワーク・アダプティブ・フレームワークについて検討する。
論文 参考訳(メタデータ) (2026-03-01T15:53:49Z) - VLAW: Iterative Co-Improvement of Vision-Language-Action Policy and World Model [87.75549463328836]
本研究の目的は、反復的なオンラインインタラクションにより、視覚言語アクション(VLA)モデルの性能と信頼性を向上させることである。
本稿では,実世界のロールアウトデータを用いて,世界モデルの忠実度を向上する簡易な反復改善アルゴリズムを提案する。
基本方針よりも39.2%の絶対成功率向上と、生成した合成ロールアウトによるトレーニングによる11.6%の改善を実現している。
論文 参考訳(メタデータ) (2026-02-12T15:21:47Z) - Align-Then-stEer: Adapting the Vision-Language Action Models through Unified Latent Guidance [63.33213516925946]
textbfAlign-Then-stEer(textttATE)は,新しいデータ効率,プラグアンドプレイ適応フレームワークである。
我々の研究は、新しいロボットプラットフォームやタスクにVLAモデルをデプロイする実用性を大幅に向上させる、汎用的で軽量なソリューションを提供する。
論文 参考訳(メタデータ) (2025-09-02T07:51:59Z) - CO-RFT: Efficient Fine-Tuning of Vision-Language-Action Models through Chunked Offline Reinforcement Learning [7.780242426487376]
本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのための新しい強化学習フレームワークであるチャンクドRLを提案する。
このフレームワーク内では、VLAモデルの顕著な特徴であるアクションチャンキングを組み込むために、時間差(TD)学習を拡張する。
次に、限定的なデモセットを用いてVLAモデルを微調整するアルゴリズムであるCO-RFTを提案する。
論文 参考訳(メタデータ) (2025-08-04T09:11:48Z) - ConRFT: A Reinforced Fine-tuning Method for VLA Models via Consistency Policy [10.596344084789434]
VLA(Vision-Language-Action)モデルは、現実世界のロボット操作において大きな可能性を示している。
これらのモデルを教師付き学習で微調整することで、制限された一貫性のないデモのために堅牢なパフォーマンスを達成することができる。
我々は,オフラインとオンラインのファインチューニングで構成されるConRFTという,VLAモデルのための強化されたファインチューニング手法を提案する。
論文 参考訳(メタデータ) (2025-02-08T05:01:17Z) - GRAPE: Generalizing Robot Policy via Preference Alignment [58.419992317452376]
GRAPE: 優先度アライメントによるロボット政策の一般化について述べる。
GRAPEはドメイン内および未確認操作タスクにおける成功率をそれぞれ51.79%、58.20%向上させる。
GRAPEは安全性や効率、衝突速度の37.44%、ロールアウト長さの11.15%といった様々な目標に合わせることができる。
論文 参考訳(メタデータ) (2024-11-28T18:30:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。