論文の概要: How (and How Not) to Use Data Augmentation in VLA Post-Training
- arxiv url: http://arxiv.org/abs/2610.05994v1
- Date: Mon, 05 Oct 2026 08:48:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 19:39:30.53059
- Title: How (and How Not) to Use Data Augmentation in VLA Post-Training
- Title(参考訳): VLAポストトライニングでデータ拡張をどう使うか(そしてそうでないか)
- Abstract要約: 画像強調がVLA後トレーニングに与える影響を系統的に検討した。
$_0.5$とGR00T N1.5では、LIBERO-Plusでそれぞれ7.8$と10.0$ポイントのアウト・オブ・ディストリビューションが成功している。
- 参考スコア(独自算出の注目度): 11.11007361996617
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language-action (VLA) models currently demonstrate strong performance in a wide range of real-world robotics tasks. However, they often still lack the generalization ability to handle large visual out-of-distribution shifts. Post-training of VLAs with reinforcement learning (RL) has been shown to benefit robustness, but significant room for improvement remains. In this work, we systematically study the effect of image augmentation on VLA post-training. We find that it is crucial to augment only the critic module during RL updates, while leaving the actor's input clean during both rollouts and updates. For $π_{0.5}$ and GR00T N1.5 this raises out-of-distribution success on LIBERO-Plus by $7.8$ and $10.0$ points respectively, while augmenting the actor collapses training entirely. We investigate a range of augmentation types and strengths, and provide practical recommendations for improving generalization in VLA post-training.
- Abstract(参考訳): ヴィジュアル・ランゲージ・アクション(VLA)モデルは、現在、幅広い現実世界のロボティクスタスクにおいて強力なパフォーマンスを示している。
しかし、それらは大きな視覚的アウト・オブ・ディストリビューションシフトを扱う一般化能力に欠けることが多い。
強化学習(RL)によるVLAのポストトレーニングは、堅牢性に有益であることが示されているが、改善の余地は大きい。
本研究では,VLA後トレーニングにおける画像強調の効果を系統的に研究する。
ロールアウトとアップデートの両方でアクターの入力をクリーンにしながら、RLアップデートの間は批評家モジュールのみを増強することが重要であることに気付きました。
π_{0.5}$とGR00T N1.5の場合、これはLIBERO-Plusでのアウト・オブ・ディストリビューションの成功をそれぞれ7.8ドルと10.0ドルで上げ、アクターのトレーニングが完全に崩壊する。
本研究は,VLAポストトレーニングにおける多種多様な強化タイプと強みについて検討し,VLAポストトレーニングにおける一般化向上のための実践的推奨事項を提供する。
関連論文リスト
- The Low-Rank Structure of VLA Reinforcement Learning [12.712140357467346]
強化学習(Reinforcement Learning, RL)は、視覚-言語-行動モデル(VLA)の訓練後モデルに使用される。
本稿では,パラメータ空間における学習信号のエンコード方法を検討することによって,RLがVLAポリシーにどう影響するかを検討する。
論文 参考訳(メタデータ) (2026-09-28T08:32:26Z) - Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models [120.24139942108405]
ロボットデータのスケーリングは、一般のVision-Language-Action(VLA)モデルを構築する上で重要である。
固定されたロボットデータ予算の下では、継続した事前訓練は限られた軌道を伝達可能な視覚行動知識に変換する必要がある。
本稿では,VLA指向のVLMバックボーンであるVLActを提案する。
論文 参考訳(メタデータ) (2026-08-27T17:59:40Z) - Learning More from Less: Reinforcement Learning from Hindsight [19.802783289526598]
強化学習(Reinforcement Learning, RL)は、視覚-言語-行動モデル(VLA)の訓練後モデルに使用される。
我々は、実際に達成したタスクに対するロールアウトの失敗を評価して、後向きの学習をVLAの訓練後のRLにもたらすLearning from Hindsight(LfH)を紹介する。
論文 参考訳(メタデータ) (2026-07-10T02:17:41Z) - $π^{*}_{0.6}$: a VLA That Learns From Experience [66.7589999175632]
我々は、強化学習(RL)による実世界の展開を通して、視覚言語アクション(VLA)モデルがどのように改善できるかを検討する。
本稿では,Advantage- Conditioned Policies (RECAP) を用いた汎用RL法について述べる。
フルRECAP法でトレーニングした*_0.6$モデルは、実際の家庭で洗濯物を折り畳み、箱を確実に組み立て、プロのエスプレッソマシンを使ってエスプレッソドリンクを作ることができる。
論文 参考訳(メタデータ) (2025-11-18T18:58:55Z) - SimpleVLA-RL: Scaling VLA Training via Reinforcement Learning [81.7764584515496]
VLA(Vision-Language-Action)モデルは、ロボット操作の強力なパラダイムとして登場した。
これらのモデルは2つの根本的な課題に直面している。
VLAモデルに適した効率的な強化学習フレームワークであるSimpleVLA-RLを紹介する。
論文 参考訳(メタデータ) (2025-09-11T17:59:17Z) - What Can RL Bring to VLA Generalization? An Empirical Study [48.06556624096883]
VLA(Large Vision-Language Action)モデルは、AIを具現化する大きな可能性を示している。
教師付き微調整(SFT)による主な訓練は、分散シフト下での複合誤差による一般化を制限する。
本稿では,VLAの一般化評価のための総合的ベンチマークを導入し,RL微調整の影響を系統的に検討する。
論文 参考訳(メタデータ) (2025-05-26T10:19:26Z) - Refined Policy Distillation: From VLA Generalists to RL Experts [18.186499704928092]
本稿では,新しい強化学習型政策精錬法であるRefined Policy Distillation (RPD)を紹介する。
RPDはVision-Language-Action Models (VLA) を、コンパクトで高性能な専門家ポリシーに精錬・精錬する。
実験結果から,RL の学生は VLA の教師に対して,高密度かつ疎度な報酬設定で優れた専門家ポリシーを学習することができることがわかった。
論文 参考訳(メタデータ) (2025-03-06T12:52:11Z) - RLDG: Robotic Generalist Policy Distillation via Reinforcement Learning [53.8293458872774]
本稿では,RLDG(Reinforcement Learning Distilled Generalists)を提案する。
我々は、RL生成データで訓練されたジェネラリストポリシーが、人間の実演で訓練された者より一貫して優れていたことを実証する。
以上の結果から,タスク固有RLと一般政策蒸留を組み合わせることで,より有能で効率的なロボット操作システムの開発が期待できる可能性が示唆された。
論文 参考訳(メタデータ) (2024-12-13T04:57:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。