論文の概要: RECALL: Recovery Experience Collection for Active Lifelong Learning in Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2606.23617v1
- Date: Mon, 22 Jun 2026 17:12:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 17:42:13.969738
- Title: RECALL: Recovery Experience Collection for Active Lifelong Learning in Vision-Language-Action Models
- Title(参考訳): RECALL:ビジョン・ランゲージ・アクションモデルにおけるアクティブな生涯学習のためのリカバリ体験コレクション
- Authors: Ulas Berk Karli, Tesca Fitzgerald,
- Abstract要約: 本稿では,ビジョン・ランゲージ・アクション(VLA)モデルに対するアクティブかつ連続的な学習パラダイムを提案する。
我々は、アクティブで不確実性の誘導されたデータ収集が、パッシブ・コレクト・デモを使用する場合よりも、より効率的な微調整をもたらすことを示した。
また、アクティブに収集したリカバリデータのみを微調整することで、破滅的な忘れがもたらされることもわかりました。
- 参考スコア(独自算出の注目度): 1.7157586976839874
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-Language-Action (VLA) models are commonly fine-tuned through passive imitation learning, where additional demonstrations are collected for tasks where the policy performs poorly. This approach incurs several downsides: it requires the robot to fail before data collection is triggered, provides little guidance about which states require supervision, and wastes demonstrator effort on redundant parts of the task where the policy already performs well. In this paper, we propose an active, continual learning paradigm for VLAs. We demonstrate that active, uncertainty-guided data collection leads to more efficient fine-tuning than when using passively-collected demonstrations. However, we also find that fine-tuning only on actively-collected recovery data leads to catastrophic forgetting. We evaluate techniques for continual learning, including replay-based data mixing and elastic weight consolidation, and identify tradeoffs between plasticity to uncertainty-guided recovery data and retention of previously learned behaviors. Overall, our work contributes an empirical study of active continual learning for autoregressive VLAs, establishing that uncertainty-guided recovery demonstrations can improve adaptation efficiency while also revealing open challenges when targeted new data is incorporated into large robot policies.
- Abstract(参考訳): VLA(Vision-Language-Action)モデルは通常、受動的模倣学習によって微調整される。
このアプローチは、データ収集がトリガーされる前にロボットが失敗する必要があり、どの状態が監督を必要とするかについてのガイダンスがほとんど得られず、ポリシーがすでにうまく機能しているタスクの冗長な部分に対する実証的な努力が無駄になる、といういくつかの欠点を生んでいる。
本稿では,VLAのためのアクティブな連続学習パラダイムを提案する。
我々は、アクティブで不確実性の誘導されたデータ収集が、パッシブ・コレクト・デモを使用する場合よりも、より効率的な微調整をもたらすことを示した。
しかし、アクティブに収集されたリカバリデータのみを微調整することで、破滅的な忘れがもたらされることもわかりました。
再生型データ混合と弾性重み付けを含む連続学習手法の評価を行い, 塑性と不確実性誘導型回復データとのトレードオフと, 事前学習行動の保持について検討した。
本研究は, 自己回帰型VLAに対する能動連続学習の実証的研究に寄与し, 不確実性誘導型回復デモは適応効率を向上させるとともに, 対象とする新たなデータを大規模ロボットポリシーに組み込んだ場合のオープンな課題を明らかにした。
関連論文リスト
- Forget Less, Retain More: A Lightweight Regularizer for Rehearsal-Based Continual Learning [51.07663354001582]
ディープニューラルネットワークは破滅的な忘れ込みに悩まされ、新しいタスクのトレーニング後に以前のタスクのパフォーマンスが低下する。
本稿では,メモリベースの手法と正規化手法の交わりに着目し,この問題に対処する新しいアプローチを提案する。
我々は、メモリベース連続学習法において、情報最大化(IM)正則化と呼ばれる正規化戦略を定式化する。
論文 参考訳(メタデータ) (2025-12-01T15:56:00Z) - RESample: A Robust Data Augmentation Framework via Exploratory Sampling for Robotic Manipulation [35.01431111972725]
VLA(Vision-Language-Action Model)は、模倣学習を通じて複雑なロボット操作タスクにおいて顕著な性能を示す。
探索サンプリングにより,RESample という自動 OOD データ拡張フレームワークを提案する。
LIBEROベンチマークと実世界のロボット操作タスクについて広範な実験を行い、resampleがVLAモデルの安定性と一般化能力を一貫して改善することを実証した。
論文 参考訳(メタデータ) (2025-10-20T15:21:12Z) - Reinforcement Learning via Implicit Imitation Guidance [49.88208134736617]
自然なアプローチは、訓練中の正規化や参照ポリシーの取得など、模倣学習の目的を取り入れることである。
提案手法では,条件に付加されたノイズによる探索を導出するための先行データのみを用いて,明示的な行動クローニング制約の必要性を回避することを提案する。
提案手法は、7つの模擬連続制御タスクにまたがるオフライン手法による事前強化学習よりも最大2~3倍向上する。
論文 参考訳(メタデータ) (2025-06-09T07:32:52Z) - Reassessing Active Learning Adoption in Contemporary NLP: A Community Survey [7.428771158422113]
教師付き学習は、通常時間がかかり高価であるデータアノテーションに依存している。
アノテーションコストを削減するための長年の戦略はアクティブラーニングであり、人間はモデルによって情報化されていると考えられるデータインスタンスにのみ注釈を付ける。
我々は,NLPコミュニティにおけるオンライン調査を実施し,現在実施されている実践,アプリケーションにおける共通障害,アクティブラーニングの今後の展望について,これまで無形であった知見を収集する。
論文 参考訳(メタデータ) (2025-03-12T18:00:04Z) - Towards Effective Evaluations and Comparisons for LLM Unlearning Methods [97.2995389188179]
本稿では,大規模言語モデルにおける機械学習評価の精度向上を図る。
評価指標の堅牢性と、競合する目標間のトレードオフという、2つの重要な課題に対処します。
論文 参考訳(メタデータ) (2024-06-13T14:41:00Z) - Reverse Forward Curriculum Learning for Extreme Sample and Demonstration Efficiency in Reinforcement Learning [17.092640837991883]
強化学習(Reinforcement Learning, RL)は、環境相互作用を通じてポリシーを学ぶための有望な枠組みである。
ひとつの方向性として、オフラインデータによるRLの拡張による望ましいタスクの実証があるが、過去の作業では、多くの高品質なデモデータが必要になることが多い。
提案手法における逆カリキュラムと前方カリキュラムの組み合わせ(RFCL)は,実演とサンプル効率を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2024-05-06T11:33:12Z) - ALP: Action-Aware Embodied Learning for Perception [60.64801970249279]
認知のための行動認識型身体学習(ALP)について紹介する。
ALPは、強化学習ポリシーと逆ダイナミクス予測目標を最適化することにより、行動情報を表現学習に組み込む。
ALPは、複数の下流認識タスクにおいて、既存のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-16T21:51:04Z) - Responsible Active Learning via Human-in-the-loop Peer Study [88.01358655203441]
我々は,データプライバシを同時に保持し,モデルの安定性を向上させるために,Pear Study Learning (PSL) と呼ばれる責任あるアクティブラーニング手法を提案する。
まず,クラウドサイドのタスク学習者(教師)から未学習データを分離する。
トレーニング中、タスク学習者は軽量なアクティブ学習者に指示し、アクティブサンプリング基準に対するフィードバックを提供する。
論文 参考訳(メタデータ) (2022-11-24T13:18:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。