論文の概要: Data-Free Continual Learning for World Action Model with Rectified Generative Replay
- arxiv url: http://arxiv.org/abs/2610.18038v2
- Date: Wed, 14 Oct 2026 11:46:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.575759
- Title: Data-Free Continual Learning for World Action Model with Rectified Generative Replay
- Title(参考訳): 正規化生成再生を用いた世界行動モデルのためのデータ自由連続学習
- Abstract要約: WAMは,過去を再現することで,データのない連続学習を実現することができることを示す。
本稿では,タスク完了時に生成したロールアウトを切断する修正生成再生(R$2$-WAM)を提案する。
我々の分析は、WAMが生成した動作が失敗しながらも、まだ忘れられたWAMが以前のタスクの視覚的に妥当な観察を生んでいることを明らかにしている。
- 参考スコア(独自算出の注目度): 90.37377840364985
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: World action models (WAMs) built on pretrained video generation models adapt quickly to new robotic tasks, but they forget previously learned tasks under sequential fine-tuning. Experience replay (ER) mitigates such forgetting by rehearsing data of previous tasks, yet this data is often unavailable in robotics, where a policy is deployed as weights only and its training data is not shared along with it. In this work, we ask whether a WAM can achieve data-free continual learning by regenerating its own past. Our key observation is that a WAM can indeed autoregressively regenerate complete rollouts of previously learned tasks and replay them to mitigate forgetting. However, replaying such raw rollouts still lags far behind replaying real data, which we attribute to two issues. First, the WAM is unable to recognize task completion and keeps generating purposeless motion after the task is done. Second, under open-loop generation, the generated actions gradually drift away from the generated observations. To address both issues, we present rectified generative replay (R$^2$-WAM), which truncates generated rollouts at task completion with an agentic evaluator and filters out rollouts whose actions are physically inconsistent with the observations. On the four LIBERO suites and five real-world tasks, R$^2$-WAM reduces forgetting by over 90% relative to sequential fine-tuning and nearly matches ER without accessing any data from previous tasks. Our analysis further reveals that forgetting in WAMs concentrates in inverse dynamics modeling: a forgotten WAM still produces visually plausible observations of previous tasks while its generated actions fail. Project page: https://kaipengfang.github.io/r2-wam/
- Abstract(参考訳): 事前訓練されたビデオ生成モデルに基づいて構築されたワールドアクションモデル(WAM)は、新しいロボットタスクに迅速に適応するが、彼らはシーケンシャルな微調整の下で学習したタスクを忘れる。
経験的リプレイ(ER)は、以前のタスクのデータリハーサルによってそのような忘れを省くが、このデータは、ウェイトのみとしてポリシーがデプロイされ、トレーニングデータがそれと共有されないロボット工学では利用できないことが多い。
本研究では、WAMが過去を再生することで、データなし連続学習を達成できるかどうかを問う。
我々のキーとなる観察は、WAMが以前に学んだタスクの完全なロールアウトを自動回帰的に再生し、それをリプレイすることで忘れを軽減できるということです。
しかし、そのような生のロールアウトのリプレイは、実際のデータのリプレイよりもずっと遅れています。
第一に、WAMはタスク完了を認識することができず、タスク完了後、目的のない動作を生成し続ける。
第2に、オープンループ生成下では、生成されたアクションは、生成された観測から徐々に遠ざかる。
両課題に対処するため, エージェント評価器を用いてタスク完了時に生成されたロールアウトを切断し, 物理的に不整合なロールアウトをフィルタする修正生成再生(R$^2$-WAM)を提案する。
4つのLIBEROスイートと5つの実世界のタスクにおいて、R$^2$-WAMはシーケンシャルな微調整に比べて90%以上忘れを減らし、以前のタスクからのデータにアクセスせずにERとほぼ一致する。
我々の分析により、WAMの忘れ物は逆ダイナミクスモデリングに集中していることが判明した: 忘れられたWAMは、生成した動作が失敗している間に、以前のタスクの視覚的にもっとも有効な観察を生成します。
プロジェクトページ:https://kaipengfang.github.io/r2-wam/
関連論文リスト
- What Limits Cross-Task Generalization in World Action Models? [18.06137256005677]
世界行動モデル(WAM)のクロスタスク一般化は依然として困難である。
本稿では,大規模ロボットデータに基づくカメラ空間逆力学モデルであるAlign Once, Evaluate Everywhere (AoE)を紹介する。
記録された未確認タスクの動作から復元された動作は、ほとんど実行され、デモが再生されるのに対して、世界モデルによって予測される動作は、ベンチマーク間で崩壊する。
論文 参考訳(メタデータ) (2026-10-12T12:02:51Z) - RIFAR: Reliability and Forgetting-Aware Replay for Continual Robot Learning [19.306966085188694]
RIFARは信頼性スクリーニングとドリフト対応のリプレイ選択を組み合わせる。
コンパクトなデモプレフィックスからトラジェクトリを再構築する。
LIBERO-Goalでは90.97AUCを達成し、タスクごとに320のタイムステップしか保持していない。
論文 参考訳(メタデータ) (2026-10-02T10:01:17Z) - What Makes World Action Models Generalize? An Empirical Study of Test-Time Future Modeling [60.33876128319945]
世界行動モデル(WAM)は、トレーニング中の行動と共に未来を予測する。
WAMは、分散処理タスクにおいて明示的なタスクと一致するが、もともとWAMを動機付けていた一般化の利点を保たないことがわかった。
提案するSimple-WAMは,将来のモデリングを完全ノイズ付きビデオトークンの1つの前方通過に単純化する。
論文 参考訳(メタデータ) (2026-09-28T11:56:57Z) - World Action Models Enable Continual Imitation Learning with Recurrent Generative Replays [20.499876853160206]
世界行動モデル(WAM)は将来の視覚的観察を生成することができる。
Recurrent Generative Replay (REGEN)を提案するために,この生成機能を活用している。
REGENは、以前のタスク命令と現在のタスク観察にのみ条件付けられた擬似再生軌道を合成する。
論文 参考訳(メタデータ) (2026-06-25T17:59:56Z) - P-RAG: Progressive Retrieval Augmented Generation For Planning on Embodied Everyday Task [94.08478298711789]
Embodied Everyday Taskは、インボディードAIコミュニティで人気のあるタスクである。
自然言語命令は明示的なタスクプランニングを欠くことが多い。
タスク環境に関する知識をモデルに組み込むには、広範囲なトレーニングが必要である。
論文 参考訳(メタデータ) (2024-09-17T15:29:34Z) - Enhancing Consistency and Mitigating Bias: A Data Replay Approach for Incremental Learning [93.90047628101155]
ディープラーニングシステムは、一連のタスクから学ぶとき、破滅的な忘れがちだ。
これを解決するために、新しいタスク学習中に過去のタスクからのデータを再生する手法を提案する。
しかし、メモリの制約やデータプライバシーの問題により、実際には期待できない。
論文 参考訳(メタデータ) (2024-01-12T12:51:12Z) - Shared and Private VAEs with Generative Replay for Continual Learning [1.90365714903665]
継続的学習は、学習済みのタスクを忘れずに新しいタスクを学習しようとする。
既存のartificial neural network (ann)モデルのほとんどは失敗するが、人間は生涯にわたって過去の作品を思い出して同じことをする。
我々は,MNIST,Permuted MNIST(QMNIST),CIFAR100,MiniImageNetデータセットなどの視覚的連続学習ベンチマークにおいて,このハイブリッドモデルの有効性を示す。
論文 参考訳(メタデータ) (2021-05-17T06:18:36Z) - COG: Connecting New Skills to Past Experience with Offline Reinforcement
Learning [78.13740204156858]
我々は、動的プログラミングによって新しいスキルを拡張するために、事前データを再利用できることを示します。
我々は、新しいタスクを解決するために、以前のデータセットに見られるいくつかの動作をチェーンすることで、アプローチの有効性を実証する。
我々は、高次元画像観察を低レベルのロボット制御コマンドにマッピングし、エンドツーエンドでポリシーを訓練する。
論文 参考訳(メタデータ) (2020-10-27T17:57:29Z) - Generative Feature Replay with Orthogonal Weight Modification for
Continual Learning [20.8966035274874]
生成的再生は、破滅的な忘れを和らげるために、以前のタスクの擬似データを生成し再生する有望な戦略である。
生成モデルを用いて垂直層の特徴を再現することを提案する; 2) 自己監督型補助タスクを活用して特徴の安定性をさらに向上する。
いくつかのデータセットにおける実験結果から,我々の手法は常に強力なOWMよりも大幅に改善されていることが分かる。
論文 参考訳(メタデータ) (2020-05-07T13:56:22Z) - Generalized Hindsight for Reinforcement Learning [154.0545226284078]
1つのタスクを解決しようとするときに収集された低リワードデータは、そのタスクを解決するための信号をほとんど、あるいは全く提供しない、と我々は主張する。
本稿では,動作を適切なタスクで再現するための近似逆強化学習手法であるGeneralized Hindsightを提案する。
論文 参考訳(メタデータ) (2020-02-26T18:57:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。