論文の概要: DRAP: Dynamics-Risk Adaptive Plasticity for Continual Learning in Physical AI
- arxiv url: http://arxiv.org/abs/2611.05029v1
- Date: Tue, 03 Nov 2026 15:05:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 14:59:06.798238
- Title: DRAP: Dynamics-Risk Adaptive Plasticity for Continual Learning in Physical AI
- Title(参考訳): DRAP: 物理AIにおける連続学習のための動的リスク適応塑性
- Abstract要約: 物理AIにおける連続的な学習は、ステップごとのポリシーエラーが1つの軌道上に蓄積されるため、従来の連続的な学習とは異なる。
この研究は、適応可能なモデルテンソルの歴史的重要性を推定するリプレイフリーな手法であるDynamics-Risk Adaptive Plasticity (DRAP)を導入している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual learning in physical AI differs from conventional continual learning because small per-step policy errors can accumulate over a trajectory. Each deviation may move the agent outside the training distribution, increase subsequent prediction errors, and ultimately cause closed-loop task failure. This work introduces Dynamics-Risk Adaptive Plasticity (DRAP), a replay-free method that estimates the historical importance of adaptable model tensors from sample-level action gradients weighted by local trajectory-amplification risk. A ridge-regularized local linear model is fitted to expert state-action transitions, and the largest singular value of its state-transition matrix provides a policy-independent, Lyapunov-inspired estimate of one-step perturbation amplification. After each task, risk-weighted squared gradients are accumulated in a tensor-level importance memory. During subsequent tasks, DRAP uses normalized cumulative importance to scale the effective AdamW learning rate of each tensor, immediately reducing the plasticity of components that supported previous behavior at dynamically sensitive trajectory points. We instantiate DRAP on a fixed KappaTune-selected subnetwork of OpenVLA and evaluate replay-free sequential adaptation across the LIBERO Spatial, Object, and Goal suites. Compared with standard AdamW fine-tuning and EWC, the results show substantially improved retention of previously learned behaviors while preserving strong new-suite acquisition.
- Abstract(参考訳): 物理AIにおける連続的な学習は、ステップごとのポリシーエラーが1つの軌道上に蓄積されるため、従来の連続的な学習とは異なる。
各逸脱は、エージェントをトレーニング分布外に移動させ、その後の予測エラーを増やし、最終的にはクローズループタスクの失敗を引き起こす。
この研究は、局所軌道増幅リスクによって重み付けられたサンプルレベルの作用勾配から適応可能なモデルテンソルの歴史的重要性を推定するリプレイフリー手法であるDynamics-Risk Adaptive Plasticity (DRAP)を導入している。
リッジ規則化された局所線形モデルは、専門家の状態-作用遷移に適合し、その状態-遷移行列の最大の特異値は、ポリシーに依存しないリャプノフにインスパイアされた1ステップの摂動増幅の推定を提供する。
各タスクの後、リスク重み付き2乗勾配はテンソルレベルの重要メモリに蓄積される。
その後のタスクにおいて、DRAPは正規化された累積的重要度を用いて、各テンソルの効果的なAdamW学習率を拡大し、動的に敏感な軌道点において以前の動作をサポートするコンポーネントの可塑性を即座に低減する。
我々は,OpenVLAの固定KappaTune選択サブネットワーク上でDRAPをインスタンス化し,LIBERO空間,オブジェクト,ゴールスイート間の再生不要な逐次適応を評価する。
標準のAdamWファインチューニングやEWCと比較すると、学習前の動作の保持が大幅に改善され、かつ、より強力な新規買収が守られた。
関連論文リスト
- IADD-TR: Intervention-Aware Dynamics Decoupling with Targeted Regularization for Model-Based Reinforcement Learning [57.16513298507272]
IADD-TRは、IADD(Intervention-Aware Dynamics Decoupling)とTR(Targeted Regularization)を組み合わせた統合フレームワークである。
IADDは、ゼロアクションアンカーを用いて、アクション干渉段階とアクションフリー自然進化段階への遷移を分解し、堅牢な一般化のためにこの2段階の分解の非特異性を解決する。
政策学習においては,リプレイ状態の政策段階関数の効率的な影響関数からTRを導出する。
論文 参考訳(メタデータ) (2026-08-11T08:20:02Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - Inference-Time Machine Unlearning via Gated Activation Redirection [1.1699531043716684]
ゲーテッド・アクティベーション・リダイレクト(GUARD-IT)による推論時間学習の導入
GUARD-ITは入力依存のアクティベーションステアリングを推論時に解き放ち、モデルの重みはそのまま残す。
TOFUとMUSEの実験では、GUARD-ITは3つのモデルスケールで12の勾配ベースラインと一致するか、あるいは超えている。
論文 参考訳(メタデータ) (2026-05-12T21:26:25Z) - Power Reinforcement Post-Training of Text-to-Image Models with Super-Linear Advantage Shaping [66.25536973294726]
テキスト・トゥ・イメージ(T2I)モデルのポストトレーニング手法はハッキングに報いる傾向がある。
SLAS(Super-Linear Advantage Shaping)は、地方政策の分野を再考する。
SLASは、DanceGRPOベースラインを複数のバックボーンとベンチマークで一貫して上回っている。
論文 参考訳(メタデータ) (2026-05-11T17:59:25Z) - Analytic Drift Resister for Non-Exemplar Continual Graph Learning [23.86709351309769]
Non-Exemplar Continual Graph Learning (NECGL)は、リハーサルベースのパラダイムに固有のプライバシーリスクを取り除くことを目的としている。
NECGLフレームワークであるADR(Analytic Drift Resister)を提案する。
ADRは反復的バックプロパゲーションを利用して、凍結した事前訓練された制約から解放する。
論文 参考訳(メタデータ) (2026-04-03T01:58:11Z) - Entropy-Guided Token Dropout: Training Autoregressive Language Models with Limited Domain Data [89.96277093034547]
本研究では,エントロピー誘導型トークンドロップアウト方式であるEntroDropを導入する。
本稿では,EntroDropが標準正規化ベースラインを一貫して上回り,拡張型マルチエポックトレーニングを通じて堅牢な性能を維持していることを示す。
論文 参考訳(メタデータ) (2025-12-29T12:35:51Z) - Preserving Plasticity in Continual Learning with Adaptive Linearity Injection [10.641213440191551]
ディープニューラルネットワークにおける可塑性の喪失は、漸進的に学習するモデルの能力が徐々に低下することである。
近年の研究では、深い線形ネットワークは可塑性の喪失に対して弾力性があることが示されている。
適応線形化(AdaLin)は,各ニューロンの活性化機能を動的に適応し,可塑性損失を軽減する一般的な手法である。
論文 参考訳(メタデータ) (2025-05-14T15:36:51Z) - Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。
本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。
以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
論文 参考訳(メタデータ) (2023-09-15T17:10:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。