論文の概要: OrthoSkillVLA: Continual Skill Learning via Gradient-Informed Skill Subspace Adaptation

• arxiv url: http://arxiv.org/abs/2608.19589v1
• Date: Thu, 20 Aug 2026 03:10:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-21 20:28:51.439715
• Title: OrthoSkillVLA: Continual Skill Learning via Gradient-Informed Skill Subspace Adaptation
• Title（参考訳）: OrthoSkillVLA: グラディエントインフォームドスキルサブスペース適応による継続的なスキル学習
• Abstract要約: 内部VLAコンポーネントの異なる役割を解析し、2つのVLA固有の課題を特定する。 実演を伴わない事前学習VLAモデルにおける連続的スキル学習のためのパラメータ効率のよいフレームワークであるOrthoSkillVLAを提案する。 出力層では,各スキルがコンパクトな専門家に割り当てられ,トレーニング不要なルータが特徴空間親和性に応じて専門家を選択する,軽量な特徴認識型MoEデコーダを導入する。
• 参考スコア（独自算出の注目度）: 12.232846303286161
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pretrained Vision-Language-Action models provide a strong foundation for robot learning, but sequentially adapting them to diverse skills can perturb the representations and velocity mappings used by previous skills, leading to catastrophic forgetting. Architecture-based approaches improve retention by isolating skills but lead to increased inference footprint. Recent subspace-constrained methods restrict parameter updates in an orthogonal subspace to minimize interference but impose a unified constraint on the entire model. We analyze the distinct roles of internal VLA components and identify two VLA-specific challenges. First, the VLM maintains broad semantic representations, making it vulnerable to capacity exhaustion, whereas the ActionHead refines semantics into localized velocity patterns that are highly sensitive to perturbations. Second, the final velocity decoder serves as a readout layer. Freezing it forms an output-stage expressivity bottleneck, while updating it risks overwriting previous velocity mappings. To this end, we propose OrthoSkillVLA, a parameter-efficient framework for continual skill learning in pretrained VLA models without demonstration replay. Given the representation heterogeneity, we impose separate subspace constraints on the VLM and ActionHead, preserving reusable semantic capacity while protecting localized velocity patterns. For the output layer, we introduce a lightweight feature-aware MoE decoder, where each skill is allocated a compact expert and a training-free router selects the expert according to feature-space affinity. Extensive simulated and real-world evaluations, together with ablations, demonstrate that OrthoSkillVLA better preserves prior skills while acquiring new ones.
• Abstract（参考訳）: 事前訓練されたビジョン・ランゲージ・アクションモデルは、ロボット学習の強力な基盤を提供するが、それらを多様なスキルに順次適応させることで、以前のスキルが用いた表現や速度マッピングを混乱させ、破滅的な忘れ物へと繋がる。 アーキテクチャベースのアプローチは、スキルの分離による保持を改善するが、推論フットプリントの増加につながる。 最近の部分空間制約法は、干渉を最小限に抑えるために直交部分空間のパラメータ更新を制限するが、モデル全体に統一的な制約を課す。 内部VLAコンポーネントの異なる役割を解析し、2つのVLA固有の課題を特定する。 まず、VLMは広範囲なセマンティック表現を維持し、キャパシティの枯渇に弱い一方、ActionHeadはセマンティクスを摂動に非常に敏感な局所的な速度パターンに洗練する。 第二に、最終速度デコーダは読み出し層として機能する。 凍結は出力ステージの表現力のボトルネックを形成し、更新は以前のベロシティマッピングを上書きするリスクを負う。 そこで本研究では,プレトレーニング済みVLAモデルにおいて,実演を伴わない連続的スキル学習のためのパラメータ効率のよいフレームワークであるOrthoSkillVLAを提案する。 表現の不均一性を考慮し,VLMとActionHeadに異なる部分空間制約を課し,局所的な速度パターンを保護しながら再利用可能なセマンティックキャパシティを保持する。 出力層では,各スキルがコンパクトな専門家に割り当てられ,トレーニング不要なルータが特徴空間親和性に応じて専門家を選択する,軽量な特徴認識型MoEデコーダを導入する。 大規模なシミュレートと実世界の評価は、Ablationsとともに、OrthoSkillVLAが新しいスキルを取得しながら、以前のスキルをよりよく保存することを示した。

関連論文リスト

• TASSO: TAsk-Specific Subspace Optimization for Continual Learning of Vision-Language Models [16.338978271294973]
  ネットワークの可塑性を確保しつつ、遅延空間形状を効率的に保存する新しいパラダイムであるTASSOを紹介する。 我々はこれを,部分空間学習と幾何学的知識蒸留という2つの補完的手法で実現した。 マルチドメインタスクインクリメンタルおよびクラスインクリメンタル学習ベンチマークにおけるCLIPビジョン言語モデルの結果は、最先端メソッドよりも明らかに改善されている。
  論文  参考訳（メタデータ） (2026-08-21T12:18:14Z)
• S-squared-VLA: Decoupling Semantic and Spatial Streams in Vision-Language-Action Models for Autonomous Driving [8.813976817688605]
  VLM(Vision-Language Models)は、自律運転における高レベルの推論に顕著な可能性を示している。 VLMは、個別の言語トークンと連続的な軌道計画のミスマッチによって、正確で低レベルな制御アクションを生成するのに苦労する。 本稿では,視覚・言語・行動モデルにおける意味的・空間的ストリームを明示的に分離するS-squared-VLAを提案する。
  論文  参考訳（メタデータ） (2026-07-15T15:07:02Z)
• Hierarchical Dual-Subspace Decoupling for Continual Learning in Vision-Language Models [63.169731309799324]
  クラスインクリメンタルラーニングは、学習前の情報を保存しながら、新たな知識を継続的に獲得することを目的としており、破滅的な忘れを軽減している。 視覚言語モデルにおける連続学習のための階層型デュアルサブスペースデカップリングフレームワークであるHDSDを提案する。 具体的には、パラメータ空間を一般およびタスク固有の部分空間に明示的に分解する軽量な特徴変調モジュール(FMM)を導入する。
  論文  参考訳（メタデータ） (2026-05-08T09:42:05Z)
• DIAL: Decoupling Intent and Action via Latent World Modeling for End-to-End VLA [72.9197085473598]
  DIALはハイレベルな意思決定と低レベルなモーター実行を、差別化可能な潜在意図ボトルネックを通じてブリッジするフレームワークである。 VLMベースのSystem-2は、VLMのネイティブな特徴空間内で、潜伏した視覚的フォレストによって潜伏世界モデリングを行う。 軽量のSystem-1ポリシーでは、この予測された意図と現在の観測結果を正確にロボットの動作にデコードする。
  論文  参考訳（メタデータ） (2026-03-31T15:02:27Z)
• StPR: Spatiotemporal Preservation and Routing for Exemplar-Free Video Class-Incremental Learning [79.44594332189018]
  CIL(Class-Incremental Learning)は、以前取得した知識を使わずに、時間とともに新しいアクションカテゴリを継続的に学習するモデルの開発を目指している。 既存のアプローチでは、メモリとプライバシに関する懸念を忘れたり、あるいは時間的モデリングを無視する静的なイメージベースのメソッドを適用したりする。 本稿では,情報を明示的に切り離して保存する,統一的で非定型なVCILフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-20T06:46:51Z)
• Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
  そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。 自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。 筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
  論文  参考訳（メタデータ） (2024-07-11T10:35:53Z)
• Visual Prompt Tuning in Null Space for Continual Learning [51.96411454304625]
  既存のプロンプトチューニング手法は、継続学習(CL)における印象的な性能を示す。 本稿では,従来のタスクの特徴に代表される部分空間に直交する方向のプロンプトを調整し,各タスクを学習することを目的とする。 実際には、即時勾配予測を実装するために、実効的なヌル空間に基づく近似解が提案されている。
  論文  参考訳（メタデータ） (2024-06-09T05:57:40Z)
• Towards Continual Learning Desiderata via HSIC-Bottleneck Orthogonalization and Equiangular Embedding [55.107555305760954]
  本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。 提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
  論文  参考訳（メタデータ） (2024-01-17T09:01:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。