論文の概要: Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?

• arxiv url: http://arxiv.org/abs/2606.27755v1
• Date: Fri, 26 Jun 2026 06:22:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-29 18:24:25.394314
• Title: Drop-Then-Recovery: How Redundant Are Vision-Language-Action Models?
• Title（参考訳）: Drop-Then-Recovery:ビジョン・ランゲージ・アクション・モデルとは?
• Abstract要約: VLA(Vision-Language-Action)モデルは、命令駆動型ロボット操作を可能にするが、事前訓練されたVLMから過大な言語バックボーンを継承する。 クローズドループ制御には,実際にVLAモデルがどの程度必要か,という疑問が浮かび上がっています。 本稿では, 変圧器ブロック除去を制御介入として用いたVLAモデルのアーキテクチャ冗長性について検討する。
• 参考スコア（独自算出の注目度）: 33.83065196198769
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-Language-Action (VLA) models enable instruction-driven robotic manipulation, but they inherit oversized language backbones from pretrained VLMs whose capacity far exceeds what is needed for short robotic instructions. This raises a basic question: how much of a VLA model is actually necessary for closed-loop control? In this work, we study architectural redundancy in VLA models by using transformer block removal as a controlled intervention. We introduce \textbf{Drop-Then-Recovery (DTR)}, an analysis protocol that removes selected blocks from a pretrained VLA model and then fine-tunes the resulting model to measure whether the removed capacity was necessary for downstream control. To make this intervention reliable, we propose \textbf{GateProbe}, a one-shot virtual-gate sensitivity metric that ranks blocks by their contribution to the downstream action loss. Across multiple VLA architectures, manipulation benchmarks and even real-robot industrial scenarios, we find a strong asymmetry in post-removal recoverability: \ul{\textit{language backbones are highly redundant for standard robotic manipulation tasks, whereas vision and action pathways are substantially less tolerant to removal}}. On LIBERO, removing half of the LLM blocks even improves OpenVLA-OFT from 95.0% to 98.3% under the same downstream fine-tuning budget, and retaining only two language blocks still recovers baseline-level performance. These results suggest that current VLA benchmarks may exert limited pressure on deep language grounding and compositional instruction understanding, and that future VLA architectures should allocate capacity more deliberately across language, vision, and action components. The code is available at https://github.com/s1ghhh/VLADrop.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、命令駆動型ロボット操作を可能にするが、短いロボット命令に必要な能力を超えている事前訓練されたVLMから、過大な言語バックボーンを継承する。 クローズドループ制御には,実際にVLAモデルがどの程度必要か,という疑問が浮かび上がっています。 本研究では,変圧器ブロック除去を制御介入として用いて,VLAモデルのアーキテクチャ冗長性について検討する。 本稿では,事前訓練されたVLAモデルから選択されたブロックを除去し,削除された容量が下流制御に必要かどうかを判断する分析プロトコルであるtextbf{Drop-Then-Recovery (DTR)を紹介した。 この介入を信頼性の高いものにするために、下流のアクション損失への寄与によってブロックをランク付けするワンショット仮想ゲート感度指標である \textbf{GateProbe} を提案する。 複数のVLAアーキテクチャ、操作ベンチマーク、さらには実ロボットの産業シナリオにおいて、除去後の回復性には強い非対称性がある: \ul{\textit{言語バックボーンは標準的なロボット操作タスクには非常に冗長である。 LIBEROでは、LLMブロックの半分を取り除くことで、同じダウンストリーム微調整予算の下でOpenVLA-OFTを95.0%から98.3%に改善し、2つの言語ブロックのみがベースラインレベルのパフォーマンスを回復した。 これらの結果は、現在のVLAベンチマークは、深い言語基盤と構成的命令理解に限定的な圧力を与える可能性があることを示唆し、将来のVLAアーキテクチャは、言語、ビジョン、アクションコンポーネントにわたって、より意図的にキャパシティを割り当てるべきであることを示唆している。 コードはhttps://github.com/s1ghhh/VLADrop.comで公開されている。

関連論文リスト

• V-Link: Recovering Lost Visual Representations in Action DiT for Vision-Language-Action Models [19.466602886959866]
  本稿では,視覚言語(VL)から機能伝達(A)までの視覚的表現を明示的に復元するV-Linkを提案する。 V-LinkはベースモデルGR00T N1.6よりも平均成功率を+1.9%、+31.2%、+18.8%向上させることを示した。 AGIBOT A3 Ultraでは、V-Linkはさらに2つの現実世界のヒューマノイドタスクで+20%と+24%のゲインを達成している。
  論文  参考訳（メタデータ） (2026-08-26T02:32:18Z)
• CLAP: Direct VLM-to-VLA Adaptation via Language-Action Grounding [16.03159066719039]
  CLAP(Causal Language-Action Prediction)は、自然言語アクション記述で各数値アクションシーケンスをプリペイドする。 CLAP は 0.8B, 2B, 4B で,単一の VLM 系統からオープンウェイトでマルチスケールのコンパクト VLA ファミリとしてリリースする。
  論文  参考訳（メタデータ） (2026-07-09T22:34:11Z)
• ReactVLA: Fast and Lightweight Reactive Robot Manipulation via Improved Mean Flow Action Generation [6.976481623762446]
  textttReactVLAは、リアルタイムロボット操作のための軽量で低レイテンシなVLAフレームワークである。 textttReactVLAは、同じサイズのVLAベースラインを一貫して上回る。 現実世界のポリシーのレイテンシを38.6ミリ秒以下に短縮し、物理ロボットプラットフォームでの高速な反応性制御を可能にする。
  論文  参考訳（メタデータ） (2026-06-12T08:33:37Z)
• Sentinel-VLA: A Metacognitive VLA Model with Active Status Monitoring for Dynamic Reasoning and Error Recovery [62.75419724651416]
  textbfSentinel-VLAは,リアルタイム実行状況を監視するアクティブセンチネルモジュールを備えたメタ認知型VLAモデルである。 すべてのトレーニングデータは、設計したパイプラインを通じて自動生成され、注釈付けされます。 実世界の実験では、Sentinel-VLAはSOTAモデルであるPI0と比較してタスク成功率を30%以上向上することを示した。
  論文  参考訳（メタデータ） (2026-05-02T02:10:54Z)
• VLA-Forget: Vision-Language-Action Unlearning for Embodied Foundation Models [0.10742675209112619]
  OpenVLAスタイルのポリシーでは、動作は融合したビジュアルエンコーダ、クロスモーダルプロジェクタ、トークン化されたロボットアクションを予測する言語バックボーンを通じて生成される。 VLA-Forgetは、認識のための比認識選択的編集と、層選択的推論/アクションアンラーニングを組み合わせたハイブリッドアンラーニングフレームワークである。
  論文  参考訳（メタデータ） (2026-04-05T04:23:18Z)
• RoboAlign: Learning Test-Time Reasoning for Language-Action Alignment in Vision-Language-Action Models [58.83401587988675]
  RoboAlignは視覚言語アクションモデル(VLA)を訓練し、マルチモーダル理解を低レベルのアクションに変換する。 我々のキーとなる考え方は、ゼロショット自然言語推論を用いてアクショントークンをサンプリングし、この推論を強化学習(RL)を用いて洗練し、アクション精度を向上させることである。 RoboAlignは、それぞれLIBERO、CALVIN、現実世界の環境におけるSFTベースラインよりも17.5%、18.9%、106.6%の性能向上を実現している。
  論文  参考訳（メタデータ） (2026-03-22T17:57:55Z)
• Don't Run with Scissors: Pruning Breaks VLA Models but They Can Be Recovered [11.873633681272096]
  VLA(Vision-Language-Action)モデルには高度なロボット機能があるが、リソース限定のハードウェアへの展開は困難である。 GLUESTICKは,初期モデルの機能の多くを復元し,スパーシティの利点を保ちながら回収する手法である。
  論文  参考訳（メタデータ） (2025-10-09T17:07:30Z)
• Discrete Diffusion VLA: Bringing Discrete Diffusion to Action Decoding in Vision-Language-Action Policies [62.653984010274485]
  VLA(Vision-Language-Action)モデルは、画像や命令をロボットアクションにマッピングするために、大きな視覚言語バックボーンを適応させる。 prevailingAsは、固定された左から右への順序で自動回帰的にアクションを生成するか、バックボーンの外側で分離または拡散ヘッドをアタッチする。 本稿では離散拡散を伴う離散化作用チャンクをモデル化する統一変換器ポリシである離散拡散VLAを提案する。
  論文  参考訳（メタデータ） (2025-08-27T17:39:11Z)
• From Intention to Execution: Probing the Generalization Boundaries of Vision-Language-Action Models [5.660635614478238]
  VLA(Vision-Language-Action)モデルは、汎用的で汎用的なロボットポリシーを作成することを約束する。 従来の模倣学習ベンチマークは言語命令の欠如のため不適当である。 言語命令,視覚,オブジェクトにまたがる10のサブカテゴリにまたがる50のシミュレーションベースのタスクの統合スイートを導入する。
  論文  参考訳（メタデータ） (2025-06-11T16:52:18Z)
• CoT-VLA: Visual Chain-of-Thought Reasoning for Vision-Language-Action Models [89.44024245194315]
  視覚言語行動モデル(VLA)に明示的な視覚連鎖(CoT)推論を組み込む手法を提案する。 視覚およびアクショントークンの理解と生成が可能な最先端の7B VLAであるCoT-VLAを紹介する。 実験の結果,CoT-VLAは実世界の操作タスクでは17%,シミュレーションベンチマークでは6%,最先端のVLAモデルでは6%,高い性能を示した。
  論文  参考訳（メタデータ） (2025-03-27T22:23:04Z)
• HAMSTER: Hierarchical Action Models For Open-World Robot Manipulation [54.03004125910057]
  階層型視覚-言語-アクションモデルは、標準的なモノリシックVLAモデルよりも、ドメイン外のデータを利用するのに効果的であることを示す。 階層設計により、高レベルなVLMは、オフドメイン微調整データと実ロボットテストシナリオの間の重要なドメインギャップをまたいで転送可能であることを示す。
  論文  参考訳（メタデータ） (2025-02-08T07:50:22Z)
• OpenVLA: An Open-Source Vision-Language-Action Model [131.74098076670103]
  我々は、970kの現実世界のロボットデモの多様なコレクションに基づいて訓練されたオープンソースのVLAであるOpenVLAを紹介した。 OpenVLAは汎用的な操作の強力な結果を示し、RT-2-X (55B) のようなクローズドモデルよりも16.5%高い絶対的なタスク成功率を示した。 モデルチェックポイント、微調整ノートブック、そしてOpen X-Embodimentデータセット上で大規模にVLAをトレーニングするためのビルトインサポートを備えたPyTorchをリリースしています。
  論文  参考訳（メタデータ） (2024-06-13T15:46:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。