論文の概要: Decoupled Early Exits for Task-Dependent Compute Allocation in Flow-Matching VLAs
- arxiv url: http://arxiv.org/abs/2609.29382v1
- Date: Thu, 24 Sep 2026 11:10:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.858846
- Title: Decoupled Early Exits for Task-Dependent Compute Allocation in Flow-Matching VLAs
- Title(参考訳): フローマッチングVLAにおけるタスク依存型計算割当の初期出力の非結合化
- Abstract要約: フローマッチング型ビジョン・ランゲージ・アクション(VLA)モデルは、ジェネラリストロボット制御の潜在的な解決策として浮上している。
本稿では,バックボーン深度を$V$,アクションエキスパート深度を$A$,ステップを$D$とすることを提案する。
最適な計算予算はタスクに依存しており、様々なタスクは異なる軸と深さから恩恵を受ける。
- 参考スコア(独自算出の注目度): 53.20313939184399
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Flow-matching Vision-Language-Action (VLA) models have emerged as a potential solution for generalist robot control, designed by combining a pretrained Vision-Language Model (VLM) backbone with an action expert that generates continuous robot actions. While these models exhibit impressive capabilities, due to their very high number of parameters, their computational requirements are often prohibitive for robotics control. To mitigate these inefficiencies, existing methods predominantly skip VLM backbone layers with early exits or reduce denoising steps, while leaving action expert depth untouched. We propose a framework that exposes backbone depth $V$, action expert depth $A$, and denoising steps $D$ as three jointly configurable compute axes in a VLA. Starting from a pretrained VLA, we attach lightweight Exit Transformers (ET) at intermediate depths in both the backbone and the action expert, trained to distil the last layer of the policy into each exit. Furthermore, we introduce a KV Cache synthesis mechanism that manages the missing keys and values of the skipped backbone layers, allowing the action expert to exit deeper than the backbone. Finally, we show that the optimal compute budget is task-dependent, with different tasks benefiting from different axes and depths. Notably, our method does not require training the original policy from scratch, and for each exit, it increases the number of parameters by only $2.1\%$ for SmolVLA and $4.1\%$ for $π_{0.5}$. We validate our approach across two flow-matching VLAs (SmolVLA, $π_{0.5}$) and two benchmarks (LIBERO, Meta-World), revealing complementary effects: $V$ and $A$ respectively reduce FLOPs and latency, while $D$ improves both. Our joint configurations $(V,A,D)$ reduce latency by $79.2\%$ and computation (FLOPs) by $31.8\%$, while improving mean success rate by $5.6\%$.
- Abstract(参考訳): Flow-matching Vision-Language-Action(VLA)モデルは、トレーニング済みのVision-Language Model(VLM)バックボーンと、連続したロボットアクションを生成するアクションエキスパートを組み合わせた、汎用ロボット制御の潜在的なソリューションとして登場した。
これらのモデルには素晴らしい能力があるが、非常に多くのパラメーターがあるため、その計算要求はしばしばロボット工学の制御を禁止している。
これらの非効率性を軽減するために、既存の手法は、主にVLMバックボーン層を早期出口でスキップするか、あるいはデノナイジングステップを減らし、アクションエキスパートの深さを未接触のままにしておく。
本稿では,バックボーン深度を$V$,アクションエキスパート深度を$A$,ステップを$D$とすることを提案する。
事前訓練されたVLAから始まり、バックボーンとアクションエキスパートの両方の中間深さに軽量のExit Transformer (ET)を取り付け、各出口にポリシーの最後の層を除去するように訓練する。
さらに、スキップされたバックボーン層のキーと値の欠落を管理するKVキャッシュ合成機構を導入し、アクションエキスパートがバックボーンよりも深く脱出できるようにする。
最後に、最適な計算予算はタスク依存であり、各タスクは異なる軸と深さから恩恵を受けることを示す。
特に、当社の手法は元々の方針をゼロから訓練する必要はなく、出口ごとにパラメータの数をSmolVLAで2.1\%、π_{0.5}$で4.1\%だけ増やす。
2つのフローマッチングVLA (SmolVLA, $π_{0.5}$) と2つのベンチマーク (LIBERO, Meta-World) によるアプローチの有効性を検証する。
我々の共同構成$(V,A,D)$は、レイテンシを79.2 %、計算コスト(FLOP)を31.8 %、平均成功率を5.6 %に下げる。
関連論文リスト
- ReactVLA: Fast and Lightweight Reactive Robot Manipulation via Improved Mean Flow Action Generation [6.976481623762446]
textttReactVLAは、リアルタイムロボット操作のための軽量で低レイテンシなVLAフレームワークである。
textttReactVLAは、同じサイズのVLAベースラインを一貫して上回る。
現実世界のポリシーのレイテンシを38.6ミリ秒以下に短縮し、物理ロボットプラットフォームでの高速な反応性制御を可能にする。
論文 参考訳(メタデータ) (2026-06-12T08:33:37Z) - Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation [50.55853275866995]
リアルタイムのインタラクティブなビデオ生成には、低レイテンシ、ストリーミング、コントロール可能なロールアウトが必要である。
本稿では,フレームワイドの自己回帰を1~2ステップのサンプリングで行うという,よりアグレッシブな設定について検討する。
原理的かつスケーラブルなパイプラインである textbfCausal Forcing++ を提案する。
論文 参考訳(メタデータ) (2026-05-14T17:46:36Z) - A1: A Fully Transparent Open-Source, Adaptive and Efficient Truncated Vision-Language-Action Model [112.9420001646428]
VLA(Vision-Language-Action)モデルは、オープンワールドロボット操作の強力なパラダイムとして登場したが、実際の展開はコストに制約されることが多い。
我々は、低コストで高スループットな推論のために設計された、完全にオープンソースで透明なVLAフレームワークであるA1を提示する。
A1は最先端の成功率を達成すると同時に、推論コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-04-07T10:18:40Z) - $π_\texttt{RL}$: Online RL Fine-tuning for Flow-based Vision-Language-Action Models [76.66547858171452]
$pi_textRL$は、並列シミュレーションでフローベースのVision-Language-Action(VLA)モデルをトレーニングするためのオープンソースのフレームワークである。
$pi_textRL$は、数ショットのSFTモデルに$pi_0.5$を57.6%から97.6%へ、それぞれ77.1%から98.3%へ引き上げる。
ManiSkillでは、320の並列環境で$pi_textRL$をトレーニングし、$pi_textRL$を41.6%から85.7%、$pi_0.5に改善します。
論文 参考訳(メタデータ) (2025-10-29T18:37:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。