論文の概要: One Token Per Frame: Reconsidering Visual Bandwidth in World Models for VLA Policy
- arxiv url: http://arxiv.org/abs/2605.07931v2
- Date: Mon, 11 May 2026 13:35:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 19:24:01.429819
- Title: One Token Per Frame: Reconsidering Visual Bandwidth in World Models for VLA Policy
- Title(参考訳): フレームごとのワントークン:VLA政策のための世界モデルにおける視覚帯域の再検討
- Abstract要約: 視覚言語アクション(VLA)モデルは、長い地平線を計画するために補助的な世界モジュールにますます依存している。
OneWM-VLAは、Adaptive Attention Poolingを通じて、各ビューをフレーム毎に単一のセマンティックトークンに圧縮する。
フレームごとの視覚的帯域幅を1つのトークンに減らすことができ、長い水平性能を損なうことなく実現できる。
- 参考スコア(独自算出の注目度): 20.112404170033944
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-language-action (VLA) models increasingly rely on auxiliary world modules to plan over long horizons, yet how such modules should be parameterized on top of a pretrained VLA remains an open design question. Existing world-model-augmented VLAs typically pass the per-frame visual stream into the world module at high visual bandwidth and treat its rollout as a side product of action prediction; under a constrained adaptation budget on a frozen backbone, this leaves both the per-frame representation and the latent action coupling under-examined. We introduce OneWM-VLA, which compresses each view into a single semantic token per frame through an Adaptive Attention Pooling, and produces the resulting latent stream and the action trajectory under a single flow-matching objective rather than connecting them through a separate decoder. Empirically, we find that per-frame visual bandwidth can be reduced to a single token without compromising long-horizon performance under our setup. Trained with 14.71M LoRA parameters on a $π_0$ (2B) backbone, OneWM-VLA improves the average success rate from 47.9% to 61.3% on MetaWorld~MT50, reaches 95.6% on LIBERO-Long (vs.85.2% for $π_0$), and reaches 60.0% on the long-horizon deformable task Fold Cloth on a real Piper arm (vs.20.0% for $π_0$).
- Abstract(参考訳): 視覚言語アクション(VLA)モデルは、長い地平線を計画するために補助的な世界モジュールにますます依存しているが、事前訓練されたVLAの上にそのようなモジュールをどのようにパラメータ化すべきかは、オープンデザインの問題のままである。
既存のワールドモデル拡張VLAは通常、フレーム単位のビジュアルストリームを高い視覚帯域幅で世界モジュールに渡し、ロールアウトをアクション予測の副産物として扱う。
本稿では,各ビューをアダプティブ・アテンション・プール(Adaptive Attention Pooling)を通じてフレーム毎に1つのセマンティック・トークンに圧縮するOneWM-VLAを提案する。
実験により,フレーム単位の視覚的帯域幅を1つのトークンに削減できることがわかった。
π_0$ (2B) のバックボーン上で 14.71M LoRA パラメータでトレーニングされた OneWM-VLA は、MetaWorld~MT50 で 47.9% から 61.3% に改善され、LIBERO-Long で 95.6% (vs.85.2% for $π_0$) に達し、長い水平変形可能なタスク Fold Cloth で 60.0% (vs.20.0% for $π_0$) に達する。
関連論文リスト
- Beyond Data Scaling: Representation-Centric Continued Pre-training for Vision-Language-Action Models [120.24139942108405]
ロボットデータのスケーリングは、一般のVision-Language-Action(VLA)モデルを構築する上で重要である。
固定されたロボットデータ予算の下では、継続した事前訓練は限られた軌道を伝達可能な視覚行動知識に変換する必要がある。
本稿では,VLA指向のVLMバックボーンであるVLActを提案する。
論文 参考訳(メタデータ) (2026-08-27T17:59:40Z) - TurboVLA: Real-Time Vision-Language-Action Model at 32 Hz on an RTX 4090 with <1 GB VRAM [48.08028534478592]
視覚言語アクション(VLA)モデルは一般的にLLM中心の$VをLからA$経路に採用する。
我々は,従来の$V から L への変換を,直接$V + L から A$ への写像として行う新しい VLA パラダイムである TurboVLA を導入する。
LIBEROでは、TurboVLAは平均97.7%成功し、0.2Bパラメータと31.2msの推論遅延、0.9GBの推論VRAMしか得られなかった。
論文 参考訳(メタデータ) (2026-07-29T17:59:58Z) - CrossVLA: Cross-Paradigm Post-Training and Inference Optimization for Vision-Language-Action Models [7.489020109808801]
われわれは,クロスパラダイム・ビジョン・ランゲージ・アクション(VLA)のポストトレーニングに関する実証的研究であるCrossVLAを報告する。
i) 確率フローODE統合なしでDPOを連続動作バックボーンで操作できる代理フローマッチングログ確率推定器、(ii) VLA DPOのパラメータ係数層としてのLoRAとDoRAの頭と頭の比較、(iii) ノイズループを示す推論時間解剖学は、サンプル_actions遅延の78.6%、プレフィックス-K/Vキャッシングのラを支配している。
論文 参考訳(メタデータ) (2026-05-21T01:02:41Z) - Latent Bridge: Feature Delta Prediction for Efficient Dual-System Vision-Language-Action Model Inference [22.977205925809134]
本稿では,VLM出力の時間差を推定する軽量モデルであるLatent Bridgeを提案する。
ラテントブリッジは95-100%の性能維持を実現し、VLMコールを50-75%削減し、エピソード当たり1.65-1.73xネットのスピードアップを実現している。
論文 参考訳(メタデータ) (2026-05-04T15:37:55Z) - A1: A Fully Transparent Open-Source, Adaptive and Efficient Truncated Vision-Language-Action Model [112.9420001646428]
VLA(Vision-Language-Action)モデルは、オープンワールドロボット操作の強力なパラダイムとして登場したが、実際の展開はコストに制約されることが多い。
我々は、低コストで高スループットな推論のために設計された、完全にオープンソースで透明なVLAフレームワークであるA1を提示する。
A1は最先端の成功率を達成すると同時に、推論コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-04-07T10:18:40Z) - UAV-Track VLA: Embodied Aerial Tracking via Vision-Language-Action Models [14.433739259355406]
複雑な現実世界のタスクを実行する無人航空機(UAV)にとって、身体的視線追跡は不可欠である。
このような環境でのマルチモーダルトラッキングをベンチマークするために,890Kのフレーム,176のタスク,85の多様なオブジェクトを含む大規模データセットを構築した。
本稿では,$_0.5$アーキテクチャ上に構築した改良型VLA追跡モデルUAV-Track VLAを提案する。
論文 参考訳(メタデータ) (2026-04-02T16:33:38Z) - PIO-FVLM: Rethinking Training-Free Visual Token Reduction for VLM Acceleration from an Inference-Objective Perspective [59.24570811503256]
本稿では,視覚モデル(VLM)における冗長な視覚トークンを減らし,推論を高速化するPIO-FVLMを提案する。
提案されているPIO-FVLMは、トレーニングフリーで、FlashAttentionと互換性があり、実用的なアプリケーションやデプロイメントに親しみやすい。
LLaVA-Next-7Bでは、PIO-FVLMは視覚トークンの11.1%しか保持していないが、オリジナルのパフォーマンスの97.2%を維持している。
論文 参考訳(メタデータ) (2026-02-04T15:33:10Z) - VLA Models Are More Generalizable Than You Think: Revisiting Physical and Spatial Modeling [60.341503853471494]
本稿では,新しいカメラ視点と視覚摂動の下で,視覚言語行動モデルが急激に劣化することを示す。
本稿では,軽量で学習可能な更新によって視覚表現を再分類するワンショット適応フレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-02T16:16:13Z) - Learning Hyperspectral Images with Curated Text Prompts for Efficient Multimodal Alignment [1.7188280334580195]
我々は、CLIPスタイルのコントラストトレーニングフレームワークを利用して、超スペクトルシーン理解のための視覚言語モデル(VLM)の最適化を試みる。
我々のフレームワークは、視覚バックボーンから凍結した大きな埋め込みモデルの潜在空間へのボクセルレベルの埋め込みをマッピングする。
提案手法は全パラメータの0.07パーセントしか更新していないが、最先端の性能が得られる。
論文 参考訳(メタデータ) (2025-09-20T23:23:04Z) - MMG-Vid: Maximizing Marginal Gains at Segment-level and Token-level for Efficient Video LLMs [67.75865317787708]
MMG-Vidは、ビデオ理解のためのトレーニング不要なビジュアルトークンプルーニングフレームワークである。
MMG-Vidはオリジナルのパフォーマンスの99.5%以上を維持でき、視覚トークンの75%を効果的に削減できることを示す。
論文 参考訳(メタデータ) (2025-08-28T17:50:03Z) - CoMP: Continual Multimodal Pre-training for Vision Foundation Models [72.3323674291719]
我々は、VFM(Vision Foundation Models)をマルチモーダルな方法で継続的に事前訓練する。
我々は、慎重に設計されたマルチモーダル事前学習パイプラインであるCoMPを紹介する。
DINOv2、SigLIP、AIMv2のような主要なVFMは、マルチモーダル理解タスクにおいて著しく改善されている。
論文 参考訳(メタデータ) (2025-03-24T17:52:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。