論文の概要: Beyond Token Importance: Preserving Spatial Scaffolds for Efficient Vision-Language-Action Inference

• arxiv url: http://arxiv.org/abs/2609.36967v1
• Date: Tue, 29 Sep 2026 08:03:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.310161
• Title: Beyond Token Importance: Preserving Spatial Scaffolds for Efficient Vision-Language-Action Inference
• Title（参考訳）: トークンの重要性を超えて:効率的な視覚・言語・行動推論のための空間的サッホールドの保存
• Abstract要約: 既存のVLAプルーニング戦略は主にタスクレベルの意味的関連性に応じて個々の視覚トークンを選択する。 我々は,各画像を空間領域に分割する訓練不要なビジュアルトークン解析手法GeoScaffoldを提案する。 pi 0.5 と LIBERO では、GeoScaffold は平均成功率93.2%を維持しながら視覚トークンの20%しか保持せず、1.78倍のプリフィルスピードアップを達成している。
• 参考スコア（独自算出の注目度）: 32.95683010001968
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing VLA pruning strategies primarily select individual visual tokens according to task-level semantic relevance, while overlooking the spatial information required for robotic manipulation. To examine this limitation, we construct a simple Stride baseline that uniformly samples tokens along the flattened one-dimensional visual sequence, representing a purely geometric pruning strategy. Surprisingly, Stride outperforms semantic pruning and random pruning at certain pruning ratios, but collapses when the token budget is only slightly reduced. We characterize this phenomenon through the spatial coverage radius, defined as the largest spatial blind spot induced by the retained token set after pruning. Our analysis reveals a strong correlation between the spatial structure of retained tokens and task success, suggesting that reliable VLA pruning requires preserving not only task-relevant tokens but also the spatial scaffold of the scene. Motivated by this diagnosis, we propose GeoScaffold, a training-free visual token pruning method that partitions each image into spatial regions, allocates inter-region token budgets using task-relevance weights, and selects intra-region scaffold tokens via farthest point sampling to reduce the local coverage radius. On pi 0.5 and LIBERO, GeoScaffold retains only 20% of visual tokens while preserving a 93.2% average success rate, and achieves a 1.78 times prefill speedup over the unpruned baseline.
• Abstract（参考訳）: 既存のVLAプルーニング戦略は、ロボット操作に必要な空間情報を見越しながら、タスクレベルの意味的関連性に応じて個々の視覚トークンを選択する。 この制限を検討するために、平らな1次元の視覚列に沿ってトークンを均一にサンプリングする単純なStrideベースラインを構築し、純粋に幾何学的なプルーニング戦略を示す。 意外なことに、Strideはセマンティックプルーニングとランダムプルーニングを特定のプルーニング比で上回るが、トークンの予算がわずかに減少すると崩壊する。 我々は,この現象を,プルーニング後の保持トークンによって引き起こされる空間的盲点として定義される空間的範囲半径によって特徴づける。 分析の結果,保持トークンの空間構造とタスク成功との相関が強く,信頼性の高いVLAプルーニングには,タスク関連トークンだけでなく,シーンの空間的足場も保存する必要があることが示唆された。 この診断に触発されたGeoScaffoldは、各画像を空間領域に分割し、タスク関連重みを用いた地域間トークン予算を割り当て、極端点サンプリングによる地域内足場トークンを選択し、局所被覆半径を減少させる、訓練不要なビジュアルトークンプルーニング手法である。 pi 0.5 と LIBERO では、GeoScaffold は平均成功率 93.2% を維持しながら視覚トークンの 20% しか保持せず、未処理のベースライン上で 1.78 倍のプリフィルスピードアップを達成している。

関連論文リスト

• Cut-ViT: Task-Specific Model Pruning via Gram Anchoring Subspace Consistency [71.81785123423516]
  そこで本稿では,視覚基盤モデルのプルーニングのためのタスク固有のプルーニングパイプラインであるCut-ViTを提案する。 基底非依存および残留制約は、ネイティブモデルとプルーニングされたDINOv3モデルのグラム部分空間を整列するために採用される。 実験によると、Cut-ViTは1つのA100 GPU上で1分程度必要であり、様々な範囲で作業を行うことができる。
  論文  参考訳（メタデータ） (2026-08-28T11:25:36Z)
• PARCEL: Pool-Anchored Resampling with Conditioned Elastic Queries for Efficient Vision-Language Understanding [88.17174909130188]
  LVLM(Large Vision-Language Models)は、視覚的な入力を高密度なトークンシーケンスにマッピングし、推論に二次的な計算ボトルネックを与える。 特徴抽出の労力を動的に分配する視覚トークン化アーキテクチャであるPARCELを紹介する。 PARCELは、既存のマトリシカベースラインを「一度にトレーニングし、どこにでもデプロイする」パラダイムを保ちながら、視覚障害者の予算で一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2026-05-28T15:57:31Z)
• Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models [52.78477729846771]
  本稿では,COAST(Contrastive Adaptive Semantic Token Pruning)について紹介する。 COASTはトークン予算をまたいだ強力なプルーニングベースラインを一貫して上回り、複数のLVLMファミリをまたいだ一般化を実現している。
  論文  参考訳（メタデータ） (2026-05-10T09:07:04Z)
• VLM-Pruner: Buffering for Spatial Sparsity in an Efficient VLM Centrifugal Token Pruning Paradigm [18.604455802016233]
  視覚言語モデル(VLM)は画像理解タスクに優れるが、多数の視覚トークンは計算コストを大幅に上回る。 VLM-Prunerは、冗長性と空間空間幅のバランスをとる訓練不要なトークンプルーニングアルゴリズムである。 VLM-Prunerは5つのVLMにおいて88.9%のプルーニングレートで強いベースラインを一貫して上回り、エンドツーエンドの推論スピードアップを実現している。
  論文  参考訳（メタデータ） (2025-12-02T12:30:05Z)
• Don't Just Chase "Highlighted Tokens" in MLLMs: Revisiting Visual Holistic Context Retention [50.97683288777336]
  MLLM(Multimodal Large Language Models)は、巨大な視覚トークンに依存するため、計算オーバーヘッドがかなり大きい。 近年の研究では、この問題を緩和するためにトークンプルーニングが検討されている。 本稿では,効率的な推論のためのビジュアルトークン・プルーニング・フレームワークであるHoloVを提案する。
  論文  参考訳（メタデータ） (2025-10-03T11:33:40Z)
• Training-Free Token Pruning via Zeroth-Order Gradient Estimation in Vision-Language Models [16.540220733551823]
  VLM(Large Vision-Language Models)は、強力なマルチモーダル推論を実現するが、冗長な視覚トークンから重い推論コストを発生させる。 注意に基づく手法は、しばしばレイヤやヘッド間で不安定な生の注意スコアに依存する。 簡単な直感に基づいて構築されたトレーニング不要のフレームワークとして,我々の提案する。
  論文  参考訳（メタデータ） (2025-09-29T14:20:05Z)
• AiluRus: A Scalable ViT Framework for Dense Prediction [95.1313839257891]
  視覚変換器 (ViT) は、その優れた性能のため、視覚タスクの一般的なアーキテクチャとして登場した。 本稿では,画像の異なる領域に対して,その重要度に応じて適応分解能を適用することを提案する。 提案手法を3つの異なるデータセット上で評価し,有望な性能を観察する。
  論文  参考訳（メタデータ） (2023-11-02T12:48:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。