論文の概要: How Much Can We Prune? Exploring the Performance Limits of Visual Token Pruning

• arxiv url: http://arxiv.org/abs/2610.23974v1
• Date: Tue, 13 Oct 2026 06:54:48 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:56:04.622085
• Title: How Much Can We Prune? Exploring the Performance Limits of Visual Token Pruning
• Title（参考訳）: プルーネはいくらでできるのか? ビジュアルトーケンプルーニングのパフォーマンス限界を探る
• Abstract要約: 我々は、一般的な画像理解のためのプルーニングを、固定予算の下で1つの共有視覚情報サブセットを選択するものとして定式化する。 概念的単調性と視覚的エビデンスを付加するリターンの低下に動機付けられて、我々はこっそりネストされた部分集合を構築した。 保持型QAと画像接地型長大波形生成に基づいて,評価されたプルーニングベースラインよりも有意なヘッドルームが得られた。
• 参考スコア（独自算出の注目度）: 61.904702872468086
• License:
• Abstract: Visual token pruning is increasingly used to reduce the memory and inference costs of vision-language models. Existing work has largely focused on designing method-specific selectors and demonstrating incremental improvements over prior methods at selected token budgets. It remains unclear whether the resulting performance reflects an inherent limit of visual token pruning or the limitations of current token-selection algorithms. We take a complementary perspective and ask: \emph{how well can visual token pruning perform when offline search cost is not the primary constraint?} We formulate pruning for general image understanding as selecting, under a fixed budget, one shared visual-token subset that supports a broad distribution of questions about an image. We approximate this utility with a finite auxiliary QA set generated by a frontier VLM and optimize a teacher-forced answer-probability objective with the evaluated model frozen. Motivated by the conceptual monotonicity and diminishing returns of adding visual evidence, we construct nested subsets greedily and introduce \emph{QA mini-batch greedy} (QA-MBG), which estimates token marginal gains from randomly sampled QA components at each step. Empirically, QA-MBG is both cheaper and more effective than full greedy. With one frontier-VLM call and approximately $0.5$ H100 GPU-hours per image, it produces a nested subset trajectory covering keep ratios up to $0.3$. Across Qwen3-VL-4B and Gemma~4 E4B on $900$ images from nine benchmarks, we find significant headroom over evaluated pruning baselines on held-out QA and image-grounded long-form generation, while the searched subsets substantially narrow the gap to full-token inference.
• Abstract（参考訳）: 視覚トークンプルーニングは、視覚言語モデルのメモリと推論コストの削減にますます利用されている。 既存の作業は、メソッド固有のセレクタの設計と、選択されたトークン予算において、以前のメソッドよりも漸進的な改善を示すことに集中しています。 結果として得られるパフォーマンスが、ビジュアルトークンプルーニングの固有の制限や、現在のトークン選択アルゴリズムの制限を反映しているかどうかは不明だ。 オフライン検索コストが主な制約ではない場合、どのようにしてビジュアルトークンプルーニングが実行できますか? } 一般的な画像理解のためのプルーニングは、固定予算の下で、画像に関する幅広い疑問の分布をサポートする1つの共有視覚情報サブセットを選択するものとして定式化される。 我々は,このユーティリティをフロンティアVLMが生成した有限補助QAセットと近似し,教師力による回答確率の目標を凍結モデルを用いて最適化する。 概念的単調性と視覚的エビデンスを付加する帰結の減少に動機づけられたネストされた部分集合を構築し,各ステップでランダムにサンプリングされたQA成分からトークンの限界ゲインを推定する「emph{QA mini-batch greedy} (QA-MBG)」を導入する。 実証的には、QA-MBGは完全な欲求よりも安価で効果的である。 1つのフロンティアVLMコールと1イメージあたり0.5$ H100 GPU-hoursで、スネストされたサブセットのトラジェクトリを生成する。 Qwen3-VL-4B と Gemma~4 E4B を9つのベンチマークから900$のイメージで比較したところ、ホールドアウトされた QA と画像接地された長文生成に対するプルーニングベースラインの評価よりも、重要なヘッドルームが見つかった。

関連論文リスト

• SheafPrune: Sheaf-Guided Graph Propagation for Visual Token Pruning [15.166021307439081]
  SheafPruneは、モダリティ固有のマップと、スパースなテキスト-ビジュアルグラフを使用して、関連を転送する。 SheafPruneは、せん断幾何学にインスパイアされたもので、モダリティ固有のマップと粗いテキスト-視覚グラフを使って関連性を伝達する。
  論文  参考訳（メタデータ） (2026-10-09T09:15:08Z)
• Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning [67.2146856614177]
  ViMoDは、推論が進化するにつれて、元のきめ細かい証拠へのアクセスを保ちながら、コンパクトな視覚コンテキストを維持する軽量フレームワークである。 Qwen3-VL-4Bでは、ViMoDは8つの推論ベンチマークのベースラインを20%の視覚トークン予算で上回っている。
  論文  参考訳（メタデータ） (2026-10-08T14:42:57Z)
• StackTok: Accelerating VLMs Inference with Budget-Adaptive Visual Token Selection [17.809800994999225]
  StackTokはトレーニング不要のセレクタで、クエリ関連を客観的かつ視覚的なカバレッジとして扱い、予算の校正サポートとして扱う。 試験されたすべてのモデルにおいて、トレーニング不要のセレクタの中では、第1位である。 高解像度のLLaVA-NeXT-7Bでは、95.26%のフルトーケン性能を保ち、2,880 (5.6%) の視覚トークンしか持たない。
  論文  参考訳（メタデータ） (2026-09-15T08:35:57Z)
• TRACE: Trajectory-robust Admission with Evidence Ordering for Efficient GUI Agents [54.88208747581851]
  トレーニング不要のビジュアルトークンプルーニングは、このコストを削減することができるが、キャッシュ再利用には基本的な制約が伴う。 我々は,emphtextbfTrajectory-textbfrobust textbfAdmission と textbfCoverage-aware textbfEvidence ordering のためのトレーニング不要フレームワーク textbfmethod を提案する。
  論文  参考訳（メタデータ） (2026-09-09T15:12:48Z)
• STAR-Pro: Stage-Wise Token Adaptive Reduction with Progressive Refinement for Efficient Large Vision-Language Models [54.273344678561024]
  大規模視覚言語モデル(LVLM)は強力なマルチモーダル理解を実現するが、処理する数百から数千の視覚トークンは計算オーバーヘッドを課す。 視覚的トークンプルーニングの2つの相補的解析を行う。 視覚的トークンプルーニングのためのトレーニング不要な2段階フレームワークSTAR-Proを提案する。
  論文  参考訳（メタデータ） (2026-09-05T06:18:28Z)
• HAP: Head-Adaptive Visual Token Pruning via Cross-Modal Alignment [76.68875424389057]
  既存の手法では、すべての頭部に一様にテキストから視覚への注意を平均化することで、各視覚トークンをスコアリングする。 頭が不一致で 平均的に支配され 背景のトークンを増幅し きめ細かな手がかりを 吐き出す 本稿では,各頭部のプロンプトと画像領域の整合性を評価する指標であるPAQ(Prompt-Grounded Attention Quality)を提案する。
  論文  参考訳（メタデータ） (2026-08-24T23:55:36Z)
• LAST: The Last Query Token Guides Visual Token Pruning for Edge-Cloud Collaborative MLLM Inference [63.932718076408584]
  LASTは、エッジクラウド協調MLLM推論におけるクエリ依存のビジュアルトークンプルーニングのための、トレーニング不要のフレームワークである。 完全な精度の95.4%を維持し、視覚トークンの12.5%しか保持せず、エッジ側の選択オーバーヘッドは低く、クラウド側の計算は少ない。
  論文  参考訳（メタデータ） (2026-07-30T09:59:25Z)
• GOTS: Greedy Orthogonal Token Selection for High-Resolution Vision-Language Models [9.490341327220987]
  Greedy Orthogonal Token Selection (GOTS)は、視覚的トークン削減のためのトレーニング不要でクエリに依存しない方法である。 GOTSは最強評価ベースラインよりも高い平均性能保持を実現する。 OCR選択のオーバーヘッドを考慮した後、モデル側のタイム・ツー・ファースト・トークンを削減する。
  論文  参考訳（メタデータ） (2026-07-27T01:06:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。