論文の概要: ID-Selection: Importance-Diversity Based Visual Token Selection for Efficient LVLM Inference

• arxiv url: http://arxiv.org/abs/2604.05601v1
• Date: Tue, 07 Apr 2026 08:52:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.72376
• Title: ID-Selection: Importance-Diversity Based Visual Token Selection for Efficient LVLM Inference
• Title（参考訳）: ID選択:効率的なLVLM推論のための重要度に基づくビジュアルトークン選択
• Authors: Zhaohong Huang, Wenjing Liu, Yuxin Zhang, Fei Chao, Rongrong Ji,
• Abstract要約: ID選択は、効率的なLVLM推論のための単純だが効果的なトークン選択戦略である。 統一選択プロセスにおける冗長性を低減しつつ、情報トークンを保存する。 5つのLVLMバックボーンと16のベンチマークによる実験は、ID選択が一貫して優れたパフォーマンスと効率を達成することを示した。
• 参考スコア（独自算出の注目度）: 58.28899599773308
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances have explored visual token pruning to accelerate the inference of large vision-language models (LVLMs). However, existing methods often struggle to balance token importance and diversity: importance-based methods tend to retain redundant tokens, whereas diversity-based methods may overlook informative ones. This trade-off becomes especially problematic under high reduction ratios, where preserving only a small subset of visual tokens is critical. To address this issue, we propose ID-Selection, a simple yet effective token selection strategy for efficient LVLM inference. The key idea is to couple importance estimation with diversity-aware iterative selection: each token is first assigned an importance score, after which high-scoring tokens are selected one by one while the scores of similar tokens are progressively suppressed. In this way, ID-Selection preserves informative tokens while reducing redundancy in a unified selection process. Extensive experiments across 5 LVLM backbones and 16 main benchmarks demonstrate that ID-Selection consistently achieves superior performance and efficiency, especially under extreme pruning ratios. For example, on LLaVA-1.5-7B, ID-Selection prunes 97.2% of visual tokens, retaining only 16 tokens, while reducing inference FLOPs by over 97% and preserving 91.8% of the original performance, all without additional training.
• Abstract（参考訳）: 近年,大規模視覚言語モデル (LVLM) の推論を高速化するために,視覚トークンプルーニングの研究が進められている。 しかし、既存の手法はトークンの重要性と多様性のバランスをとるのに苦労することが多く、重要度に基づく手法は冗長なトークンを保持する傾向にある。 このトレードオフは、視覚トークンの小さなサブセットだけを保存することが重要となる、高い還元比の下で特に問題となる。 この問題に対処するために,効率的なLVLM推論のための簡易かつ効果的なトークン選択戦略であるID-Selectionを提案する。 各トークンはまず重要度スコアが割り当てられ、その後、類似トークンのスコアが徐々に抑制される一方で、ハイスコアトークンが1つずつ選択される。 このようにして、ID選択は、統一選択プロセスにおける冗長性を低減しつつ、情報トークンを保存する。 5つのLVLMバックボーンと16のベンチマークによる大規模な実験により、ID-Selectionは、特に極端なプルーニング比の下で、常に優れた性能と効率を達成することが示された。 例えば、LLaVA-1.5-7Bでは、ID-Selectionは視覚トークンの97.2%を占め、16トークンしか保持せず、推論FLOPを97%以上削減し、元のパフォーマンスの91.8%を保存している。

関連論文リスト

• TokenSeek: Memory Efficient Fine Tuning via Instance-Aware Token Ditching [82.13572707265513]
  ファインチューニングは、下流タスクに大規模言語モデルを適用するためのデファクトアプローチとみなされてきた。 TokenSeekは,様々なトランスフォーマーモデルに対する汎用的なプラグインソリューションで,インスタンス認識型トークン探索と破棄を実現する。
  論文  参考訳（メタデータ） (2026-01-27T15:58:36Z)
• D2Pruner: Debiased Importance and Structural Diversity for MLLM Token Pruning [49.16227597771663]
  D2Prunerは、デバイアスされた重要性と構造的なプルーニングメカニズムを組み合わせたフレームワークである。 FLOPを74.2%削減し、元の性能の99.2%を維持した。 既存の手法に比べて63.53%も改善されている。
  論文  参考訳（メタデータ） (2025-12-22T14:42:31Z)
• ssToken: Self-modulated and Semantic-aware Token Selection for LLM Fine-tuning [51.133569963553576]
  ssTokenは自己変調されたセマンティックなToken Selectionアプローチである。 自己変調の選択とセマンティック・アウェアの選択の両方が、フルデータの微調整よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-10-21T03:21:04Z)
• Don't Just Chase "Highlighted Tokens" in MLLMs: Revisiting Visual Holistic Context Retention [50.97683288777336]
  MLLM(Multimodal Large Language Models)は、巨大な視覚トークンに依存するため、計算オーバーヘッドがかなり大きい。 近年の研究では、この問題を緩和するためにトークンプルーニングが検討されている。 本稿では,効率的な推論のためのビジュアルトークン・プルーニング・フレームワークであるHoloVを提案する。
  論文  参考訳（メタデータ） (2025-10-03T11:33:40Z)
• When Less is Enough: Adaptive Token Reduction for Efficient Image Representation [2.2120851074630177]
  より価値の低い特徴を、より価値の高いものから再構築できるという考えに基づいて、特徴ユーティリティを決定する新しい方法を提案する。 我々は、オートエンコーダとGumbel-Softmax選択機構を統合することで、この概念を実装した。 本結果は,適応的かつ効率的なマルチモーダルプルーニングに向けた有望な方向を示すものである。
  論文  参考訳（メタデータ） (2025-03-20T19:17:08Z)
• Adaptive Sparse ViT: Towards Learnable Adaptive Token Pruning by Fully Exploiting Self-Attention [36.90363317158731]
  最小限のコストで適応的なスパーストークンプルーニングフレームワークを提案する。 提案手法では,DeiT-Sのスループットを50%向上し,トップ1の精度は0.2%低下した。
  論文  参考訳（メタデータ） (2022-09-28T03:07:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。