論文の概要: ET-Prune: Evidence-Aware Dynamic Budgeting for Visual Token Pruning in Text-Rich MLLMs
- arxiv url: http://arxiv.org/abs/2608.01979v1
- Date: Mon, 03 Aug 2026 09:42:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.475238
- Title: ET-Prune: Evidence-Aware Dynamic Budgeting for Visual Token Pruning in Text-Rich MLLMs
- Title（参考訳）: ET-Prune:テキストリッチMLLMにおける視覚的トーケンプルーニングのためのエビデンス対応動的予算化
- Abstract要約: 本稿では,エビデンスアロケーションとしてプルーニングをキャストするトレーニングフリーフレームワークET-Pruneを紹介する。
これはデコーダ側の部分的なクエリキーブロックから、質問条件のエビデンスを導き出す。
テキストのような空間領域を保護し、証拠の不確実性と密度をサンプル固有のトークンフロアに変換する。
- 参考スコア（独自算出の注目度）: 37.20525993006875
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Visual token pruning reduces the inference cost of multimodal large language models, but a fixed token ratio is poorly matched to text-rich inputs. In OCR-centric tasks, decisive evidence can be a small number, label, or field whose relevance is specified by the question; indiscriminate pruning can erase that evidence while retaining visually salient but irrelevant regions. We present ET-Prune, a training-free framework that casts pruning as evidence allocation. It derives question-conditioned evidence from a decoder-side partial query-key block, safeguards text-like spatial regions, and converts evidence uncertainty and density into a sample-specific token floor. Three progressive middle-layer events then move the sequence toward this budget, retaining more tokens for diffuse or text-dense evidence and pruning concentrated evidence more aggressively. At the observed point estimates from one deterministic pass per configuration, ET-Prune leads or ties among pruned methods in all six backbone-benchmark comparisons at roughly half tokens. On OCRBench-v2, it leads the strongest pruned baselines by 1.80 and 0.68 percentage points on Qwen3-VL-8B and InternVL3.5-8B, respectively, while retaining about half of the visual tokens; on MMBench v1.1, it reaches 0.8467 circular exact-matching accuracy versus 0.8437 for Vanilla at 54.45% average visual-token retention. These results show a favorable observed quality-cost trade-off for evidence-aware dynamic budgeting in text-rich multimodal inference.
- Abstract（参考訳）: ビジュアルトークンプルーニングはマルチモーダルな大言語モデルの推論コストを低減させるが、固定トークン比はテキストリッチな入力とはあまり一致しない。
OCR中心のタスクでは、決定的な証拠は、その問題によって関連性が特定される少数の数、ラベル、またはフィールドであり、識別できないプルーニングは、視覚的に健全だが無関係な領域を維持しながらその証拠を消去することができる。
本稿では,エビデンスアロケーションとしてプルーニングをキャストするトレーニングフリーフレームワークET-Pruneを紹介する。
これはデコーダ側の部分的なクエリキーブロックから疑問条件付きエビデンスを導き出し、テキストのような空間領域を保護し、エビデンスの不確実性と密度をサンプル固有のトークンフロアに変換する。
3つのプログレッシブな中間層イベントがこの予算に向かってシーケンスを移動し、拡散またはテキスト密度の証拠のトークンを多く保持し、より積極的に集中的な証拠を抽出する。
観測点推定では、ET-Pruneは、約半分のトークンで6つのバックボーンとベンチマークの比較において、プルーニングされたメソッド間の関係を導いた。
OCRBench-v2 では、Qwen3-VL-8B と InternVL3.5-8B で最強のプルーニングベースラインを1.80 %、InternVL3.5-8B でリードし、視覚トークンの約半分を保持している。
これらの結果は、テキストリッチマルチモーダル推論におけるエビデンスを意識した動的予算化に対して、良好な品質とコストのトレードオフを示す。
関連論文リスト
- E2S-Pruner: Progressive Two-Stage Evidence Fusion for Visual Token Pruning in Vision-Language Models [12.765837057758127]
視覚的トークンプルーニングのための2段階のエビデンス融合フレームワークを提案する。
E2S-Prunerは、重要な、重要でない、不確実な3つの状態を使用して、それぞれの視覚トークンを表す。
LLaVA-1.5-7Bでは、E2S-Prunerが98.0%、96.8%、90.6%を維持している。
論文 参考訳（メタデータ） (2026-08-24T13:44:41Z) - RoRA: Role-Oriented Regional Allocation for Visual Token Pruning in MLLMs [50.93650157115467]
本稿では,ロール指向の地域的エビデンスアロケーションとして視覚トークンプルーニングをキャストする,トレーニングフリーのフレームワークであるRoRAを紹介する。
整合した予算の下では、RoRAはLLaVAやQwen-VLファミリで、トレーニングなしの強力なベースラインを一貫して上回っている。
66.7%のプルーニング比で、RoRAはトークンの選択に0.7msしか必要とせず、エンドツーエンドの推論時間を24.6%削減する。
論文 参考訳（メタデータ） (2026-08-07T10:39:47Z) - DIVE: Dynamic Iterative Visual Evidence Construction for Efficient Vision-Language Models [13.866355425347384]
視覚言語モデルの視覚入力は、しばしばテキストよりもかなり長いトークンシーケンスに符号化される。
近年の手法では、トークンの重要度を判定し、低スコアのトークンを1回のパスでプルーニングすることで、このボトルネックに対処している。
この知見に触発されたDIVEは、動的エビデンス構築として視覚障害者のプルーニングをリキャストする、トレーニング不要のフレームワークである。
論文 参考訳（メタデータ） (2026-08-05T06:32:25Z) - Beyond Accuracy: Auditing Spatial Provenance in Visual Token Pruning for OCR-Critical MLLM Inference [22.335515110971475]
ビジュアルトーケンプルーニングは、一定保持予算における応答品質によって判断される。
私たちはこの盲点を、幾何学的トークン・オリジンの証明によってカップルが行動に答えるエビデンスリスク監査にします。
目的検証ポイントがタスク汎用圧縮を含まないことを示す。
論文 参考訳（メタデータ） (2026-07-29T13:45:31Z) - SepPrune:A Separator-based Pruning Framework for Efficient Multimodal Large Language Models [22.517061458809057]
本稿では,視覚トークンの効率的なプラグアンドプレイプルーニング手法であるSepPruneを提案する。
SepPruneはLLMの組み込みプロジェクションパラメータを再利用し、アーキテクチャの変更を必要としない。
Qwen2.5-VL-7Bの実験では、SepPruneは最先端のパフォーマンスを達成し、元の精度の96.3%を維持し、80.2%の視覚トークンを除去した。
論文 参考訳（メタデータ） (2026-07-28T15:01:02Z) - OccamToken: Efficient VLM Inference with Training-Free and Budget-Adaptive Token Pruning [24.164883144694656]
OccamTokenは、絶対トークンランキングを登録された相対的エビデンステストに置き換える、トレーニング不要のフレームワークである。
我々はOccamTokenが、追加のトレーニングなしで精度と効率のトレードオフを継続的に改善していることを示します。
論文 参考訳（メタデータ） (2026-05-28T09:20:47Z) - Progressive Online Video Understanding with Evidence-Aligned Timing and Transparent Decisions [75.23170605943457]
textbfmodelは、メモリ統合から推論制御を分離するフレームワークである。
emphActive Thinking Decision Maker (ATDM)は、決定プロセスの外部化を行う透明な推論コントローラである。
emphHierarchical Progressive Semantic Integration (HPSI)モジュールは効率的なメモリシステムとして機能する。
論文 参考訳（メタデータ） (2026-04-20T16:15:33Z) - Prune Redundancy, Preserve Essence: Vision Token Compression in VLMs via Synergistic Importance-Diversity [54.95089105944234]
視覚言語モデル(VLM)は、過剰な視覚トークンの生成によって引き起こされる計算の非効率性に直面する。
2段階パイプラインを特徴とする訓練不要なSynergistic Importance-DiversityアプローチPruneSIDを提案する。
LLaVA-NeXTでは11.1%のトークン保持率で96.3%の精度、極端な圧縮速度(5.6%)で92.8%の精度を実現した。
論文 参考訳（メタデータ） (2026-03-10T10:31:58Z) - Focus-Scan-Refine: From Human Visual Perception to Efficient Visual Token Pruning [78.75062483648243]
視覚言語モデル(VLM)は、しばしば大量の視覚トークンを生成し、推論遅延とメモリフットプリントを大幅に増加させる。
視覚的質問に対して人間がどのように答えるかを模倣する,人間にインスパイアされたプラグアンドプレイプルーニングフレームワークであるFSRを提案する。
FSRは、既存の最先端プルーニング法よりも精度と効率のトレードオフを一貫して改善する。
論文 参考訳（メタデータ） (2026-02-05T16:02:48Z) - Look As You Think: Unifying Reasoning and Visual Evidence Attribution for Verifiable Document RAG via Reinforcement Learning [55.232400251303794]
Look As You Think (LAT)は、モデルをトレーニングし、一貫した帰属性を持った検証可能な推論パスを生成するための強化学習フレームワークである。
LATはシングルイメージとマルチイメージの両方でバニラモデルを一貫して改善し、平均ゲインは8.23%、IoU@0.5では47.0%となる。
論文 参考訳（メタデータ） (2025-11-15T02:50:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。