論文の概要: RoRA: Role-Oriented Regional Allocation for Visual Token Pruning in MLLMs
- arxiv url: http://arxiv.org/abs/2608.07088v1
- Date: Fri, 07 Aug 2026 10:39:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.476909
- Title: RoRA: Role-Oriented Regional Allocation for Visual Token Pruning in MLLMs
- Title（参考訳）: RoRA:MLLMにおける視覚的トーケンプルーニングのための役割指向地域配置
- Abstract要約: 本稿では,ロール指向の地域的エビデンスアロケーションとして視覚トークンプルーニングをキャストする,トレーニングフリーのフレームワークであるRoRAを紹介する。
整合した予算の下では、RoRAはLLaVAやQwen-VLファミリで、トレーニングなしの強力なベースラインを一貫して上回っている。
66.7%のプルーニング比で、RoRAはトークンの選択に0.7msしか必要とせず、エンドツーエンドの推論時間を24.6%削減する。
- 参考スコア（独自算出の注目度）: 50.93650157115467
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal large language models (MLLMs) encode images as long visual token sequences, making prefilling and KV-cache storage expensive. Existing training-free pruning methods select tokens by importance, diversity, or spatial coverage, but treat retained tokens as interchangeable and do not explicitly track which object-related regions are already covered. We present RoRA, a training-free framework that casts visual token pruning as role-oriented regional evidence allocation. Given a fixed budget, RoRA partitions tokens into a protected semantic core, complementary context, and fine-grained detail. It first calibrates text-conditioned attention with a positional prior and a prompt-calibrated object prior, then builds Attention-Anchored Regions (AARs) from high-confidence anchors as lightweight proxies for covered object support. Context is explored mainly outside AARs, while a small AAR-guided budget restores local detail; pairwise similarity is used only for context-stage redundancy filtering. Under matched budgets, RoRA consistently outperforms strong training-free baselines across LLaVA and Qwen-VL families, retaining most of the unpruned accuracy even at aggressive pruning ratios, e.g., 96.5% of full performance at 88.9% pruning on LLaVA-1.5, and improving over D2Pruner by about 5% on Qwen3-VL at 75-90% pruning. At a 66.7% pruning ratio, RoRA requires only 0.7 ms for token selection and reduces end-to-end inference time by 24.6%, corresponding to a 1.33x speedup over unpruned inference on an NVIDIA H800.
- Abstract（参考訳）: MLLM(Multimodal large language model)は、画像を長い視覚トークンシーケンスとしてエンコードし、プリフィルとKVキャッシュストレージを高価にする。
既存のトレーニングフリープルーニング手法では、重要度、多様性、空間的カバレッジによってトークンを選択するが、保持トークンを交換可能として扱い、どのオブジェクト関連領域が既にカバーされているかを明示的に追跡しない。
本稿では,ロール指向の地域的エビデンスアロケーションとして視覚トークンプルーニングをキャストする,トレーニングフリーのフレームワークであるRoRAを紹介する。
固定予算が与えられた後、RoRAはトークンを保護されたセマンティックコア、補完的なコンテキスト、詳細な詳細に分割する。
まず、テキスト条件付の注意を、位置前とアクシデント校正対象とで校正し、次に、高信頼のアンカーから、カバー対象のサポートのための軽量プロキシとして注意対応領域(AAR)を構築する。
コンテキストは主にAARの外で探索され、小さなAAR誘導の予算は局所的な詳細を復元する。
整合した予算の下では、ロラはLLaVAとQwen-VLファミリーで強いトレーニングなしのベースラインを一貫して上回り、攻撃的なプルーニング比でも、96.5%のフルパフォーマンスをLLaVA-1.5で88.9%のプルーニングで達成し、75-90%のプルーニングでQwen3-VLで約5%改善した。
66.7%のプルーニング比では、トークン選択に0.7msしか必要とせず、NVIDIA H800の未実行推論に対する1.33倍のスピードアップに対応して、エンドツーエンドの推論時間を24.6%削減する。
関連論文リスト
- ET-Prune: Evidence-Aware Dynamic Budgeting for Visual Token Pruning in Text-Rich MLLMs [37.20525993006875]
本稿では,エビデンスアロケーションとしてプルーニングをキャストするトレーニングフリーフレームワークET-Pruneを紹介する。
これはデコーダ側の部分的なクエリキーブロックから、質問条件のエビデンスを導き出す。
テキストのような空間領域を保護し、証拠の不確実性と密度をサンプル固有のトークンフロアに変換する。
論文 参考訳（メタデータ） (2026-08-03T09:42:34Z) - Beyond Accuracy: Auditing Spatial Provenance in Visual Token Pruning for OCR-Critical MLLM Inference [22.335515110971475]
ビジュアルトーケンプルーニングは、一定保持予算における応答品質によって判断される。
私たちはこの盲点を、幾何学的トークン・オリジンの証明によってカップルが行動に答えるエビデンスリスク監査にします。
目的検証ポイントがタスク汎用圧縮を含まないことを示す。
論文 参考訳（メタデータ） (2026-07-29T13:45:31Z) - PP-OCRv6: From 1.5M to 34.5M Parameters, Surpassing Billion-Scale VLMs on OCR Tasks [15.973951643113963]
PP-OCRv6は、アーキテクチャの革新とデータ中心の最適化を組み合わせた軽量なOCRシステムである。
我々の社内ベンチマークでは、PP-OCRv6_mediumは83.2%の認識精度と86.2%の検出Hmeanを達成した。
論文 参考訳（メタデータ） (2026-06-11T09:35:16Z) - Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models [52.78477729846771]
本稿では,COAST(Contrastive Adaptive Semantic Token Pruning)について紹介する。
COASTはトークン予算をまたいだ強力なプルーニングベースラインを一貫して上回り、複数のLVLMファミリをまたいだ一般化を実現している。
論文 参考訳（メタデータ） (2026-05-10T09:07:04Z) - Prune Redundancy, Preserve Essence: Vision Token Compression in VLMs via Synergistic Importance-Diversity [54.95089105944234]
視覚言語モデル(VLM)は、過剰な視覚トークンの生成によって引き起こされる計算の非効率性に直面する。
2段階パイプラインを特徴とする訓練不要なSynergistic Importance-DiversityアプローチPruneSIDを提案する。
LLaVA-NeXTでは11.1%のトークン保持率で96.3%の精度、極端な圧縮速度(5.6%)で92.8%の精度を実現した。
論文 参考訳（メタデータ） (2026-03-10T10:31:58Z) - IDPruner: Harmonizing Importance and Diversity in Visual Token Pruning for MLLMs [11.254129271889035]
視覚トークンのプルーニングはMLLM推論を加速させる重要な手法として登場した。
IDPrunerは最先端のパフォーマンスを実現し、様々なアーキテクチャやタスクにまたがる優れた一般化を実現している。
論文 参考訳（メタデータ） (2026-02-10T11:20:24Z) - FASA: Frequency-aware Sparse Attention [56.26881872333624]
本稿では,トークンの重要度を動的に予測することで,クエリ対応のトークン消去を実現する新しいフレームワークであるFASAを提案する。
我々の重要な発見は、小さな「支配的」FCの特定可能なサブセットが、常に注目の頭文字と高い文脈の一致を示すことである。
長いコンテキストのタスクのスペクトル全体にわたって、FASAは全てのトークン放出ベースラインを一貫して上回り、ニアオラクル精度を達成する。
論文 参考訳（メタデータ） (2026-02-03T06:09:06Z) - D2Pruner: Debiased Importance and Structural Diversity for MLLM Token Pruning [49.16227597771663]
D2Prunerは、デバイアスされた重要性と構造的なプルーニングメカニズムを組み合わせたフレームワークである。
FLOPを74.2%削減し、元の性能の99.2%を維持した。
既存の手法に比べて63.53%も改善されている。
論文 参考訳（メタデータ） (2025-12-22T14:42:31Z) - MapReduce LoRA: Advancing the Pareto Front in Multi-Preference Optimization for Generative Models [52.32146943039743]
人間のフィードバックからの強化学習は、生成モデルと人間の美学と知覚的嗜好を高度に一致させる。
MapReduce LoRA と Reward-aware Token Embedding (RaTE) の2つの補完手法を紹介する。
我々のフレームワークは、モダリティにまたがる新しい最先端のマルチ参照アライメントのレシピを定めている。
論文 参考訳（メタデータ） (2025-11-25T18:49:21Z) - Patch-Level Contrasting without Patch Correspondence for Accurate and
Dense Contrastive Representation Learning [79.43940012723539]
ADCLRは、正確で高密度な視覚表現を学習するための自己教師型学習フレームワークである。
提案手法は, コントラッシブな手法のための新しい最先端性能を実現する。
論文 参考訳（メタデータ） (2023-06-23T07:38:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。