論文の概要: Visual Sufficiency Landscapes: Understanding Query-Conditioned Reliability in Visual Token Pruning
- arxiv url: http://arxiv.org/abs/2610.24968v1
- Date: Sun, 18 Oct 2026 02:46:34 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:33:15.546103
- Title: Visual Sufficiency Landscapes: Understanding Query-Conditioned Reliability in Visual Token Pruning
- Title(参考訳): 視覚障害者のランドスケープ:ビジュアルトーケンプルーニングにおけるクエリ要求の信頼性の理解
- Abstract要約: 異なる視覚トークンプルーニング戦略は、同様のタスク性能を維持しながら、異なるサブセットを保持します。
我々は,この多彩さを特徴付けるために,視覚的満足感の景観を紹介した。
これらの結果から, 局所破砕性の測定可能な次元として, サブセット存在量を確立した。
- 参考スコア(独自算出の注目度): 16.392211430650878
- License:
- Abstract: Different visual token pruning strategies retain different subsets while maintaining similar task performance. This motivates a combinatorial question: how many visual subsets can preserve model behavior, and how does their abundance depend on the query? We introduce visual sufficiency landscapes to characterize this abundance. At a fixed layer and budget, visual sufficiency probability is the fraction of uniformly sampled subsets that jointly preserve the dense model's answer, reference-answer likelihood, and output distribution. Independent sampling replicates separate input variation from estimation noise. Across Qwen2.5-VL-7B, InternVL2-8B, and LLaVA-v1.5-7B, differences between inputs on GQA and TextVQA exceed replication error, and different questions about the same GQA image produce distinct landscapes. Sufficiency probability also improves failure prediction for full pruning methods. On LLaVA, adding this probability increases AUC by 0.1151 for FastV, 0.0683 for VisionZip, and 0.1401 for SparseVLM, while reducing log loss and Brier score. Several architecture-adapted configurations on the other two models reproduce these gains. Under controlled selection rules, predictors trained on the original images reduce log loss on new images by 9.0%, 13.0%, and 14.1%, respectively. These results establish successful-subset abundance as a measurable dimension of local prunability and connect it to the identification of high-risk pruning conditions.
- Abstract(参考訳): 異なる視覚トークンプルーニング戦略は、同様のタスク性能を維持しながら、異なるサブセットを保持します。
どれだけの視覚的なサブセットがモデルの振る舞いを保存できるのか、そして、どのようにクエリに依存するのか?
我々は,この多彩さを特徴付けるために,視覚的満足感の景観を紹介した。
固定層と予算において、視覚的充足確率(英: visual sufficiency probability)は、高密度モデルの答え、参照答え可能性、出力分布を共同で保存する一様にサンプリングされたサブセットの分数である。
独立サンプリングは、推定ノイズから別々の入力変動を複製する。
Qwen2.5-VL-7B、InternVL2-8B、LLaVA-v1.5-7Bをまたいで、GQAとTextVQAの入力差は複製誤差を超え、同じGQA画像に関する異なる質問は異なる景観を生み出す。
また,フルプルーニング法における故障予測の精度も向上する。
LLaVAでは、この確率を追加すると、AUCはFastVが0.1151、VisionZipが0.0683、SparseVLMが0.1401増加し、ログ損失とBrierスコアが減少する。
他の2つのモデルにおけるいくつかのアーキテクチャ適応型構成は、これらの利得を再現する。
制御された選択規則の下で、元の画像で訓練された予測器は、新しい画像のログ損失をそれぞれ9.0%、13.0%、14.1%削減する。
これらの結果から, 局所刈り込み可能性の測定可能な次元として, 高リスク刈り込み条件の同定に結びついていることがわかった。
関連論文リスト
- Don't Send What You Don't Need: Question-Guided Token Pruning as a Privacy Defense for Vision-Language Models [0.30938904602244355]
QPriv-VLはプライバシを意識したトークン処理フレームワークである。
タスクユーティリティとプライバシの感度に基づいて、送信前に視覚トークンをプルークする。
GQA,OK-VQA,VQAv2,SLAKE,VQA-RAD,PathVQAを4つのプライバシ攻撃ファミリーに対して評価した。
論文 参考訳(メタデータ) (2026-09-14T14:48:39Z) - The Visual Insensitivity Gap: Diagnosing When Vision-Language Models Fail to Use Visual Evidence [1.7844382164707184]
我々はこの現象を視覚不感ギャップと呼び、サンプルごとの視覚感度指数(VSI)で定量化する。
この仮定は、6つのVLMと3つの知覚的ベンチマークで40%~97%のサンプルで失敗することを示す。
論文 参考訳(メタデータ) (2026-09-01T08:01:57Z) - AutoPrune: Each Complexity Deserves a Pruning Policy [58.448785378705566]
Complexity Pruning(AutoPrune)は、プルングポリシーをさまざまなサンプルやタスクの複雑さに合わせて調整する、トレーニングフリーのプラグイン・アンド・プレイフレームワークである。
我々はAutoPruneを、標準的な視覚適応タスクと、自律運転のためのビジョン・ランゲージ・アクションモデルで評価する。
論文 参考訳(メタデータ) (2025-09-28T15:09:00Z) - Credal Wrapper of Model Averaging for Uncertainty Estimation in Classification [5.19656787424626]
本稿では,ベイズニューラルネットワーク(BNN)とディープアンサンブル(DE)のモデル平均化のクレダルセット表現を定式化するための,クレダルラッパー(redal wrapper)と呼ばれる革新的なアプローチを提案する。
BNNやDESから導出される単一の予測分布の有限個の集合が与えられた場合、提案したクレダルラッパーアプローチはクラスごとの上限値と低い確率を抽出する。
提案手法は,BNNおよびDEベースラインと比較して不確実性推定において優れた性能を示し,破損したデータに対して低いキャリブレーション誤差を実現する。
論文 参考訳(メタデータ) (2024-05-23T20:51:22Z) - LoLep: Single-View View Synthesis with Locally-Learned Planes and
Self-Attention Occlusion Inference [66.45326873274908]
本稿では,1枚のRGB画像から局所学習平面を回帰してシーンを正確に表現するLoLepを提案する。
MINEと比較して、LPIPSは4.8%-9.0%、RVは73.9%-83.5%である。
論文 参考訳(メタデータ) (2023-07-23T03:38:55Z) - ProbVLM: Probabilistic Adapter for Frozen Vision-Language Models [69.50316788263433]
本稿では,事前学習された視覚言語モデルの埋め込みに対する確率分布を推定する確率的アダプタProbVLMを提案する。
本稿では,検索タスクにおける不確実性埋め込みのキャリブレーションを定量化し,ProbVLMが他の手法よりも優れていることを示す。
本稿では,大規模な事前学習型潜伏拡散モデルを用いて,埋め込み分布を可視化する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-07-01T18:16:06Z) - Boosting Few-shot Fine-grained Recognition with Background Suppression
and Foreground Alignment [53.401889855278704]
FS-FGR (Few-shot Fine-fine Recognition) は、限られたサンプルの助けを借りて、新しいきめ細かなカテゴリを認識することを目的としている。
本研究では,背景アクティベーション抑制 (BAS) モジュール,フォアグラウンドオブジェクトアライメント (FOA) モジュール,および局所的局所的(L2L) 類似度測定器からなる2段階の背景アライメントとフォアグラウンドアライメントフレームワークを提案する。
複数のベンチマークで行った実験により,提案手法は既存の最先端技術よりも大きなマージンで優れていることが示された。
論文 参考訳(メタデータ) (2022-10-04T07:54:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。