論文の概要: MedSTP: Preserving Subspace and Transition Evidence for Medical VQA Token Pruning
- arxiv url: http://arxiv.org/abs/2610.22751v1
- Date: Thu, 15 Oct 2026 23:38:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.699996
- Title: MedSTP: Preserving Subspace and Transition Evidence for Medical VQA Token Pruning
- Title(参考訳): MedSTP:医療用VQAトーケンプルーニングのサブスペース保存と遷移エビデンス
- Abstract要約: 本研究では,プリデコードプルーニングの訓練と,サブスペースの安定なエビデンス保存問題としてのプルーニングの扱いについて検討する。
本稿では,各トークンのスペクトルサポートを主成分空間から推定するemphSubspace-Transition Token Pruning (method)を提案する。
閉じたRadImageNet-VQA評価とオープンなRadImageNet-VQA評価の両方で一貫して強いパフォーマンスを提供する。
- 参考スコア(独自算出の注目度): 24.599351407505708
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Medical vision-language models (VLMs) for visual question answering (VQA) often pass long visual-token sequences to the language model, making visual-token pruning attractive but risky for medical images, where answers may depend on localized boundary and texture evidence. We study training free pre-decoding pruning and treat pruning as a subspace stable evidence preservation problem. The retained tokens should remain close to the dominant visual evidence subspace induced by the full token set. To this end, we propose \emph{Subspace-Transition Token Pruning} (\method{}), which estimates each token's spectral support from principal component space and constructs a compact representation subspace. To better reflect medical image structure, \method{} further uses a bounded token-grid transition prior to promote boundary and texture sensitive tokens. We evaluate \method{} on the closed-ended SLAKE and OmniMedVQA benchmarks and on RadImageNet-VQA, which provides both closed-ended and open-ended evaluations, using Lingshu-7B and Qwen3-VL-8B backbones. \method{} delivers consistently strong performance on both the closed-ended and open-ended RadImageNet-VQA evaluations. These results show that \method{} is an effective training free pruning framework for medical domain VQA.
- Abstract(参考訳): 視覚的質問応答(VQA)のための医療視覚言語モデル(VLM)は、しばしば言語モデルに長い視覚的トーケンシーケンスを渡す。
本研究では,プリデコードプルーニングの訓練と,サブスペースの安定なエビデンス保存問題としてのプルーニングの扱いについて検討する。
保持されたトークンは、完全なトークンセットによって誘導される支配的な視覚的エビデンス部分空間に近接していなければならない。
この目的のために、各トークンのスペクトルサポートを主成分空間から推定し、コンパクトな表現部分空間を構築する「emph{Subspace-Transition Token Pruning} (\method{})」を提案する。
医療画像構造をよりよく反映するために、\method{} はさらに境界やテクスチャに敏感なトークンを促進するために、境界付きトークン-グリッド遷移を使用する。
我々は,Lingshu-7B と Qwen3-VL-8B のバックボーンを用いて,クローズドエンド SLAKE と OmniMedVQA ベンチマークと RadImageNet-VQA ベンチマークで \method{} を評価した。
\method{}は、クローズドエンドとオープンエンドのRadImageNet-VQA評価の両方で一貫して強力なパフォーマンスを提供する。
これらの結果から,<method{} は医療領域 VQA に対する効果的なトレーニングフリープルーニングフレームワークであることが示された。
関連論文リスト
- Look Back, Think Ahead: Visual Memory on Demand for Efficient Multimodal Reasoning [67.2146856614177]
ViMoDは、推論が進化するにつれて、元のきめ細かい証拠へのアクセスを保ちながら、コンパクトな視覚コンテキストを維持する軽量フレームワークである。
Qwen3-VL-4Bでは、ViMoDは8つの推論ベンチマークのベースラインを20%の視覚トークン予算で上回っている。
論文 参考訳(メタデータ) (2026-10-08T14:42:57Z) - Don't Send What You Don't Need: Question-Guided Token Pruning as a Privacy Defense for Vision-Language Models [0.30938904602244355]
QPriv-VLはプライバシを意識したトークン処理フレームワークである。
タスクユーティリティとプライバシの感度に基づいて、送信前に視覚トークンをプルークする。
GQA,OK-VQA,VQAv2,SLAKE,VQA-RAD,PathVQAを4つのプライバシ攻撃ファミリーに対して評価した。
論文 参考訳(メタデータ) (2026-09-14T14:48:39Z) - TRACE: Trajectory-robust Admission with Evidence Ordering for Efficient GUI Agents [54.88208747581851]
トレーニング不要のビジュアルトークンプルーニングは、このコストを削減することができるが、キャッシュ再利用には基本的な制約が伴う。
我々は,emphtextbfTrajectory-textbfrobust textbfAdmission と textbfCoverage-aware textbfEvidence ordering のためのトレーニング不要フレームワーク textbfmethod を提案する。
論文 参考訳(メタデータ) (2026-09-09T15:12:48Z) - HAP: Head-Adaptive Visual Token Pruning via Cross-Modal Alignment [76.68875424389057]
既存の手法では、すべての頭部に一様にテキストから視覚への注意を平均化することで、各視覚トークンをスコアリングする。
頭が不一致で 平均的に支配され 背景のトークンを増幅し きめ細かな手がかりを 吐き出す
本稿では,各頭部のプロンプトと画像領域の整合性を評価する指標であるPAQ(Prompt-Grounded Attention Quality)を提案する。
論文 参考訳(メタデータ) (2026-08-24T23:55:36Z) - Few-Shot Concept Prompt Learning for Segmentation Foundation Models via Visual Grounding [0.0]
Few-Shot Concept Prompt Learning (FS-CPL) は、 encoder-decoder バックボーンをフリーズしたマスク監視を通じて、$K$イメージ-マスクペアの小さなサポートセットから、mathbbRT times d$に $mathbfp* を埋め込むという継続的概念を学ぶ。
FS-CPLは、標準テキストプロンプトで最大$+0.62$のDiceを絶対的に改善し、Emphbackboneに依存しない。
論文 参考訳(メタデータ) (2026-08-03T03:54:17Z) - Synergistic Perception-Reasoning Governance: Grounding Medical MLLMs with Verifiable Anatomical Evidence [45.78409219344429]
マルチモーダル大言語モデル (MLLM) は, 臨床VQAと放射線学報告の生成に強い期待を示すが, 推測時幻覚は信頼性を損なう。
本稿では,両面のエビデンス注入による幻覚を系統的に緩和する,総合的かつトレーニング不要なエビデンス注入フレームワークを提案する。
textttLLaVA-1.5-7B, texttLLaVA-Med-1.5-7B, texttQwen3-VL-8B/32B, textttInternVL を用いた2つのタスクと5つのデータセットの系統的評価を行った。
論文 参考訳(メタデータ) (2026-06-30T08:07:25Z) - OTCHA: Optimal Transport-driven Confidence-aware Latent Hub Alignment for Multi-View Medical Image Classification [0.01268579273097071]
医用画像は、しばしば登録されておらず、ビュー固有のアーティファクトや無関係な背景手がかりを含んでいる。
我々は,最適なトランスポートに基づく信頼度を意識した潜在ハブトークンアライメントモジュールであるOCCHAを提案する。
論文 参考訳(メタデータ) (2026-06-18T06:32:52Z) - Evading Visual Aphasia: Contrastive Adaptive Semantic Token Pruning for Vision-Language Models [52.78477729846771]
本稿では,COAST(Contrastive Adaptive Semantic Token Pruning)について紹介する。
COASTはトークン予算をまたいだ強力なプルーニングベースラインを一貫して上回り、複数のLVLMファミリをまたいだ一般化を実現している。
論文 参考訳(メタデータ) (2026-05-10T09:07:04Z) - Focus-Scan-Refine: From Human Visual Perception to Efficient Visual Token Pruning [78.75062483648243]
視覚言語モデル(VLM)は、しばしば大量の視覚トークンを生成し、推論遅延とメモリフットプリントを大幅に増加させる。
視覚的質問に対して人間がどのように答えるかを模倣する,人間にインスパイアされたプラグアンドプレイプルーニングフレームワークであるFSRを提案する。
FSRは、既存の最先端プルーニング法よりも精度と効率のトレードオフを一貫して改善する。
論文 参考訳(メタデータ) (2026-02-05T16:02:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。