論文の概要: When Evidence Vanishes: Distilling Visual-Evidence Dependency in Medical Vision-Language Models
- arxiv url: http://arxiv.org/abs/2610.23469v1
- Date: Fri, 16 Oct 2026 13:48:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.943758
- Title: When Evidence Vanishes: Distilling Visual-Evidence Dependency in Medical Vision-Language Models
- Title（参考訳）: エビデンスが消える時:医療ビジョン・ランゲージモデルにおける視覚エビデンス依存の蒸留
- Abstract要約: コンパクトな医用視覚言語モデル(VLM)は、画像を用いることなく、臨床上の問題に正しく答えることができる。
標準的な知識蒸留は、原画像に教師の回答の好みをコピーするが、その好みが質問に必要な視覚的証拠に条件づけられているかどうかを未確認のまま残している。
Evidence-Conditioned Dependency Distillation (ECDD)を導入し、各トレーニングイメージとエビデンスレベルに一致した制御とをペアで組み合わせ、教師の回答マージンの低下を蒸留する。
- 参考スコア（独自算出の注目度）: 23.657207697935007
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Compact medical vision-language models (VLMs) can answer clinical questions correctly without reliably using the image, relying instead on question wording or learned priors. Standard knowledge distillation copies a teacher's answer preference on the original image, but it leaves unchecked whether that preference is conditional on the visual evidence required by the question. We study this missing target as medical visual evidence dependency: support for the correct answer should decrease when the matched evidence is absent. We introduce Evidence-Conditioned Dependency Distillation (ECDD), which pairs each training image with a control matched to the evidence level and distills the teacher's drop in answer margin across the pair. A lower bound objective transfers positive dependency by penalizing only shortfalls, while original-image supervision preserves task accuracy. The same formulation applies when the evidence is a queried clinical region, a surgical instrument, or whole-image visual content. Across three medical VQA settings, ECDD keeps original-image accuracy competitive with distillation and alignment baselines while making answer support more sensitive to evidence removal. Under the DME headline objective, for example, the positive-case margin response to target rather than random masking rises from 0.786 with KD to 2.023 with ECDD, while original-image accuracy differs by 0.11 points. These results suggest that medical VLM distillation should transfer both the teacher's answer preference and its dependence on visual evidence.
- Abstract（参考訳）: コンパクトな医療ビジョン言語モデル(VLM)は、画像の使用を確実に行わず、代わりに質問文や学習前の知識に頼ることなく、臨床上の問題に正しく答えることができる。
標準的な知識蒸留は、原画像に教師の回答の好みをコピーするが、その好みが質問に必要な視覚的証拠に条件づけられているかどうかを未確認のまま残している。
医学的視覚的証拠依存性として, 一致した証拠が欠如している場合には, 正解の支持が減少すべきである。
Evidence-Conditioned Dependency Distillation (ECDD)を導入し、各トレーニングイメージとエビデンスレベルに一致した制御とをペアで組み合わせ、教師の回答マージンの低下を蒸留する。
下限の目的物は欠点のみを罰することで正の依存性を伝達し、一方、オリジナルイメージの監督はタスクの正確性を保っている。
証拠が検索された臨床領域、手術器具、または全体像の視覚的内容である場合にも同様の定式化が適用される。
3つの医療用VQA設定の中で、ECDDは元の画像精度を蒸留やアライメントベースラインと競合させつつ、回答支援をより証拠除去に敏感にする。
例えば、DMEの見出しの目的の下では、ランダムマスキングよりもターゲットに対する正のケースマージン反応が0.786、KDが2.023、ECDDが2.023、原画像の精度が0.11ポイントまで上昇する。
これらの結果から,医用VLM蒸留は教師の回答の好みと視覚的証拠への依存の両方を伝達すべきであることが示唆された。
関連論文リスト
- CV-OPD: Contrastive Vision On-policy Distillation [84.9792886495258]
オンライン蒸留(OPD)は、VLM後の訓練において、多目的性と利便性を明らかにする。
関連する視覚領域を隠蔽したりノイズに置き換えたりしても,蒸留したVLMが解答を精度良く行うことができることを示す。
本稿では,正の作物と負の作物が引き起こす教師の分布を比較検討する,コントラシティブビジョンオン・ポリチィ蒸留(CV-OPD)を紹介する。
論文 参考訳（メタデータ） (2026-10-09T09:15:34Z) - Trinity: Self-Evolving Vision-Language Models with a Self-Verifier [54.51233137413308]
自己進化型視覚言語モデル(VLM)は、教師なしの方法で推論能力を拡大するエージェントへの有望なルートである。
本稿では,VLMが3つの役割,問合せ,解答,検証の3つを演じるトリニティについて述べる。
Verifierは、画像のグラウンド化のために生成されたすべての質問をスクリーニングし、監督される前に正解する。
論文 参考訳（メタデータ） (2026-10-03T12:17:29Z) - On-Policy Visual Evidence Distillation [29.145226066460193]
本稿では,視覚エージェントのオンライン蒸留法であるRe Reflection on Visual Evidence (ReVuE)を紹介する。
ReVuEは、同じクエリに対して複数の学生生成軌跡を比較し、観察された視覚的証拠を要約し、最初の失敗を診断する。
我々は,これらの反射が教師の予測にどの程度強く影響するかに応じて,トークンレベルの蒸留損失をグループ化し,再重み付けする。
論文 参考訳（メタデータ） (2026-09-29T06:47:11Z) - Evidence-Aligned Multimodal On-Policy Self-Distillation for Fine-Grained Visual Understanding [18.19257629586049]
我々は,エビデンス中心の作物に条件付けされた教師を用いて,学生が生成した軌跡に沿った原画像に条件付けされた学生を監督する。
学習の安定性は向上するが,学習者間のモデル状態のギャップが生じる。
収穫はタスク関連エビデンスを高めるが、視覚的コンテキストも失う。
Evidence-Aligned multimodal on-policy self-Distillation (EAD) を導入し、作物調和型教師を目標とするが、修正を重み付けするための別のエビデンスを構築する。
論文 参考訳（メタデータ） (2026-09-28T09:06:19Z) - Contamination, Prior, or Evidence? Decomposing and Training Evidence Use in Whole-Slide Vision-Language Models [15.714715019257149]
画像および質問側汚染の除去を目的としたTCGAベースのVQAベンチマークを提案する。
Pair-DPOは、同じ質問と情報源から、対実的なスライド対よりも優先的な損失である。
提案手法は,CleanSlideの画像証拠から15.29%を得たが,最も優れたモデルでは2.81%であった。
論文 参考訳（メタデータ） (2026-09-26T03:19:52Z) - Knowing When Not to Answer: Abstention and Refusal Reasoning in Vision--Language Models [35.534692995586035]
ASD診断は、静的な顔写真ではなく、行動的および発達的証拠を必要とする。
PARITYは,中性中性ニュートラル制御を備えたアイデンティティ制御型中性/表現型ポートレートペアの合成,階層的バランスの取れた集合である。
拒絶第一モデルと投機モデルの間に明らかな違いが見られ、後者では特定の表現が有害な選択を引き起こす。
論文 参考訳（メタデータ） (2026-09-02T11:52:02Z) - Visual Contrastive Self-Distillation [61.298159957622886]
本稿では,視覚的コントラスト自己蒸留法を提案する。
これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
論文 参考訳（メタデータ） (2026-07-23T17:37:37Z) - Med-OPD: Improving Medical Vision-Language Models via Evidence-Aware On-Policy Distillation [16.70988820954221]
医療ビジョンランゲージモデル(Med-VLMs)は、きめ細かい視覚的証拠から信頼できる推論を必要とする。
On-Policy Distillation (OPD)は、学生が生成する軌跡のトークンレベルを集中的に管理する。
我々は,Med-VLMにおけるオンライン蒸留と医療エビデンス対応の監視を統合したMed-OPDを提案する。
論文 参考訳（メタデータ） (2026-07-14T07:08:28Z) - Towards Clinically Interpretable Ophthalmic VQA via Spatially-Grounded Lesion Evidence [51.57735743553791]
今回我々はFundusGroundを紹介した。これは臨床的に解釈可能な眼科用VQAの空間的根拠を用いた新しいベンチマークである。
この構造された病変の証拠に基づいて、72,706の質問が4つのフォーマットにまたがって生成される。
実験により、病変レベルの視覚的エビデンスを組み込むことで、モデルの性能と透明性が一貫して向上することが示された。
論文 参考訳（メタデータ） (2026-05-21T12:37:03Z) - Look As You Think: Unifying Reasoning and Visual Evidence Attribution for Verifiable Document RAG via Reinforcement Learning [55.232400251303794]
Look As You Think (LAT)は、モデルをトレーニングし、一貫した帰属性を持った検証可能な推論パスを生成するための強化学習フレームワークである。
LATはシングルイメージとマルチイメージの両方でバニラモデルを一貫して改善し、平均ゲインは8.23%、IoU@0.5では47.0%となる。
論文 参考訳（メタデータ） (2025-11-15T02:50:23Z) - GEMeX-RMCoT: An Enhanced Med-VQA Dataset for Region-Aware Multimodal Chain-of-Thought Reasoning [60.03671205298294]
医学的視覚的質問応答は、医学的イメージに基づいた自然言語的質問にモデルで答えることによって、臨床的な意思決定を支援することを目的としている。
現在の方法はまだ、答えの信頼性の制限と解釈性の低下に悩まされている。
この研究はまず、回答を生成するプロセスが中間的推論ステップのシーケンスに先行する領域対応マルチモーダル・チェーン・オブ・ソートデータセットを提案する。
論文 参考訳（メタデータ） (2025-06-22T08:09:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。