論文の概要: Conviction Without Evidence: Verdict Stability Is Independent of Visual Grounding in Medical Vision--Language Models
- arxiv url: http://arxiv.org/abs/2610.34520v1
- Date: Sun, 25 Oct 2026 19:23:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.628592
- Title: Conviction Without Evidence: Verdict Stability Is Independent of Visual Grounding in Medical Vision--Language Models
- Title（参考訳）: 根拠のない信念: 診断安定性は医用ビジョンにおける視覚的グラウンドリングとは無関係である-言語モデル
- Abstract要約: ヴィジュアル言語モデルは診断画像を用いることなく正しい診断に到達でき、代わりに臨床ヴィグネットから推測される。
モデルは、空白のプレースホルダーから派生した診断を、実際の医学的イメージから派生した診断と微妙に守りますか?
60件のイタリア国家試験項目に対する2段階の反対圧力で画像置換プロトコルを通過させると、未解決の評決がより脆弱であることを示す証拠は見つからない。
- 参考スコア（独自算出の注目度）: 49.88241584666155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision--language models applied to medical question answering can reach correct diagnoses without using the diagnostic image, inferring instead from the clinical vignette. We ask whether this is visible in how \emph{firmly} a model holds its answer: does a model defend a diagnosis derived from a blank placeholder as tenaciously as one derived from a real medical image? Crossing an image-substitution protocol with two levels of adversarial pressure on 60 Italian State Examination items, we find no evidence that ungrounded verdicts are more fragile. In a paired item-level analysis, fabricated consensus (L4) overturns 94.4\% of verdicts with the real image and 98.1\% without ($Δ= +0.037$; one-sided 95\% upper bound $+0.105$); contentless doubt (L1) overturns 62.5\% and 51.8\% ($Δ= -0.107$, 95\% CI $[-0.209, -0.001]$), the point estimate running opposite to the direction a grounding detector requires. The two levels nonetheless produce opposite \emph{dynamics}: under L4 the model flips once, always to the exact option argued for (110/110 first-turn flips), and then freezes, averaging 1.9 verdict changes over ten turns; under L1 it never settles, averaging 7.4 changes. Instability under contentless doubt tracks intrinsic item ambiguity rather than evidence availability, and so does not serve as a grounding signal. Flips are almost entirely corrupting (99/100 across both levels). The model is not unaware of the missing evidence---it flags the blank image at baseline on 35 of 60 items and abstains on 4--6---yet those abstentions do not survive contact with pressure. None of the epistemic signals a user could plausibly consult distinguishes a grounded diagnosis from a confabulated one.
- Abstract（参考訳）: 医用質問応答に適用された視覚言語モデルは、診断画像を用いることなく正しい診断に到達でき、代わりに臨床ヴィグネットから推測される。
モデルは、空白のプレースホルダーから派生した診断を、実際の医療画像から派生した診断と同程度に守りますか?
60件のイタリア国家試験項目に対する2段階の反対圧力で画像置換プロトコルを通過させると、未解決の評決がより脆弱であることを示す証拠は見つからない。
ペア化されたアイテムレベルの分析では、製造されたコンセンサス(L4)は、実際の画像で94.4\%の評定を覆い、98.1\%を$Δ=+0.037$; 1辺95\%の上限$+0.105$; コンテンションのない疑念(L1)は62.5\%および51.8\%(Δ=-0.107$, 95\% CI $[-0.209, -0.001]$)を覆い、接地検出器が要求する方向と逆の点推定を行う。
L4 の下では、モデルは一度フリップし、常に(110/110 の1ターンフリップ)主張された正確なオプションにし、その後凍結し、平均1.9 の検証が 10 ターンで変わる。
無矛盾な疑念の下での不安定性は、証拠の可利用性よりも本質的な項目のあいまいさをトラックするので、接地信号として機能しない。
フリップはほぼ完全に破損している(どちらのレベルでも99/100)。
このモデルでは、60項目中35項目で空白画像にフラグを立て、4～6項目で棄権するなど、証拠の欠如に気付いていない。
ユーザが診断できるてんかんの信号はいずれも、解離した診断と解離した診断とを区別するものである。
関連論文リスト
- Seeing Through the Forgery Is Not Enough: Regressive Sycophancy under Fabricated Evidence in Medical Vision-Language Models [2.6854561082388506]
提案手法は, 偽文書を押返した場合に, モデルが正しい解答を放棄するという, 偽の証拠下での回帰性について検討する。
我々は,400VQA-RADで4つのオープンなVLMをテストする。
我々は、偽造に対する認識が、モデルがその答えを採用するのを防ぐものではないと結論づける。
論文 参考訳（メタデータ） (2026-10-13T08:55:06Z) - Teaching Vision-Language Models to Decline: Support Completion Against Mirage [13.479403440765259]
ヴィジュアル言語モデルは、表示されなかった画像に関する疑問に答える。
クロスエントロピーは、画像を読み取るモデルと、それを無視するモデルとを分離します。
サポート完了を形式化したTIDEは、各トレーニング質問に対して、空白画像、同じドメインの誤り画像、ドメイン外画像を表示する。
論文 参考訳（メタデータ） (2026-10-12T09:21:54Z) - Same Space or Not: Benchmarking Spatial Intelligence Through Cross-View Contradictions [80.65137714222533]
スペース・アンド・ノット(Space or Not)は、クロスビューの矛盾解決のベンチマークである。
人間は83.3%の精度を達成しており、最強の視覚言語モデルでは39.7%である。
論文 参考訳（メタデータ） (2026-10-09T17:54:57Z) - DementiaCare-Bench: A Modality-Validated Video Benchmark [83.92703885588868]
認知症は世界中で推定5700万人に影響を与える。
ほとんどの家族にとって、ケアの最も難しい部分は記憶喪失ではなく、認知症の行動や心理的症状である。
DementiaCare-Bench: 9つのBPSDカテゴリの94クリップに区切られた、プロのケア用トレーニングビデオ56本を提示する。
論文 参考訳（メタデータ） (2026-09-11T14:52:49Z) - MedQA-MM: Shortcuts Behind Medical Visual Reasoning [45.333881843709804]
ベンチマークスコアは最終回答を信用するが、アイテムが答えられるルートではない。
医用マルチモーダル多重選択質問(MCQ)では、適切な回答が意図された画像発見によって支持されるため、この区別が重要である。
ここでは、ルートは、モデルの隠れた認識に関するクレームではなく、回答の選択をサポートすることができる観測可能な入力パスである。
論文 参考訳（メタデータ） (2026-09-03T01:40:19Z) - HalluPrism: When Multimodal Uncertainty Should Diagnose, Not Decide [18.50218795316691]
本稿では,視覚的劣化,空白画像の置き換え,接地・関係チェックの後に回答を再実行する行動診断法であるHaluPrismを提案する。
これらのターゲットプローブは、視覚的摂動感度、画像除去された信頼性保持、グラウンドディング/リレーショナル-プローブ不安定性に対するシグネチャを与える。
論文 参考訳（メタデータ） (2026-08-29T11:06:37Z) - Explaining AI-Image Detection: What the Heatmap Actually Shows [65.01025489527173]
私たちは検出器を構築し、その証拠として属性マップを添付します。
私たちは、そのペアがコントロール下の186,527のイメージにもたらすものを測定します。
属性ランキングが存在するかどうかは、検出器が画像に反応するかどうかに依存する。
論文 参考訳（メタデータ） (2026-07-31T16:07:05Z) - Same Evidence, Different Target: Decoding How Diagnostic Evidence Bears on Causal Questions from Language-Model States [7.032871370232397]
因果的目標を変更しながら,同一の診断的証拠を口頭で繰り返し示すペアプロンプトを導入する。
それぞれのプロンプトは、証拠が因果問題にどのように耐えられるかに応じて、Favors、Challenges、Unresolved、Wrong Targetと呼ばれる。
我々はQwen2.5-7B-インストラクタの直交変圧器ブロックから最終トーケン隠れ状態を分析する。
論文 参考訳（メタデータ） (2026-07-29T13:56:37Z) - Decodable Is Not Grounded: A Vision-Ablation Arbiter for VLM Spatial Reasoning [48.438568700670835]
モデルから潜在的知識を読み出す標準的な方法は、視覚言語モデルがイメージに根ざしたものを体系的に上書きすることができる。
本研究では,空間的推論において,一直線因果制御によって露呈した探究と操舵の両方に誤差が見えないことを示す。
論文 参考訳（メタデータ） (2026-06-30T07:33:18Z) - PSF-Med: Measuring and Explaining Paraphrase Sensitivity in Medical Vision Language Models [2.064612766965483]
19,748個の胸部X線を約92,000個のパラフレーズと組み合わせたベンチマークであるParaphrase Sensitivity Failure (PSF)-Medを紹介する。
同じ画像のイエス/ノーフリップを測定し、フリップ率を8%から58%に設定する。
我々は、フレーミングと相関し、決定マージンシフトを予測するスパース機能を第17層で特定する。
論文 参考訳（メタデータ） (2026-02-24T23:03:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。