論文の概要: Position, Not Provenance: Separating Reasoning Mediation from Sycophancy in Medical Vision-Language Models

• arxiv url: http://arxiv.org/abs/2607.27304v1
• Date: Wed, 29 Jul 2026 17:11:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 21:37:00.289099
• Title: Position, Not Provenance: Separating Reasoning Mediation from Sycophancy in Medical Vision-Language Models
• Title（参考訳）: 医師の視力・言語モデルにおけるシコファンシーからの想いの分離
• Authors: Supratik Bhowal, Subhrajyoti Basu, Aritra Gir Mahanta, Anik Pal Chowdhury,
• Abstract要約: 医療ビジョン言語モデルは、臨床的な疑問に答える前に連鎖推論を生成する。 CoT-Mediateは、モデルが生成する推論の中で、単一の臨床的に有意な属性を摂動させる行動的枠組みである。 LLaVA-MedとMedGemmaを1000VQA-RADサンプルで評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Medical vision-language models (VLMs) generate chain-of-thought (CoT) reasoning before answering clinical questions, but whether this reasoning causally influences predictions remains unclear. We present CoT-Mediate, a behavioral framework that perturbs a single clinically meaningful attribute within a model's own generated reasoning and measures whether the resulting prediction follows the edited reasoning. Our framework combines a dual-arm protocol comparing re-prompted evidence with prefix-forced continuation, together with a provenance-controlled intervention that varies only the attributed source of identical reasoning to disentangle reasoning mediation from sycophancy. We evaluate LLaVA-Med and MedGemma on 1,000 VQA-RAD samples each. Prefix-forced continuation consistently yields higher mediation faithfulness than re-prompting, while the provenance analysis reveals distinct model-specific deference behaviors. Across both models, removing visual evidence increases reliance on injected reasoning, whereas laterality is the least faithfully tracked clinical attribute. These results show that the mechanism used to inject reasoning substantially affects measured faithfulness and that contextual position, rather than stated provenance, is the primary determinant of whether medical VLMs use their generated reasoning.
• Abstract（参考訳）: 医学的視覚言語モデル(VLM)は、臨床的な疑問に答える前にチェーン・オブ・シント(CoT)推論を生成するが、この推論が予測に因果的影響を与えるかどうかはまだ不明である。 本稿では,モデルが生成した推論において,単一の臨床的に有意な属性を摂動させ,その結果の予測が編集された推論に従うかどうかを測定する行動的枠組みであるCoT-Mediateを提案する。 本フレームワークは,再試行された証拠とプレフィックス強制継続を比較したデュアルアームプロトコルと,同一推論の属性源のみを変化させる証明制御的介入を組み合わせることで,薬局からの推論の仲介を阻害する。 LLaVA-MedとMedGemmaを1000VQA-RADサンプルで評価した。 プレフィックス強制継続は、再プロンプティングよりもメディエーション忠実度が高い一方、証明分析では、モデル固有の推論の振る舞いが明確に示される。 両モデルとも、視覚的証拠の除去は注射による推論に依存するが、側方性は最も忠実に追跡されていない臨床属性である。 これらの結果から, 推論を誘導する機構は, 測定された忠実度に大きく影響し, 既知性よりも文脈的位置が, 医療用VLMが生成した推論を使用するかどうかを決定づける要因であることが示唆された。

関連論文リスト

• Rethinking Visual Attribution for Chest X-ray Reasoning in Large Vision Language Models [47.16270570101431]
  大規模視覚言語モデル(LVLM)は医学的応用において有望であるが、視覚的証拠に忠実に応答できないことは深刻な懸念を引き起こす。 そこで本研究では,CXR-VQAサンプルのみを保持する因果評価フレームワークを開発した。 MedFocusは, 臨床的に有意な解剖学的領域を非平衡の最適輸送により局所化する概念に基づく属性法である。
  論文  参考訳（メタデータ） (2026-05-19T17:46:40Z)
• Perception Without Engagement: Dissecting the Causal Discovery Deficit in LMMs [68.58207076756237]
  本稿では,結果評価からメカニズム診断へ移行する摂動に基づく評価プロトコルProCauEvalを紹介する。 因果推論において,ビデオコンテンツは体系的に過小評価されている。 教師のネガティブなアライメントに基づく強化学習フレームワークであるADPOを提案する。
  論文  参考訳（メタデータ） (2026-05-10T08:48:58Z)
• Dialectic-Med: Mitigating Diagnostic Hallucinations via Counterfactual Adversarial Multi-Agent Debate [2.645243404278707]
  本稿では,対数弁証法を用いて診断厳格を強制するマルチエージェントフレームワークDialectic-Medを提案する。 ファリシフィケーションの認知過程を明示的にモデル化することにより、診断的推論が検証された視覚領域にしっかりと根付いていることを保証する。
  論文  参考訳（メタデータ） (2026-04-13T10:09:36Z)
• Towards Responsible Multimodal Medical Reasoning via Context-Aligned Vision-Language Models [11.019570079187552]
  医用視覚言語モデル (VLM) は放射線学のタスクにおいて強い性能を示すが、しばしば流動的だが弱弱な結論をもたらす。 我々は、診断結果を生成する前に、異種の臨床的証拠間での合意を強制する文脈整合推論フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-04-09T23:09:38Z)
• MedCausalX: Adaptive Causal Reasoning with Self-Reflection for Trustworthy Medical Vision-Language Models [10.466505116993451]
  既存の医療連鎖モデルには因果推論を表現・強制するための明確なメカニズムが欠如している。 MedCausalXは医療用VLMの因果推論チェーンを明示的にモデル化したエンドツーエンドフレームワークである。 我々は,MedCausalXが常に最先端の手法より優れ,診断の整合性は+5.4ポイント向上し,幻覚は10ポイント以上減少し,最上位の空間接地IoUに達することを示す。
  論文  参考訳（メタデータ） (2026-03-24T11:28:15Z)
• Faithful or Just Plausible? Evaluating the Faithfulness of Closed-Source LLMs in Medical Reasoning [0.0]
  我々は,広く使用されている3つの大規模言語モデルの中で,医学的推論における忠実度を体系的に評価する。 CoT推論のステップは、しばしば予測を因果的に駆動せず、モデルは、認識せずに容易に外部ヒントを組み込む。
  論文  参考訳（メタデータ） (2026-03-14T15:30:53Z)
• Making medical vision-language models think causally across modalities with retrieval-augmented cross-modal reasoning [16.243806723551454]
  医用視覚言語モデル(VLM)は,診断報告や画像テキストアライメントにおいて高い性能を発揮する。 その根底にある推論機構は、基本的に相関関係にあり、表面的な統計的関連に頼っている。 因果推論の原理とマルチモーダル検索を統合するフレームワークであるMultimodal Causal Retrieval-Augmented Generationを提案する。
  論文  参考訳（メタデータ） (2026-01-26T11:03:00Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
  変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。 本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。 その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
  論文  参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。