論文の概要: PROVE: Proof-guided Regime-aware Operator Verification for Hallucination Detection in Medical Visual Question Answering
- arxiv url: http://arxiv.org/abs/2609.29604v1
- Date: Fri, 28 Aug 2026 01:01:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:56.084152
- Title: PROVE: Proof-guided Regime-aware Operator Verification for Hallucination Detection in Medical Visual Question Answering
- Title（参考訳）: PROVE:医学的視覚質問応答における幻覚検出のためのガイド付き正規化演算子検証
- Abstract要約: 本稿では,各質問の明確構造に検証戦略を適用するブラックボックス検出器であるPROVE(Proof-Guided-Aware Operator Verification)を提案する。
PROVEは、要求する視覚的証明に基づいて、質問を3つの検証体制に分類し、5つの補完演算子の体制固有のサブセットを活性化し、質問ごとのオペレータの重要性を調整する。
PROVEは0.821 AUROCを達成し、最強のベースラインである+0.159を上回った。
- 参考スコア（独自算出の注目度）: 31.62102147229479
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In medical visual question answering (VQA), hallucinations of vision-language models (VLMs) may lead to confident but incorrect responses, raising the risk of diagnostic errors. Existing hallucination detection methods uniformly estimate the reliability of VLM outputs from response consistency or visual evidence. However, such uniform verification across questions ignores question-specific characteristics, resulting in missed overconfident errors and false alarms from over-verification. We present PROVE (Proof-guided Regime-aware Operator Verification), a black-box detector that adapts verification strategy to the evidential structure of each question. PROVE classifies questions into three verification regimes based on what kind of visual proof they demand, activates a regime-specific subset of five complementary operators, and adjusts operator importance per question through a lightweight calibration layer conditioned on deterministic question-answer features. PROVE uses question-specific evidence to reweight operators and produce a calibrated risk score. Evaluated on 8048 test samples across three medical VQA benchmarks and four frontier VLMs, PROVE achieves 0.821 AUROC, outperforming the strongest baseline by +0.159, with consistent gains across all models and benchmarks.
- Abstract（参考訳）: 医学的視覚的質問応答(VQA)では、視覚言語モデル(VLM)の幻覚は自信があるが誤った反応をもたらし、診断ミスのリスクを増大させる可能性がある。
既存の幻覚検出手法は、応答整合性や視覚的証拠からVLM出力の信頼性を均一に推定する。
しかし、このような質問に対する一様検証は、問題固有の特徴を無視し、過信の誤りや過剰な検証からの誤報を見逃す結果となる。
本稿では,各質問の明確構造に検証戦略を適用するブラックボックス検出器であるPROVE(Proof-guided Regime-aware Operator Verification)を提案する。
PROVEは、要求する視覚的証明に基づいて、質問を3つの検証体制に分類し、5つの補完演算子のシステマ固有のサブセットを活性化し、決定論的質問応答機能に基づく軽量なキャリブレーション層を通じて、質問ごとのオペレータの重要性を調整する。
PROVEは問題固有のエビデンスを演算子に使用し、校正されたリスクスコアを生成する。
3つのVQAベンチマークと4つのフロンティアVLMで8048のテストサンプルを評価し、PROVEは0.821 AUROCを達成した。
関連論文リスト
- VISTAQA: Benchmarking Joint Visual Question Answering and Pixel-Level Evidence [26.0945130521806]
既存のベンチマークでは、テキストによる回答の正当性または画素レベルのローカライゼーションを分離して評価している。
本稿では,視覚的質問応答に基づく自由形式の回答正当性と画素レベルの証拠を共同評価するためのベンチマークであるVISTAQAを紹介する。
GROVEは, テキストの精度と接地品質を, サンプルごとの幾何平均で組み合わせることで, 関節の正しさを強制する指標である。
論文 参考訳（メタデータ） (2026-05-20T03:44:06Z) - Verification Mirage: Mapping the Reliability Boundary of Self-Verification in Medical VQA [36.64345996280624]
自己検証は、医療的な視覚的質問応答のデフォルトの安全レイヤとして、ますます使われている。
本稿では,医療用VLM自己検証の信頼性境界をマッピングする診断フレームワークであるMETHOD NAMEを紹介する。
論文 参考訳（メタデータ） (2026-05-11T17:00:00Z) - ReVSI: Rebuilding Visual Spatial Intelligence Evaluation for Accurate Assessment of VLM 3D Reasoning [59.558706734431276]
空間知能の現在の評価は、現代の視覚言語モデル(VLM)設定下で体系的に無効にすることができる。
本稿では,各QAペアが実際の入力の下で応答可能で正しいことを保証するためのベンチマークとプロトコルであるReVSIを紹介する。
論文 参考訳（メタデータ） (2026-04-27T10:45:51Z) - Benchmarking Multi-turn Medical Diagnosis: Hold, Lure, and Self-Correction [72.89352076103889]
大規模言語モデル (LLM) は, 臨床情報がすべて一ターンで提供される場合に, 高い精度で診断を行う。
1,035例からなる高忠実多ターン診断ベンチマークであるMINTを導入する。
診断決定に大きな影響を及ぼす3つの永続的な行動パターンを明らかにする。
論文 参考訳（メタデータ） (2026-04-06T00:23:10Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - Guideline-Grounded Evidence Accumulation for High-Stakes Agent Verification [60.18369393468405]
既存の検証器は通常、ドメイン知識の欠如と限られた校正のために性能が劣る。
GLEANは専門家によって計算されたプロトコルをトラジェクトリインフォームされ、よく校正された正当性信号にコンパイルする。
我々は,MIMIC-IVデータセットから得られた3つの疾患の薬物的臨床診断でGLEANを実証的に検証した。
論文 参考訳（メタデータ） (2026-03-03T09:36:43Z) - V-Loop: Visual Logical Loop Verification for Hallucination Detection in Medical Visual Question Answering [8.994256499686863]
医用視覚質問応答における幻覚検出のためのトレーニングフリーでプラグアンドプレイのフレームワークを提案する。
V-ループは、事実の正しさを検証するために視覚的に接地された論理ループを形成する。
既存のイントロスペクティブ手法を一貫して上回り、高い効率を保ち、組み合わせた場合の不確実性ベースのアプローチをさらに強化する。
論文 参考訳（メタデータ） (2026-01-26T07:46:41Z) - Evaluating Reasoning Faithfulness in Medical Vision-Language Models using Multimodal Perturbations [19.488236277427358]
視覚言語モデル(VLM)は、しばしばチェーン・オブ・シント(CoT)の説明を生み出す。
胸部X線視覚質問応答(VQA)の臨床的基盤として,制御されたテキストと画像修正を用いてCoT忠実度を探索するフレームワークを提案する。
論文 参考訳（メタデータ） (2025-10-13T09:28:22Z) - CompassVerifier: A Unified and Robust Verifier for LLMs Evaluation and Outcome Reward [50.97588334916863]
評価と結果報酬のための正確で堅牢な軽量検証モデルであるCompassVerifierを開発した。
数学、知識、多種多様な推論タスクにまたがる多分野の能力を示し、様々な答えの型を処理する能力を示す。
我々は,複数のデータソースから収集したモデル出力からなるVerifierBenchベンチマークを導入し,メタエラーパターンを手動で解析してCompassVerifierを強化する。
論文 参考訳（メタデータ） (2025-08-05T17:55:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。