Fugu-MT 論文翻訳(概要): Detecting Clinical Hallucinations in LVLMs via Counterfactual Visual Grounding Uncertainty

論文の概要: Detecting Clinical Hallucinations in LVLMs via Counterfactual Visual Grounding Uncertainty

arxiv url: http://arxiv.org/abs/2606.28520v1
Date: Fri, 26 Jun 2026 18:15:38 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-30 18:07:15.590345
Title: Detecting Clinical Hallucinations in LVLMs via Counterfactual Visual Grounding Uncertainty
Title（参考訳）: 視覚的非確実性によるLVLMの臨床的幻覚の検出
Abstract要約: 視覚的エビデンスを基礎として,任意のLVLM応答を監査する視覚追跡可能な幻覚検出フレームワークを提案する。我々は、視覚的に検証可能なエンティティを抽出し、医療領域適応Qwen-VL接地検証器を用いて、入力画像上に各エンティティをローカライズする。複数の医用画像モダリティとLVLMバックボーンを用いた実験により,本手法は幻覚検出性能を継続的に向上することが示された。
参考スコア（独自算出の注目度）: 22.008964207160663
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large vision-language models (LVLMs) are increasingly used for clinical image understanding, yet they remain vulnerable to \emph{hallucinations}--producing textual findings or attributes not supported by the image. We present a vision-traceable hallucination detection framework that audits arbitrary LVLM responses via visual evidence grounding, requiring neither modification nor internal access to the hidden states of LVLMs. Given an LVLM response, we extract visually verifiable entities and use a medical-domain-adapted Qwen-VL grounding verifier to localize each entity on the input image. To enhance the robustness of our detection method, we introduce a counterfactual entity perturbation method and estimate visual evidence uncertainty by contrasting factual and counterfactual grounding results. Specifically, we compute an entity-level uncertainty score from the positive confidence, counterfactual confidence, and their grounding overlap for binary hallucination decision-making. Experiments on multiple medical imaging modalities and LVLM backbones demonstrate that our method consistently improves hallucination detection performance over recent baselines, while providing interpretable localization evidence and strong cross-model transferability. Code and dataset are available at https://github.com/Agentic-CliniAI/CounterVHD.
Abstract（参考訳）: 大規模視覚言語モデル (LVLM) は, 臨床画像の理解にますます利用されているが, テキスト所見や画像に支えられていない属性が生成する「emph{hallucinations}」に弱いままである。視覚的エビデンスを根拠として任意のLVLM応答を監査し,LVLMの隠れ状態への修正も内部アクセスも必要としない視覚追跡可能な幻覚検出フレームワークを提案する。 LVLM応答が与えられた場合、視覚的に検証可能なエンティティを抽出し、医療領域適応型Qwen-VL接地検証器を用いて、各エンティティを入力画像上にローカライズする。検出手法のロバスト性を高めるために,実物と実物とを対比して,実物と実物との不確実性を推定する対物的実体摂動法を導入し,視覚的証拠の不確実性を推定する。具体的には, 正の信頼度, 反実的信頼度, および二分幻覚決定のための基礎的重複度から, 実体レベルの不確実性スコアを算出する。複数種類の医用画像モダリティとLVLMバックボーンを用いた実験により,近年の基準値よりも連続的に幻覚検出性能が向上し,解釈可能な局所化証拠と強力なクロスモデル転写能が得られた。コードとデータセットはhttps://github.com/Agentic-CliniAI/CounterVHDで入手できる。

関連論文リスト

VIHD: Visual Intervention-based Hallucination Detection for Medical Visual Question Answering [27.827862126990553]
幻覚は臨床的な意思決定にリスクをもたらし、効果的な検出を必要とする。既存のイントロスペクティブ検出法は、主に不確実性推定や論理的検証を行う。視覚的介入に基づく幻覚検出法であるVIHDを提案する。
論文参考訳（メタデータ） (2026-05-20T06:14:45Z)
When Prompts Override Vision: Prompt-Induced Hallucinations in LVLMs [54.411658510110215]
本研究では,異なる要因が幻覚を誘発する程度をよりよく理解するために,HauScopeを提案する。 HalluVL-DPOは、市販のLVLMをより視覚的な応答に向けて微調整するためのフレームワークである。
論文参考訳（メタデータ） (2026-04-23T17:54:36Z)
VCE: A zero-cost hallucination mitigation method of LVLMs via visual contrastive editing [70.82867621856968]
大きな視覚言語モデル(LVLM)は、しばしば物体幻覚(OH)に悩まされる近年の研究では、幻覚の問題は言語の先行に起因している可能性が示唆されている。本稿では視覚コントラスト編集(VCE)を提案する。
論文参考訳（メタデータ） (2026-04-21T12:40:07Z)
Hallucination Begins Where Saliency Drops [18.189047289404325]
幻覚は、前の出力トークンが次のトークンの予測に対して低い正当性を示すときにしばしば起こる。 LVLMs-Saliencyは,各出力トークンの視覚的グラウンドリング強度を定量化する,勾配認識型診断フレームワークである。本手法は, 流速とタスク性能を保ちながら幻覚率を大幅に低減し, 堅牢かつ解釈可能なソリューションを提供する。
論文参考訳（メタデータ） (2026-01-28T05:50:52Z)
SHALE: A Scalable Benchmark for Fine-grained Hallucination Evaluation in LVLMs [52.03164192840023]
LVLM(Large Vision-Language Models)は、いまだ幻覚に悩まされている。本稿では,スケーラブルで制御可能で多様な評価データを生成する自動データ構築パイプラインを提案する。我々は,忠実度と事実性幻覚の両方を評価するためのベンチマークであるSHALEを構築した。
論文参考訳（メタデータ） (2025-08-13T07:58:01Z)
ICR Probe: Tracking Hidden State Dynamics for Reliable Hallucination Detection in LLMs [50.18087419133284]
隠れた状態を活用する幻覚検出法は、主に静的および孤立した表現に焦点を当てている。隠れ状態の更新に対するモジュールの寄与を定量化する新しいメトリック ICR Score を導入する。本稿では,隠れ状態の層間進化を捉えた幻覚検出手法 ICR Probe を提案する。
論文参考訳（メタデータ） (2025-07-22T11:44:26Z)
Efficient Contrastive Decoding with Probabilistic Hallucination Detection - Mitigating Hallucinations in Large Vision Language Models - [1.2499537119440245]
効率的なコントラストデコーディング(ECD)は、確率的幻覚検出を利用して、推定時に出力分布を文脈的に正確な解へとシフトする単純な方法である。実験の結果,LCDは幻覚を効果的に軽減し,LVLMベンチマークの性能や計算時間に対して最先端の手法より優れることがわかった。
論文参考訳（メタデータ） (2025-04-16T14:50:25Z)
Vision-Amplified Semantic Entropy for Hallucination Detection in Medical Visual Question Answering [42.116697933322875]
マルチモーダル大言語モデル(MLLM)は、医療用視覚質問応答(VQA)において有意な可能性を証明している。入力画像と矛盾する幻覚的不適切な反応を呈し、臨床的な意思決定に重大なリスクをもたらす傾向にある。現在の幻覚検出法,特に意味エントロピー(SE)は,LLMに対して有望な幻覚検出能力を示す。本稿では、弱い画像変換を取り入れ、視覚入力の影響を増幅する視覚増幅セマンティックエントロピー(VASE)を提案する。
論文参考訳（メタデータ） (2025-03-26T12:45:34Z)
Towards a Systematic Evaluation of Hallucinations in Large-Vision Language Models [57.58426038241812]
LVLM(Large Vision-Language Models)は、複雑なマルチモーダルタスクにおいて顕著な性能を示す。これらのモデルは、画像から様々な視覚的実体を暗黙的に認識または推測する必要がある場合、まだ幻覚に悩まされている。本稿では,視覚的質問応答(VQA)ベンチマークを提案する。
論文参考訳（メタデータ） (2024-12-29T23:56:01Z)
MetaToken: Detecting Hallucination in Image Descriptions by Meta Classification [1.3654846342364308]
トークンレベルの幻覚を無視可能なコストで検出する軽量バイナリ分類器であるMetaTokenを紹介する。統計的解析から,大規模視覚言語モデルにおける幻覚の重要な要因を明らかにする。提案手法の有効性を示す4種類のLVLMについて検討した。
論文参考訳（メタデータ） (2024-05-29T15:28:42Z)
Visual Description Grounding Reduces Hallucinations and Boosts Reasoning in LVLMs [52.497823009176074]
LVLM(Large Vision-Language Models)はしばしば、幻覚として知られる事実情報を誤認する応答を生成する。視覚的知覚の向上とLVLMの推論能力の向上を目的とした学習自由度手法であるVisual Description Grounded Decoding (VDGD)を紹介した。
論文参考訳（メタデータ） (2024-05-24T16:21:59Z)
A New Benchmark and Reverse Validation Method for Passage-level Hallucination Detection [63.56136319976554]
大きな言語モデル(LLM)は幻覚を発生させ、ミッションクリティカルなタスクにデプロイすると大きなダメージを与える可能性がある。本稿では,逆検証に基づく自己チェック手法を提案し,ゼロリソース方式で事実誤りを自動的に検出する。提案手法と既存のゼロリソース検出手法を2つのデータセット上で実証的に評価した。
論文参考訳（メタデータ） (2023-10-10T10:14:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。