論文の概要: HalluScope: Fine-grained Hallucination Diagnosis for Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2607.21105v1
• Date: Thu, 23 Jul 2026 09:35:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.351574
• Title: HalluScope: Fine-grained Hallucination Diagnosis for Multimodal Large Language Models
• Title（参考訳）: HalluScope:マルチモーダル大言語モデルのためのきめ細かい幻覚診断
• Abstract要約: 本稿では,幻覚検出,分類,解釈可能な説明生成を共同で行う統合タスクを提案する。 我々は、MHALOベンチマークと細粒度幻覚分類ベンチマークの両方で最先端の性能を達成する2つの診断モデルであるHaluScope-4BとHaluScope-8Bを訓練する。
• 参考スコア（独自算出の注目度）: 26.47901200531005
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although Multimodal Large Language Models have achieved strong performance across a wide range of vision-language tasks, they still suffer from hallucinations, where model outputs become inconsistent with the visual content, textual context, or commonsense knowledge. Existing studies primarily address this problem through coarse-grained detection. However, these approaches often provide insufficient diagnostic information for understanding hallucination types and supporting downstream hallucination mitigation. To bridge this gap, we propose fine-grained hallucination diagnosis for MLLMs, a new unified task that jointly performs hallucination detection, classification, and interpretable explanation generation. We develop an automated data generation pipeline and construct HalluScope-30K, a large-scale diagnostic dataset covering eight sources and five task categories. Based on this dataset, we design a multi-granular joint reward function and train two diagnosis models, HalluScope-4B and HalluScope-8B, which achieve state-of-the-art performance on both the MHALO benchmark and our fine-grained hallucination classification benchmark. Notably, detection and classification are mutually beneficial under joint optimization. Furthermore, diagnosis-driven feedback experiments show that the fine-grained diagnostic explanations produced by our model effectively guide target models to correct their hallucinations, with full diagnosis substantially outperforming all baselines on both Qwen3-VL-8B-Instruct and LLaVA-1.5-7B.
• Abstract（参考訳）: マルチモーダル大規模言語モデルは、幅広い視覚言語タスクにおいて強力なパフォーマンスを達成してきたが、それでも幻覚に悩まされ、モデル出力は、視覚内容、テキストコンテキスト、常識知識と矛盾する。 既存の研究は主に粗粒度検出によってこの問題に対処している。 しかし、これらのアプローチは、幻覚のタイプを理解し、下流の幻覚の緩和を支援するために不十分な診断情報を提供することが多い。 このギャップを埋めるために, MLLMの微細な幻覚診断, 分類, 解釈可能な説明生成を共同で行う新しい統合タスクを提案する。 自動データ生成パイプラインを開発し、8つのソースと5つのタスクカテゴリをカバーする大規模診断データセットであるHaluScope-30Kを構築した。 このデータセットに基づいて,MHALOベンチマークと細粒度幻覚分類ベンチマークの両方で最先端の性能を達成できる,複数粒状関節報酬関数を設計し,HaluScope-4BとHaluScope-8Bの2つの診断モデルを訓練する。 特に、共同最適化の下では、検出と分類は相互に有益である。 さらに,Qwen3-VL-8B-Instruct と LLaVA-1.5-7B の両方のベースラインをほぼ上回る精度で,本モデルにより得られた詳細な診断説明が,目標モデルの幻覚の補正を効果的に導くことを示した。

関連論文リスト

• Scalable Token-Level Hallucination Detection in Large Language Models [63.3426544914783]
  内部幻覚は推論集約的なタスクでは検出が難しい。 TokenHDはトークンレベルの幻覚検出器を訓練するための全体論的パイプラインである。
  論文  参考訳（メタデータ） (2026-05-12T16:47:40Z)
• HART: Data-Driven Hallucination Attribution and Evidence-Based Tracing for Large Language Models [4.211691393530721]
  我々は,大規模言語モデルに対する微細な幻覚の帰属とエビデンス検索の枠組みであるHARTを提案する。 HARTは幻覚追跡を、局所化、メカニズム帰属、エビデンス検索、因果トレースの4段階からなる構造化モデリングタスクとして定式化する。 この定式化に基づいて,幻覚追跡に適した最初の構造化データセットを開発した。
  論文  参考訳（メタデータ） (2026-03-06T02:23:55Z)
• From Detection to Diagnosis: Advancing Hallucination Analysis with Automated Data Synthesis [7.3390265169910665]
  LLM(Large Language Models)における幻覚は、重要なドメインへの信頼性の高いデプロイにおける中核的な障害である。 この限界に対処するため、新たな研究パラダイムが提案され、"検出"から"診断"へと移行した。
  論文  参考訳（メタデータ） (2025-12-31T05:06:35Z)
• HAD: HAllucination Detection Language Models Based on a Comprehensive Hallucination Taxonomy [48.68088917291552]
  NLGタスクにまたがる11のカテゴリからなる総合的な幻覚分類を導入する。 本稿では,幻覚検出,スパンレベル同定,修正を単一の推論プロセスに統合するHAllucination Detection (HAD)モデルを提案する。
  論文  参考訳（メタデータ） (2025-10-22T07:28:37Z)
• DiagR1: A Vision-Language Model Trained via Reinforcement Learning for Digestive Pathology Diagnosis [7.5173141954286775]
  内視鏡的所見と診断結果の両方を含む大規模な消化管病理データセットを構築した。 この設計は、画像特有の特徴をよりよく捉え、生成時のセマンティック一貫性を維持するためにモデルを導く。 臨床関連度は18.7%, 構造的完全性は32.4%改善し, 診断誤差は41.2%減少した。
  論文  参考訳（メタデータ） (2025-07-24T14:12:20Z)
• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)
• Learning Auxiliary Tasks Improves Reference-Free Hallucination Detection in Open-Domain Long-Form Generation [78.78421340836915]
  オープンドメイン長文応答における参照なし幻覚検出を系統的に検討する。 その結果,内的状態は事実と幻覚的内容とを確実に区別するには不十分であることが判明した。 RATE-FTと呼ばれる新しいパラダイムを導入し、モデルが幻覚検出のメインタスクと共同で学習するための補助的なタスクで微調整を強化する。
  論文  参考訳（メタデータ） (2025-05-18T07:10:03Z)
• VALOR-EVAL: Holistic Coverage and Faithfulness Evaluation of Large Vision-Language Models [57.43276586087863]
  LVLM(Large Vision-Language Models)は幻覚に悩まされ、このモデルでは可聴音を発生させるが、実際には誤出力を発生させる。 既存のベンチマークはスコープに限られており、主にオブジェクト幻覚に焦点を当てている。 対象,属性,関係を多次元のベンチマークで表現し,連想バイアスに基づいて画像を選択する。
  論文  参考訳（メタデータ） (2024-04-22T04:49:22Z)
• Prescribing the Right Remedy: Mitigating Hallucinations in Large Vision-Language Models via Targeted Instruction Tuning [13.805780090705252]
  そこで本研究では,異なるモデルの幻覚特異性に合わせたDFTGという命令データ生成フレームワークを提案する。 幻覚ベンチマークによる実験結果から,本手法で生成した目標命令データの方が,従来よりも幻覚の緩和に有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-04-16T07:14:32Z)
• AutoHall: Automated Hallucination Dataset Generation for Large Language Models [56.92068213969036]
  本稿では,AutoHallと呼ばれる既存のファクトチェックデータセットに基づいて,モデル固有の幻覚データセットを自動的に構築する手法を提案する。 また,自己コントラディションに基づくゼロリソース・ブラックボックス幻覚検出手法を提案する。
  論文  参考訳（メタデータ） (2023-09-30T05:20:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。