論文の概要: From Detection to Diagnosis: Advancing Hallucination Analysis with Automated Data Synthesis

• arxiv url: http://arxiv.org/abs/2601.09734v1
• Date: Wed, 31 Dec 2025 05:06:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-25 16:54:51.716791
• Title: From Detection to Diagnosis: Advancing Hallucination Analysis with Automated Data Synthesis
• Title（参考訳）: 診断から診断へ:自動データ合成による幻覚分析の促進
• Authors: Yanyi Liu, Qingwen Yang, Tiezheng Guo, Feiyu Qu, Jun Liu, Yingyou Wen,
• Abstract要約: LLM(Large Language Models)における幻覚は、重要なドメインへの信頼性の高いデプロイにおける中核的な障害である。 この限界に対処するため、新たな研究パラダイムが提案され、"検出"から"診断"へと移行した。
• 参考スコア（独自算出の注目度）: 7.3390265169910665
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Hallucinations in Large Language Models (LLMs), defined as the generation of content inconsistent with facts or context, represent a core obstacle to their reliable deployment in critical domains. Current research primarily focuses on binary "detection" approaches that, while capable of identifying hallucinations, fail to provide interpretable and actionable feedback for model improvement, thus limiting practical utility. To address this limitation, a new research paradigm is proposed, shifting from "detection" to "diagnosis". The Hallucination Diagnosis Task is introduced, a task which requires models to not only detect hallucinations, but also perform error localization, causal explanation, and content correction. We develop the Hallucination Diagnosis Generator (HDG), an automated pipeline that systematically generates high-quality training samples with rich diagnostic metadata from raw corpora through multi-dimensional augmentation strategies including controlled fact fabrication and reasoning chain perturbation. Using HDG-generated data, we train HDM-4B-RL, a 4-billion-parameter hallucination diagnosis model, employing Group Relative Policy Optimization (GRPO) with a comprehensive reward function incorporating structural, accuracy, and localization signals. Experimental results demonstrate that our model surpasses previous state-of-the-art detection models on the HaluEval benchmark while achieving comparable performance to advanced general-purpose models. In comprehensive diagnosis tasks, HDM-4B-RL matches the capabilities of larger general models while maintaining a smaller size. This work validates the feasibility and value of hallucination diagnosis, providing an effective methodology for building more trustworthy and reliable generative AI systems.
• Abstract（参考訳）: 大型言語モデル(LLM)における幻覚は、事実や文脈と矛盾しないコンテンツの生成として定義され、重要なドメインへの信頼性の高いデプロイにおける中核的な障害である。 現在の研究は、幻覚を識別できるが、モデル改善のために解釈可能で実行可能なフィードバックを提供しず、実用性を制限するバイナリ「検出」アプローチに重点を置いている。 この限界に対処するため、新たな研究パラダイムが提案され、"検出"から"診断"へと移行した。 幻覚診断タスクは、幻覚を検知するだけでなく、誤りの局所化、因果的説明、内容の修正を行うモデルを必要とするタスクである。 提案するHalucination Diagnosis Generator (HDG) は,制御されたファクト作成や推論チェーンの摂動を含む多次元拡張戦略を通じて,生コーパスから豊富な診断メタデータを持つ高品質なトレーニングサンプルを体系的に生成する自動パイプラインである。 HDG生成データを用いて,HDM-4B-RL(4-billion-parameter Hallucination diagnosis model)を訓練する。 実験結果から,本モデルがHaluEvalベンチマークにおける従来の最先端検出モデルを上回っつつ,高度な汎用モデルに匹敵する性能を実現していることが示された。 包括的診断タスクでは、HDM-4B-RLはより小さなサイズを維持しながら、より大きな汎用モデルの能力と一致する。 この研究は幻覚診断の実現可能性と価値を検証し、より信頼性が高く信頼性の高い生成AIシステムを構築するための効果的な方法論を提供する。

関連論文リスト

• HAD: HAllucination Detection Language Models Based on a Comprehensive Hallucination Taxonomy [48.68088917291552]
  NLGタスクにまたがる11のカテゴリからなる総合的な幻覚分類を導入する。 本稿では,幻覚検出,スパンレベル同定,修正を単一の推論プロセスに統合するHAllucination Detection (HAD)モデルを提案する。
  論文  参考訳（メタデータ） (2025-10-22T07:28:37Z)
• DiagR1: A Vision-Language Model Trained via Reinforcement Learning for Digestive Pathology Diagnosis [7.5173141954286775]
  内視鏡的所見と診断結果の両方を含む大規模な消化管病理データセットを構築した。 この設計は、画像特有の特徴をよりよく捉え、生成時のセマンティック一貫性を維持するためにモデルを導く。 臨床関連度は18.7%, 構造的完全性は32.4%改善し, 診断誤差は41.2%減少した。
  論文  参考訳（メタデータ） (2025-07-24T14:12:20Z)
• Learning Auxiliary Tasks Improves Reference-Free Hallucination Detection in Open-Domain Long-Form Generation [78.78421340836915]
  オープンドメイン長文応答における参照なし幻覚検出を系統的に検討する。 その結果,内的状態は事実と幻覚的内容とを確実に区別するには不十分であることが判明した。 RATE-FTと呼ばれる新しいパラダイムを導入し、モデルが幻覚検出のメインタスクと共同で学習するための補助的なタスクで微調整を強化する。
  論文  参考訳（メタデータ） (2025-05-18T07:10:03Z)
• HuDEx: Integrating Hallucination Detection and Explainability for Enhancing the Reliability of LLM responses [0.12499537119440242]
  本稿では,HuDExと命名された幻覚検出モデルについて説明する。 提案モデルでは,検出を説明と統合する新たなアプローチを提供し,ユーザとLLM自体がエラーを理解し,低減することができる。
  論文  参考訳（メタデータ） (2025-02-12T04:17:02Z)
• Prescribing the Right Remedy: Mitigating Hallucinations in Large Vision-Language Models via Targeted Instruction Tuning [13.805780090705252]
  そこで本研究では,異なるモデルの幻覚特異性に合わせたDFTGという命令データ生成フレームワークを提案する。 幻覚ベンチマークによる実験結果から,本手法で生成した目標命令データの方が,従来よりも幻覚の緩和に有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-04-16T07:14:32Z)
• AutoHall: Automated Hallucination Dataset Generation for Large Language Models [56.92068213969036]
  本稿では,AutoHallと呼ばれる既存のファクトチェックデータセットに基づいて,モデル固有の幻覚データセットを自動的に構築する手法を提案する。 また,自己コントラディションに基づくゼロリソース・ブラックボックス幻覚検出手法を提案する。
  論文  参考訳（メタデータ） (2023-09-30T05:20:02Z)
• Many-to-One Distribution Learning and K-Nearest Neighbor Smoothing for Thoracic Disease Identification [83.6017225363714]
  ディープラーニングは、病気の識別性能を改善するための最も強力なコンピュータ支援診断技術となった。 胸部X線撮影では、大規模データの注釈付けには専門的なドメイン知識が必要で、時間を要する。 本論文では、単一モデルにおける疾患同定性能を改善するために、複数対1の分布学習(MODL)とK-nearest neighbor smoothing(KNNS)手法を提案する。
  論文  参考訳（メタデータ） (2021-02-26T02:29:30Z)
• SUOD: Accelerating Large-Scale Unsupervised Heterogeneous Outlier Detection [63.253850875265115]
  外乱検出(OD)は、一般的なサンプルから異常物体を識別するための機械学習(ML)タスクである。 そこで我々は,SUODと呼ばれるモジュール型加速度システムを提案する。
  論文  参考訳（メタデータ） (2020-03-11T00:22:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。