論文の概要: Hallucination Detection and Mitigation in Large Language Models

• arxiv url: http://arxiv.org/abs/2601.09929v1
• Date: Wed, 14 Jan 2026 23:19:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-16 19:43:18.918396
• Title: Hallucination Detection and Mitigation in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける幻覚検出と緩和
• Authors: Ahmad Pesaranghader, Erin Li,
• Abstract要約: LLM(Large Language Models)とLRM(Large Reasoning Models)は、金融や法律のような高額な領域に変革をもたらす。 幻覚を起こそうとする傾向は、事実的に不正確な、または、サポートされていないコンテンツを発生させ、重大な信頼性のリスクを生じさせる。 本稿では,根本原因認識による継続的改善サイクル上に構築された幻覚管理のための包括的枠組みを紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) and Large Reasoning Models (LRMs) offer transformative potential for high-stakes domains like finance and law, but their tendency to hallucinate, generating factually incorrect or unsupported content, poses a critical reliability risk. This paper introduces a comprehensive operational framework for hallucination management, built on a continuous improvement cycle driven by root cause awareness. We categorize hallucination sources into model, data, and context-related factors, allowing targeted interventions over generic fixes. The framework integrates multi-faceted detection methods (e.g., uncertainty estimation, reasoning consistency) with stratified mitigation strategies (e.g., knowledge grounding, confidence calibration). We demonstrate its application through a tiered architecture and a financial data extraction case study, where model, context, and data tiers form a closed feedback loop for progressive reliability enhancement. This approach provides a systematic, scalable methodology for building trustworthy generative AI systems in regulated environments.
• Abstract（参考訳）: LLM(Large Language Models)とLRM(Large Reasoning Models)は、金融や法律のような高額な領域において、変革的なポテンシャルを提供するが、その傾向は幻覚し、事実的に不正確なコンテンツを生成するため、重大な信頼性のリスクが生じる。 本稿では,根本原因認識による継続的改善サイクルを基盤とした,幻覚管理のための総合的な運用フレームワークを提案する。 我々は、幻覚源をモデル、データ、コンテキスト関連要因に分類し、汎用的な修正を対象とする介入を可能にする。 このフレームワークは、多面的検出方法(例えば不確実性推定、推論整合性)と階層化された緩和戦略(例えば、知識基盤、信頼性校正)を統合する。 我々は, モデル, コンテキスト, およびデータ層が漸進的信頼性向上のための閉じたフィードバックループを形成する, 階層型アーキテクチャと金融データ抽出ケーススタディを通じて, その応用を実証する。 このアプローチは、規制された環境で信頼できる生成AIシステムを構築するための、体系的でスケーラブルな方法論を提供する。

関連論文リスト

• Graphing the Truth: Structured Visualizations for Automated Hallucination Detection in LLMs [0.0]
  本稿では,プロプライエタリな知識とモデル生成コンテンツをインタラクティブな視覚的知識グラフにまとめるフレームワークを提案する。 ユーザは不整合を診断し、弱い推論チェーンを特定し、修正フィードバックを提供する。
  論文  参考訳（メタデータ） (2025-11-29T23:09:15Z)
• LLM-Centric RAG with Multi-Granular Indexing and Confidence Constraints [5.2604064919135896]
  本稿では,複雑な知識環境下での検索強化生成において,不十分なカバレッジ,不安定な結果,信頼性の制限といった問題に対処する。 複数粒度メモリインデックスと不確実性推定を統合した信頼度制御法を提案する。 提案手法は,QA精度,検索リコール,ランキング品質,事実整合性において,既存モデルよりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2025-10-30T23:48:37Z)
• Anomaly Detection and Generation with Diffusion Models: A Survey [51.61574868316922]
  異常検出(AD)は、サイバーセキュリティ、金融、医療、工業製造など、さまざまな分野において重要な役割を担っている。 近年のディープラーニング,特に拡散モデル(DM)の進歩は,大きな関心を集めている。 この調査は、研究者や実践者が様々なアプリケーションにまたがる革新的なADソリューションにDMを利用することをガイドすることを目的としている。
  論文  参考訳（メタデータ） (2025-06-11T03:29:18Z)
• Information Retrieval Induced Safety Degradation in AI Agents [52.15553901577888]
  本研究では,検索アクセスの拡大がモデル信頼性,バイアス伝搬,有害コンテンツ生成に与える影響について検討した。 整列 LLM 上に構築された検索可能なエージェントは、検索なしでの無検閲モデルよりも安全でない振る舞いをすることが多い。 これらの発見は、検索可能でますます自律的なAIシステムの公正性と信頼性を確保するための堅牢な緩和戦略の必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-05-20T11:21:40Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Not All Contexts Are Equal: Teaching LLMs Credibility-aware Generation [47.42366169887162]
  Credibility-Aware Generation (CAG) は、信頼性に基づいて情報を識別・処理する能力を備えたモデルを提供することを目的としている。 提案モデルは,生成に対する信頼性を効果的に理解し活用し,検索強化により他のモデルよりも大幅に優れ,ノイズの多い文書による破壊に対するレジリエンスを示す。
  論文  参考訳（メタデータ） (2024-04-10T07:56:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。