論文の概要: Hallucinations in LLMs: A Lifecycle-Based Survey of Causes, Detection, Mitigation, and Prevention
- arxiv url: http://arxiv.org/abs/2608.26168v1
- Date: Mon, 20 Jul 2026 05:03:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.376992
- Title: Hallucinations in LLMs: A Lifecycle-Based Survey of Causes, Detection, Mitigation, and Prevention
- Title(参考訳): LLMにおける幻覚: 原因, 検出, 緩和, 予防に関するライフサイクルベース調査
- Abstract要約: この調査は、幻覚を理解し、診断し、治療するための標準化された枠組みを研究者や実践者に提供する。
この調査は、幻覚を理解し、診断し、治療するための標準化された枠組みを研究者や実践者に提供する。
- 参考スコア(独自算出の注目度): 9.274826797278582
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The lifecycle of hallucination in LLMs is a concept that enables building solid frameworks on the control and reliability of LLMs in high-stakes environments, including health, legal, and scientific research. Although previous surveys have primarily focused on detection or mitigation, this survey provides a lifecycle-based overview of the hallucinations in the LLMs, their cause, detection, mitigation, and prevention.We propose a three-fold categorization of hallucinations across the LLM lifecycle: data-related, training-related, and inference-related, which is consistent with the lifecycle of the development of the LLM. Each of these stages is discussed regarding the cause of hallucinations, their detection, and the ways they can be addressed under specific mitigation or prevention interventions. In addition, we discuss the available benchmark data using a number of parameters so as to establish their suitability in identifying, restricting and managing hallucinations. The survey provides researchers and practitioners with a standardized framework to understand, diagnose, and cure hallucinations in a systematic system to present actionable data to build safer and more reliable LLMs.
- Abstract(参考訳): LLMにおける幻覚のライフサイクルは、健康、法学、科学研究を含む高い環境下でのLSMの制御と信頼性に関する堅固な枠組みの構築を可能にする概念である。
これまでの調査は, 主に検出・緩和に重点を置いていたが, 本調査は, LLMにおける幻覚, その原因, 検出, 緩和, 予防のライフサイクルを概観するものであり, LLMライフサイクル全体にわたって, データ関連, トレーニング関連, 推論関連という, LLM開発のライフサイクルと整合した3段階の幻覚の分類を提案する。
これらの段階はそれぞれ、幻覚の原因、その検出、および特定の緩和や予防の介入の下で対処できる方法について論じられている。
さらに,幻覚の特定,制限,管理の適性を確立するために,多数のパラメータを用いて利用可能なベンチマークデータについて検討する。
この調査は、研究者や実践者に、より安全で信頼性の高いLCMを構築するために実行可能なデータを提示するために、体系的なシステムにおける幻覚を理解し、診断し、治療するための標準化されたフレームワークを提供する。
関連論文リスト
- Large Language Models Hallucination: A Comprehensive Survey [3.8100688074986095]
大規模言語モデル(LLM)は自然言語処理を変革し、様々なタスクで優れたパフォーマンスを実現している。
派手な派手さは、しばしば幻覚(幻覚)として知られる偽情報や偽情報を生み出すコストが伴う。
この調査は、LSMにおける幻覚の研究を包括的にレビューし、原因、検出、緩和に焦点を当てている。
論文 参考訳(メタデータ) (2025-10-05T20:26:38Z) - MIRAGE-Bench: LLM Agent is Hallucinating and Where to Find Them [52.764019220214344]
幻覚は、大きな言語モデル(LLM)ベースのエージェントに重大なリスクをもたらす。
MIRAGE-Benchは対話型環境における幻覚の抽出と評価のための最初の統一ベンチマークである。
論文 参考訳(メタデータ) (2025-07-28T17:38:29Z) - Hallucination Detection: Robustly Discerning Reliable Answers in Large Language Models [70.19081534515371]
大規模言語モデル(LLM)は様々な自然言語処理タスクで広く採用されている。
それらは、入力源から逸脱する不信または矛盾したコンテンツを生成し、深刻な結果をもたらす。
本稿では,LLMの生成した回答の幻覚を効果的に検出するために,RelDという頑健な識別器を提案する。
論文 参考訳(メタデータ) (2024-07-04T18:47:42Z) - Rowen: Adaptive Retrieval-Augmented Generation for Hallucination Mitigation in LLMs [88.75700174889538]
幻覚は大きな言語モデル(LLM)にとって大きな課題となる。
実物生成におけるパラメトリック知識の利用は, LLMの限られた知識によって制限される。
本稿では,幻覚出力に対応する適応的検索拡張プロセスによりLLMを強化する新しいフレームワークであるRowenについて述べる。
論文 参考訳(メタデータ) (2024-02-16T11:55:40Z) - Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models [124.90671698586249]
大規模言語モデル(LLM)は、様々な下流タスクで顕著な機能を示している。
LLMは時折、ユーザ入力から分岐するコンテンツを生成し、以前生成されたコンテキストと矛盾する。
論文 参考訳(メタデータ) (2023-09-03T16:56:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。