論文の概要: SeSE: A Structural Information-Guided Uncertainty Quantification Framework for Hallucination Detection in LLMs

• arxiv url: http://arxiv.org/abs/2511.16275v1
• Date: Thu, 20 Nov 2025 11:54:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-21 17:08:52.598561
• Title: SeSE: A Structural Information-Guided Uncertainty Quantification Framework for Hallucination Detection in LLMs
• Title（参考訳）: SeSE:LLMにおける幻覚検出のための構造情報誘導不確かさ定量化フレームワーク
• Authors: Xingtao Zhao, Hao Peng, Dingli Su, Xianghua Zeng, Chunyang Liu, Jinzhi Liao, Philip S. Yu,
• Abstract要約: 本稿では,大規模言語モデル固有の意味的不確かさを定量化する,原則的UQフレームワークを提案する。 我々は,指向性セマンティック依存をキャプチャする適応的にスペーシングされた有向グラフ構築アルゴリズムを開発した。 そして階層的抽象化を通じて潜在意味構造情報を利用する。
• 参考スコア（独自算出の注目度）: 43.76748192880071
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reliable uncertainty quantification (UQ) is essential for deploying large language models (LLMs) in safety-critical scenarios, as it enables them to abstain from responding when uncertain, thereby avoiding hallucinating falsehoods. However, state-of-the-art UQ methods primarily rely on semantic probability distributions or pairwise distances, overlooking latent semantic structural information that could enable more precise uncertainty estimates. This paper presents Semantic Structural Entropy (SeSE), a principled UQ framework that quantifies the inherent semantic uncertainty of LLMs from a structural information perspective for hallucination detection. Specifically, to effectively model semantic spaces, we first develop an adaptively sparsified directed semantic graph construction algorithm that captures directional semantic dependencies while automatically pruning unnecessary connections that introduce negative interference. We then exploit latent semantic structural information through hierarchical abstraction: SeSE is defined as the structural entropy of the optimal semantic encoding tree, formalizing intrinsic uncertainty within semantic spaces after optimal compression. A higher SeSE value corresponds to greater uncertainty, indicating that LLMs are highly likely to generate hallucinations. In addition, to enhance fine-grained UQ in long-form generation -- where existing methods often rely on heuristic sample-and-count techniques -- we extend SeSE to quantify the uncertainty of individual claims by modeling their random semantic interactions, providing theoretically explicable hallucination detection. Extensive experiments across 29 model-dataset combinations show that SeSE significantly outperforms advanced UQ baselines, including strong supervised methods and the recently proposed KLE.
• Abstract（参考訳）: 信頼性のある不確実性定量化(UQ)は、大きな言語モデル(LLM)を安全クリティカルなシナリオにデプロイするために不可欠である。 しかし、最先端のUQ手法は主に意味的確率分布やペア距離に依存しており、より正確な不確実性推定を可能にする潜在意味構造情報を見渡すことができる。 本稿では, 幻覚検出のための構造情報の観点から, LLM固有の意味的不確かさを定量化する, 基本的UQフレームワークであるSemantic Structure Entropy(SeSE)を提案する。 具体的には、意味空間を効果的にモデル化するために、まず、指向性セマンティック依存を捕捉し、負の干渉をもたらす不要な接続を自動的に切断する、適応的にスパース化された意味グラフ構築アルゴリズムを開発する。 次に、階層的抽象を通して潜在意味構造情報を利用する: SeSE は最適意味符号化木の構造エントロピーとして定義され、最適圧縮後の意味空間における本質的不確かさを定式化する。 高いSESE値はより大きな不確実性に対応し、LLMが幻覚を引き起こす可能性が高いことを示す。 さらに、従来の手法がしばしばヒューリスティックなサンプル・アンド・カウント技術に依存しているロングフォーム生成におけるきめ細かいUQを強化するために、SeSEを拡張して、ランダムなセマンティックな相互作用をモデル化し、理論的に説明可能な幻覚検出を提供することにより、個々のクレームの不確実性を定量化する。 29のモデル・データセットの組み合わせによる大規模な実験により、SeSEは強力な教師付き手法や最近提案されたKLEなど、高度なUQベースラインを著しく上回っている。

関連論文リスト

• The Illusion of Certainty: Uncertainty quantification for LLMs fails under ambiguity [48.899855816199484]
  そこで本研究では,第1の曖昧な質問応答(QA)データセットであるMAQA*とAmbigQA*を紹介する。 予測分布とアンサンブルに基づく推定器は、あいまいさの下では基本的に限定的であることを示す。
  論文  参考訳（メタデータ） (2025-11-06T14:46:35Z)
• Semantic Energy: Detecting LLM Hallucination Beyond Entropy [106.92072182161712]
  大規模言語モデル(LLM)は、現実のアプリケーションにますますデプロイされているが、幻覚の影響を受けやすいままである。 不確実性推定は、そのような幻覚を検出するための実現可能なアプローチである。 本稿では,新しい不確実性推定フレームワークであるセマンティック・エナジーを紹介する。
  論文  参考訳（メタデータ） (2025-08-20T07:33:50Z)
• Inv-Entropy: A Fully Probabilistic Framework for Uncertainty Quantification in Language Models [12.743668975795144]
  大規模言語モデル(LLM)は自然言語処理を変換しているが、信頼性の高いデプロイメントには有効な不確実性定量化(UQ)が必要である。 既存のUQ手法はしばしば確率論的解釈を欠いている。 本稿では, 与えられた出力に条件付き入力空間の多様性を評価することによって不確実性を定量的に評価する, 逆モデルに基づく完全確率的フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-11T13:02:17Z)
• Improving Uncertainty Quantification in Large Language Models via Semantic Embeddings [11.33157177182775]
  大規模言語モデル(LLM)における正確な不確実性の定量化は、信頼性の高いデプロイメントに不可欠である。 LLMにおける意味的不確実性を測定するための現在の最先端手法は、厳密な双方向の包含基準に依存している。 本研究では,意味的不確実性のよりスムーズでロバストな推定を実現するためにセマンティックな埋め込みを利用する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-10-30T04:41:46Z)
• Kernel Language Entropy: Fine-grained Uncertainty Quantification for LLMs from Semantic Similarities [79.9629927171974]
  大規模言語モデル(LLM)の不確実性は、安全性と信頼性が重要であるアプリケーションには不可欠である。 ホワイトボックスとブラックボックス LLM における不確実性評価手法である Kernel Language Entropy (KLE) を提案する。
  論文  参考訳（メタデータ） (2024-05-30T12:42:05Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。