論文の概要: Detecting Hallucination in LLMs: Tracing the Topological Signatures of Impaired Context Sharing

• arxiv url: http://arxiv.org/abs/2609.21096v1
• Date: Thu, 17 Sep 2026 21:15:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.782267
• Title: Detecting Hallucination in LLMs: Tracing the Topological Signatures of Impaired Context Sharing
• Title（参考訳）: LLMにおける幻覚検出 : 文脈共有障害のトポロジ的意義の追跡
• Abstract要約: 我々はForman-Ricci曲率を解析し、注目グラフにおける情報ボトルネックを示す構造パターンを同定する。 幻覚応答に付随するアテンションヘッドの半局所的情報フロー特性と大域的情報フロー特性の両方をキャプチャする手法を提案する。
• 参考スコア（独自算出の注目度）: 11.528827340090539
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work, we examine the topology of information flow patterns within attention graphs to effectively distinguish hallucinated from non-hallucinated responses. We analyze the Forman-Ricci curvature to identify structural patterns indicating information bottlenecks in attention graphs. We then introduce a method that captures both semi-local and global information-flow characteristics of attention heads associated with hallucinated responses. We evaluate our approach extensively across several LLMs and established benchmarks. Empirical results demonstrate that our proposed single-pass approach provides consistent improvements over existing attention-based and multi-response baselines across two hallucination-detection benchmarks, while achieving competitive performance across diverse LLM architectures. Further analysis reveals that impaired context sharing among tokens during causal generation is strongly associated with hallucination occurrences in LLMs. In particular, hallucinated responses are consistently characterized by an over-reliance on self-attention, diffused context retrieval from earlier tokens, or information over-squashing, especially in the final transformer layer.
• Abstract（参考訳）: 本研究では,注意グラフ内の情報フローパターンのトポロジを調べ,非ハロゲン化応答を効果的に識別する。 我々はForman-Ricci曲率を解析し、注目グラフにおける情報ボトルネックを示す構造パターンを同定する。 次に,幻覚応答に付随するアテンションヘッドの半局所的情報フロー特性と大域的情報フロー特性の両方をキャプチャする手法を提案する。 提案手法は,複数のLSMにまたがって広範に評価され,ベンチマークが確立された。 実験の結果,提案手法は2つの幻覚検出ベンチマークにおいて,既存の注目ベースとマルチレスポンスベースラインに対して一貫した改善を実現し,多様なLLMアーキテクチャ間での競合性能を実現している。 さらに解析したところ、因果生成におけるトークン間のコンテキスト共有の障害は、LLMにおける幻覚の発生と強く関連していることが明らかとなった。 特に、幻覚応答は、特に最終変圧器層において、自己注意の過度、先行トークンからの拡散コンテキストの検索、あるいは情報の過度な監視によって、一貫して特徴づけられる。

関連論文リスト

• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)
• Hallucination Detection in LLMs with Topological Divergence on Attention Graphs [60.83579255387347]
  幻覚(Halucination)、すなわち、事実的に誤ったコンテンツを生成することは、大きな言語モデルにとって重要な課題である。 本稿では,TOHA (Topology-based HAllucination detector) をRAG設定に導入する。
  論文  参考訳（メタデータ） (2025-04-14T10:06:27Z)
• Reefknot: A Comprehensive Benchmark for Relation Hallucination Evaluation, Analysis and Mitigation in Multimodal Large Language Models [13.48296910438554]
  我々は2万以上の実世界のサンプルからなる関係幻覚を対象とする総合的なベンチマークであるReefknotを紹介した。 関係幻覚を体系的に定義し、知覚的視点と認知的視点を統合するとともに、Visual Genomeのシーングラフデータセットを用いて関係ベースのコーパスを構築する。 本稿では,Reefknotを含む3つのデータセットに対して,幻覚率を平均9.75%削減する信頼性に基づく新たな緩和戦略を提案する。
  論文  参考訳（メタデータ） (2024-08-18T10:07:02Z)
• Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models [124.90671698586249]
  大規模言語モデル(LLM)は、様々な下流タスクで顕著な機能を示している。 LLMは時折、ユーザ入力から分岐するコンテンツを生成し、以前生成されたコンテキストと矛盾する。
  論文  参考訳（メタデータ） (2023-09-03T16:56:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。