論文の概要: Attention Dispersion as a Diagnostic Signal for Hallucination in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.18320v1
• Date: Wed, 16 Sep 2026 08:40:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.715387
• Title: Attention Dispersion as a Diagnostic Signal for Hallucination in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける幻覚の診断信号としての注意分散
• Abstract要約: 大規模言語モデル(LLM)はしばしば幻覚を示し、複雑な推論タスクにおいて信頼性に対する大きな障壁を示す。 本稿では,幻覚の代替診断信号として,内部注意機構の時間変動について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) frequently exhibit hallucinations, presenting a major barrier to reliability in complex reasoning tasks. While traditional detection methods rely on output-based confidence metrics, these logits are often miscalibrated by modern alignment techniques. In this paper, we investigate the temporal volatility of internal attention mechanisms as an alternative diagnostic signal for hallucination that does not depend on output calibration. By introducing an unsupervised metric for attention dispersion, we show that epistemic uncertainty leaves a measurable trace within intermediate layers, where spikes in attention entropy are associated with reasoning breakdowns. We evaluate our approach on mathematical reasoning benchmarks (GSM8K and MATH-500) using the Qwen2.5 model family (1.5B and 3B parameters), finding statistically significant AUC improvements of up to +0.076 over output-based baselines across all tested conditions. These findings suggest that attention dispersion is a promising complement to traditional hallucination detection methods, requiring further investigation across broader model families and task domains.
• Abstract（参考訳）: 大規模言語モデル(LLM)はしばしば幻覚を示し、複雑な推論タスクにおいて信頼性に対する大きな障壁を示す。 従来の検出手法は出力ベースの信頼度に依存するが、現代のアライメント技術によってこれらのロジットは誤解されることが多い。 本稿では,出力校正に依存しない幻覚の代替診断信号として,内部注意機構の時間変動について検討する。 注意分散のための教師なし指標を導入することにより,注意エントロピーのスパイクが推論分解と関連している中間層に,てんかんの不確かさが測定可能な痕跡を残していることを示す。 我々はQwen2.5モデルファミリ(1.5Bおよび3Bパラメータ)を用いて数学的推論ベンチマーク(GSM8KおよびMATH-500)に対するアプローチを評価し、全ての試験条件において出力ベースラインに対して最大0.076のAUC改善が統計的に有意であることを示した。 これらの結果から,注意分散は従来の幻覚検出法を補完するものであり,より広範なモデルファミリーやタスクドメインのさらなる調査が必要であることが示唆された。

関連論文リスト

• Detecting Hallucinations in Large Language Models via Internal Attention Divergence Signals [0.0]
  本稿では,大規模言語モデルにおける幻覚検出のための軽量かつ単一パス不確実性定量化手法を提案する。 我々は,各注目頭部分布と一様参照分布とのKulback-Leibler偏差を測定し,これらの特徴をロジスティック回帰プローブに用いた。
  論文  参考訳（メタデータ） (2026-05-06T15:21:27Z)
• Causally-Constrained Probabilistic Forecasting for Time-Series Anomaly Detection [1.8995711908407733]
  本研究では,異常検出のための因果制約付き確率予測フレームワークを提案する。 ディープ・シークエンス・モデリングに先立って、明示的な時間付き因果グラフを統合する。 実験により,提案手法が最先端検出性能を実現することを示す。
  論文  参考訳（メタデータ） (2026-04-20T09:24:28Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning [48.77865928715759]
  拡散大言語モデル (D-LLM) は自己回帰モデルに代わる有望な代替品として登場した。 幻覚は 信頼性を損なう重要な問題です 本研究では,これらのギャップを空間的(トケンシーケンス)と時間的(デノナイジングダイナミクス)の両方の観点から橋渡しするDynHDを提案する。
  論文  参考訳（メタデータ） (2026-03-17T12:40:29Z)
• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• Detecting Contextual Hallucinations in LLMs with Frequency-Aware Attention [27.49425252327799]
  我々は、世代間の変化を分析することによって、注意に対する周波数認識の視点を導入する。 高周波アテンション特徴を用いた軽量幻覚検出装置を開発した。
  論文  参考訳（メタデータ） (2026-02-20T11:18:45Z)
• Hallucination Detection in LLMs with Topological Divergence on Attention Graphs [60.83579255387347]
  幻覚(Halucination)、すなわち、事実的に誤ったコンテンツを生成することは、大きな言語モデルにとって重要な課題である。 本稿では,TOHA (Topology-based HAllucination detector) をRAG設定に導入する。
  論文  参考訳（メタデータ） (2025-04-14T10:06:27Z)
• Enhanced Fault Detection and Cause Identification Using Integrated Attention Mechanism [0.3749861135832073]
  本研究では、双方向長短期記憶(BiLSTM)ニューラルネットワークと統合注意機構(IAM)を統合することにより、テネシー・イーストマン・プロセス(TEP)内の障害検出と原因特定のための新しい手法を提案する。 IAMは、スケールドドット製品に対する注意力、残留注意力、動的注意力を組み合わせて、TEP障害検出に不可欠な複雑なパターンや依存関係をキャプチャする。 BiLSTMネットワークはこれらの特徴を双方向に処理して長距離依存関係をキャプチャし、IAMは出力をさらに改善し、故障検出結果が改善された。
  論文  参考訳（メタデータ） (2024-07-31T12:01:57Z)
• Establishing Causal Relationship Between Whole Slide Image Predictions and Diagnostic Evidence Subregions in Deep Learning [3.5504159526793924]
  Causal Inference Multiple Instance Learning (CI-MIL)は、サブイメージの認識の混乱を軽減するために配布外一般化を利用する。 CI-MILは、その選択された領域が基底真理アノテーションと高い一貫性を示すため、優れた解釈可能性を示す。
  論文  参考訳（メタデータ） (2024-07-24T11:00:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。