論文の概要: Grad Detect: Gradient-Based Hallucination Detection in LLMs

• arxiv url: http://arxiv.org/abs/2606.24790v1
• Date: Tue, 23 Jun 2026 16:46:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:49.09358
• Title: Grad Detect: Gradient-Based Hallucination Detection in LLMs
• Title（参考訳）: グラッド検出:LLMにおけるグラディエントベース幻覚検出
• Authors: Anand Kamat, Daniel Blake, Brent M. Werness,
• Abstract要約: 大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な能力を示してきたが、幻覚を引き起こす傾向にある。 そこで本研究では,1つの前向きパスから階層的勾配パターンを解析して幻覚を予測するグラッド・ディテクターを提案する。 幻覚検出とモデル禁忌予測の両方にまたがるいくつかのQ&Aベンチマークにおいて、Grad Detectを評価し、信頼性に基づくベースラインとサンプリングベースのベースラインを一貫して上回ります。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Large Language Models (LLMs) have demonstrated remarkable capabilities across diverse tasks, yet they remain prone to generating hallucinations. Detecting these hallucinations is critical for deploying LLMs reliably in high-stakes applications. We present Grad Detect, a gradient-based approach for predicting hallucinations by analyzing layer-wise gradient patterns from a single forward-backward pass during inference. Our method shows that the internal gradient structure of a model carries rich information about the correctness of its output. This information is not accessible through output-level signals alone. We evaluate Grad Detect on several Q&A benchmarks across both hallucination detection and model abstention prediction, where it consistently outperforms confidence-based and sampling-based baselines. Through comprehensive layer ablation studies across all eleven models from four architectural families, we find that the final five layers concentrate over 97% of the discriminative gradient signal, enabling efficient deployment with minimal performance loss. Grad Detect provides a unified framework for predicting multiple dimensions of LLM reliability, offering strong predictive performance alongside interpretable insights into where and how model failures originate.
• Abstract（参考訳）: 大規模言語モデル(LLM)は様々なタスクにまたがって顕著な能力を示してきたが、幻覚を引き起こす傾向にある。 これらの幻覚を検出することは、LLMを高精細なアプリケーションに確実に展開するために重要である。 そこで本研究では,1つの前向きパスから階層的勾配パターンを解析して幻覚を予測するグラッド・ディテクターを提案する。 本手法は,モデルの内部勾配構造が,その出力の正確性に関する豊富な情報を持っていることを示す。 この情報は出力レベルの信号だけではアクセスできない。 幻覚検出とモデル禁忌予測の両方にまたがるいくつかのQ&Aベンチマークにおいて、Grad Detectを評価し、信頼性に基づくベースラインとサンプリングベースのベースラインを一貫して上回ります。 4つのアーキテクチャファミリの11モデルすべてを対象とした包括的なレイヤーアブレーション研究により、最終5層は差別的な勾配信号の97%以上に集中し、パフォーマンス損失を最小限に抑え、効率的なデプロイを可能にしていることがわかった。 Grad Detectは、LLMの信頼性の複数の次元を予測するための統一されたフレームワークを提供する。

関連論文リスト

• A Controlled Study of Decoding-Time Truthfulness Methods on Instruction-Tuned LLMs [3.4007995136788]
  レイヤコントラスト復号、推論時間介入、学習ロジットアダプタは、TrathfulQAで10～30ポイントのゲインを示した。 現代の命令調整型LLMは、既にかなり高いベースラインを実現している。 熟考的推進法は、評価体制においてより堅牢であるように見える。
  論文  参考訳（メタデータ） (2026-06-10T14:48:05Z)
• Scalable Token-Level Hallucination Detection in Large Language Models [63.3426544914783]
  内部幻覚は推論集約的なタスクでは検出が難しい。 TokenHDはトークンレベルの幻覚検出器を訓練するための全体論的パイプラインである。
  論文  参考訳（メタデータ） (2026-05-12T16:47:40Z)
• Low-Cost Black-Box Detection of LLM Hallucinations via Dynamical System Prediction [3.6209977238182276]
  LLM(Large Language Models)は、幻覚(幻覚)として知られる、可塑性だが非実効的な内容を生成する現象である。 我々は,LCMをブラックボックス力学系として扱う新しい手法を提案する。 本手法は,資源のオーバーヘッドを低減し,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2026-05-06T17:07:29Z)
• Locate-then-Sparsify: Attribution Guided Sparse Strategy for Visual Hallucination Mitigation [68.41785694664011]
  機能ステアリングのためのLate-Then-Sparsify(LTS-FS)と呼ばれるプラグアンドプレイフレームワークを提案する。 各層の幻覚関係に応じて操舵強度を制御する。 我々の枠組みは、強い性能を維持しながら幻覚を効果的に緩和する。
  論文  参考訳（メタデータ） (2026-03-17T09:16:50Z)
• From Detection to Diagnosis: Advancing Hallucination Analysis with Automated Data Synthesis [7.3390265169910665]
  LLM(Large Language Models)における幻覚は、重要なドメインへの信頼性の高いデプロイにおける中核的な障害である。 この限界に対処するため、新たな研究パラダイムが提案され、"検出"から"診断"へと移行した。
  論文  参考訳（メタデータ） (2025-12-31T05:06:35Z)
• Lie to Me: Knowledge Graphs for Robust Hallucination Self-Detection in LLMs [0.0]
  本研究では,幻覚の自己検出を改善するため,構造化知識表現,すなわち知識グラフの利用について検討する。 この結果から,LLMは知識グラフとして構造化された原子の事実をよりよく解析できることがわかった。 この低コストでモデルに依存しないアプローチは、より安全で信頼性の高い言語モデルへの道を開く。
  論文  参考訳（メタデータ） (2025-12-29T15:41:13Z)
• HuDEx: Integrating Hallucination Detection and Explainability for Enhancing the Reliability of LLM responses [0.12499537119440242]
  本稿では,HuDExと命名された幻覚検出モデルについて説明する。 提案モデルでは,検出を説明と統合する新たなアプローチを提供し,ユーザとLLM自体がエラーを理解し,低減することができる。
  論文  参考訳（メタデータ） (2025-02-12T04:17:02Z)
• Detecting LLM Hallucination Through Layer-wise Information Deficiency: Analysis of Ambiguous Prompts and Unanswerable Questions [60.31496362993982]
  大規模言語モデル(LLM)は、自信を持って不正確な応答を頻繁に生成する。 本稿では,情報フローの系統的解析を通じて,モデル幻覚を検出する新しいテストタイム手法を提案する。
  論文  参考訳（メタデータ） (2024-12-13T16:14:49Z)
• Unconditional Truthfulness: Learning Unconditional Uncertainty of Large Language Models [104.55763564037831]
  我々は、注意マップ、現在の生成ステップにおける確率、および以前に生成されたトークンから繰り返し計算された不確実性スコアを利用する回帰モデルを訓練する。 評価の結果,提案手法は選択的生成に極めて有効であり,教師なしアプローチと教師なしアプローチに比較して大幅な改善が得られた。
  論文  参考訳（メタデータ） (2024-08-20T09:42:26Z)
• PoLLMgraph: Unraveling Hallucinations in Large Language Models via State Transition Dynamics [51.17512229589]
  PoLLMgraphは、大規模言語モデルのためのモデルベースのホワイトボックス検出および予測手法である。 LLMの内部状態遷移ダイナミクスを解析することにより,幻覚を効果的に検出できることを示す。 我々の研究は、LLMのモデルベースのホワイトボックス分析の新しい手法を開拓し、LLMの振る舞いの複雑なダイナミクスをさらに探求し、理解し、洗練する研究コミュニティを動機付けている。
  論文  参考訳（メタデータ） (2024-04-06T20:02:20Z)
• A New Benchmark and Reverse Validation Method for Passage-level Hallucination Detection [63.56136319976554]
  大きな言語モデル(LLM)は幻覚を発生させ、ミッションクリティカルなタスクにデプロイすると大きなダメージを与える可能性がある。 本稿では,逆検証に基づく自己チェック手法を提案し,ゼロリソース方式で事実誤りを自動的に検出する。 提案手法と既存のゼロリソース検出手法を2つのデータセット上で実証的に評価した。
  論文  参考訳（メタデータ） (2023-10-10T10:14:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。