論文の概要: AURORA: Asymmetry and Update-Induced Rotation for Robust Hallucination Detection in Large Language Models
- arxiv url: http://arxiv.org/abs/2606.29545v1
- Date: Sun, 28 Jun 2026 18:15:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.956381
- Title: AURORA: Asymmetry and Update-Induced Rotation for Robust Hallucination Detection in Large Language Models
- Title（参考訳）: AURORA:大規模言語モデルにおけるロバスト幻覚検出のための非対称性と更新誘起回転
- Abstract要約: 大規模言語モデル(LLM)は、広範囲の自然言語処理タスクで顕著な機能を示している。
幻覚を発生させる傾向、すなわち、事実的に不正確または不誠実なアウトプットは、彼らのハイテイクなアプリケーションへの展開に重大な障害を生じさせる。
静的表現からLLMの重み勾配ダイナミクスへ焦点を移す新しい幻覚検出フレームワークであるAURORAを提案する。
- 参考スコア（独自算出の注目度）: 4.962067184518253
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) have demonstrated remarkable capabilities across a wide range of natural language processing tasks. However, their tendency to generate hallucinations, namely factually incorrect or unfaithful outputs, poses a critical obstacle to their deployment in high-stakes applications. Although recent hallucination detection methods have made encouraging progress, they typically rely on costly output-level consistency checks or static hidden-state probes that capture shallow dataset-specific patterns, leading to substantial degradation under cross-dataset evaluation. In this work, we propose AURORA, a novel hallucination detection framework that shifts the focus from static representations to the weight-gradient dynamics of LLMs. Our key insight is that hallucinated and faithful answers induce qualitatively different gradient update patterns on the model's parameters. Specifically, hallucinated samples trigger asymmetric and structurally misaligned gradients, which can be captured through two complementary features: (1) the skewness of the cosine similarity distribution between weight matrices and their gradient update directions, and (2) the rotation ratio, which quantifies how much the gradient update reorients the singular-vector basis of weight matrices via SVD. AURORA achieves strong hallucination detection performance across four model families and four benchmark datasets. Further analyses demonstrate that our method scales effectively across model sizes and transfers to out-of-domain tasks, including mathematical reasoning and vision-language scenarios.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、広範囲の自然言語処理タスクで顕著な機能を示している。
しかし、幻覚を発生させる傾向、すなわち、事実的に不正確または不誠実なアウトプットは、ハイテイクなアプリケーションへの展開に重大な障害を生じさせる。
最近の幻覚検出法は進歩を奨励しているが、一般的にはコストの高い出力レベルの整合性チェックや、浅いデータセット固有のパターンをキャプチャする静的な隠れ状態プローブに頼っている。
本研究では,静的表現から LLM の重み付け勾配ダイナミクスへ焦点を移す新しい幻覚検出フレームワークである AURORA を提案する。
私たちの重要な洞察は、幻覚的で忠実な回答は、モデルのパラメータに対して定性的に異なる勾配更新パターンを誘導するということです。
具体的には,(1)重み行列とそれらの勾配更新方向のコサイン類似度分布の歪度と,(2)重み行列の特異ベクトル基底がSVDを介してどの程度傾いたかを定量化する回転比の2つの相補的特徴により,非対称および構造的不整合勾配を誘導する。
AURORAは、4つのモデルファミリと4つのベンチマークデータセットで強力な幻覚検出性能を達成する。
さらに解析により,本手法は,数学的推論や視覚言語シナリオを含む,モデルのサイズや領域外タスクへの遷移を効果的にスケールできることが示されている。
関連論文リスト
- DeMTS: Denoising Trajectories as Multivariate Time Series for Hallucination Detection in Diffusion Language Models [59.414664850109155]
拡散大言語モデル (D-LLM) はテキスト生成において有望なパラダイムとして登場してきた。
D-LLMは幻覚に弱いままであり、流動的な出力は事実的に誤った、またはサポートされていない内容を含む可能性がある。
論文 参考訳（メタデータ） (2026-07-24T06:45:43Z) - Grad Detect: Gradient-Based Hallucination Detection in LLMs [0.0]
大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な能力を示してきたが、幻覚を引き起こす傾向にある。
そこで本研究では,1つの前向きパスから階層的勾配パターンを解析して幻覚を予測するグラッド・ディテクターを提案する。
幻覚検出とモデル禁忌予測の両方にまたがるいくつかのQ&Aベンチマークにおいて、Grad Detectを評価し、信頼性に基づくベースラインとサンプリングベースのベースラインを一貫して上回ります。
論文 参考訳（メタデータ） (2026-06-23T16:46:36Z) - DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning [48.77865928715759]
拡散大言語モデル (D-LLM) は自己回帰モデルに代わる有望な代替品として登場した。
幻覚は 信頼性を損なう重要な問題です
本研究では,これらのギャップを空間的(トケンシーケンス)と時間的(デノナイジングダイナミクス)の両方の観点から橋渡しするDynHDを提案する。
論文 参考訳（メタデータ） (2026-03-17T12:40:29Z) - ConsistentRFT: Reducing Visual Hallucinations in Flow-based Reinforcement Fine-Tuning [85.20505958752928]
フローベースモデル上での強化ファインチューニング(RFT)は、優先順位調整に不可欠である。
RFTは、過度に最適化された詳細や意味的なミスアライメントのような視覚幻覚をしばしば導入する。
この研究は、なぜ視覚幻覚が生じるのか、どのようにそれらを減らすのかを予備的に探求する。
論文 参考訳（メタデータ） (2026-02-03T11:49:46Z) - Ground What You See: Hallucination-Resistant MLLMs via Caption Feedback, Diversity-Aware Sampling, and Conflict Regularization [38.469173375694076]
マルチモーダル大言語モデル(MLLM)における幻覚の根本原因を系統的に解析する。
1)不正確な初期記述が後続の推論を誤った前提に固定する連鎖的視覚推論の過度な信頼、(2)政策最適化中の探索の多様性が不十分で、過度に自信があるが誤ったアウトプットを発生させる要因、(3)トレーニングサンプル間の破壊的な衝突、NTKの類似性が誤関連や不安定なパラメータ更新を引き起こす要因である。
実験の結果,提案手法は幻覚率を著しく低減し,MLLMの推論精度を効果的に向上することが示された。
論文 参考訳（メタデータ） (2026-01-09T07:59:18Z) - Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。
GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
論文 参考訳（メタデータ） (2025-09-03T08:13:52Z) - ICR Probe: Tracking Hidden State Dynamics for Reliable Hallucination Detection in LLMs [50.18087419133284]
隠れた状態を活用する幻覚検出法は、主に静的および孤立した表現に焦点を当てている。
隠れ状態の更新に対するモジュールの寄与を定量化する新しいメトリック ICR Score を導入する。
本稿では,隠れ状態の層間進化を捉えた幻覚検出手法 ICR Probe を提案する。
論文 参考訳（メタデータ） (2025-07-22T11:44:26Z) - Detecting Token-Level Hallucinations Using Variance Signals: A Reference-Free Approach [0.0]
大規模言語モデル(LLM)は、様々なタスクにまたがる印象的な生成能力を示したが、幻覚に弱いままである。
複数世代にわたるトークンログ確率のばらつきを利用した,参照不要なトークンレベルの幻覚検出フレームワークを提案する。
我々のアプローチは、モデルに依存しず、解釈可能であり、リアルタイムまたはポストホック分析に適している。
論文 参考訳（メタデータ） (2025-07-05T19:20:59Z) - PoLLMgraph: Unraveling Hallucinations in Large Language Models via State Transition Dynamics [51.17512229589]
PoLLMgraphは、大規模言語モデルのためのモデルベースのホワイトボックス検出および予測手法である。
LLMの内部状態遷移ダイナミクスを解析することにより,幻覚を効果的に検出できることを示す。
我々の研究は、LLMのモデルベースのホワイトボックス分析の新しい手法を開拓し、LLMの振る舞いの複雑なダイナミクスをさらに探求し、理解し、洗練する研究コミュニティを動機付けている。
論文 参考訳（メタデータ） (2024-04-06T20:02:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。