論文の概要: Lyapunov Probes for Hallucination Detection in Large Foundation Models

• arxiv url: http://arxiv.org/abs/2603.06081v1
• Date: Fri, 06 Mar 2026 09:32:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-09 13:17:45.493786
• Title: Lyapunov Probes for Hallucination Detection in Large Foundation Models
• Title（参考訳）: Lyapunov Probes for Hallucination Detection in Large Foundation Models
• Abstract要約: 幻覚は、安定ゾーンと不安定ゾーンを分ける知識遷移領域の境界で生じる傾向がある。 Lyapunov Probes: デリバティブベースの安定性制約で訓練された軽量ネットワークを提案する。 多様なデータセットとモデルの実験は、既存のベースラインよりも一貫した改善を示している。
• 参考スコア（独自算出の注目度）: 27.51972811669081
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We address hallucination detection in Large Language Models (LLMs) and Multimodal Large Language Models (MLLMs) by framing the problem through the lens of dynamical systems stability theory. Rather than treating hallucination as a straightforward classification task, we conceptualize (M)LLMs as dynamical systems, where factual knowledge is represented by stable equilibrium points within the representation space. Our main insight is that hallucinations tend to arise at the boundaries of knowledge-transition regions separating stable and unstable zones. To capture this phenomenon, we propose Lyapunov Probes: lightweight networks trained with derivative-based stability constraints that enforce a monotonic decay in confidence under input perturbations. By performing systematic perturbation analysis and applying a two-stage training process, these probes reliably distinguish between stable factual regions and unstable, hallucination-prone regions. Experiments on diverse datasets and models demonstrate consistent improvements over existing baselines.
• Abstract（参考訳）: 本稿では,力学系安定性理論のレンズを用いて,MLLM(Large Language Models)とMLLM(Multimodal Large Language Models)の幻覚検出に対処する。 幻覚を単純な分類課題として扱うのではなく、(M)LLMを力学系として概念化し、実数知識は表現空間内の安定平衡点によって表される。 我々の主な洞察は、幻覚は、安定ゾーンと不安定ゾーンを分ける知識遷移領域の境界で生じる傾向があるということである。 この現象を捉えるために、Lyapunov Probes: 入力摂動下での単調崩壊を強制するデリバティブベースの安定性制約で訓練された軽量ネットワークを提案する。 系統的な摂動解析を行い、2段階の訓練プロセスを適用することにより、これらのプローブは安定な事実領域と不安定な幻覚性領域を確実に区別する。 多様なデータセットとモデルの実験は、既存のベースラインよりも一貫した改善を示している。

関連論文リスト

• Role-Break in Attention Heads: Understanding and Detecting Hallucinations in VLMs [49.743008490747094]
  Vision-Language Models (VLMs) は幻覚の傾向が強く、入力された画像によってサポートされないコンテンツを生成する。 統合された頭部レベルの視点では,幻覚による変化が各頭部の忠実な文脈行動からの局所的な逸脱として現れる。 詳細な分析により、これらの偏差は注目ヘッド、コンテキストソース、偏差方向にわたって体系的に整理され、その結果の信号はヘッドアイデンティティが保存されると線形に可読であることが分かる。
  論文  参考訳（メタデータ） (2026-07-31T13:33:51Z)
• Unified Hallucination Fuzzing for Multimodal Large Language Models [44.4785399881315]
  マルチモーダル大言語モデル(MLLM)に対する幻覚は依然として永続的な課題である 既存の評価は、主に静的なベンチマークに基づいており、狭い分類範囲と急速な性能飽和に悩まされている。 本稿では,総合的なベンチマークと自己進化型ストレステストを統合するシステム評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-07-15T17:57:37Z)
• Local Intrinsic Dimension Unveils Hallucinations in Diffusion Models [18.55564482332065]
  拡散モデルは構造的幻覚を引き起こす傾向がある。 モデル誘導多様体上の不安定性として幻覚を扱う補的視点を提案する。 このような不安定性に基づく幻覚フィルタは,最近提案された時間的フィルタの性能と一致するか,あるいは超えるかを示す。
  論文  参考訳（メタデータ） (2026-05-06T15:22:52Z)
• DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning [48.77865928715759]
  拡散大言語モデル (D-LLM) は自己回帰モデルに代わる有望な代替品として登場した。 幻覚は 信頼性を損なう重要な問題です 本研究では,これらのギャップを空間的(トケンシーケンス)と時間的(デノナイジングダイナミクス)の両方の観点から橋渡しするDynHDを提案する。
  論文  参考訳（メタデータ） (2026-03-17T12:40:29Z)
• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• Ground What You See: Hallucination-Resistant MLLMs via Caption Feedback, Diversity-Aware Sampling, and Conflict Regularization [38.469173375694076]
  マルチモーダル大言語モデル(MLLM)における幻覚の根本原因を系統的に解析する。 1)不正確な初期記述が後続の推論を誤った前提に固定する連鎖的視覚推論の過度な信頼、(2)政策最適化中の探索の多様性が不十分で、過度に自信があるが誤ったアウトプットを発生させる要因、(3)トレーニングサンプル間の破壊的な衝突、NTKの類似性が誤関連や不安定なパラメータ更新を引き起こす要因である。 実験の結果,提案手法は幻覚率を著しく低減し,MLLMの推論精度を効果的に向上することが示された。
  論文  参考訳（メタデータ） (2026-01-09T07:59:18Z)
• Revisiting Hallucination Detection with Effective Rank-based Uncertainty [10.775061161282053]
  隠れ状態の有効ランクを測定することによって不確実性を定量化する,単純かつ強力な手法を提案する。 表現のスペクトル解析に基づいて,本手法はモデルの内部推論過程の解釈可能な洞察を与える。 本手法は,幻覚を効果的に検出し,様々なシナリオで頑健に一般化する。
  論文  参考訳（メタデータ） (2025-10-09T16:12:12Z)
• Grounding the Ungrounded: A Spectral-Graph Framework for Quantifying Hallucinations in Multimodal LLMs [19.099044165107696]
  MLLMの幻覚を定量化する拡散力学における厳密な情報幾何学的枠組みを提案する。 我々は、温度依存の幻覚エネルギーに基づいてCourant-Fischer境界を導出し、RKHS固有モデムを用いて、モダリティを意識した解釈可能な測定値を得る。
  論文  参考訳（メタデータ） (2025-08-26T18:54:52Z)
• MRFD: Multi-Region Fusion Decoding with Self-Consistency for Mitigating Hallucinations in LVLMs [57.931366749890906]
  MRFD (Multi-Region Fusion Decoding) は、領域間の一貫性をモデル化することにより、現実のグラウンド化を改善する訓練自由復号法である。 MRFDは、クロスアテンションを用いて正常な領域を特定し、それぞれの初期応答を生成し、Jensen-Shannon Divergenceに基づいて信頼性ウェイトを算出する。
  論文  参考訳（メタデータ） (2025-08-14T01:17:39Z)
• Counterfactual Probing for Hallucination Detection and Mitigation in Large Language Models [0.0]
  本研究では,大規模言語モデルにおける幻覚の検出と緩和のための新しいアプローチである,対物探索を提案する。 提案手法は, 疑わしいが微妙な事実誤りを含む反事実文を動的に生成し, これらの摂動に対するモデルの感度を評価する。
  論文  参考訳（メタデータ） (2025-08-03T17:29:48Z)
• ICR Probe: Tracking Hidden State Dynamics for Reliable Hallucination Detection in LLMs [50.18087419133284]
  隠れた状態を活用する幻覚検出法は、主に静的および孤立した表現に焦点を当てている。 隠れ状態の更新に対するモジュールの寄与を定量化する新しいメトリック ICR Score を導入する。 本稿では,隠れ状態の層間進化を捉えた幻覚検出手法 ICR Probe を提案する。
  論文  参考訳（メタデータ） (2025-07-22T11:44:26Z)
• Robust Multimodal Large Language Models Against Modality Conflict [94.12341487880465]
  マルチモーダル大言語モデル(MLLM)は、現実のシナリオにおいて幻覚を起こす傾向がある。 我々は、MLLMをジレンマに配置し、幻覚に直接導く異なるモダリティからの入力における固有の矛盾について研究する。 モダリティ衝突による幻覚を緩和する3つの方法が提案されている。
  論文  参考訳（メタデータ） (2025-07-09T11:18:38Z)
• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。