論文の概要: FLaG: Fine-Grained Latent Grouping for Hallucination Detection
- arxiv url: http://arxiv.org/abs/2606.00301v1
- Date: Fri, 29 May 2026 19:30:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.265834
- Title: FLaG: Fine-Grained Latent Grouping for Hallucination Detection
- Title（参考訳）: FLaG:幻覚検出のための細粒ラテントグルーピング
- Abstract要約: 大規模言語モデル(LLM)における幻覚は、不均一な故障機構から生じ、単一のグローバル不確実性スコアに対して信頼性の高い検出を困難にする。
FLaGは、潜伏するエビデンスグループの集合を通して正しさをモデル化する、軽量な幻覚検出フレームワークである。
FLaGは、データセットやモデル間のロバストな転送を示しながら、SOTA性能を一貫して達成し、限られた監督下でも有効であることを示す。
- 参考スコア（独自算出の注目度）: 22.6413030783939
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hallucinations in large language models (LLMs) arise from heterogeneous failure mechanisms, making reliable detection difficult for any single global uncertainty score. In this work, we formulate hallucination detection as a mechanism-aware evidence aggregation problem, where diverse representation- and token-level signals must be interpreted under multiple latent explanations. We propose FLaG, a lightweight hallucination detection framework that models correctness through a set of latent evidence groups. Each instance is softly associated with multiple groups via an energy-based routing mechanism, and group-conditional reliability signals are combined through a principled log-marginal aggregation. This design enables FLaG to capture heterogeneous hallucination patterns while remaining invariant to decision thresholds and evaluation metrics. The framework operates as a frozen-model head, requires no modification to the underlying language model, and incurs minimal computational overhead. We further provide a theoretical perspective that connects FLaG to optimal evidence aggregation under heterogeneous error mechanisms, showing that the Bayes-optimal test statistic necessarily admits a log-marginal form and that FLaG constitutes a tractable approximation with a controllable error bound. Extensive experiments across multiple benchmarks and LLM backbones demonstrate that FLaG consistently achieves SOTA performance, while exhibiting robust transfer across datasets and models, and remaining effective under limited supervision.
- Abstract（参考訳）: 大規模言語モデル(LLM)における幻覚は、不均一な故障機構から生じ、単一のグローバル不確実性スコアに対して信頼性の高い検出を困難にする。
本研究では,複数の潜在的説明の下で,多様な表現レベルおよびトークンレベルの信号を解釈しなければならない機構認識型エビデンスアグリゲーション問題として幻覚検出を定式化する。
FLaGは、潜伏するエビデンスグループの集合を通して正しさをモデル化する、軽量な幻覚検出フレームワークである。
各インスタンスはエネルギーベースのルーティング機構を介して複数のグループとソフトに関連付けられ、グループ条件の信頼性信号は原則化された対数集約によって結合される。
この設計により、FLaGは決定しきい値と評価指標に不変なまま、異種幻覚パターンをキャプチャできる。
フレームワークはフリーズモデルヘッドとして動作し、基盤となる言語モデルを変更する必要はなく、最小限の計算オーバーヘッドを発生させる。
さらに、FLaGを不均一な誤差機構の下で最適なエビデンスアグリゲーションに接続する理論的な視点を提供し、ベイズ最適試験統計学が必ずしも対数形式を許容し、FLaGが制御可能な誤差境界を持つトラクタブル近似を構成することを示す。
複数のベンチマークとLLMバックボーンにわたる大規模な実験は、FLaGが一貫してSOTAのパフォーマンスを達成する一方で、データセットやモデル間の堅牢な転送を示し、限られた監督の下で有効であることを示した。
関連論文リスト
- DeMTS: Denoising Trajectories as Multivariate Time Series for Hallucination Detection in Diffusion Language Models [59.414664850109155]
拡散大言語モデル (D-LLM) はテキスト生成において有望なパラダイムとして登場してきた。
D-LLMは幻覚に弱いままであり、流動的な出力は事実的に誤った、またはサポートされていない内容を含む可能性がある。
論文 参考訳（メタデータ） (2026-07-24T06:45:43Z) - Entropy Distribution as a Fingerprint for Hallucinations in Generative Models [1.5135066879411019]
Calibrated Entropy Score (CES) は幻覚検出のための軽量なアルゴリズムである。
CESは、平均信号と生成されたエントロピーの最大信号とを校正基準CDFを介して結合する。
CESは、はるかに大きな計算コストを必要とするマルチサンプル手法と統計的に区別できない。
論文 参考訳（メタデータ） (2026-05-27T10:12:44Z) - VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。
しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。
本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-17T14:09:35Z) - Low-Cost Black-Box Detection of LLM Hallucinations via Dynamical System Prediction [3.6209977238182276]
LLM(Large Language Models)は、幻覚(幻覚)として知られる、可塑性だが非実効的な内容を生成する現象である。
我々は,LCMをブラックボックス力学系として扱う新しい手法を提案する。
本手法は,資源のオーバーヘッドを低減し,最先端の性能を実現する。
論文 参考訳（メタデータ） (2026-05-06T17:07:29Z) - DynHD: Hallucination Detection for Diffusion Large Language Models via Denoising Dynamics Deviation Learning [48.77865928715759]
拡散大言語モデル (D-LLM) は自己回帰モデルに代わる有望な代替品として登場した。
幻覚は 信頼性を損なう重要な問題です
本研究では,これらのギャップを空間的(トケンシーケンス)と時間的(デノナイジングダイナミクス)の両方の観点から橋渡しするDynHDを提案する。
論文 参考訳（メタデータ） (2026-03-17T12:40:29Z) - Silent Inconsistency in Data-Parallel Full Fine-Tuning: Diagnosing Worker-Level Optimization Misalignment [27.352639822596146]
クロスワーカーの損失と勾配のばらつきは、従来の監視信号では見えない。
本稿では,標準パイプラインで容易に利用できるトレーニング信号を用いて,作業者レベルの一貫性を定量化する,モデルに依存しない診断フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-16T04:42:30Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳（メタデータ） (2026-02-10T21:08:53Z) - SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。
行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。
我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
論文 参考訳（メタデータ） (2026-01-06T19:47:11Z) - From Detection to Diagnosis: Advancing Hallucination Analysis with Automated Data Synthesis [7.3390265169910665]
LLM(Large Language Models)における幻覚は、重要なドメインへの信頼性の高いデプロイにおける中核的な障害である。
この限界に対処するため、新たな研究パラダイムが提案され、"検出"から"診断"へと移行した。
論文 参考訳（メタデータ） (2025-12-31T05:06:35Z) - Detecting Token-Level Hallucinations Using Variance Signals: A Reference-Free Approach [0.0]
大規模言語モデル(LLM)は、様々なタスクにまたがる印象的な生成能力を示したが、幻覚に弱いままである。
複数世代にわたるトークンログ確率のばらつきを利用した,参照不要なトークンレベルの幻覚検出フレームワークを提案する。
我々のアプローチは、モデルに依存しず、解釈可能であり、リアルタイムまたはポストホック分析に適している。
論文 参考訳（メタデータ） (2025-07-05T19:20:59Z) - CLIP Meets Diffusion: A Synergistic Approach to Anomaly Detection [49.11819337853632]
異常検出は、異常の定義の曖昧さ、異常型の多様性、トレーニングデータの不足による複雑な問題である。
識別的基盤モデルと生成的基礎モデルの両方を活用するCLIPfusionを提案する。
本手法は, 異常検出の多面的課題に対処する上で, マルチモーダル・マルチモデル融合の有効性を裏付けるものである。
論文 参考訳（メタデータ） (2025-06-13T13:30:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。