Fugu-MT 論文翻訳(概要): When the Wrong Key Wins: Understanding and Detecting Hallucinations in LLMs

論文の概要: When the Wrong Key Wins: Understanding and Detecting Hallucinations in LLMs

arxiv url: http://arxiv.org/abs/2609.15106v1
Date: Mon, 14 Sep 2026 06:35:28 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 07:15:06.120145
Title: When the Wrong Key Wins: Understanding and Detecting Hallucinations in LLMs
Title（参考訳）: LLMにおける幻覚の理解と検出
Abstract要約: 大きな言語モデルは、正しい答えに必要な知識が既に利用可能である場合でも幻覚を与えることができる。モデル予測は個々のクエリキーワードに非常に敏感であることを示す。幻覚検出のための2段階のキーワード摂動法を提案する。
参考スコア（独自算出の注目度）: 6.246552320858934
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models can hallucinate even when the knowledge required for a correct answer is already available. We study this failure through a latent-key view of inference, where answer selection depends on competition among associations acquired during pretraining. We show that model predictions can be highly sensitive to individual query keywords, that these influential keywords exhibit entity-specific binding, and that their effects are systematically shaped by pretraining frequency. Multiple bindings can also compete and exhibit higher-order interactions within the same query. Based on this mechanism, we introduce a two-stage keyword-perturbation method for hallucination detection. By removing influential keywords and measuring how the model reorganizes its prediction, the method distinguishes errors caused by misleading key associations from correct decisions supported by diagnostic evidence. Across multiple models and benchmarks, perturbation provides a strong and transferable detection signal, reaching $.910$ AUROC on probe-known ScientistQA. Finally, we extend the same probabilistic framework to four hallucination regimes: knowledge deficit, wrong knowledge, context distraction, and unstable inference. Their operational distributions across benchmarks provide diagnostic context for why different detector families succeed in different settings.
Abstract（参考訳）: 大きな言語モデルは、正しい答えに必要な知識が既に利用可能である場合でも幻覚を与えることができる。我々は,この失敗を,事前学習中に獲得した関係間の競合に応答の選択が依存する推論の潜在キー視点を通して研究する。モデル予測は、個々のクエリキーワードに非常に敏感であり、これらの影響力のあるキーワードは、エンティティ固有のバインディングを示し、それらの効果は、事前学習頻度によって体系的に形成されていることを示す。複数のバインディングは競合し、同じクエリ内で高階のインタラクションを示すこともできる。そこで本研究では,幻覚検出のための2段階のキーワード摂動手法を提案する。有効なキーワードを除去し、モデルがその予測を再編成する方法を測定することにより、キー連想を誤解させる原因となる誤りと、診断証拠によって支持された正しい判断とを区別する。複数のモデルとベンチマークを通して、摂動は強い伝達可能な検出信号を提供し、サーキットQAで910ドルのAUROCに達した。最後に、同じ確率的枠組みを、知識不足、誤った知識、コンテキストの逸脱、不安定な推論の4つの幻覚体制に拡張する。ベンチマーク間の運用分布は、異なる検出器ファミリーが異なる設定で成功した理由の診断コンテキストを提供する。

関連論文リスト

HIVE: Understanding Post-Hallucination Reasoning in Vision Language Models [70.67112531913669]
視覚言語モデルにおける幻覚は、一般的に意味的誤りとして扱われる。それまでの研究は主に、世代ごとの幻覚の検出や抑制に重点を置いていた。幻覚的意味論がモデルの推論コンテキストに入る段階である PHR (Post Hallucination Reasoning) について検討する。
論文参考訳（メタデータ） (2026-07-08T15:02:11Z)
Understanding Why Language Models Hallucinate: Testing Reasoning Against Priors [11.702863087019809]
大規模言語モデルは、しばしば即時レベルの制約に反する幻覚的な答えを生成する。推測ミスアライメント(inference misalignment):プロンプトが支持する回答と統計的に有意な潜在的協会が支持する回答のミスマッチについて検討する。我々は、この見解を遅延キータスクモデルで定式化し、事前学習周波数の不均衡がショートカットパスを生じさせ、制約に敏感な経路を支配させる。
論文参考訳（メタデータ） (2026-07-01T05:02:43Z)
Walking Through Uncertainty: An Empirical Study of Uncertainty Estimation for Audio-Aware Large Language Models [54.041320081289996]
音声対応大言語モデル(ALLM)における不確実性推定に関する最初の系統的研究について述べる。予測エントロピー、長さ正規化エントロピー、意味エントロピー、個別意味エントロピー、P(True)を含む5つの代表的な手法をベンチマークする。まず、意味レベルと検証ベースの手法は、一般的な音声推論ベンチマークにおけるトークンレベルベースラインを一貫して上回ります。
論文参考訳（メタデータ） (2026-04-28T12:56:22Z)
Causality is Key for Interpretability Claims to Generalise [35.833847356014154]
大規模言語モデル(LLM)の解釈可能性の研究は、モデル行動に関する重要な洞察をもたらした。繰り返し発生する落とし穴: 一般化しない発見と、証拠を突破する因果解釈。パールの因果的階層は、解釈可能性の研究が正当化できることを明確にする。
論文参考訳（メタデータ） (2026-02-18T18:45:04Z)
Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know" [47.930782177987446]
大規模言語モデルは、クローズドブックの質問応答において知識限界を認識するのに苦労することが多く、自信ある幻覚へと繋がる。我々は、モデルスケールの異なるDirect、Assistive、Incrementalの3つのタスク等価プロンプトとマルチホップQAベンチマークを評価した。幻覚が一致している間に事実知識が安定しているため、クロスレジームは内部の不確実性の正確なシグナルを与える。
論文参考訳（メタデータ） (2026-02-04T18:39:58Z)
Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
論文参考訳（メタデータ） (2026-01-07T16:39:34Z)
Prompt-Response Semantic Divergence Metrics for Faithfulness Hallucination and Misalignment Detection in Large Language Models [0.0]
本稿では, 忠実な幻覚を検出するための新しい枠組みであるセマンティック・ディバージェンス・メトリックス(SDM)を紹介する。プロンプトと応答間のトピック共起のヒートマップは、ユーザとマシンの対話の定量的な2次元可視化と見なすことができる。
論文参考訳（メタデータ） (2025-08-13T20:55:26Z)
Detecting Token-Level Hallucinations Using Variance Signals: A Reference-Free Approach [0.0]
大規模言語モデル(LLM)は、様々なタスクにまたがる印象的な生成能力を示したが、幻覚に弱いままである。複数世代にわたるトークンログ確率のばらつきを利用した,参照不要なトークンレベルの幻覚検出フレームワークを提案する。我々のアプローチは、モデルに依存しず、解釈可能であり、リアルタイムまたはポストホック分析に適している。
論文参考訳（メタデータ） (2025-07-05T19:20:59Z)
Chain-of-Thought Prompting Obscures Hallucination Cues in Large Language Models: An Empirical Evaluation [9.540386616651295]
CoT(Chain-of-Thought)は、ステップバイステップ推論を奨励することによって幻覚を緩和する。我々の研究は、推論の利用における見落とされがちなトレードオフを浮き彫りにした。
論文参考訳（メタデータ） (2025-06-20T15:49:37Z)
Why and How LLMs Hallucinate: Connecting the Dots with Subsequence Associations [82.42811602081692]
本稿では,幻覚を体系的に追跡・理解するサブシーケンス・アソシエーション・フレームワークを提案する。主要な洞察は、支配的な幻覚協会が忠実なものを上回るときに生じる幻覚である。ランダムな入力コンテキストにおける幻覚の確率を解析することにより因果列を同定するトレースアルゴリズムを提案する。
論文参考訳（メタデータ） (2025-04-17T06:34:45Z)
KnowHalu: Hallucination Detection via Multi-Form Knowledge Based Factual Checking [55.2155025063668]
KnowHaluは、大規模言語モデル(LLM)によって生成されたテキスト中の幻覚を検出する新しいアプローチであるステップワイズ推論、マルチフォームクエリ、ファクトチェックのためのマルチフォーム知識、フュージョンベースの検出メカニズムを使用する。評価の結果,KnowHaluは様々なタスクにおける幻覚検出においてSOTAベースラインを著しく上回っていることがわかった。
論文参考訳（メタデータ） (2024-04-03T02:52:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。