論文の概要: Understanding Why Language Models Hallucinate: Testing Reasoning Against Priors

• arxiv url: http://arxiv.org/abs/2607.00447v1
• Date: Wed, 01 Jul 2026 05:02:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.724035
• Title: Understanding Why Language Models Hallucinate: Testing Reasoning Against Priors
• Title（参考訳）: 言語モデルが幻覚する理由を理解する: 優先順位に対する推論をテストする
• Abstract要約: 大規模言語モデルは、しばしば即時レベルの制約に反する幻覚的な答えを生成する。 推測ミスアライメント(inference misalignment):プロンプトが支持する回答と統計的に有意な潜在的協会が支持する回答のミスマッチについて検討する。 我々は、この見解を遅延キータスクモデルで定式化し、事前学習周波数の不均衡がショートカットパスを生じさせ、制約に敏感な経路を支配させる。
• 参考スコア（独自算出の注目度）: 11.702863087019809
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models often produce hallucinated answers that violate prompt-level constraints. A key diagnostic question is whether these failures reflect missing knowledge, or whether the model has the relevant information but follows the wrong inference path. We study this phenomenon as inference misalignment: a mismatch between the answer supported by the prompt and the answer favored by statistically salient latent associations. We formalize this view with a latent key-task model, in which pretraining-frequency imbalance can cause a shortcut path to dominate the constraint-sensitive path and induce positive inference loss. The framework predicts two failure modes: task-retrieval bias in entity disambiguation and key-selection bias in action choice. We introduce TrapQA, a controlled diagnostic testbed with two components. ScientistQA tests disambiguation among similar scientists with supplementary factual probes, while Real-Life Constrained QA tests everyday constraint following under salient shortcuts. Our results show that hallucination can arise from biased latent inference rather than absent knowledge alone.
• Abstract（参考訳）: 大規模言語モデルは、しばしば即時レベルの制約に反する幻覚的な答えを生成する。 重要な診断問題は、これらの失敗が知識の欠如を反映しているかどうか、またはモデルが関連する情報を持っているが間違った推論経路を辿っているかどうかである。 本研究は,この現象を推測ミスアライメントとして研究し,統計的に有意な潜伏者協会が支持する回答と,その回答とのミスマッチについて検討した。 我々は、この見解を遅延キータスクモデルで定式化し、事前学習周波数の不均衡はショートカット経路が制約に敏感な経路を支配し、正の推論損失を誘導する。 このフレームワークは、エンティティの曖昧さにおけるタスク-検索バイアスと、アクション選択におけるキー-選択バイアスの2つの障害モードを予測する。 本稿では,2つのコンポーネントによる診断テストベッドであるTrapQAを紹介する。 ScientistQAは、補完的な事実調査を行う類似の科学者の間で曖昧さをテストする一方、Real-Life Constrained QAは、健全なショートカットの下で日々の制約をテストする。 以上の結果から,幻覚は知識の欠如というよりも,偏見の潜伏推論から生じる可能性が示唆された。

関連論文リスト

• When the Wrong Key Wins: Understanding and Detecting Hallucinations in LLMs [6.246552320858934]
  大きな言語モデルは、正しい答えに必要な知識が既に利用可能である場合でも幻覚を与えることができる。 モデル予測は個々のクエリキーワードに非常に敏感であることを示す。 幻覚検出のための2段階のキーワード摂動法を提案する。
  論文  参考訳（メタデータ） (2026-09-14T06:35:28Z)
• What Am I Missing? Question-Answering as Hidden State Probing [13.065059683491958]
  本稿では,推測時間の介入として質問を投げかける手法を提案する。 質問の前後で、学生の隠れた状態を調査する。 介入としての質問応答の成功は,モデルの自己整合性に大きく依存していることが判明した。
  論文  参考訳（メタデータ） (2026-05-29T17:27:07Z)
• Decoding Answers Before Chain-of-Thought: Evidence from Pre-CoT Probes and Activation Steering [5.427346259545067]
  CoT(Chain-of- Thought)は、大規模言語モデルにおける推論機能のスケーリングの中心となっている。 命令調整モデルがCoTを生成する前に解答を決定する場合が多いことを示す。
  論文  参考訳（メタデータ） (2026-03-02T04:33:55Z)
• Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know" [47.930782177987446]
  大規模言語モデルは、クローズドブックの質問応答において知識限界を認識するのに苦労することが多く、自信ある幻覚へと繋がる。 我々は、モデルスケールの異なるDirect、Assistive、Incrementalの3つのタスク等価プロンプトとマルチホップQAベンチマークを評価した。 幻覚が一致している間に事実知識が安定しているため、クロスレジームは内部の不確実性の正確なシグナルを与える。
  論文  参考訳（メタデータ） (2026-02-04T18:39:58Z)
• RAudit: A Blind Auditing Protocol for Large Language Model Reasoning [0.8594140167290097]
  推論時間のスケーリングは、梅毒、暴走崩壊、早さの確実性といった推論の病理を増幅することができる。 基礎的な真理アクセスを伴わずにLCM推論を監査するための診断プロトコルであるRAuditを提案する。
  論文  参考訳（メタデータ） (2026-01-30T16:22:45Z)
• On the Paradoxical Interference between Instruction-Following and Task Solving [50.75960598434753]
  次の命令は、大規模言語モデル(LLM)を、タスクの実行方法に関する明示的な制約を指定することで、人間の意図と整合させることを目的としている。 我々は,LLMのタスク解決能力にパラドックス的に干渉する命令に従うという,直感に反する現象を明らかにした。 本稿では,タスク解決に追従する命令の干渉を定量化する指標として,SUSTAINSCOREを提案する。
  論文  参考訳（メタデータ） (2026-01-29T17:48:56Z)
• Why and How LLMs Hallucinate: Connecting the Dots with Subsequence Associations [82.42811602081692]
  本稿では,幻覚を体系的に追跡・理解するサブシーケンス・アソシエーション・フレームワークを提案する。 主要な洞察は、支配的な幻覚協会が忠実なものを上回るときに生じる幻覚である。 ランダムな入力コンテキストにおける幻覚の確率を解析することにより因果列を同定するトレースアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T06:34:45Z)
• Mitigating Knowledge Conflicts in Language Model-Driven Question Answering [15.29366851382021]
  2つの基本的な知識源は、文書ベースの質問応答と文書要約システムにおいて重要な役割を担っている。 近年の研究では、モデル固有の知識とトレーニングデータにおける基礎的真理解との間に不整合が存在する場合、システムは推論中に問題のある振る舞いを示す可能性があるという重要な課題が明らかにされている。 本研究は,ソース入力と出力との明示的な接続を構築することで,幻覚を最小化する手法を提案する。
  論文  参考訳（メタデータ） (2024-11-18T07:33:10Z)
• Context-Aware Reasoning On Parametric Knowledge for Inferring Causal Variables [49.31233968546582]
  本稿では,部分因果グラフの完成を目的とした新しいベンチマークを提案する。 原因と効果の間のバックドア変数を仮説化するLLMの強い能力を示す。 固定された関連性の単純な記憶とは異なり、我々のタスクはグラフ全体のコンテキストに応じてLCMを推論する必要がある。
  論文  参考訳（メタデータ） (2024-09-04T10:37:44Z)
• Nonparametric Identifiability of Causal Representations from Unknown Interventions [63.1354734978244]
  本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。 我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
  論文  参考訳（メタデータ） (2023-06-01T10:51:58Z)
• Counterfactual Variable Control for Robust and Interpretable Question Answering [57.25261576239862]
  ディープニューラルネットワークに基づく質問応答(QA)モデルは、多くの場合、堅牢でも説明もできない。 本稿では、因果推論を用いてQAモデルのこのような突発的な「能力」を検証する。 本稿では,任意のショートカット相関を明示的に緩和する,CVC(Counterfactual Variable Control)という新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-12T10:09:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。