論文の概要: Confident but Conflicted: Internal Uncertainty and Cognitive Dissonance Resolution in LLMs

• arxiv url: http://arxiv.org/abs/2606.22633v1
• Date: Sun, 21 Jun 2026 18:39:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:14:26.186162
• Title: Confident but Conflicted: Internal Uncertainty and Cognitive Dissonance Resolution in LLMs
• Title（参考訳）: LLMにおける内的不確かさと認知的不協和分解能
• Authors: Weihong Qi, Kristina Lerman,
• Abstract要約: 大規模言語モデル(LLM)は、以前の出力と矛盾する入力に頻繁に遭遇する。 不協和性は説得、バックファイア、免疫によって解決できる。 信頼の弾力性(Trust Elasticity, TE)は、モデルが矛盾する証拠に対していかに容易に説得されるかを示す、計量学的に着想を得た尺度である。
• 参考スコア（独自算出の注目度）: 6.968805961712596
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) frequently encounter inputs that disagree with their prior outputs, through user pushback, retrieved documents, or web search results. While the way they resolve such conflicts -- a process we frame as cognitive dissonance resolution -- has been characterized behaviorally, its connection to internal model uncertainty is not well understood. To study this systematically, we vary persuasion attempts along two dimensions, source authority and evidence quality, across 12 health-science claims of stratified epistemic status. Dissonance can be resolved through persuasion, backfire, or immunity. We introduce Trust Elasticity (TE), an econometrics-inspired measure of how readily a model is persuaded toward conflicting evidence. Across four LLMs, TE varies substantially, while clearly false claims elicit near-zero TE across all models. On two open-weight models, we further find that this variation is associated with two complementary internal uncertainty indicators, Confidence Miscalibration in Qwen and Internal Uncertainty Change in Llama. These results link cross-model behavioral variation to a measurable internal property and point to interventions targeting internal uncertainty as future work.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、ユーザのプッシュバック、検索されたドキュメント、あるいはWeb検索結果を通じて、以前の出力に反する入力に頻繁に遭遇する。 このような矛盾を解決する方法、つまり私たちが認知的不協和分解と呼ぶプロセスは行動的に特徴づけられているが、その内部モデルの不確実性との関係はよく理解されていない。 これを体系的に研究するために、私たちは2つの側面、すなわち情報源の権威と証拠の質について、階層化されたてんかん状態の12の健康科学的主張に異なる説得の試みを行った。 不協和性は説得、バックファイア、免疫によって解決できる。 我々は,モデルが矛盾する証拠に対していかに容易に説得できるかを,計量学にヒントを得た尺度であるTrust Elasticity(TE)を紹介した。 TE は 4 つの LLM にまたがって大きく異なるが、明らかな偽の主張はすべてのモデルにほぼ 0 の TE を与える。 2つのオープンウェイトモデルにおいて、この変異は2つの相補的な内部不確実性指標、すなわちQwenにおける信頼ミススキャリブレーション(Confidence Miscalibration)とLlamaにおける内部不確実性変化(internal Uncertainty Change)と関連している。 これらの結果は、モデル間の振る舞いの変動を測定可能な内部特性にリンクさせ、将来の作業として内部の不確実性をターゲットとした介入を指摘します。

関連論文リスト

• LLMs Show No Signs Of Individuated Metacognition [0.023227405857540805]
  20大言語モデルから二項信頼判断を分解する。 信頼性が異なる2つのモデルも性能が異なるかどうかを問う。 いずれの検査領域においても,有意な弁別メタ認知の証拠は見つからない。
  論文  参考訳（メタデータ） (2026-05-22T23:54:33Z)
• Walking Through Uncertainty: An Empirical Study of Uncertainty Estimation for Audio-Aware Large Language Models [54.041320081289996]
  音声対応大言語モデル(ALLM)における不確実性推定に関する最初の系統的研究について述べる。 予測エントロピー、長さ正規化エントロピー、意味エントロピー、個別意味エントロピー、P(True)を含む5つの代表的な手法をベンチマークする。 まず、意味レベルと検証ベースの手法は、一般的な音声推論ベンチマークにおけるトークンレベルベースラインを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-04-28T12:56:22Z)
• ERA: Evidence-based Reliability Alignment for Honest Retrieval-Augmented Generation [19.616905640490252]
  本稿ではERA(Evidence-based Reliability Alignment)と呼ばれる新しいフレームワークを提案する。 提案手法は, 解答カバレッジと棄却のトレードオフを最適化し, 校正精度を向上し, ベースラインを著しく向上させる。
  論文  参考訳（メタデータ） (2026-02-24T01:45:51Z)
• Detecting Misbehaviors of Large Vision-Language Models by Evidential Uncertainty Quantification [27.02252748004729]
  大規模視覚言語モデル(LVLM)は多モーダル理解と生成において大きな進歩を見せている。 彼らはしばしば、事実幻覚や危険な指示など、信頼できない、あるいは有害な内容を生み出す。 Evidential Uncertainty Quantification (EUQ)は、LVLMの誤動作を効果的に検出するための情報競合と無知の両方をキャプチャする。
  論文  参考訳（メタデータ） (2026-02-05T10:51:39Z)
• Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know" [47.930782177987446]
  大規模言語モデルは、クローズドブックの質問応答において知識限界を認識するのに苦労することが多く、自信ある幻覚へと繋がる。 我々は、モデルスケールの異なるDirect、Assistive、Incrementalの3つのタスク等価プロンプトとマルチホップQAベンチマークを評価した。 幻覚が一致している間に事実知識が安定しているため、クロスレジームは内部の不確実性の正確なシグナルを与える。
  論文  参考訳（メタデータ） (2026-02-04T18:39:58Z)
• Semantic Volume: Quantifying and Detecting both External and Internal Uncertainty in LLMs [13.982395477368396]
  大規模言語モデル (LLM) は、膨大な事実知識を符号化することで、様々なタスクにまたがる顕著な性能を示した。 彼らはまだ幻覚を起こす傾向があり、誤った情報や誤解を招く情報を生み出し、しばしば高い不確実性を伴う。 LLMにおける外部不確実性と内部不確実性の両方を定量化する新しい尺度であるSemantic Volumeを紹介する。
  論文  参考訳（メタデータ） (2025-02-28T17:09:08Z)
• ParamMute: Suppressing Knowledge-Critical FFNs for Faithful Retrieval-Augmented Generation [91.20492150248106]
  本研究では,不誠実な生成の背後にある内部メカニズムを解明し,不均等に活性化される中深度フィードフォワードネットワーク(FFN)のサブセットを同定する。 本研究では,不信感関連FFNの活性化を抑制することにより,文脈的忠実度を向上させるフレームワークであるParametric Knowledge Mutingを提案する。 実験結果から,ParamMuteはCoFaithfulQAと確立されたConFiQAベンチマークの両方の信頼度を大幅に向上し,パラメトリックメモリへの依存度を大幅に低下させることが示された。
  論文  参考訳（メタデータ） (2025-02-21T15:50:41Z)
• ECon: On the Detection and Resolution of Evidence Conflicts [56.89209046429291]
  大規模言語モデル(LLM)の台頭は意思決定システムにおける情報の質に大きな影響を与えている。 本研究では,実世界の誤情報シナリオをシミュレートするために,多様で検証された証拠衝突を生成する手法を提案する。
  論文  参考訳（メタデータ） (2024-10-05T07:41:17Z)
• Improving the Reliability of Large Language Models by Leveraging Uncertainty-Aware In-Context Learning [76.98542249776257]
  大規模言語モデルはしばしば「ハロシン化」の課題に直面している 本研究では,不確実性に応答してモデルが出力を拡張あるいは拒否することを可能にする,不確実性を考慮したコンテキスト内学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-07T12:06:53Z)
• Disentangling Observed Causal Effects from Latent Confounders using Method of Moments [67.27068846108047]
  我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。 我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
  論文  参考訳（メタデータ） (2021-01-17T07:48:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。