論文の概要: Why Are LLMs Confidently Wrong? Correcting Overconfident Errors via Causal Head Intervention

• arxiv url: http://arxiv.org/abs/2610.34994v1
• Date: Mon, 26 Oct 2026 08:05:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.791189
• Title: Why Are LLMs Confidently Wrong? Correcting Overconfident Errors via Causal Head Intervention
• Title（参考訳）: LLMはなぜ間違っているのか? 因果的頭部干渉による過信エラーの修正
• Abstract要約: 現代の大規模言語モデル(LLM)は、しばしば過度に自信過剰なエラーを示し、誤った予測に高い信頼を割り当てる。 我々は,信頼行動の異なる内部コンポーネントを特定し,介入することによってキャリブレーションを改善するフレームワークであるCoCHIを提案する。
• 参考スコア（独自算出の注目度）: 12.514628470192449
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern large language models (LLMs) often exhibit overconfident errors, assigning high confidence to incorrect predictions and thereby undermining reliability in real-world use. Existing calibration methods typically rely on post-hoc adjustment or retraining, operating at the output level without addressing the underlying causes of miscalibration. We propose CoCHI, (Class-oriented Causal Head Intervention), a framework that improves calibration by identifying and intervening on internal components responsible for distinct confidence behaviours. By analysing predictions through correctness-confidence patterns, CoCHI enables targeted intervention on model internals, reducing overconfident errors while preserving correct predictions. Our approach provides a mechanistic perspective on calibration, linking reliability to identifiable structures within the model rather than treating it as an output-level issue. Experiments across multiple LLMs show consistent improvements in calibration metrics, including Expected Calibration Error, Negative Log-Likelihood, and Brier Score, while maintaining accuracy on five multiple-choice question answering benchmarks. These results suggest that effective calibration requires not only adjusting outputs, but also addressing the underlying causal mechanisms within the model.
• Abstract（参考訳）: 現代の大規模言語モデル(LLM)は、しばしば過度に自信過剰なエラーを示し、誤った予測に高い信頼を割り当て、現実世界の使用における信頼性を損なう。 既存の校正法は、典型的にはポストホック調整や再訓練に頼っており、誤校正の根本原因に対処することなく出力レベルで動作している。 そこで我々は,CoCHI(Class-oriented Causal Head Intervention)を提案する。これは,信頼行動の異なる内部コンポーネントを特定し,介入することによって校正を改善するフレームワークである。 正確さと信頼のパターンを通じて予測を分析することで、CoCHIはモデル内部へのターゲット的介入を可能にし、正しい予測を保ちながら過度に信頼されたエラーを削減する。 我々の手法はキャリブレーションの力学的な視点を提供し、信頼性をモデル内の識別可能な構造にリンクする。 複数のLCMをまたいだ実験では、キャリブレーションの指標が一貫した改善が見られ、例えば、期待キャリブレーションエラー、負のログライクリーフ、ブライアスコアなどがある。 これらの結果は、効果的な校正には出力を調整するだけでなく、モデル内の根底にある因果機構にも対処する必要があることを示唆している。

関連論文リスト

• Calibration vs Decision Making: Revisiting the Reliability Paradox in Unlearned Language Models [15.63775421273161]
  本研究では,TOFUベンチマークを用いた複数選択質問応答評価プロトコルを用いて,生成言語モデルのギャップについて検討する。 微調整モデルでは,事前学習モデルと比較してキャリブレーション誤差が低い(ECE 0.04)。 未学習後のモデルも同様に低いキャリブレーションを保ちながら、忘れ分割の精度は低下する。
  論文  参考訳（メタデータ） (2026-05-20T08:59:23Z)
• Discovery of Hidden Miscalibration Regimes [52.452902154360565]
  モデルは何らかの入力を体系的に過信し、他人を過信することがある。 対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。 提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
  論文  参考訳（メタデータ） (2026-05-13T13:07:50Z)
• Process Supervision of Confidence Margin for Calibrated LLM Reasoning [52.373121066425455]
  強化学習(RL)によるテスト時間計算のスケーリングは,大規模言語モデル(LLM)推論能力を向上させるための信頼性の高い経路として登場した。 しかし、結果に基づく報酬は、しばしばモデルに過信感を与え、幻覚、信頼できない信頼ベースの制御、不要な計算割り当てをもたらす。 本稿では,信頼性と信頼性を両立させるキャリブレーションを意識したRLフレームワークであるReinforcement Learning with Confidence Margin(textbfRLCM)を紹介する。
  論文  参考訳（メタデータ） (2026-04-25T14:40:13Z)
• On Calibration of Large Language Models: From Response To Capability [66.59139960234326]
  大規模言語モデル(LLM)は汎用的な問題解決手段として広くデプロイされている。 本稿では,クエリ上でモデルが期待する精度を目標とするキャリブレーションを提案する。 我々の結果は、キャパシティ校正された信頼度がpass@$k$予測と推論予算割り当てを改善することを示している。
  論文  参考訳（メタデータ） (2026-02-14T01:07:45Z)
• The Reliability Paradox: Exploring How Shortcut Learning Undermines Language Model Calibration [5.616884466478886]
  プレトレーニング言語モデル(PLM)は、自然言語処理の分野で大きなパフォーマンス向上を実現している。 近年の研究では、PLMは誤校正に悩まされており、これらのモデルによる信頼度推定の精度の欠如が示唆されている。 本稿では,低校正誤差が言語モデルの信頼性決定ルールを意味するか否かを考察する。
  論文  参考訳（メタデータ） (2024-12-17T08:04:28Z)
• Towards Certification of Uncertainty Calibration under Adversarial Attacks [96.48317453951418]
  攻撃はキャリブレーションを著しく損なう可能性を示し, 対向的摂動下でのキャリブレーションにおける最悪のキャリブレーション境界として認定キャリブレーションを提案する。 我々は,新しいキャリブレーション攻撃を提案し,テクスタディバーショナルキャリブレーショントレーニングによりモデルキャリブレーションを改善する方法を示す。
  論文  参考訳（メタデータ） (2024-05-22T18:52:09Z)
• Two Sides of Miscalibration: Identifying Over and Under-Confidence Prediction for Network Calibration [1.192436948211501]
  安全クリティカルなタスクにおける信頼性予測には、ディープニューラルネットワークの信頼性校正が不可欠である。 ミススキャリブレーションは、過信と/または過信をモデル化する。 校正点とクラス別校正点を同定するために,新しい校正点である校正点を導入する。 クラスワイドの誤校正スコアをプロキシとして使用して,過度かつ過度に対処可能な校正手法を設計する。
  論文  参考訳（メタデータ） (2023-08-06T17:59:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。