論文の概要: Reported Confidence in LLMs Tracks Commitment More Than Correctness

• arxiv url: http://arxiv.org/abs/2606.29490v1
• Date: Sun, 28 Jun 2026 16:39:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.940697
• Title: Reported Confidence in LLMs Tracks Commitment More Than Correctness
• Title（参考訳）: LLMsトラックの信頼性は正確性以上のもの
• Abstract要約: 信頼とは、選択された答えが正しい確率の見積もりである。 我々は、知覚的意思決定の神経科学から2段階の棄権パラダイムを用いてこれを検証した。 言語的自信は、その答えが正しいかどうかよりも、コミット/アビデンスの判断がかなり良いと予測した。
• 参考スコア（独自算出の注目度）: 0.7783842564949857
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Confidence is an estimate of the probability that a chosen answer is correct. Verbal confidence reports are widely used as uncertainty measures in large language models, but whether they are best understood as estimates of correctness is unclear. We test this with a two-stage abstention paradigm from the neuroscience of perceptual decision making: a model first answers and reports its confidence, then decides whether to commit it to a user or abstain. Across four non-reasoning models, prompt framings, and confidence formats, verbal confidence predicted the commit/abstain decision substantially better than whether the answer was correct. Calibrated token log-probabilities showed the opposite profile, with abstention-prediction coupled to correctness discrimination, the signature of an answer-evidence signal. After removing the variance verbal confidence shared with log-probabilities, the residual stayed aligned with commitment while its link to correctness fell to near chance. The dissociation generalised to four reasoning models across four benchmarks of varying difficulty, from hard multiple-choice to frontier-level freeform questions. Mechanistic analyses in Gemma 3 and 4 were convergent: a post-answer state known to causally support verbal-confidence generation already encoded the future abstention decision before the abstention prompt, organised mainly by that decision rather than by correctness, the two lying in approximately orthogonal directions in activation space. Steering along a verbal-confidence-specific direction causally shifted abstention. Verbal and log-probability confidence are thus not interchangeable: log-probabilities track answer evidence and correctness, whereas verbal confidence is better understood as a behaviour-facing readout of an internal commit-readiness state, challenging the practice of treating verbal reports as proxies for reliability.
• Abstract（参考訳）: 信頼とは、選択された答えが正しい確率の見積もりである。 言語モデルにおける不確実性尺度として,言語信頼度レポートが広く用いられているが,正確性の推定値として最もよく理解されているかどうかは不明である。 まず、モデルがまず回答し、その信頼を報告し、その後、それをユーザにコミットするか、それとも、棄権するかを判断する。 4つの非推論モデル、プロンプトフレーミング、信頼のフォーマットにおいて、言語的自信は、その答えが正しいかどうかよりも、コミット/アビスティブルな決定をかなり良く予測した。 Calibrated token log-probabilities showed the opposite profile, with abstention-prediction associated to correctness discrimination, the signature of an answer-evidence signal。 対数確率で共有される分散言語的信頼を除去した後、残余は、その正しさへのリンクがほぼ偶然に低下する間、コミットメントに一致したままであった。 この解離は、ハード多重選択からフロンティアレベルの自由形式問題まで、様々な難しさの4つのベンチマークで4つの推論モデルに一般化された。 Gemma 3 と 4 の機械的解析は収束した: 単語の自信生成を因果的に支援したことが知られている応答後の状態は、禁止プロンプトの前に将来の棄権決定を符号化し、主に正しさではなくその決定によって組織され、活性化空間のほぼ直交方向にある。 言語的信頼特異的な方向に沿ってステアリングすることは、留意を因果的にシフトさせる。 対数確率は答えのエビデンスと正しさを追跡し、対数確率は内部のコミット可読状態の振る舞いに直面する読み出しとして理解され、言語レポートを信頼性のプロキシとして扱う実践に挑戦する。

関連論文リスト

• Claim-Level Confidence Calibration for Reliable Decision Making with Large Language Models [7.714704554667688]
  大規模言語モデル(LLM)は、ハイテイクドメインにおける意思決定をますますサポートします。 LLMはしばしば、事実の正しさと不一致した自信を幻覚し表現する。 判定関連不確実性信号としてのクレームレベル信頼度校正について検討する。
  論文  参考訳（メタデータ） (2026-08-23T16:09:54Z)
• DirEAG: Dirichlet Evidence Aggregation for Calibrating Verbalized Confidence in Mathematical Reasoning [2.867517731896504]
  ブラックボックスの言語的信頼度は、大きな言語モデルでは校正が難しい。 本稿では,ディリクレ証拠集約法であるDirEAGを提案する。
  論文  参考訳（メタデータ） (2026-08-21T03:48:25Z)
• The Computational Basis of Confidence in Large Language Models [2.8220151940446425]
  統計的決定信頼度を用いて言語モデルにおける信頼度を研究する。 回答ロジットは、潜在決定変数の単調な読み出しとして振る舞うことを示す。 これらの結果は、SDCを生物学的および人工知能の信頼性を研究するための統一的な枠組みとして確立している。
  論文  参考訳（メタデータ） (2026-07-14T07:24:32Z)
• Asking Is Not Enough: Protocol Sensitivity in LLM Confidence Calibration [3.450547277166974]
  LLMの信頼性校正は、トークン確率スコアと言語的信頼の2つの信号を比較することで評価されることが多い。 我々は、動詞化-vs-token比較を定義する測度軸を変化させる。 両信頼性信号はプロトコルに依存した行動測定として扱うべきである。
  論文  参考訳（メタデータ） (2026-05-26T23:03:38Z)
• Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
  現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。 このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。 これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
  論文  参考訳（メタデータ） (2026-05-23T04:42:45Z)
• Retrieval-Augmented Linguistic Calibration [57.41519309308438]
  我々は,言語的信頼度を,文が正しいと認識される確率値の分布としてモデル化する。 Retrieval-Augmented Linguistic truth (RALC)は、信頼性信号を自然言語に伝達する軽量なポストホックパイプラインである。
  論文  参考訳（メタデータ） (2026-05-19T04:31:38Z)
• ORCE: Order-Aware Alignment of Verbalized Confidence in Large Language Models [17.761630515662947]
  本稿では,言語的信頼度校正のための疎結合・秩序対応フレームワークを提案する。 提案手法は,まず回答を生成し,固定された質問対に条件付き信頼度を推定する。 実験により,本手法は解答精度を大きく保ちながらキャリブレーションと故障予測性能を向上させることが示された。
  論文  参考訳（メタデータ） (2026-05-12T17:39:43Z)
• Confidence Before Answering: A Paradigm Shift for Efficient LLM Uncertainty Estimation [47.91529693614168]
  既存の方法は、主に回答ファーストであり、回答を生成した後のみ信頼を生み出す。 モデルが答える前に信頼を出力する信頼第一パラダイムについて検討し、このスコアを正解する確率として解釈する。 我々は,信頼度校正と正解精度をセグメント化された信用代入を通じて協調的に最適化する強化学習フレームワークであるCoCAを提案する。
  論文  参考訳（メタデータ） (2026-03-06T04:03:13Z)
• Critical or Compliant? The Double-Edged Sword of Reasoning in Chain-of-Thought Explanations [60.27156500679296]
  系統的な推論連鎖の摂動とデリバリートーンの操作による道徳シナリオにおけるCoT(Chain-of-Thought)の説明の役割について検討した。 1) 利用者は, 根拠に欠陥がある場合でも, 信頼感を保ち, 結果合意を信頼する傾向がみられた。 これらの結果は、CoTの説明が同時に明確化と誤解を招き、視覚的信頼よりも精査と批判的思考を奨励する説明を提供するNLPシステムの必要性を強調している。
  論文  参考訳（メタデータ） (2025-11-15T02:38:49Z)
• ConfTuner: Training Large Language Models to Express Their Confidence Verbally [58.63318088243125]
  大規模言語モデル(LLM)は、科学、法律、医療といった高度な領域にますます展開されている。 LLMは、しばしば「過信」(overconfidence)として知られる、高い信頼で誤った答えを生成するために観察される。
  論文  参考訳（メタデータ） (2025-08-26T09:25:32Z)
• Uncertainty Distillation: Teaching Language Models to Express Semantic Confidence [16.311538811237536]
  大規模言語モデル (LLM) は、事実質問に対する回答にますます使われている。 これらの不確実性の言葉化表現が意味を持つためには、表現された信頼度レベルでエラー率を反映すべきである。 そこで本研究では,LLMにセマンティック信頼度を校正する簡単な方法である不確かさ蒸留法を提案する。
  論文  参考訳（メタデータ） (2025-03-18T21:29:29Z)
• Language Models Prefer What They Know: Relative Confidence Estimation via Confidence Preferences [62.52739672949452]
  言語モデル(LM)は、ユーザーがアウトプットの誤りを検知し、必要であれば人間の専門家に延期するのに役立つ、信頼性の高い信頼推定を提供する必要がある。 本稿では,相対的信頼度推定法を提案する。そこでは,相互に質問をマッチングし,モデルに信頼度を相対的に判断するよう求める。 各質問を、他の質問に対する「プレイヤー」として扱い、モデルの選好を一致結果として扱うことで、モデルの信頼性選好を信頼スコアに変換するために、Elo評価やBradley-Terryのようなランクアグリゲーション手法を使うことができる。
  論文  参考訳（メタデータ） (2025-02-03T07:43:27Z)
• Think Twice Before Trusting: Self-Detection for Large Language Models through Comprehensive Answer Reflection [90.71323430635593]
  本稿では, LLM生成解を超える包括的解答空間を考察した, 新たな自己検出パラダイムを提案する。 このパラダイムに基づいて、2段階のフレームワークを導入し、まずまずLLMに各候補の回答を反映し、正当化するように指示する。 このフレームワークは、優れた自己検出のための既存のアプローチとシームレスに統合できる。
  論文  参考訳（メタデータ） (2024-03-15T02:38:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。