論文の概要: CALIBER: Calibrating Confidence Before and After Reasoning in Language Models

• arxiv url: http://arxiv.org/abs/2606.24281v1
• Date: Tue, 23 Jun 2026 08:03:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-24 22:16:48.847422
• Title: CALIBER: Calibrating Confidence Before and After Reasoning in Language Models
• Title（参考訳）: CALIBER: 言語モデルにおける推論前後の信頼の校正
• Authors: Conor Finlay, Joshua Kurien, Saurabh Dash, Marzieh Fadaee, Beyza Ermis,
• Abstract要約: 本稿では,CALIBER(Calibration Before and After Reasoning)について紹介する。 この統一されたプロトコルの下で、CALIBERはBigMathDigitsにおける最強の単一信頼ベースラインよりも、期待エラー(ECE)を52.5%削減した。 より大きな30Bモデルでは、CALIBERはBrierスコアとAUROCの競争力を維持しながら、BigMathDigitsで最高のECEを達成する。
• 参考スコア（独自算出の注目度）: 16.376895132982938
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning language models are increasingly asked not only to answer difficult questions, but also to estimate their likelihood of success. Existing methods typically elicit confidence only once: either before thinking or after answering. We argue that confidence in reasoning models is state-dependent: before thinking, confidence should estimate the chance of the model correctly solving the prompt, while after thinking it should predict whether the realized answer is likely to be correct. This distinction determines the appropriate supervision target: prompt-level success should supervise confidence estimates made after seeing the prompt, while individual answer-level correctness should supervise confidence estimates made after answering. We introduce CALIBER (Calibration Before and After Reasoning), which elicits both estimates and supervises each with the target matched to its information state. Under this unified protocol, CALIBER reduces Expected Calibration Error (ECE) by 52.5% over the strongest single-confidence baseline on BigMathDigits for the 7B model, while achieving the best Brier score and AUROC, and remains within 2.1 points of the best accuracy. Further, on a larger 30B model, CALIBER achieves the best ECE on BigMathDigits while remaining competitive in Brier score and AUROC. Out of distribution, it achieves the best ECE and Brier score on GPQA and TriviaQA, and remains competitive on SimpleQA. Ablations further show that this position-target alignment is most beneficial under distribution shift where it consistently reduces calibration error across all out-of-distribution benchmarks.
• Abstract（参考訳）: 言語モデルの推論は、難しい質問に答えるだけでなく、成功の可能性を見積もるよう、ますます求められている。 既存の手法は一般的に1回だけ信頼を喚起する。 我々は、推論モデルの信頼性は状態依存であると主張する: 考える前に、信頼はモデルがプロンプトを正しく解決する確率を見積もるべきである。 この区別は、適切な監督対象を決定する: 迅速なレベルの成功は、プロンプトを見た後の信頼推定を監督するが、個々の回答レベルの正しさは、回答後の信頼推定を監督するべきである。 本稿では,CALIBER(Calibration Before and After Reasoning)について紹介する。 この統一されたプロトコルの下で、CALIBERは7BモデルのBigMathDigitsにおける最強の単一信頼ベースラインよりも、期待校正誤差(ECE)を52.5%削減し、最高のBrierスコアとAUROCを達成し、最高の精度の2.1ポイント以内に留まる。 さらに、より大きな30Bモデルでは、CALIBERはBrierスコアとAUROCの競争力を維持しながら、BigMathDigits上で最高のECEを達成する。 ディストリビューション以外では、GPQAとTriviaQAで最高のECEとBrierスコアを獲得し、SimpleQAでは競争力を維持している。 アブレーションにより、この位置目標アライメントは分布シフトにおいて最も有益であることが示され、全てのアウト・オブ・ディストリビューション・ベンチマークにおけるキャリブレーション誤差を一貫して減少させる。

関連論文リスト

• Calibrating LLMs with Semantic-level Reward [35.81380656593668]
  言語モデルを直接意味空間で校正するフレームワークであるtextbfCalibration with Semantic Reward (CSR) を提案する。 CSRは、ほぼすべての設定において、言語化信頼ベースラインよりも低ECEと高AUROCを一貫して達成する。
  論文  参考訳（メタデータ） (2026-05-15T03:55:11Z)
• A Semantic-Sampling Framework for Evaluating Calibration in Open-Ended Question Answering [19.55210880950831]
  予測されたモデルの信頼度がその経験的精度と一致しているかを測り、大規模言語モデル(LLM)の信頼性デプロイメントの中心となる。 オープンエンド質問応答(QA)のための校正評価フレームワークSem-ECEを紹介する。 フレームワーク内の2つの推定器について検討する。同じサンプルの自己整合性スコアであるSem$-ECEと、自信評価から回答の選択を分離する保留変数であるSem$-ECEである。
  論文  参考訳（メタデータ） (2026-05-08T19:53:49Z)
• Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
  本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。 我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。 VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
  論文  参考訳（メタデータ） (2026-04-03T15:19:46Z)
• Confidence Before Answering: A Paradigm Shift for Efficient LLM Uncertainty Estimation [47.91529693614168]
  既存の方法は、主に回答ファーストであり、回答を生成した後のみ信頼を生み出す。 モデルが答える前に信頼を出力する信頼第一パラダイムについて検討し、このスコアを正解する確率として解釈する。 我々は,信頼度校正と正解精度をセグメント化された信用代入を通じて協調的に最適化する強化学習フレームワークであるCoCAを提案する。
  論文  参考訳（メタデータ） (2026-03-06T04:03:13Z)
• On Calibration of Large Language Models: From Response To Capability [66.59139960234326]
  大規模言語モデル(LLM)は汎用的な問題解決手段として広くデプロイされている。 本稿では,クエリ上でモデルが期待する精度を目標とするキャリブレーションを提案する。 我々の結果は、キャパシティ校正された信頼度がpass@$k$予測と推論予算割り当てを改善することを示している。
  論文  参考訳（メタデータ） (2026-02-14T01:07:45Z)
• Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
  我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。 Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。 この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
  論文  参考訳（メタデータ） (2025-10-07T14:46:12Z)
• ConfTuner: Training Large Language Models to Express Their Confidence Verbally [58.63318088243125]
  大規模言語モデル(LLM)は、科学、法律、医療といった高度な領域にますます展開されている。 LLMは、しばしば「過信」(overconfidence)として知られる、高い信頼で誤った答えを生成するために観察される。
  論文  参考訳（メタデータ） (2025-08-26T09:25:32Z)
• Just Ask for Calibration: Strategies for Eliciting Calibrated Confidence Scores from Language Models Fine-Tuned with Human Feedback [91.22679548111127]
  信頼できる現実世界の予測システムは、よく校正された信頼スコアを生成するべきである。 出力トークンとして出力される言語的信頼度は、通常、モデルの条件付き確率よりも良く校正されていることを示す。
  論文  参考訳（メタデータ） (2023-05-24T10:12:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。