論文の概要: Test-time Calibration Learning for Large Language Model Reasoning

• arxiv url: http://arxiv.org/abs/2610.02695v1
• Date: Fri, 02 Oct 2026 02:17:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.164903
• Title: Test-time Calibration Learning for Large Language Model Reasoning
• Title（参考訳）: 大規模言語モデル推論のためのテスト時間校正学習
• Abstract要約: TTCL(Test-Time Learning)は、ラベルなしのフレームワークである。 TTCLは様々なモデルやタスクの精度とキャリブレーションを一貫して改善する。
• 参考スコア（独自算出の注目度）: 38.19203836129321
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reliable large language models (LLMs) must not only produce accurate answers but also express confidence that faithfully reflects their probability of being correct. Such calibration is essential for identifying uncertain predictions and supporting reliable decision-making in real-world deployment. Recent studies incorporate calibration learning into reinforcement learning (RL), jointly optimizing answer correctness and verbalized confidence using ground-truth correctness supervision. However, their reliance on labeled data limits their applicability in practical test-time settings, where ground-truth labels are unavailable and calibration may need to adapt to newly encountered target tasks. To address this challenge, we propose Test-Time Calibration Learning (TTCL), a label-free framework that jointly adapts reasoning accuracy and verbalized confidence directly on unlabeled target-task data. Specifically, TTCL derives self-supervision signals for both correctness and calibration from multiple model-generated responses, enabling calibration learning at test time without ground-truth labels. Theoretical analysis further establishes TTCL as a bounded surrogate for the ideal calibration objective. Extensive experiments on mathematical reasoning and factual question answering demonstrate that TTCL consistently improves both accuracy and calibration across diverse models and tasks. On base models, TTCL achieves an average relative accuracy improvement of +40.13% and an ECE reduction of +70.80% across eight benchmarks. Moreover, TTCL can further improve both accuracy and calibration for already calibrated models under domain shift, particularly when source-domain calibration transfers poorly to target tasks. In the math-to-factQA setting, TTCL achieves an average relative accuracy gain of +20.35% and reduces ECE by +53.83%. The source code is released at https://github.com/tmlr-group/TTCL.
• Abstract（参考訳）: 信頼性の高い大規模言語モデル(LLM)は、正確な回答を生成するだけでなく、正しい確率を忠実に反映する自信も示さなければならない。 このようなキャリブレーションは、不確実な予測を特定し、現実の展開において信頼性の高い意思決定をサポートするために不可欠である。 近年の研究では、強化学習(RL)に校正学習を取り入れ、回答の正しさと言語的信頼度を共同で最適化する。 しかし、ラベル付きデータへの依存は実際のテスト時間設定における適用性を制限し、そこでは地道ラベルは利用できなくなり、キャリブレーションは新しく遭遇したターゲットタスクに適応する必要があるかもしれない。 この課題に対処するために,未ラベルのターゲットタスクデータに対して,推論精度と言語的信頼を直接適応するラベルのないフレームワークであるTTCL(Test-Time Calibration Learning)を提案する。 具体的には、TTCLは、複数のモデル生成応答から正当性と校正の両面での自己超越シグナルを導出し、グランドトルースラベルなしでテスト時の校正学習を可能にする。 理論解析により、TTCLは理想的なキャリブレーション目的のための有界サロゲートとしてさらに確立される。 数学的推論と事実質問応答に関する広範な実験は、TTCLが様々なモデルやタスクの精度とキャリブレーションの両方を一貫して改善することを示した。 ベースモデルでは、TTCLは平均相対精度が+40.13%向上し、ECEは8つのベンチマークで+70.80%削減された。 さらに、TTCLは、特にソース領域のキャリブレーションがターゲットタスクに不十分な場合に、ドメインシフトの下で既に調整済みのモデルの精度とキャリブレーションを改善することができる。 数学とファクトQAの設定では、TTCLは平均的な相対的精度を+20.35%向上させ、ECEを+53.83%削減する。 ソースコードはhttps://github.com/tmlr-group/TTCLで公開されている。

関連論文リスト

• Online Reasoning Calibration: Test-Time Training Enables Generalizable Conformal LLM Reasoning [18.69627681731888]
  オンライン推論校正(英語: Online Reasoning calibration、ORCA)は、整合予測とテストタイムトレーニングに基づいてサンプリングプロセスを校正するフレームワークである。 リスクレベルの$=0.1$で、ORCAはQwen2.5-32B効率を改善し、47.5%、監督ラベル40.7%、自己整合ラベル40.7%を節約する。
  論文  参考訳（メタデータ） (2026-04-01T17:21:50Z)
• Correctness-Optimized Residual Activation Lens (CORAL): Transferrable and Calibration-Aware Inference-Time Steering [3.7758197704962835]
  重み付きデカイプローブを用いて、モデル内部のアクティベーションから正当性信号を捕捉する正規化時間ステアリング法であるCORALを導入する。 コラルは、常に精度を10%改善し、期待キャリブレーション誤差(ECE)を平均50%改善する。 本結果は,個々のニューロンが不十分な場合,正規化プローブを用いてモデル内部の分散情報を抽出できるという仮説を支持する。
  論文  参考訳（メタデータ） (2026-02-05T18:55:56Z)
• Fill In The Gaps: Model Calibration and Generalization with Synthetic Data [2.89287673224661]
  本稿では,合成データを精度良く組み込んだキャリブレーション手法を提案する。 本稿では,予測校正誤差(ECE)をPAC学習フレームワークを用いて導出する。 平均34%の精度, 33%のECE低下を認めた。
  論文  参考訳（メタデータ） (2024-10-07T23:06:42Z)
• C-TPT: Calibrated Test-Time Prompt Tuning for Vision-Language Models via Text Feature Dispersion [54.81141583427542]
  深層学習において,ラベル付きデータを必要としない微調整手法としてテスト時間適応が注目されている。 本稿では,CLIPの固有特性を利用したテスト時プロンプトチューニング時の校正について検討する。 そこで本研究では,C-TPT(Calibrated Test-time Prompt Tuning)という,キャリブレーションの強化によるテスト時間中のプロンプトの最適化手法を提案する。
  論文  参考訳（メタデータ） (2024-03-21T04:08:29Z)
• Calibrating Long-form Generations from Large Language Models [34.72041258464477]
  大きな言語モデル(LLM)の信頼性スコアは、その応答が正しいという実際の可能性と一致すべきである。 現在の信頼性評価手法とキャリブレーション基準は、応答の正しさを2値の真/偽評価に頼っている。 本稿では,LLMの応答の正しさと関連する信頼度の両方を,様々なスコアの分布として扱う統一校正フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-09T17:00:32Z)
• Estimating Large Language Model Capabilities without Labeled Test Data [51.428562302037534]
  大規模言語モデル(LLM)は、ほんの数例からICL(In-context Learning)を実行するという印象的な能力を持っている。 ICLの精度推定タスクを提案し、新しいタスクで文脈内学習を行う場合のLLMの精度を予測する。
  論文  参考訳（メタデータ） (2023-05-24T06:55:09Z)
• Localized Calibration: Metrics and Recalibration [133.07044916594361]
  完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。 次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
  論文  参考訳（メタデータ） (2021-02-22T07:22:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。