論文の概要: Evaluating Persistent Calibration under Evolving Model Knowledge

• arxiv url: http://arxiv.org/abs/2609.38797v1
• Date: Wed, 30 Sep 2026 02:29:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.04169
• Title: Evaluating Persistent Calibration under Evolving Model Knowledge
• Title（参考訳）: モデル知識の進化による永続的校正の評価
• Abstract要約: 我々は、信頼度が知識に依存しているかどうかを、信頼度推定の信頼性に影響を及ぼす問題に光を当てることを目指している。 予測時間と微調整法の両方が,将来のチェックポイントで訓練されたオラクル法と比較して,コントラストセットの校正で不足していることを示す。 あるチェックポイント上で適切に校正される可能性のある信頼関数の広大な空間が存在するため、永続的な校正が難しいという仮説の証拠を提供する。
• 参考スコア（独自算出の注目度）: 62.14945418630062
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As AI systems move from static repositories to agents that are capable of continual adaptation and learning, maintaining their trustworthiness means equipping the models backing them with the ability to produce confidence estimates that dynamically reflect their changing skills and knowledge. We introduce the problem of persistent calibration, which requires a confidence estimator to faithfully reflect the knowledge contained in a model as that knowledge changes, without recurring supervision. We operationalize this by examining persistent calibration across checkpoints of open models, asking whether confidence estimators trained on earlier checkpoints can generalize to later ones. Specifically, we aim to shed light on whether confidence is dependent on knowledge, a question with implications for the reliability of confidence estimates. To measure this relationship, we define and evaluate calibration on knowledge contrast sets: subsets containing questions that one checkpoint answers correctly and another checkpoint answers incorrectly, reflecting a change in knowledge. We show that both inference-time and fine-tuning methods fall short on contrast-set calibration compared to oracle methods trained on future checkpoints, even for methods that are well-calibrated on the full dataset. We provide evidence for the hypothesis that persistent calibration is challenging because there is a vast space of possible confidence functions that are well-calibrated on a given checkpoint, out of which only some rely on meta-knowledge features that would generalize to other checkpoints. Towards improving contrast-set calibration, we show that multi-checkpoint training helps, suggesting an avenue for identifying confidence features that remain robust across changing knowledge.
• Abstract（参考訳）: AIシステムは、静的リポジトリから、継続的な適応と学習が可能なエージェントへと移行するにつれて、信頼性を維持することは、モデルに彼らの変化するスキルと知識を動的に反映する信頼推定を生成する能力を持たせることを意味する。 本稿では,モデルに含まれる知識をモデルに忠実に反映させる信頼度推定器を必要とする永続的キャリブレーションの問題を,監督を繰り返すことなく導入する。 オープンモデルのチェックポイント間の永続的なキャリブレーションを検証し、初期チェックポイントで訓練された信頼度推定器がその後のチェックポイントに一般化できるかどうかを問う。 具体的には,信頼度が知識に依存しているか,信頼度推定の信頼性に影響を及ぼすか,という問題に光を当てることを目的としている。 この関係を測るために,1つのチェックポイントが正しく答える質問と,別のチェックポイントが正しく答える質問を含むサブセットを,知識の変化を反映して,知識コントラストセットの校正を定義し,評価する。 推測時間と微調整法の両方が,将来のチェックポイントで訓練されたオラクル法と比較して,コントラストセットの校正に不足していることを示す。 永続的な校正は、あるチェックポイント上で十分に校正される可能性のある信頼関数の広大な空間が存在するため困難であり、そのうちのいくつかは他のチェックポイントに一般化されるメタ知識機能にのみ依存しているという仮説の証拠を提供する。 コントラスト・セット・キャリブレーションの改善に向けて、マルチチェックポイント・トレーニングが有効であることを示し、知識の変化にまたがって頑健な信頼性特徴を特定するための道筋を提案する。

関連論文リスト

• Shared Experience, Separate Learning: Companion Confidence Calibration for LLMs [72.45153081761715]
  本研究では,能力向上とともに信頼度が学習されるエンファンコンカレント信頼度校正について検討する。 隠れ状態のロールアウトや検証者による正当性監視から軽量なコンパニオンを訓練する textbfCoCal を導入する。 Qwen3-8BとQwen3-14Bの実験は、タスク性能を犠牲にすることなく、CoCalが信頼性評価を改善することを示した。
  論文  参考訳（メタデータ） (2026-09-27T16:25:09Z)
• Future Confidence Distillation in Large Language Models [0.0]
  既存のアプローチは、信頼性を完了した応答の特性として扱う。 本研究では, 時間的観点からの信頼度を, 解答前判断(FOK)と解答後判断(JOL)の信頼度推定を比較して検討する。 解法後の信頼度は、解法前の信頼度よりも常に校正され、差別的であることが示される。
  論文  参考訳（メタデータ） (2026-07-08T16:43:11Z)
• Discovery of Hidden Miscalibration Regimes [52.452902154360565]
  モデルは何らかの入力を体系的に過信し、他人を過信することがある。 対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。 提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
  論文  参考訳（メタデータ） (2026-05-13T13:07:50Z)
• Process Supervision of Confidence Margin for Calibrated LLM Reasoning [52.373121066425455]
  強化学習(RL)によるテスト時間計算のスケーリングは,大規模言語モデル(LLM)推論能力を向上させるための信頼性の高い経路として登場した。 しかし、結果に基づく報酬は、しばしばモデルに過信感を与え、幻覚、信頼できない信頼ベースの制御、不要な計算割り当てをもたらす。 本稿では,信頼性と信頼性を両立させるキャリブレーションを意識したRLフレームワークであるReinforcement Learning with Confidence Margin(textbfRLCM)を紹介する。
  論文  参考訳（メタデータ） (2026-04-25T14:40:13Z)
• The Illusion of Certainty: Decoupling Capability and Calibration in On-Policy Distillation [67.26315138466312]
  モデルロールアウトから経験的信頼性を推定するキャリブレーション対応のOPDフレームワークであるCaOPDを提案する。 本研究は, 能力蒸留が信頼性を示唆するものではないこと, 信頼性をポストトレーニングの本質的な目的として扱うべきであることを明らかにする。
  論文  参考訳（メタデータ） (2026-04-18T04:43:40Z)
• Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
  この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。 まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。 本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
  論文  参考訳（メタデータ） (2025-08-11T02:33:53Z)
• Verbalized Confidence Triggers Self-Verification: Emergent Behavior Without Explicit Reasoning Supervision [12.287123198288079]
  大規模言語モデル(LLM)の安全な配置には不確実性校正が不可欠である 我々は,スカラー信頼ラベルのみを用いた教師付き微調整が,言語モデルの自己検証行動を引き出すのに十分であることがわかった。 キャリブレーションされた不確実性に基づいて,テスト時間スケーリングによる性能向上を図った簡易な再考手法を提案する。
  論文  参考訳（メタデータ） (2025-06-04T08:56:24Z)
• Fact-Level Confidence Calibration and Self-Correction [64.40105513819272]
  本稿では,事実レベルでの信頼度と妥当性の重み付けを校正するFact-Levelフレームワークを提案する。 また,信頼度の高い自己補正(textbfConFix$)も開発した。
  論文  参考訳（メタデータ） (2024-11-20T14:15:18Z)
• Trust, but Verify: Using Self-Supervised Probing to Improve Trustworthiness [29.320691367586004]
  我々は、訓練されたモデルに対する自信の過剰な問題をチェックおよび緩和することのできる、自己教師型探索の新しいアプローチを導入する。 既存の信頼性関連手法に対して,プラグイン・アンド・プレイ方式で柔軟に適用可能な,シンプルで効果的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2023-02-06T08:57:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。