論文の概要: Calibration in One Go: Jointly Learning Accurate and Calibrated Neural Networks

• arxiv url: http://arxiv.org/abs/2610.13693v1
• Date: Fri, 09 Oct 2026 14:54:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.646186
• Title: Calibration in One Go: Jointly Learning Accurate and Calibrated Neural Networks
• Title（参考訳）: 一行の校正:高精度ニューラルネットワークと校正ニューラルネットワークを併用して学習する
• Abstract要約: 標準(ポストホック)キャリブレータは、バイレベルなStackelbergの定式化により、バックボーンでエンドツーエンドにトレーニングできることを示す。 この定式化により、別個のキャリブレーションセットや専用キャリブレーション損失が不要になる。 その結果, 最終分類層自体を校正器として用いると, パラメータを加味せずに精度よく校正されたモデルが得られることがわかった。
• 参考スコア（独自算出の注目度）: 13.023250177904876
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Neural networks (NNs), while highly flexible and versatile, are often poorly calibrated. Post-hoc calibration methods adjust the outputs of an already trained model using a separate calibration dataset and additional calibration parameters. This process adds overhead that requires separate optimization of the calibrator and subsequent model selection. In this paper, we show that standard (post-hoc) calibrators can be trained end-to-end with the backbone via a bilevel Stackelberg formulation. This formulation eliminates the need for a separate calibration set or a dedicated calibration loss by jointly optimizing accuracy and calibration using cross-entropy, introducing only one additional hyperparameter: the calibrator learning rate. Although our framework supports calibrators ranging from temperature and matrix scaling to NN layers, our results show that using the final classification layer itself as the calibrator yields accurate, well-calibrated models with no additional parameters. Our approach outperforms SOTA calibrators with minimal added complexity, while also avoiding the multiplicative overhead of separate calibration components in settings such as multi-task learning.
• Abstract（参考訳）: ニューラルネットワーク(NN)は非常に柔軟で汎用性が高いが、しばしばキャリブレーションが不十分である。 ポストホックキャリブレーション法は、個別のキャリブレーションデータセットと追加のキャリブレーションパラメータを使用して、既に訓練済みのモデルの出力を調整する。 このプロセスは、キャリブレータとその後のモデル選択を別々に最適化する必要があるオーバーヘッドを追加する。 本稿では,標準的な(ポストホック)キャリブレータを,バイレベルスタックルバーグの定式化により,バックボーンでエンドツーエンドに訓練することができることを示す。 この定式化は、クロスエントロピーを用いた精度とキャリブレーションを共同最適化することにより、別個のキャリブレーションセットや専用キャリブレーション損失の必要性を排除し、キャリブレータ学習率という1つの追加のハイパーパラメータのみを導入する。 我々のフレームワークは温度や行列のスケーリングからNN層までキャリブレータをサポートしているが、最終分類層自体をキャリブレータとして使うと、パラメータを加味せずに精度よく校正されたモデルが得られる。 また、マルチタスク学習などの設定において、個別の校正部品の乗算オーバーヘッドを回避しながら、最小限の複雑さでSOTA校正器の性能を向上する。

関連論文リスト

• Too Sharp, Too Sure: When Calibration Follows Curvature [39.687359662779826]
  実験的に、期待誤差(ECE)は最適化全体を通して曲率に基づくシャープネスを密に追跡する。 ECE と Gauss-Newton の曲率も,問題固有定数まで制御可能であることを示す。 我々は,頑健な雄の尾と局所的な滑らかさを明確に目標とする辺縁認識トレーニングの目標を導入する。
  論文  参考訳（メタデータ） (2026-04-22T14:28:52Z)
• Scalable Utility-Aware Multiclass Calibration [53.28176049547449]
  ユーティリティキャリブレーション(英: Utility calibration)は、特定のユーティリティ関数に対するキャリブレーション誤差を測定する一般的なフレームワークである。 我々は、このフレームワークが既存のキャリブレーションメトリクスを統一し、再解釈する方法を実証する。
  論文  参考訳（メタデータ） (2025-10-29T12:32:14Z)
• Where are we with calibration under dataset shift in image classification? [13.432791129536255]
  画像分類のための実世界のデータセットシフトの下でキャリブレーションの状況について検討する。 様々なポストホックキャリブレーション手法と、一般的なトレーニング中のキャリブレーション戦略との相互作用を比較した。 i) アンサンブル前に校正を適用することは、シフトの下で校正するのにより効果的である。
  論文  参考訳（メタデータ） (2025-07-10T13:59:53Z)
• Adaptive Set-Mass Calibration with Conformal Prediction [60.47079469141295]
  提案手法は,まず共形予測から始まり,所望のカバレッジを与えるラベルの集合を得る。 次に、共形制約に合わせて、質量正規化と温度スケーリングに基づくルールの2つの簡単なポストホックキャリブレータをインスタンス化する。
  論文  参考訳（メタデータ） (2025-05-21T12:18:15Z)
• Restoring Calibration for Aligned Large Language Models: A Calibration-Aware Fine-Tuning Approach [34.478524949495345]
  大言語モデル(LLM)の成功のための重要な技術である選好アライメント 本稿では,リコメンデーションアライメントがキャリブレーションになぜ影響するか,この問題にどう対処するかを検討する。
  論文  参考訳（メタデータ） (2025-05-04T05:42:51Z)
• Calibration by Distribution Matching: Trainable Kernel Calibration Metrics [56.629245030893685]
  カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。 これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。 決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
  論文  参考訳（メタデータ） (2023-10-31T06:19:40Z)
• Adaptive Calibrator Ensemble for Model Calibration under Distribution Shift [23.794897699193875]
  アダプティブ・キャリブレータ・アンサンブル(ACE)は、通常はキャリブレーション・セットよりも難しいOODデータセットをキャリブレーション・セットに分類する。 ACEは一般に、一連のOODベンチマークにおけるいくつかの最先端のキャリブレーション方式の性能を改善している。
  論文  参考訳（メタデータ） (2023-03-09T15:22:02Z)
• On Calibrating Semantic Segmentation Models: Analyses and An Algorithm [51.85289816613351]
  セマンティックセグメンテーションキャリブレーションの問題について検討する。 モデルキャパシティ、作物サイズ、マルチスケールテスト、予測精度はキャリブレーションに影響を及ぼす。 我々は、単純で統一的で効果的なアプローチ、すなわち選択的スケーリングを提案する。
  論文  参考訳（メタデータ） (2022-12-22T22:05:16Z)
• Localized Calibration: Metrics and Recalibration [133.07044916594361]
  完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。 次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
  論文  参考訳（メタデータ） (2021-02-22T07:22:12Z)
• Uncertainty Quantification and Deep Ensembles [79.4957965474334]
  ディープアンサンブルが必ずしもキャリブレーション特性の改善につながるとは限らないことを示す。 そこで本研究では,混成正規化などの現代的な手法と併用して標準アンサンブル法を用いることで,キャリブレーションの少ないモデルが得られることを示す。 このテキストは、データが不足しているときにディープラーニングを活用するために、最も単純で一般的な3つのアプローチの相互作用を調べる。
  論文  参考訳（メタデータ） (2020-07-17T07:32:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。