論文の概要: Expectation Consistency Loss: Rethink Confidence Calibration under Covariate Shift
- arxiv url: http://arxiv.org/abs/2605.21552v1
- Date: Wed, 20 May 2026 11:45:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:41.936842
- Title: Expectation Consistency Loss: Rethink Confidence Calibration under Covariate Shift
- Title(参考訳): 予測整合性損失:共変量シフト下での信頼度校正を再考する
- Authors: Jinzong Dong, Zhaohui Jiang, Bo Yang,
- Abstract要約: 一般的な信頼性校正法は、トレーニングとテストデータは独立で、同一に分散されていると仮定する。
本稿では、対象領域の信頼性を校正するために、教師なし領域適応損失を提案する。
予測誤差 (ECE) と同一のサンプル量を持つECL損失を計算し, ECL損失に対する理論的根拠付きミニバッチトレーニング可能なスキームを提供する。
- 参考スコア(独自算出の注目度): 7.333172294727063
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Confidence calibration for classification models is vital in safety-critical decision-making scenarios and has received extensive attention. General confidence calibration methods assume training and test data are independent and identically distributed, limiting their effectiveness under covariate shifts. Previous calibration methods under covariate shift struggle with class-wise or canonical calibrations and often rely on unstable importance weighting when density ratios are large or unbounded. Given the above limitations, this paper rethinks confidence calibration under covariate shifts. First, we derive a necessary and sufficient condition for confidence calibration under covariate shifts, named Expectation consistency condition, which reveals covariate shifts do not necessarily lead to uncalibrated confidence and provides a weaker condition for confidence calibration than global covariate distribution alignment. Then, utilizing Expectation consistency condition, this paper proposes an unsupervised domain adaptation loss to calibrate confidence of the target domain, named Expectation consistency loss (ECL), which is compatible with canonical calibration, class-wise calibration, and top-label calibration. Third, we prove that computing ECL loss has the same sample complexity as Expected Calibration Error (ECE) and provide a theoretically grounded mini-batch trainable scheme for ECL loss. Finally, we validate the effectiveness of our method on both simulated and real-world covariate shift datasets.
- Abstract(参考訳): 分類モデルの信頼性校正は、安全クリティカルな意思決定シナリオにおいて不可欠であり、広く注目を集めている。
一般的な信頼性校正法は、トレーニングとテストデータは独立であり、同一に分散されていると仮定し、その効果を共変量シフトで制限する。
共変量シフトの以前のキャリブレーション法は、クラスワイズや標準キャリブレーションと競合し、密度比が大きい場合や非有界の場合、不安定な重み付けに依存することが多い。
上記の制限を踏まえ、同変量シフト下での信頼度校正について再考する。
まず,大域的共変量分布アライメントよりも信頼性キャリブレーションの弱い条件を提供するために,共変量シフトが必ずしも未調整の信頼に繋がらないことを示す期待整合条件という,共変量シフトの下での信頼キャリブレーションの必要十分条件を導出する。
そこで本研究では,予測整合性条件を用いて,標準校正,クラスワイド校正,トップラベル校正に適合する期待整合性損失(ECL)という,対象領域の信頼性を校正するための教師なし領域適応損失を提案する。
第3に, 予測校正誤差 (ECE) と同一のサンプル計算量を有することを証明し, ECL損失に対する理論的根拠付きミニバッチトレーニング可能なスキームを提供する。
最後に,シミュレーションおよび実世界の共変量シフトデータセットにおける本手法の有効性を検証する。
関連論文リスト
- Discovery of Hidden Miscalibration Regimes [52.452902154360565]
モデルは何らかの入力を体系的に過信し、他人を過信することがある。
対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。
提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
論文 参考訳(メタデータ) (2026-05-13T13:07:50Z) - Uncertainty-Aware Post-Hoc Calibration: Mitigating Confidently Incorrect Predictions Beyond Calibration Metrics [6.9681910774977815]
本稿では、校正品質と不確実性を考慮した意思決定を向上させるためのポストホック校正フレームワークを提案する。
校正基準,不確実性認識性能測定,実証的コンフォメーションカバレッジを用いて総合評価を行った。
実験により,提案手法はイソトニックおよび焦点損失ベースラインと比較して,信頼性の低い予測精度と競合予測誤差を実現することが示された。
論文 参考訳(メタデータ) (2025-10-19T23:55:36Z) - Adaptive Set-Mass Calibration with Conformal Prediction [60.47079469141295]
提案手法は,まず共形予測から始まり,所望のカバレッジを与えるラベルの集合を得る。
次に、共形制約に合わせて、質量正規化と温度スケーリングに基づくルールの2つの簡単なポストホックキャリブレータをインスタンス化する。
論文 参考訳(メタデータ) (2025-05-21T12:18:15Z) - A Confidence Interval for the $\ell_2$ Expected Calibration Error [35.88784957918326]
我々は信頼区間を$ell$ expected the Error (ECE) で開発する。
信頼性キャリブレーションの一般的な概念とキャリブレーションの両方を含む,トップ1からk$のキャリブレーションを考える。
ECEのデバイアスド推定器では、正規性を示すが、校正モデルとミスドモデルに対する収束率と分散は異なる。
論文 参考訳(メタデータ) (2024-08-16T20:00:08Z) - Optimizing Calibration by Gaining Aware of Prediction Correctness [30.619608580138802]
クロスエントロピー(CE)損失はキャリブレータトレーニングに広く使われており、基底真理クラスに対する信頼を高めるためにモデルを強制する。
本稿では, キャリブレーションの目的から得られた, ポストホックキャリブレーションの新たなキャリブレーション手法を提案する。
論文 参考訳(メタデータ) (2024-04-19T17:25:43Z) - Calibration by Distribution Matching: Trainable Kernel Calibration
Metrics [56.629245030893685]
カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。
これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。
決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
論文 参考訳(メタデータ) (2023-10-31T06:19:40Z) - Beyond calibration: estimating the grouping loss of modern neural
networks [68.8204255655161]
適切なスコアリングルール理論は、キャリブレーション損失が与えられた場合、個々のエラーを特徴づける欠片がグループ化損失であることを示している。
視覚およびNLPにおける現代のニューラルネットワークアーキテクチャは、特に分散シフト設定においてグループ化損失を示す。
論文 参考訳(メタデータ) (2022-10-28T07:04:20Z) - Localized Calibration: Metrics and Recalibration [133.07044916594361]
完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。
次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
論文 参考訳(メタデータ) (2021-02-22T07:22:12Z) - Unsupervised Calibration under Covariate Shift [92.02278658443166]
ドメインシフト下でのキャリブレーションの問題を導入し、それに対処するための重要サンプリングに基づくアプローチを提案する。
実世界のデータセットと合成データセットの両方において,本手法の有効性を評価し検討した。
論文 参考訳(メタデータ) (2020-06-29T21:50:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。