論文の概要: Confidence Calibration of Deep Learning Systems
- arxiv url: http://arxiv.org/abs/2608.12100v1
- Date: Wed, 12 Aug 2026 14:23:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.611999
- Title: Confidence Calibration of Deep Learning Systems
- Title（参考訳）: 深層学習システムの信頼性校正
- Abstract要約: この論文は、ラベルノイズとドメインシフトの下でキャリブレーションを改善する方法を開発した。
プライバシー保証を維持しつつ、有効な不確実性定量化を提供する枠組みを提案する。
本研究の結果は,安全クリティカルな応用におけるキャリブレーション理論と実用的展開を橋渡しするものである。
- 参考スコア（独自算出の注目度）: 4.907205095294475
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In high-stakes applications, reliable confidence estimates are as important as the predictions themselves. Confidence calibration ensures that predicted probabilities reflect the likelihood of correctness, making it essential for safe deployment of deep learning models. However, existing methods typically assume access to clean validation data, which is often unrealistic due to label noise and domain shifts. This thesis develops methods for improving calibration under these conditions. First, we address calibration under label noise. Standard methods can produce misleading confidence estimates when labels are unreliable. We propose a framework that uses an estimated noise model to reconstruct noise-free confidence estimates by modeling the relationship between noisy and clean label distributions. We extend this approach to Conformal Prediction (CP), which provides set-valued predictions with guaranteed coverage. Our noise-aware CP method estimates clean conformity scores despite label noise, enabling reliable uncertainty quantification. Next, we study calibration in unsupervised domain adaptation, where a model trained on a labeled source domain is adapted to an unlabeled target domain. Since labeled target data are unavailable, we estimate target-domain accuracy from source performance and domain discrepancies, enabling calibration without target labels. We also consider privacy-preserving settings in which user labels and model outputs must remain protected. We propose a locally differentially private conformal prediction framework that provides valid uncertainty quantification while maintaining privacy guarantees and balancing privacy, computational feasibility, and prediction reliability. Our results bridge calibration theory and practical deployment in safety-critical applications, contributing to reliable, privacy-preserving, and noise-resilient neural network predictions.
- Abstract（参考訳）: 高精度なアプリケーションでは、信頼性の高い信頼推定は予測そのものと同じくらい重要である。
信頼性キャリブレーションにより、予測確率は正しさの可能性を反映し、ディープラーニングモデルの安全なデプロイに不可欠である。
しかし、既存の手法では、ラベルノイズやドメインシフトのためにしばしば非現実的なクリーンな検証データへのアクセスを前提としている。
この論文は、これらの条件下でのキャリブレーションを改善する方法を開発する。
まず,ラベル雑音下でのキャリブレーションについて検討する。
標準手法は、ラベルが信頼できないときに誤解を招く信頼度を推定することができる。
本研究では,雑音とクリーンなラベル分布の関係をモデル化することにより,推定雑音モデルを用いて雑音のない信頼度推定を再構築するフレームワークを提案する。
提案手法をコンフォーマル予測 (CP) に拡張し, 保証範囲で設定値の予測を行う。
本手法は,ラベルノイズに拘わらずクリーンな整合性スコアを推定し,信頼性の高い不確実性定量化を可能にする。
次に、ラベル付きソースドメインでトレーニングされたモデルをラベル付きターゲットドメインに適応させる、教師なしドメイン適応におけるキャリブレーションについて検討する。
ラベル付きターゲットデータは利用できないため、ソース性能とドメインの差異からターゲット領域の精度を推定し、ターゲットラベルなしでキャリブレーションを可能にする。
また、ユーザラベルとモデルアウトプットが保護されなければならないプライバシー保護設定についても検討する。
本稿では,プライバシ保証とプライバシのバランス,計算実現可能性,予測信頼性を維持しつつ,有効な不確実性定量化を提供する,局所的に個人的共形予測フレームワークを提案する。
我々の結果は、キャリブレーション理論と安全クリティカルなアプリケーションへの実践的展開を橋渡しし、信頼性、プライバシー保護、耐雑音性ニューラルネットワーク予測に寄与する。
関連論文リスト
- Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。
画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
論文 参考訳（メタデータ） (2026-07-29T05:16:59Z) - When to Answer and When to Defer: A Decision Framework for Reliable Code Predictions [11.136449698197174]
この作業では、不確実性推定、モデルのキャリブレーション、およびコードモデルに対するツールベースの禁忌処理を統合する統一的なフレームワークを導入している。
提案設計では,信頼性の高い正当性確率を割り当てたり,不確実性の下で不確実性を排除したり,不確実性のあるケースを処理するための軽量なプログラム解析手順を実行することができる。
論文 参考訳（メタデータ） (2026-05-19T05:04:42Z) - Discovery of Hidden Miscalibration Regimes [52.452902154360565]
モデルは何らかの入力を体系的に過信し、他人を過信することがある。
対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。
提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
論文 参考訳（メタデータ） (2026-05-13T13:07:50Z) - Uncertainty-Driven Reliability: Selective Prediction and Trustworthy Deployment in Modern Machine Learning [1.2183405753834562]
この論文は、不確実性推定が機械学習(ML)システムの安全性と信頼性を高める方法について考察する。
まず、モデルのトレーニング軌道は、アーキテクチャの変更や損失を伴わずに活用できるような、豊富な不確実性信号を含むことを示す。
本稿では,タスク間で動作し,深層アンサンブルのコストを回避し,最先端の選択的予測性能を実現する軽量なポストホック禁忌手法を提案する。
論文 参考訳（メタデータ） (2025-08-11T02:33:53Z) - Conformal Prediction of Classifiers with Many Classes based on Noisy Labels [22.841631892273547]
Conformal Prediction (CP) は、分類システムの予測不確実性を制御する。
雑音ラベル付きデータに基づいて、ノイズのない共形閾値を推定する方法を示す。
ノイズ対応コンフォーマル予測 (NACP) のアプローチについて検討する。
論文 参考訳（メタデータ） (2025-01-22T09:35:58Z) - Provably Reliable Conformal Prediction Sets in the Presence of Data Poisoning [53.42244686183879]
コンフォーマル予測は、モデルに依存しない、分布のない不確実性定量化を提供する。
しかし、敵が訓練データと校正データを操作した場合の毒殺攻撃では、共形予測は信頼性が低い。
信頼性予測セット (RPS): 汚染下での信頼性保証を証明可能な共形予測セットを構築するための最初の効率的な方法を提案する。
論文 参考訳（メタデータ） (2024-10-13T15:37:11Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳（メタデータ） (2022-10-24T17:53:20Z) - Calibrated Selective Classification [34.08454890436067]
そこで我々は,「不確か」な不確実性のある例を拒否する手法を提案する。
本稿では,選択的校正モデル学習のためのフレームワークを提案する。そこでは,任意のベースモデルの選択的校正誤差を改善するために,個別のセレクタネットワークを訓練する。
われわれは,複数画像分類と肺癌リスク評価におけるアプローチの実証的効果を実証した。
論文 参考訳（メタデータ） (2022-08-25T13:31:09Z) - Bayesian Confidence Calibration for Epistemic Uncertainty Modelling [4.358626952482686]
キャリブレーション法の不確実性を考慮した信頼度推定手法を提案する。
物体検出校正のための最先端校正性能を実現する。
論文 参考訳（メタデータ） (2021-09-21T10:53:16Z) - Private Prediction Sets [72.75711776601973]
機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。
これら2つのデシラタを共同で扱う枠組みを提案する。
本手法を大規模コンピュータビジョンデータセット上で評価する。
論文 参考訳（メタデータ） (2021-02-11T18:59:11Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。