論文の概要: Transferable Calibration with Lower Bias and Variance in Domain
Adaptation
- arxiv url: http://arxiv.org/abs/2007.08259v2
- Date: Mon, 9 Nov 2020 11:00:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-09 22:13:36.077879
- Title: Transferable Calibration with Lower Bias and Variance in Domain
Adaptation
- Title(参考訳): 領域適応における低バイアス, 変動を考慮したトランスファブルキャリブレーション
- Authors: Ximei Wang, Mingsheng Long, Jianmin Wang, and Michael I. Jordan
- Abstract要約: ドメイン適応(DA)は、ラベル付きソースドメインからラベル付きターゲットドメインへの学習マシンの転送を可能にする。
DAモデルの予測的不確実性を推定する方法は、安全クリティカルなシナリオにおける意思決定に不可欠である。
TransCalは既存のDAメソッドの校正に簡単に適用できる。
- 参考スコア(独自算出の注目度): 139.4332115349543
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain Adaptation (DA) enables transferring a learning machine from a labeled
source domain to an unlabeled target one. While remarkable advances have been
made, most of the existing DA methods focus on improving the target accuracy at
inference. How to estimate the predictive uncertainty of DA models is vital for
decision-making in safety-critical scenarios but remains the boundary to
explore. In this paper, we delve into the open problem of Calibration in DA,
which is extremely challenging due to the coexistence of domain shift and the
lack of target labels. We first reveal the dilemma that DA models learn higher
accuracy at the expense of well-calibrated probabilities. Driven by this
finding, we propose Transferable Calibration (TransCal) to achieve more
accurate calibration with lower bias and variance in a unified
hyperparameter-free optimization framework. As a general post-hoc calibration
method, TransCal can be easily applied to recalibrate existing DA methods. Its
efficacy has been justified both theoretically and empirically.
- Abstract(参考訳): ドメイン適応(DA)は、ラベル付きソースドメインからラベル付きターゲットドメインへの学習マシンの転送を可能にする。
注目すべき進歩はあったが、既存のdaメソッドのほとんどは推論のターゲット精度の向上に重点を置いている。
DAモデルの予測的不確実性を推定する方法は、安全クリティカルなシナリオにおける意思決定に不可欠だが、探求すべき境界は依然として残っている。
本稿では,daにおけるキャリブレーションのオープンな問題について考察する。これは領域シフトとターゲットラベルの欠如が共存していることから,非常に困難である。
まず,daモデルが高い確率を犠牲にして高い精度を学習するというジレンマを明らかにする。
そこで本研究では,超パラメータフリーな最適化フレームワークにおいて,より高精度なバイアスと分散のキャリブレーションを実現するためのトランスファブルキャリブレーション(transcal)を提案する。
一般的なポストホック校正法として、TransCalは既存のDA法の校正に容易に適用できる。
その効果は理論的にも実証的にも正当化されている。
関連論文リスト
- Cal-SFDA: Source-Free Domain-adaptive Semantic Segmentation with
Differentiable Expected Calibration Error [50.86671887712424]
ドメイン適応型セマンティックセグメンテーションの流行は、ソースドメインデータの漏洩に関する懸念を引き起こしている。
ソースデータの要求を回避するため、ソースフリーなドメイン適応が実現可能なソリューションとして登場した。
校正誘導型ソースフリーなドメイン適応型セマンティックセマンティックセマンティクスフレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-06T03:28:34Z) - PseudoCal: A Source-Free Approach to Unsupervised Uncertainty
Calibration in Domain Adaptation [87.69789891809562]
非教師なしドメイン適応(UDA)は、未ラベルのターゲットドメインのモデルの精度を向上する顕著な進歩を目撃している。
UDAモデルの安全な配置の重要な側面であるターゲット領域における予測不確実性の校正は、あまり注目されていない。
PseudoCalは、ラベルのないターゲットデータにのみ依存するソースフリーキャリブレーション手法である。
論文 参考訳(メタデータ) (2023-07-14T17:21:41Z) - Beyond In-Domain Scenarios: Robust Density-Aware Calibration [48.00374886504513]
ディープラーニングモデルをキャリブレーションして不確実性を認識した予測を生成することは、ディープニューラルネットワークが安全クリティカルなアプリケーションにますますデプロイされるため、非常に重要です。
k-nearest-neighbors(KNN)に基づく精度保存と密度認識手法であるDACを提案する。
DACはドメインシフトやOODのキャリブレーション性能の堅牢性を高めつつ,ドメイン内予測の不確実性評価に優れることを示す。
論文 参考訳(メタデータ) (2023-02-10T08:48:32Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Post-hoc Uncertainty Calibration for Domain Drift Scenarios [46.88826364244423]
既存のポストホックキャリブレーション手法は、ドメインシフト下での過信予測を高い精度で得ることを示した。
ポストホックキャリブレーションステップを実行する前に、検証セットのサンプルに摂動を適用する簡単な戦略を紹介します。
論文 参考訳(メタデータ) (2020-12-20T18:21:13Z) - Improving model calibration with accuracy versus uncertainty
optimization [17.056768055368384]
適切に校正されたモデルは、その予測が確実であるときに正確であり、不正確な場合に高い不確実性を示すべきである。
精度と不確実性の関係を不確実性校正のアンカーとして活用する最適化手法を提案する。
平均場変動推定によるアプローチの実証と最先端手法との比較を行った。
論文 参考訳(メタデータ) (2020-12-14T20:19:21Z) - Unsupervised Calibration under Covariate Shift [92.02278658443166]
ドメインシフト下でのキャリブレーションの問題を導入し、それに対処するための重要サンプリングに基づくアプローチを提案する。
実世界のデータセットと合成データセットの両方において,本手法の有効性を評価し検討した。
論文 参考訳(メタデータ) (2020-06-29T21:50:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。