論文の概要: Normalized Label Distribution: Towards Learning Calibrated, Adaptable
and Efficient Activation Maps
- arxiv url: http://arxiv.org/abs/2012.06876v1
- Date: Sat, 12 Dec 2020 17:54:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-10 05:22:54.507491
- Title: Normalized Label Distribution: Towards Learning Calibrated, Adaptable
and Efficient Activation Maps
- Title(参考訳): 正規化ラベル分布:校正、適応性、効率的なアクティベーションマップの学習に向けて
- Authors: Utkarsh Uppal, Bharat Giddwani
- Abstract要約: データ収差や敵対的攻撃に対するモデルの脆弱性は、異なるクラス境界を効率的に定義する能力に影響する。
各種ネットワークの性能と汎用性に対する実地分布変化の重要性について検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The vulnerability of models to data aberrations and adversarial attacks
influences their ability to demarcate distinct class boundaries efficiently.
The network's confidence and uncertainty play a pivotal role in weight
adjustments and the extent of acknowledging such attacks. In this paper, we
address the trade-off between the accuracy and calibration potential of a
classification network. We study the significance of ground-truth distribution
changes on the performance and generalizability of various state-of-the-art
networks and compare the proposed method's response to unanticipated attacks.
Furthermore, we demonstrate the role of label-smoothing regularization and
normalization in yielding better generalizability and calibrated probability
distribution by proposing normalized soft labels to enhance the calibration of
feature maps. Subsequently, we substantiate our inference by translating
conventional convolutions to padding based partial convolution to establish the
tangible impact of corrections in reinforcing the performance and convergence
rate. We graphically elucidate the implication of such variations with the
critical purpose of corroborating the reliability and reproducibility for
multiple datasets.
- Abstract(参考訳): データ収差や敵対的攻撃に対するモデルの脆弱性は、異なるクラス境界を効率的に定義する能力に影響する。
ネットワークの信頼性と不確実性は、重み調整とそのような攻撃に対する認識の程度において重要な役割を果たす。
本稿では,分類ネットワークの精度とキャリブレーションポテンシャルのトレードオフについて述べる。
本研究では,最先端ネットワークの性能と汎用性に及ぼす地中分布変化の意義について検討し,提案手法の応答と予期せぬ攻撃との比較を行った。
さらに,正規化ソフトラベルの提案により特徴地図の校正性が向上し,一般化性と校正確率分布が向上する上で,ラベルスムーシング正規化と正規化が果たす役割を実証する。
その後,従来の畳み込みをパディングに基づく部分畳み込みに翻訳し,精度と収束率を向上する上で,補正の具体的な影響を確定する。
複数のデータセットの信頼性と再現性を調整するために,このようなバリエーションの意義をグラフィカルに解明する。
関連論文リスト
- Harnessing the Power of Vicinity-Informed Analysis for Classification under Covariate Shift [9.530897053573186]
転送学習は、ソース分布からのデータを活用することにより、ターゲット分布の予測精度を向上させる。
本稿では,周辺情報,すなわちデータポイントの局所的構造を利用した新しい異種性尺度を提案する。
提案手法を用いて過大な誤差を特徴付けるとともに,従来の手法と比較して高速あるいは競合的な収束率を示す。
論文 参考訳(メタデータ) (2024-05-27T07:55:27Z) - Binary Classification with Confidence Difference [100.08818204756093]
本稿では,信頼性差分法 (ConfDiff) という,弱教師付き二項分類問題について考察する。
本稿では,この問題に対処するためのリスク一貫性のあるアプローチを提案し,推定誤差が最適収束率と一致することを示す。
また,整合性や収束率も証明されたオーバーフィッティング問題を緩和するためのリスク補正手法も導入する。
論文 参考訳(メタデータ) (2023-10-09T11:44:50Z) - The Lipschitz-Variance-Margin Tradeoff for Enhanced Randomized Smoothing [85.85160896547698]
ディープニューラルネットワークの現実的な応用は、ノイズの多い入力や敵攻撃に直面した場合、その不安定な予測によって妨げられる。
入力にノイズ注入を頼りに、認証された半径を持つ効率的な分類器を設計する方法を示す。
新たな認証手法により、ランダムな平滑化による事前学習モデルの使用が可能となり、ゼロショット方式で現在の認証半径を効果的に改善できる。
論文 参考訳(メタデータ) (2023-09-28T22:41:47Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - ARBEx: Attentive Feature Extraction with Reliability Balancing for Robust Facial Expression Learning [5.648318448953635]
ARBExはVision Transformerによって駆動される新しい注意的特徴抽出フレームワークである。
ラベル分布とマルチヘッド自己保持機構を備えた埋め込み空間において学習可能なアンカーポイントを用いて、弱い予測に対する性能を最適化する。
我々の戦略は、様々な文脈で実施された広範な実験により、現在の最先端の方法論よりも優れています。
論文 参考訳(メタデータ) (2023-05-02T15:10:01Z) - A Fuzzy-set-based Joint Distribution Adaptation Method for Regression
and its Application to Online Damage Quantification for Structural Digital
Twin [1.3008516948825726]
そこで本研究では,まず,オンラインファジィ集合に基づく回帰のための共同分布適応法を提案する。
連続実数値ラベルをファジィセットを介してファジィクラスラベルに変換することにより、条件分布の相違を測定する。
提案手法と統合したオンライン損傷定量化の枠組みについて述べる。
論文 参考訳(メタデータ) (2022-11-03T13:09:08Z) - Adaptive Dimension Reduction and Variational Inference for Transductive
Few-Shot Classification [2.922007656878633]
適応次元の削減によりさらに改善された変分ベイズ推定に基づく新しいクラスタリング法を提案する。
提案手法は,Few-Shotベンチマークにおける現実的非バランスなトランスダクティブ設定の精度を大幅に向上させる。
論文 参考訳(メタデータ) (2022-09-18T10:29:02Z) - Certifying Model Accuracy under Distribution Shifts [151.67113334248464]
本稿では,データ分布の有界ワッサースタインシフトの下でのモデルの精度について,証明可能なロバスト性保証を提案する。
変換空間におけるモデルの入力をランダム化する単純な手順は、変換の下での分布シフトに対して確実に堅牢であることを示す。
論文 参考訳(メタデータ) (2022-01-28T22:03:50Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。
我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。
結果として得られるアルゴリズム、GenDICEは単純で効果的である。
論文 参考訳(メタデータ) (2020-02-21T00:27:52Z) - Calibrate and Prune: Improving Reliability of Lottery Tickets Through
Prediction Calibration [40.203492372949576]
未確認の信頼を持つ監視されたモデルは、誤った予測をしたとしても過信される傾向がある。
パラメータの過剰なネットワークにおける明確な信頼度校正が、その結果の宝くじの品質に与える影響について検討する。
我々の実証研究は、キャリブレーション機構を含むと、より効果的な宝くじチケットにつながることを明らかにしている。
論文 参考訳(メタデータ) (2020-02-10T15:42:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。