論文の概要: Improving robustness against common corruptions by covariate shift
adaptation
- arxiv url: http://arxiv.org/abs/2006.16971v2
- Date: Fri, 23 Oct 2020 04:37:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-15 04:27:06.866180
- Title: Improving robustness against common corruptions by covariate shift
adaptation
- Title(参考訳): 共変量シフト適応による共通汚職に対する堅牢性の向上
- Authors: Steffen Schneider, Evgenia Rusak, Luisa Eck, Oliver Bringmann, Wieland
Brendel, Matthias Bethge
- Abstract要約: 最先端のマシンビジョンモデルは、ぼやけや圧縮アーチファクトといったイメージの破損に対して脆弱である。
一般的な汚職に対するモデル堅牢性を測定するための一般的なベンチマークは、多くの(すべてではないが)アプリケーションシナリオでモデル堅牢性を過小評価している、と我々は主張する。
- 参考スコア(独自算出の注目度): 29.27289096759534
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Today's state-of-the-art machine vision models are vulnerable to image
corruptions like blurring or compression artefacts, limiting their performance
in many real-world applications. We here argue that popular benchmarks to
measure model robustness against common corruptions (like ImageNet-C)
underestimate model robustness in many (but not all) application scenarios. The
key insight is that in many scenarios, multiple unlabeled examples of the
corruptions are available and can be used for unsupervised online adaptation.
Replacing the activation statistics estimated by batch normalization on the
training set with the statistics of the corrupted images consistently improves
the robustness across 25 different popular computer vision models. Using the
corrected statistics, ResNet-50 reaches 62.2% mCE on ImageNet-C compared to
76.7% without adaptation. With the more robust DeepAugment+AugMix model, we
improve the state of the art achieved by a ResNet50 model up to date from 53.6%
mCE to 45.4% mCE. Even adapting to a single sample improves robustness for the
ResNet-50 and AugMix models, and 32 samples are sufficient to improve the
current state of the art for a ResNet-50 architecture. We argue that results
with adapted statistics should be included whenever reporting scores in
corruption benchmarks and other out-of-distribution generalization settings.
- Abstract(参考訳): 今日の最先端のマシンビジョンモデルは、ぼやけや圧縮アーティファクトのようなイメージの破損に対して脆弱であり、多くの現実世界のアプリケーションでのパフォーマンスを制限している。
ここでは、一般的な腐敗(ImageNet-Cなど)に対してモデルロバスト性を測定するための一般的なベンチマークが、多くの(すべてではないが)アプリケーションシナリオにおいて、モデルロバスト性を過小評価していることを議論する。
重要な洞察は、多くのシナリオにおいて、汚職のラベル付けされていない複数の例が利用可能であり、教師なしのオンライン適応に使用できることである。
バッチ正規化によって推定されるアクティベーション統計を、劣化した画像の統計に置き換えることで、25種類の一般的なコンピュータビジョンモデル間のロバスト性を一貫して改善する。
修正された統計を用いて、ResNet-50はImageNet-C上で62.2% mCEに達した。
より堅牢なDeepAugment+AugMixモデルにより、ResNet50モデルによって達成されたアートの状態を53.6% mCEから45.4% mCEに改善する。
単一のサンプルに適応しても、resnet-50およびaugmixモデルのロバスト性が向上し、32のサンプルはresnet-50アーキテクチャの現在の技術を改善するのに十分である。
我々は、不正のベンチマークやその他の分散の一般化設定のスコアを報告するたびに、適合統計による結果を含めるべきであると主張する。
関連論文リスト
- Linearizing Models for Efficient yet Robust Private Inference [8.547509873799994]
本稿では,RLNetを提案する。RLNetは,高遅延ReLU演算の低減による遅延改善を実現する,堅牢な線形化ネットワークのクラスである。
RLNetは、全ReLUモデルに近い精度で最大11.14倍のReLUで、クリーン、自然摂動、勾配に基づく摂動画像が得られることを示す。
論文 参考訳(メタデータ) (2024-02-08T10:01:29Z) - Dynamic Batch Norm Statistics Update for Natural Robustness [5.366500153474747]
本稿では,汚職検出モデルとBN統計更新からなる統合フレームワークを提案する。
CIFAR10-CとImageNet-Cの精度は8%, 4%向上した。
論文 参考訳(メタデータ) (2023-10-31T17:20:30Z) - Uncertainty in AI: Evaluating Deep Neural Networks on
Out-of-Distribution Images [0.0]
本稿では、摂動データを扱う際に、ResNet-50、VGG16、DenseNet121、AlexNet、GoogleNetなど様々なディープニューラルネットワークの不確実性について検討する。
ResNet-50はOODイメージの最も正確なシングルモデルであったが、アンサンブルはより良く、すべてのイメージを正しく分類した。
論文 参考訳(メタデータ) (2023-09-04T22:46:59Z) - A Survey on the Robustness of Computer Vision Models against Common
Corruptions [3.9858496473361402]
本稿では,コンピュータビジョンモデルの汎用汚職に対する堅牢性を改善する手法について概観する。
いくつかのデータセットでロバスト性のパフォーマンスを比較するために、統一ベンチマークフレームワークをリリースしました。
論文 参考訳(メタデータ) (2023-05-10T10:19:31Z) - Reinforce Data, Multiply Impact: Improved Model Accuracy and Robustness
with Dataset Reinforcement [68.44100784364987]
本研究では、強化データセット上でトレーニングされたモデルアーキテクチャの精度が、ユーザにとって追加のトレーニングコストなしで向上するように、データセットを改善する戦略を提案する。
ImageNet+と呼ばれるImageNetトレーニングデータセットの強化バージョンと、強化されたデータセットCIFAR-100+、Flowers-102+、Food-101+を作成します。
ImageNet+でトレーニングされたモデルは、より正確で、堅牢で、校正され、下流タスクにうまく転送されます。
論文 参考訳(メタデータ) (2023-03-15T23:10:17Z) - Improving Visual Grounding by Encouraging Consistent Gradient-based
Explanations [58.442103936918805]
注意マスク整合性は,従来の方法よりも優れた視覚的グラウンドリング結果が得られることを示す。
AMCは効率的で実装が容易であり、どんな視覚言語モデルでも採用できるため一般的である。
論文 参考訳(メタデータ) (2022-06-30T17:55:12Z) - From Environmental Sound Representation to Robustness of 2D CNN Models
Against Adversarial Attacks [82.21746840893658]
本稿では, 各種環境音響表現(スペクトログラム)が, 被害者残差畳み込みニューラルネットワークの認識性能と対角攻撃性に与える影響について検討する。
DWTスペクトログラムでトレーニングしたResNet-18モデルでは高い認識精度が得られたが、このモデルに対する攻撃は敵にとって比較的コストがかかる。
論文 参考訳(メタデータ) (2022-04-14T15:14:08Z) - MEMO: Test Time Robustness via Adaptation and Augmentation [131.28104376280197]
テスト時間ロバスト化の問題、すなわちモデルロバスト性を改善するためにテストインプットを用いて検討する。
最近の先行研究ではテスト時間適応法が提案されているが、それぞれ追加の仮定を導入している。
モデルが確率的で適応可能な任意のテスト環境で使用できるシンプルなアプローチを提案する。
論文 参考訳(メタデータ) (2021-10-18T17:55:11Z) - Improving robustness against common corruptions with frequency biased
models [112.65717928060195]
目に見えない画像の腐敗は 驚くほど大きなパフォーマンス低下を引き起こします
画像の破損タイプは周波数スペクトルで異なる特性を持ち、ターゲットタイプのデータ拡張の恩恵を受けます。
畳み込み特徴マップの総変動(TV)を最小限に抑え、高周波堅牢性を高める新しい正規化方式を提案する。
論文 参考訳(メタデータ) (2021-03-30T10:44:50Z) - Revisiting Batch Normalization for Improving Corruption Robustness [85.20742045853738]
モデルロバスト性を改善するために, モデルロバスト性を改善するために, バッチ正規化統計の修正を提案する。
モデルを再トレーニングすることなく、BN統計をいくつかの表現サンプル上で単純に推定し、適応させることで、大きなマージンによる腐敗の堅牢性を向上させることが判明した。
論文 参考訳(メタデータ) (2020-10-07T19:56:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。