論文の概要: Improving robustness against common corruptions by covariate shift adaptation

• arxiv url: http://arxiv.org/abs/2006.16971v2
• Date: Fri, 23 Oct 2020 04:37:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-15 04:27:06.866180
• Title: Improving robustness against common corruptions by covariate shift adaptation
• Title（参考訳）: 共変量シフト適応による共通汚職に対する堅牢性の向上
• Authors: Steffen Schneider, Evgenia Rusak, Luisa Eck, Oliver Bringmann, Wieland Brendel, Matthias Bethge
• Abstract要約: 最先端のマシンビジョンモデルは、ぼやけや圧縮アーチファクトといったイメージの破損に対して脆弱である。 一般的な汚職に対するモデル堅牢性を測定するための一般的なベンチマークは、多くの(すべてではないが)アプリケーションシナリオでモデル堅牢性を過小評価している、と我々は主張する。
• 参考スコア（独自算出の注目度）: 29.27289096759534
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Today's state-of-the-art machine vision models are vulnerable to image corruptions like blurring or compression artefacts, limiting their performance in many real-world applications. We here argue that popular benchmarks to measure model robustness against common corruptions (like ImageNet-C) underestimate model robustness in many (but not all) application scenarios. The key insight is that in many scenarios, multiple unlabeled examples of the corruptions are available and can be used for unsupervised online adaptation. Replacing the activation statistics estimated by batch normalization on the training set with the statistics of the corrupted images consistently improves the robustness across 25 different popular computer vision models. Using the corrected statistics, ResNet-50 reaches 62.2% mCE on ImageNet-C compared to 76.7% without adaptation. With the more robust DeepAugment+AugMix model, we improve the state of the art achieved by a ResNet50 model up to date from 53.6% mCE to 45.4% mCE. Even adapting to a single sample improves robustness for the ResNet-50 and AugMix models, and 32 samples are sufficient to improve the current state of the art for a ResNet-50 architecture. We argue that results with adapted statistics should be included whenever reporting scores in corruption benchmarks and other out-of-distribution generalization settings.
• Abstract（参考訳）: 今日の最先端のマシンビジョンモデルは、ぼやけや圧縮アーティファクトのようなイメージの破損に対して脆弱であり、多くの現実世界のアプリケーションでのパフォーマンスを制限している。 ここでは、一般的な腐敗(ImageNet-Cなど)に対してモデルロバスト性を測定するための一般的なベンチマークが、多くの(すべてではないが)アプリケーションシナリオにおいて、モデルロバスト性を過小評価していることを議論する。 重要な洞察は、多くのシナリオにおいて、汚職のラベル付けされていない複数の例が利用可能であり、教師なしのオンライン適応に使用できることである。 バッチ正規化によって推定されるアクティベーション統計を、劣化した画像の統計に置き換えることで、25種類の一般的なコンピュータビジョンモデル間のロバスト性を一貫して改善する。 修正された統計を用いて、ResNet-50はImageNet-C上で62.2% mCEに達した。 より堅牢なDeepAugment+AugMixモデルにより、ResNet50モデルによって達成されたアートの状態を53.6% mCEから45.4% mCEに改善する。 単一のサンプルに適応しても、resnet-50およびaugmixモデルのロバスト性が向上し、32のサンプルはresnet-50アーキテクチャの現在の技術を改善するのに十分である。 我々は、不正のベンチマークやその他の分散の一般化設定のスコアを報告するたびに、適合統計による結果を含めるべきであると主張する。

関連論文リスト

• Improving Out-of-Distribution Data Handling and Corruption Resistance via Modern Hopfield Networks [0.0]
  本研究は,コンピュータビジョンモデルによるアウト・オブ・ディストリビューションデータ処理能力の向上における,Modern Hopfield Networks (MHN) の可能性を探るものである。 我々は,MHNをベースラインモデルに統合し,ロバスト性を高めることを提案する。 本研究は,MNIST-Cデータセットのモデル性能を一貫して向上することを示す。
  論文  参考訳（メタデータ） (2024-08-21T03:26:16Z)
• Dynamic Pre-training: Towards Efficient and Scalable All-in-One Image Restoration [100.54419875604721]
  オールインワン画像復元は、各分解に対してタスク固有の非ジェネリックモデルを持たずに、統一されたモデルで異なるタイプの劣化に対処する。 我々は、オールインワン画像復元タスクのためのエンコーダデコーダ方式で設計されたネットワークの動的ファミリであるDyNetを提案する。 我々のDyNetは、よりバルク化と軽量化をシームレスに切り替えることができるので、効率的なモデルデプロイメントのための柔軟性を提供します。
  論文  参考訳（メタデータ） (2024-04-02T17:58:49Z)
• ImageNet-D: Benchmarking Neural Network Robustness on Diffusion Synthetic Object [78.58860252442045]
  我々は、深層モデルの堅牢性をベンチマークするハードイメージのためのデータソースとして、生成モデルを紹介した。 このベンチマークを ImageNet-D と呼ぶ以前の作業よりも、背景、テクスチャ、材料が多様化したイメージを生成することができます。 我々の研究は、拡散モデルが視覚モデルをテストするのに効果的な情報源となることを示唆している。
  論文  参考訳（メタデータ） (2024-03-27T17:23:39Z)
• FFT-based Selection and Optimization of Statistics for Robust Recognition of Severely Corrupted Images [19.07004663565609]
  本稿では, 分類モデルのロバスト性向上のための新しい手法を提案する。 提案手法は,入力画像の劣化型を検出するために高周波特徴を用いて,層単位での特徴正規化統計を抽出する。 FROSTは、異なるモデルやデータセットに対する最先端の結果を提供し、ImageNet-Cの競合製品よりも37.1%も向上している。
  論文  参考訳（メタデータ） (2024-03-21T12:01:54Z)
• Dynamic Batch Norm Statistics Update for Natural Robustness [5.366500153474747]
  本稿では,汚職検出モデルとBN統計更新からなる統合フレームワークを提案する。 CIFAR10-CとImageNet-Cの精度は8%, 4%向上した。
  論文  参考訳（メタデータ） (2023-10-31T17:20:30Z)
• Uncertainty in AI: Evaluating Deep Neural Networks on Out-of-Distribution Images [0.0]
  本稿では、摂動データを扱う際に、ResNet-50、VGG16、DenseNet121、AlexNet、GoogleNetなど様々なディープニューラルネットワークの不確実性について検討する。 ResNet-50はOODイメージの最も正確なシングルモデルであったが、アンサンブルはより良く、すべてのイメージを正しく分類した。
  論文  参考訳（メタデータ） (2023-09-04T22:46:59Z)
• Reinforce Data, Multiply Impact: Improved Model Accuracy and Robustness with Dataset Reinforcement [68.44100784364987]
  本研究では、強化データセット上でトレーニングされたモデルアーキテクチャの精度が、ユーザにとって追加のトレーニングコストなしで向上するように、データセットを改善する戦略を提案する。 ImageNet+と呼ばれるImageNetトレーニングデータセットの強化バージョンと、強化されたデータセットCIFAR-100+、Flowers-102+、Food-101+を作成します。 ImageNet+でトレーニングされたモデルは、より正確で、堅牢で、校正され、下流タスクにうまく転送されます。
  論文  参考訳（メタデータ） (2023-03-15T23:10:17Z)
• MEMO: Test Time Robustness via Adaptation and Augmentation [131.28104376280197]
  テスト時間ロバスト化の問題、すなわちモデルロバスト性を改善するためにテストインプットを用いて検討する。 最近の先行研究ではテスト時間適応法が提案されているが、それぞれ追加の仮定を導入している。 モデルが確率的で適応可能な任意のテスト環境で使用できるシンプルなアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-18T17:55:11Z)
• Improving robustness against common corruptions with frequency biased models [112.65717928060195]
  目に見えない画像の腐敗は 驚くほど大きなパフォーマンス低下を引き起こします 画像の破損タイプは周波数スペクトルで異なる特性を持ち、ターゲットタイプのデータ拡張の恩恵を受けます。 畳み込み特徴マップの総変動(TV)を最小限に抑え、高周波堅牢性を高める新しい正規化方式を提案する。
  論文  参考訳（メタデータ） (2021-03-30T10:44:50Z)
• Revisiting Batch Normalization for Improving Corruption Robustness [85.20742045853738]
  モデルロバスト性を改善するために, モデルロバスト性を改善するために, バッチ正規化統計の修正を提案する。 モデルを再トレーニングすることなく、BN統計をいくつかの表現サンプル上で単純に推定し、適応させることで、大きなマージンによる腐敗の堅牢性を向上させることが判明した。
  論文  参考訳（メタデータ） (2020-10-07T19:56:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。