論文の概要: How Does Frequency Bias Affect the Robustness of Neural Image
Classifiers against Common Corruption and Adversarial Perturbations?
- arxiv url: http://arxiv.org/abs/2205.04533v1
- Date: Mon, 9 May 2022 20:09:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-15 01:23:22.961076
- Title: How Does Frequency Bias Affect the Robustness of Neural Image
Classifiers against Common Corruption and Adversarial Perturbations?
- Title（参考訳）: ニューラルイメージ分類器のロバスト性に周波数バイアスはどのように影響するか?
- Authors: Alvin Chan, Yew-Soon Ong, Clement Tan
- Abstract要約: 近年の研究では、データ拡張は低周波領域の特徴を過度に分析する結果をもたらすことが示されている。
モデルのジャコビアンに対して、低周波成分の比が大きいようにジャコビアン周波数正規化を提案する。
我々の手法は、深層学習モデルの周波数バイアスとロバスト性の間のより直接的な関係を解明する。
- 参考スコア（独自算出の注目度）: 27.865987936475797
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model robustness is vital for the reliable deployment of machine learning
models in real-world applications. Recent studies have shown that data
augmentation can result in model over-relying on features in the low-frequency
domain, sacrificing performance against low-frequency corruptions, highlighting
a connection between frequency and robustness. Here, we take one step further
to more directly study the frequency bias of a model through the lens of its
Jacobians and its implication to model robustness. To achieve this, we propose
Jacobian frequency regularization for models' Jacobians to have a larger ratio
of low-frequency components. Through experiments on four image datasets, we
show that biasing classifiers towards low (high)-frequency components can bring
performance gain against high (low)-frequency corruption and adversarial
perturbation, albeit with a tradeoff in performance for low (high)-frequency
corruption. Our approach elucidates a more direct connection between the
frequency bias and robustness of deep learning models.
- Abstract（参考訳）: モデルロバスト性は、現実世界のアプリケーションに機械学習モデルの信頼性の高いデプロイに不可欠である。
近年の研究では、データの強化は低周波領域の特徴を過大にモデル化し、低周波破壊に対する性能を犠牲にし、周波数とロバスト性の関係を強調している。
ここでは、ジャコビアンのレンズを通してモデルの周波数バイアスとモデルロバスト性との関係をより直接的に研究するために、さらに一歩踏み出す。
これを実現するために、モデルのヤコビアンに対して低周波成分の比が大きいようにヤコビアン周波数正規化を提案する。
4つの画像データセットを用いた実験により,低(高)周波成分に対する偏りの偏りは,低(高)周波成分に対する高い(低)周波汚損と逆方向の摂動に対する性能向上をもたらすことが示された。
我々の手法は、深層学習モデルの周波数バイアスとロバスト性の間のより直接的な関係を解明する。
関連論文リスト
- Mitigating Low-Frequency Bias: Feature Recalibration and Frequency Attention Regularization for Adversarial Robustness [23.77988226456179]
本稿では,HFDR(High-Frequency Feature Disentanglement and Recalibration)と呼ばれる新しいモジュールを提案する。
HFDRは、特徴を高周波成分と低周波成分に分離し、高周波特徴を再検討し、潜在有用なセマンティクスをキャプチャする。
大規模な実験は、様々なホワイトボックス攻撃、転送攻撃、および強力な一般化能力に対する我々のアプローチの持つ大きな可能性と優位性を示している。
論文 参考訳（メタデータ） (2024-07-04T15:46:01Z) - Towards a Novel Perspective on Adversarial Examples Driven by Frequency [7.846634028066389]
異なる周波数帯域を組み合わせたブラックボックス逆攻撃アルゴリズムを提案する。
複数のデータセットとモデルで実施された実験により、低周波帯域と低周波帯域の高周波成分を組み合わせることで、攻撃効率が著しく向上することが示された。
論文 参考訳（メタデータ） (2024-04-16T00:58:46Z) - Blue noise for diffusion models [50.99852321110366]
本稿では,画像内および画像間の相関雑音を考慮した拡散モデルを提案する。
我々のフレームワークは、勾配流を改善するために、1つのミニバッチ内に画像間の相関を導入することができる。
本手法を用いて,各種データセットの質的,定量的な評価を行う。
論文 参考訳（メタデータ） (2024-02-07T14:59:25Z) - Towards Building More Robust Models with Frequency Bias [8.510441741759758]
本稿では,中間特徴表現の低周波成分と高周波成分を適応的に再構成するプラグイン・アンド・プレイ・モジュールを提案する。
実験により,提案するモジュールは,任意の対戦型トレーニングフレームワークに容易に組み込むことができることが示された。
論文 参考訳（メタデータ） (2023-07-19T05:46:56Z) - Phase-shifted Adversarial Training [8.89749787668458]
反応周波数のレンズによる対向訓練の挙動を解析する。
PhaseATは高周波情報の収束を著しく改善する。
これにより、モデルが各データ付近でスムーズな予測を行うことで、対向ロバスト性を向上させることができる。
論文 参考訳（メタデータ） (2023-01-12T02:25:22Z) - Certified Adversarial Defenses Meet Out-of-Distribution Corruptions:
Benchmarking Robustness and Simple Baselines [65.0803400763215]
この研究は、最先端のロバストモデルがアウト・オブ・ディストリビューションデータに遭遇した場合、敵のロバスト性がどのように変化を保証しているかを批判的に検証する。
本稿では,トレーニングデータのスペクトルカバレッジを改善するために,新たなデータ拡張方式であるFourierMixを提案する。
また,FourierMixの拡張により,様々なOODベンチマークにおいて,より優れたロバスト性保証を実現することが可能となる。
論文 参考訳（メタデータ） (2021-12-01T17:11:22Z) - A Frequency Perspective of Adversarial Robustness [72.48178241090149]
理論的および経験的知見を参考に,周波数に基づく対向例の理解について述べる。
分析の結果,逆転例は高周波でも低周波成分でもないが,単にデータセット依存であることがわかった。
本稿では、一般に観測される精度対ロバスト性トレードオフの周波数に基づく説明法を提案する。
論文 参考訳（メタデータ） (2021-10-26T19:12:34Z) - Improving robustness against common corruptions with frequency biased
models [112.65717928060195]
目に見えない画像の腐敗は 驚くほど大きなパフォーマンス低下を引き起こします
画像の破損タイプは周波数スペクトルで異なる特性を持ち、ターゲットタイプのデータ拡張の恩恵を受けます。
畳み込み特徴マップの総変動(TV)を最小限に抑え、高周波堅牢性を高める新しい正規化方式を提案する。
論文 参考訳（メタデータ） (2021-03-30T10:44:50Z) - Focal Frequency Loss for Image Reconstruction and Synthesis [125.7135706352493]
周波数領域の狭さが画像再構成と合成品質をさらに改善できることを示す。
本稿では,合成が難しい周波数成分に適応的に焦点を合わせることのできる,新しい焦点周波数損失を提案する。
論文 参考訳（メタデータ） (2020-12-23T17:32:04Z) - Real Time Speech Enhancement in the Waveform Domain [99.02180506016721]
本稿では,ラップトップCPU上でリアルタイムに動作する生波形を用いた因果音声強調モデルを提案する。
提案モデルは、スキップ接続を持つエンコーダデコーダアーキテクチャに基づいている。
静止ノイズや非定常ノイズを含む様々な背景ノイズを除去することができる。
論文 参考訳（メタデータ） (2020-06-23T09:19:13Z) - Towards Frequency-Based Explanation for Robust CNN [6.164771707307929]
本稿では,入力データセットにおける周波数成分の分布とモデルがデータから学習する推論プロセスとの関連性について述べる。
モデルが小さな歪みに対して脆弱であることは、そのモデルが高周波特性に依存している結果であることを示す。
論文 参考訳（メタデータ） (2020-05-06T21:22:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。