論文の概要: Mitigating Low-Frequency Bias: Feature Recalibration and Frequency Attention Regularization for Adversarial Robustness
- arxiv url: http://arxiv.org/abs/2407.04016v1
- Date: Thu, 4 Jul 2024 15:46:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-08 17:23:59.682336
- Title: Mitigating Low-Frequency Bias: Feature Recalibration and Frequency Attention Regularization for Adversarial Robustness
- Title(参考訳): 低周波バイアスの緩和 : 対側ロバスト性に対する特徴補正と周波数注意規則化
- Authors: Kejia Zhang, Juanjuan Weng, Yuanzheng Cai, Zhiming Luo, Shaozi Li,
- Abstract要約: 本稿では,HFDR(High-Frequency Feature Disentanglement and Recalibration)と呼ばれる新しいモジュールを提案する。
HFDRは、特徴を高周波成分と低周波成分に分離し、高周波特徴を再検討し、潜在有用なセマンティクスをキャプチャする。
大規模な実験は、様々なホワイトボックス攻撃、転送攻撃、および強力な一般化能力に対する我々のアプローチの持つ大きな可能性と優位性を示している。
- 参考スコア(独自算出の注目度): 23.77988226456179
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Ensuring the robustness of computer vision models against adversarial attacks is a significant and long-lasting objective. Motivated by adversarial attacks, researchers have devoted considerable efforts to enhancing model robustness by adversarial training (AT). However, we observe that while AT improves the models' robustness against adversarial perturbations, it fails to improve their ability to effectively extract features across all frequency components. Each frequency component contains distinct types of crucial information: low-frequency features provide fundamental structural insights, while high-frequency features capture intricate details and textures. In particular, AT tends to neglect the reliance on susceptible high-frequency features. This low-frequency bias impedes the model's ability to effectively leverage the potentially meaningful semantic information present in high-frequency features. This paper proposes a novel module called High-Frequency Feature Disentanglement and Recalibration (HFDR), which separates features into high-frequency and low-frequency components and recalibrates the high-frequency feature to capture latent useful semantics. Additionally, we introduce frequency attention regularization to magnitude the model's extraction of different frequency features and mitigate low-frequency bias during AT. Extensive experiments showcase the immense potential and superiority of our approach in resisting various white-box attacks, transfer attacks, and showcasing strong generalization capabilities.
- Abstract(参考訳): コンピュータビジョンモデルの敵攻撃に対する堅牢性を保証することは、重要かつ長期間の目標である。
敵の攻撃によって動機づけられた研究者は、敵の訓練(AT)によるモデル堅牢性の向上に多大な努力を払ってきた。
しかし,ATは逆方向の摂動に対するモデルの頑健性を向上するが,全ての周波数成分の機能を効果的に抽出する能力は向上しない。
低周波の特徴は基本的な構造的な洞察を与え、高周波の特徴は複雑な詳細やテクスチャを捉えている。
特にATは、感受性の高い高周波特性への依存を無視する傾向にある。
この低周波バイアスは、高周波の特徴に含まれる潜在的意味のある意味情報を効果的に活用するモデルの能力を阻害する。
本稿では,HFDR(High-Frequency Feature Disentanglement and Recalibration)と呼ばれる新しいモジュールを提案する。
さらに、周波数アテンション正規化を導入し、異なる周波数特徴の抽出を行い、AT中の低周波バイアスを軽減する。
大規模な実験は、様々なホワイトボックス攻撃、転送攻撃、および強力な一般化能力に対する我々のアプローチの持つ大きな可能性と優位性を示している。
関連論文リスト
- Sharpening Neural Implicit Functions with Frequency Consolidation Priors [53.6277160912059]
符号付き距離関数 (Signed Distance Function, SDF) は、高忠実度3D表面を表現するために重要な暗黙の表現である。
現在の手法は主にニューラルネットワークを利用して、署名された3Dポイントクラウドやマルチビューイメージなど、さまざまな監督機関からSDFを学ぶ。
本研究では、高周波成分を回収し、よりシャープで完全な表面を追求することにより、低周波SDF観測を高速化する手法を提案する。
論文 参考訳(メタデータ) (2024-12-27T16:18:46Z) - Tuning Frequency Bias of State Space Models [48.60241978021799]
状態空間モデル(SSM)は、線形時間不変(LTI)システムを利用して、長距離依存のシーケンスを学習する。
その結果,SSMは低周波成分を高周波成分よりも効果的に捕捉する傾向を示した。
論文 参考訳(メタデータ) (2024-10-02T21:04:22Z) - Towards a Novel Perspective on Adversarial Examples Driven by Frequency [7.846634028066389]
異なる周波数帯域を組み合わせたブラックボックス逆攻撃アルゴリズムを提案する。
複数のデータセットとモデルで実施された実験により、低周波帯域と低周波帯域の高周波成分を組み合わせることで、攻撃効率が著しく向上することが示された。
論文 参考訳(メタデータ) (2024-04-16T00:58:46Z) - Frequency-Aware Deepfake Detection: Improving Generalizability through
Frequency Space Learning [81.98675881423131]
この研究は、目に見えないディープフェイク画像を効果的に識別できるユニバーサルディープフェイク検出器を開発するという課題に対処する。
既存の周波数ベースのパラダイムは、偽造検出のためにGANパイプラインのアップサンプリング中に導入された周波数レベルのアーティファクトに依存している。
本稿では、周波数領域学習を中心にしたFreqNetと呼ばれる新しい周波数認識手法を導入し、ディープフェイク検出器の一般化性を高めることを目的とする。
論文 参考訳(メタデータ) (2024-03-12T01:28:00Z) - Towards Building More Robust Models with Frequency Bias [8.510441741759758]
本稿では,中間特徴表現の低周波成分と高周波成分を適応的に再構成するプラグイン・アンド・プレイ・モジュールを提案する。
実験により,提案するモジュールは,任意の対戦型トレーニングフレームワークに容易に組み込むことができることが示された。
論文 参考訳(メタデータ) (2023-07-19T05:46:56Z) - Spatial-Frequency Discriminability for Revealing Adversarial Perturbations [53.279716307171604]
敵の摂動に対するディープニューラルネットワークの脆弱性は、コンピュータビジョンコミュニティで広く認識されている。
現在のアルゴリズムは、通常、自然および敵対的なデータの識別的分解を通じて、敵のパターンを検出する。
空間周波数Krawtchouk分解に基づく識別検出器を提案する。
論文 参考訳(メタデータ) (2023-05-18T10:18:59Z) - FreGAN: Exploiting Frequency Components for Training GANs under Limited
Data [3.5459430566117893]
限られたデータの下でのGANのトレーニングは、しばしば差別者が過度に適合し、記憶する問題を引き起こす。
本稿では、FreGANを提案する。FreGANは、モデルの周波数認識を高め、高周波信号の生成により多くの注意を払っている。
実画像と生成画像の両方の周波数情報を活用することに加えて、実画像の周波数信号を自己監督的制約として含む。
論文 参考訳(メタデータ) (2022-10-11T14:02:52Z) - How Does Frequency Bias Affect the Robustness of Neural Image
Classifiers against Common Corruption and Adversarial Perturbations? [27.865987936475797]
近年の研究では、データ拡張は低周波領域の特徴を過度に分析する結果をもたらすことが示されている。
モデルのジャコビアンに対して、低周波成分の比が大きいようにジャコビアン周波数正規化を提案する。
我々の手法は、深層学習モデルの周波数バイアスとロバスト性の間のより直接的な関係を解明する。
論文 参考訳(メタデータ) (2022-05-09T20:09:31Z) - A Frequency Perspective of Adversarial Robustness [72.48178241090149]
理論的および経験的知見を参考に,周波数に基づく対向例の理解について述べる。
分析の結果,逆転例は高周波でも低周波成分でもないが,単にデータセット依存であることがわかった。
本稿では、一般に観測される精度対ロバスト性トレードオフの周波数に基づく説明法を提案する。
論文 参考訳(メタデータ) (2021-10-26T19:12:34Z) - WaveTransform: Crafting Adversarial Examples via Input Decomposition [69.01794414018603]
本稿では,低周波サブバンドと高周波サブバンドに対応する逆雑音を生成するWaveTransformを紹介する。
実験により,提案攻撃は防衛アルゴリズムに対して有効であり,CNN間での転送も可能であることが示された。
論文 参考訳(メタデータ) (2020-10-29T17:16:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。