論文の概要: Towards a Novel Perspective on Adversarial Examples Driven by Frequency

• arxiv url: http://arxiv.org/abs/2404.10202v1
• Date: Tue, 16 Apr 2024 00:58:46 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-17 18:31:57.288287
• Title: Towards a Novel Perspective on Adversarial Examples Driven by Frequency
• Title（参考訳）: 周波数駆動型逆転事例の新展開に向けて
• Authors: Zhun Zhang, Yi Zeng, Qihe Liu, Shijie Zhou,
• Abstract要約: 異なる周波数帯域を組み合わせたブラックボックス逆攻撃アルゴリズムを提案する。 複数のデータセットとモデルで実施された実験により、低周波帯域と低周波帯域の高周波成分を組み合わせることで、攻撃効率が著しく向上することが示された。
• 参考スコア（独自算出の注目度）: 7.846634028066389
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Enhancing our understanding of adversarial examples is crucial for the secure application of machine learning models in real-world scenarios. A prevalent method for analyzing adversarial examples is through a frequency-based approach. However, existing research indicates that attacks designed to exploit low-frequency or high-frequency information can enhance attack performance, leading to an unclear relationship between adversarial perturbations and different frequency components. In this paper, we seek to demystify this relationship by exploring the characteristics of adversarial perturbations within the frequency domain. We employ wavelet packet decomposition for detailed frequency analysis of adversarial examples and conduct statistical examinations across various frequency bands. Intriguingly, our findings indicate that significant adversarial perturbations are present within the high-frequency components of low-frequency bands. Drawing on this insight, we propose a black-box adversarial attack algorithm based on combining different frequency bands. Experiments conducted on multiple datasets and models demonstrate that combining low-frequency bands and high-frequency components of low-frequency bands can significantly enhance attack efficiency. The average attack success rate reaches 99\%, surpassing attacks that utilize a single frequency segment. Additionally, we introduce the normalized disturbance visibility index as a solution to the limitations of $L_2$ norm in assessing continuous and discrete perturbations.
• Abstract（参考訳）: 現実のシナリオにおける機械学習モデルのセキュアな適用には、敵の例に対する理解の促進が不可欠です。 逆例を解析するための一般的な方法は、周波数に基づくアプローチである。 しかし, 従来の研究では, 低周波・高周波情報を利用した攻撃は攻撃性能を向上し, 対向摂動と周波数成分の相違が明らかになっている。 本稿では,周波数領域内における対向摂動の特性を探索することにより,この関係を解明する。 本稿では,ウェーブレットパケット分解法を用いて,逆数例の詳細な周波数解析を行い,様々な周波数帯域にわたる統計的検査を行う。 興味深いことに,低周波帯の高周波成分に有意な逆行性摂動が存在することが示唆された。 この知見に基づいて、異なる周波数帯域を組み合わせたブラックボックス逆攻撃アルゴリズムを提案する。 複数のデータセットとモデルで実施された実験により、低周波帯域と低周波帯域の高周波成分を組み合わせることで、攻撃効率が著しく向上することが示された。 平均攻撃成功率は99\%に達し、単一の周波数セグメントを利用する攻撃を上回っている。 さらに、連続的な摂動と離散的な摂動の評価において、$L_2$ノルムの限界に対する解として正規化外乱可視指数を導入する。

関連論文リスト

• Low-Frequency Black-Box Backdoor Attack via Evolutionary Algorithm [12.711880028935315]
  畳み込みニューラルネットワーク(CNN)はコンピュータビジョンタスクで成功したが、バックドア攻撃に弱い。 周波数スペクトルの低周波成分を最小限に摂動させる強力な低周波ブラックボックスバックドアアタック(LFBA)を提案する。 実世界のデータセットの実験は、画像処理操作と最先端のバックドア防御に対するLFBAの有効性と堅牢性を検証する。
  論文  参考訳（メタデータ） (2024-02-23T23:36:36Z)
• FS-BAND: A Frequency-Sensitive Banding Detector [55.59101150019851]
  バンディング・アーティファクト(Banding artifact)は、階段のような輪郭(contour)として知られ、圧縮や伝達などで発生する一般的な品質の不快さである。 周波数感度バンディング検出器 (FS-BAND) と呼ばれる,帯状アーティファクトを捕捉・評価するための非参照帯状検出モデルを提案する。 実験結果から,FS-BAND法は画像品質評価(IQA)手法よりもバンドリング分類タスクの精度が高い結果を得た。
  論文  参考訳（メタデータ） (2023-11-30T03:20:42Z)
• How adversarial attacks can disrupt seemingly stable accurate classifiers [80.2657717174889]
  敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。 ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。 実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
  論文  参考訳（メタデータ） (2023-09-07T12:02:00Z)
• Towards Building More Robust Models with Frequency Bias [8.510441741759758]
  本稿では,中間特徴表現の低周波成分と高周波成分を適応的に再構成するプラグイン・アンド・プレイ・モジュールを提案する。 実験により,提案するモジュールは,任意の対戦型トレーニングフレームワークに容易に組み込むことができることが示された。
  論文  参考訳（メタデータ） (2023-07-19T05:46:56Z)
• How Does Frequency Bias Affect the Robustness of Neural Image Classifiers against Common Corruption and Adversarial Perturbations? [27.865987936475797]
  近年の研究では、データ拡張は低周波領域の特徴を過度に分析する結果をもたらすことが示されている。 モデルのジャコビアンに対して、低周波成分の比が大きいようにジャコビアン周波数正規化を提案する。 我々の手法は、深層学習モデルの周波数バイアスとロバスト性の間のより直接的な関係を解明する。
  論文  参考訳（メタデータ） (2022-05-09T20:09:31Z)
• Adaptive Frequency Learning in Two-branch Face Forgery Detection [66.91715092251258]
  本稿では、AFDと呼ばれる2分岐検出フレームワークにおいて、周波数情報を適応的に学習する手法を提案する。 我々は、固定周波数変換からネットワークを解放し、データおよびタスク依存の変換層でより良いパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-03-27T14:25:52Z)
• On the Frequency Bias of Generative Models [61.60834513380388]
  我々は、最先端のGANトレーニングにおいて、高周波アーティファクトに対する提案手法を解析した。 既存のアプローチでは、スペクトルアーティファクトを完全に解決できないことが分かっています。 以上の結果から,識別能力の向上に大きな可能性があることが示唆された。
  論文  参考訳（メタデータ） (2021-11-03T18:12:11Z)
• A Frequency Perspective of Adversarial Robustness [72.48178241090149]
  理論的および経験的知見を参考に,周波数に基づく対向例の理解について述べる。 分析の結果,逆転例は高周波でも低周波成分でもないが,単にデータセット依存であることがわかった。 本稿では、一般に観測される精度対ロバスト性トレードオフの周波数に基づく説明法を提案する。
  論文  参考訳（メタデータ） (2021-10-26T19:12:34Z)
• WaveTransform: Crafting Adversarial Examples via Input Decomposition [69.01794414018603]
  本稿では,低周波サブバンドと高周波サブバンドに対応する逆雑音を生成するWaveTransformを紹介する。 実験により,提案攻撃は防衛アルゴリズムに対して有効であり,CNN間での転送も可能であることが示された。
  論文  参考訳（メタデータ） (2020-10-29T17:16:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。