Fugu-MT 論文翻訳(概要): Exploring Frequencies via Feature Mixing and Meta-Learning for Improving Adversarial Transferability

論文の概要: Exploring Frequencies via Feature Mixing and Meta-Learning for Improving Adversarial Transferability

arxiv url: http://arxiv.org/abs/2405.03193v1
Date: Mon, 6 May 2024 06:32:58 GMT
ステータス: 処理完了
システム内更新日: 2024-05-07 14:35:25.654384
Title: Exploring Frequencies via Feature Mixing and Meta-Learning for Improving Adversarial Transferability
Title（参考訳）: 特徴混合とメタラーニングによる相互伝達性向上のための周波数探索
Authors: Juanjuan Weng, Zhiming Luo, Shaozi Li,
Abstract要約: 両試料の周波数特性を生かした周波数分解型特徴混合法を提案する。本研究は, クリーンサンプルの特徴を, 敵の例から抽出した敵の特徴に組み込むことが, 正常に訓練されたモデルに対する攻撃に有効であることが示唆された。本稿では,メタトレインステップ,メタテストステップ,最終更新を含むクロス周波数メタ最適化手法を提案する。
参考スコア（独自算出の注目度）: 26.159434438078968
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent studies have shown that Deep Neural Networks (DNNs) are susceptible to adversarial attacks, with frequency-domain analysis underscoring the significance of high-frequency components in influencing model predictions. Conversely, targeting low-frequency components has been effective in enhancing attack transferability on black-box models. In this study, we introduce a frequency decomposition-based feature mixing method to exploit these frequency characteristics in both clean and adversarial samples. Our findings suggest that incorporating features of clean samples into adversarial features extracted from adversarial examples is more effective in attacking normally-trained models, while combining clean features with the adversarial features extracted from low-frequency parts decomposed from the adversarial samples yields better results in attacking defense models. However, a conflict issue arises when these two mixing approaches are employed simultaneously. To tackle the issue, we propose a cross-frequency meta-optimization approach comprising the meta-train step, meta-test step, and final update. In the meta-train step, we leverage the low-frequency components of adversarial samples to boost the transferability of attacks against defense models. Meanwhile, in the meta-test step, we utilize adversarial samples to stabilize gradients, thereby enhancing the attack's transferability against normally trained models. For the final update, we update the adversarial sample based on the gradients obtained from both meta-train and meta-test steps. Our proposed method is evaluated through extensive experiments on the ImageNet-Compatible dataset, affirming its effectiveness in improving the transferability of attacks on both normally-trained CNNs and defense models. The source code is available at https://github.com/WJJLL/MetaSSA.
Abstract（参考訳）: 近年の研究では、Deep Neural Networks (DNN) は敵対的攻撃を受けやすいことが示されており、周波数領域分析により、モデル予測に影響を与える高周波成分の重要性が示されている。逆に、低周波成分を標的にすることで、ブラックボックスモデルの攻撃伝達性を高めることができる。本研究では,これらの周波数特性を利用した周波数分解型特徴混合法を提案する。本研究は, 敵のサンプルから抽出した敵の成分にクリーンな試料の特徴を組み込むことにより, 正常に訓練されたモデルに対する攻撃がより効果的であることを示すとともに, 敵のサンプルから分解した低周波部分から抽出した敵の成分とクリーンな特徴を組み合わせることにより, 防御モデルに対するより良い結果が得られることを示唆している。しかし、この2つの混合アプローチを同時に使用すると、競合問題が発生する。この問題に対処するため,メタトレインステップ,メタテストステップ,最終更新を含むクロス周波数メタ最適化手法を提案する。メタトレインのステップでは、敵のサンプルの低周波成分を活用し、防御モデルに対する攻撃の伝達可能性を高める。一方,メタテストでは,対向サンプルを用いて勾配を安定させ,通常訓練されたモデルに対する攻撃の伝達性を高める。最終更新では,メタトレインとメタテストの両方の段階から得られた勾配に基づいて,逆向きのサンプルを更新する。提案手法は、ImageNet-Compatible データセットの広範囲な実験により評価され、通常訓練されたCNNと防衛モデルの両方に対する攻撃の伝達性を向上させる効果が確認された。ソースコードはhttps://github.com/WJLL/MetaSSAで入手できる。

関連論文リスト

FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
論文参考訳（メタデータ） (2023-12-07T16:56:24Z)
Improving Adversarial Transferability by Stable Diffusion [36.97548018603747]
敵対的な例は良心サンプルに知覚不能な摂動を導入予測を欺くディープニューラルネットワーク(Deep Neural Network, DNN)は、良性サンプルに知覚不能な摂動を導入し、予測を誤認する敵の例に影響を受けやすい。本稿では,SDAM(Stable Diffusion Attack Method)と呼ばれる新しい攻撃手法を提案する。
論文参考訳（メタデータ） (2023-11-18T09:10:07Z)
Enhancing Adversarial Robustness via Score-Based Optimization [22.87882885963586]
敵対的攻撃は、わずかな摂動を導入することによって、ディープニューラルネットワーク分類器を誤認する可能性がある。 ScoreOptと呼ばれる新しい対向防御方式を導入し、テスト時に対向サンプルを最適化する。実験の結果,本手法は性能とロバスト性の両方において,既存の敵防御よりも優れていることが示された。
論文参考訳（メタデータ） (2023-07-10T03:59:42Z)
Boosting Adversarial Transferability via Fusing Logits of Top-1 Decomposed Feature [36.78292952798531]
本稿では,Singular Value Decomposition(SVD)に基づく特徴レベル攻撃法を提案する。提案手法は,中間層特徴量より大きい特異値に付随する固有ベクトルがより優れた一般化と注意特性を示すという発見に着想を得たものである。
論文参考訳（メタデータ） (2023-05-02T12:27:44Z)
Making Substitute Models More Bayesian Can Enhance Transferability of Adversarial Examples [89.85593878754571]
ディープニューラルネットワークにおける敵の例の転送可能性は多くのブラックボックス攻撃の欠如である。我々は、望ましい転送可能性を達成するためにベイズモデルを攻撃することを提唱する。我々の手法は近年の最先端を大きなマージンで上回る。
論文参考訳（メタデータ） (2023-02-10T07:08:13Z)
Phase-shifted Adversarial Training [8.89749787668458]
反応周波数のレンズによる対向訓練の挙動を解析する。 PhaseATは高周波情報の収束を著しく改善する。これにより、モデルが各データ付近でスムーズな予測を行うことで、対向ロバスト性を向上させることができる。
論文参考訳（メタデータ） (2023-01-12T02:25:22Z)
Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
論文参考訳（メタデータ） (2022-11-04T13:54:02Z)
Model-Agnostic Meta-Attack: Towards Reliable Evaluation of Adversarial Robustness [53.094682754683255]
モデル非依存型メタアタック(MAMA)アプローチにより,より強力な攻撃アルゴリズムを自動検出する。本手法は、繰り返しニューラルネットワークによってパラメータ化された逆攻撃を学習する。本研究では,未知の防御を攻撃した場合の学習能力を向上させるために,モデルに依存しない訓練アルゴリズムを開発した。
論文参考訳（メタデータ） (2021-10-13T13:54:24Z)
Modelling Adversarial Noise for Adversarial Defense [96.56200586800219]
敵の防御は、通常、敵の音を除去したり、敵の頑強な目標モデルを訓練するために、敵の例を活用することに焦点を当てる。逆データと自然データの関係は、逆データからクリーンデータを推測し、最終的な正しい予測を得るのに役立ちます。本研究では, ラベル空間の遷移関係を学習するために, 逆方向の雑音をモデル化し, 逆方向の精度を向上させることを目的とした。
論文参考訳（メタデータ） (2021-09-21T01:13:26Z)
Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
論文参考訳（メタデータ） (2021-05-31T17:01:05Z)
Yet Another Intermediate-Level Attack [31.055720988792416]
ディープニューラルネットワーク(DNN)モデルにまたがる敵のサンプルの転送可能性は、ブラックボックス攻撃のスペクトルのくぼみである。本稿では,ベースライン逆数例のブラックボックス転送性を向上させる新しい手法を提案する。
論文参考訳（メタデータ） (2020-08-20T09:14:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。