論文の概要: Enhancing Adversarial Transferability Through Neighborhood Conditional Sampling
- arxiv url: http://arxiv.org/abs/2405.16181v1
- Date: Sat, 25 May 2024 11:16:53 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-29 00:40:50.325001
- Title: Enhancing Adversarial Transferability Through Neighborhood Conditional Sampling
- Title（参考訳）: 隣接条件サンプリングによる対向移動性の向上
- Authors: Chunlin Qiu, Yiheng Duan, Lingchen Zhao, Qian Wang,
- Abstract要約: 転送ベースの攻撃は、様々なブラックボックスターゲットモデルを妥協するために、ホワイトボックスサロゲートモデルを利用する敵の例を作る。
既存の転送攻撃は、弱い転送可能性または高価な計算に悩まされる。
提案手法は, 近距離条件付きサンプリング (NCS) と命名され, 軽量な計算で高い転送性を実現する。
- 参考スコア（独自算出の注目度）: 8.112048268281628
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transfer-based attacks craft adversarial examples utilizing a white-box surrogate model to compromise various black-box target models, posing significant threats to many real-world applications. However, existing transfer attacks suffer from either weak transferability or expensive computation. To bridge the gap, we propose a novel sample-based attack, named neighborhood conditional sampling (NCS), which enjoys high transferability with lightweight computation. Inspired by the observation that flat maxima result in better transferability, NCS is formulated as a max-min bi-level optimization problem to seek adversarial regions with high expected adversarial loss and small standard deviations. Specifically, due to the inner minimization problem being computationally intensive to resolve, and affecting the overall transferability, we propose a momentum-based previous gradient inversion approximation (PGIA) method to effectively solve the inner problem without any computation cost. In addition, we prove that two newly proposed attacks, which achieve flat maxima for better transferability, are actually specific cases of NCS under particular conditions. Extensive experiments demonstrate that NCS efficiently generates highly transferable adversarial examples, surpassing the current best method in transferability while requiring only 50% of the computational cost. Additionally, NCS can be seamlessly integrated with other methods to further enhance transferability.
- Abstract（参考訳）: トランスファーベースの攻撃は、ホワイトボックスサロゲートモデルを使用して様々なブラックボックスターゲットモデルを妥協する敵の例を作成し、多くの現実世界のアプリケーションに重大な脅威を与える。
しかし、既存の転送攻撃は、弱い転送可能性または高価な計算に悩まされている。
このギャップを埋めるため,我々は,軽量な計算で高い転送性を有する近距離条件付きサンプリング(NCS)と呼ばれる新しいサンプルベース攻撃を提案する。
平坦な最大値がより良い転送性をもたらすという観測にインスパイアされたNCSは、高い予測された対向損失と小さな標準偏差を持つ対向領域を求める最大2レベル最適化問題として定式化されている。
具体的には、内部の最小化問題を計算的に解決し、全体の転送可能性に影響を与えるため、計算コストを伴わずに内部の問題を効果的に解くために運動量に基づく事前勾配逆近似(PGIA)法を提案する。
さらに, 特定条件下では, NCSの特定事例として, 転送性の向上のために, 平坦な最大値を達成する2つの新たな攻撃が実際に行われていることを証明した。
大規模な実験により、NASは効率よく高い転送可能な対向例を生成し、計算コストの50%しか必要とせず、現在の転送可能性の最良の方法を超えることを示した。
さらに、NCSは他の方法とシームレスに統合して、転送可能性をさらに強化することができる。
関連論文リスト
- Improving Transferable Targeted Attacks with Feature Tuning Mixup [12.707753562907534]
ディープニューラルネットワークは、異なるモデル間で転送可能な例に脆弱性を示す。
ターゲットの攻撃伝達性を高めるために,FTM(Feature Tuning Mixup)を提案する。
提案手法は,計算コストを低く抑えつつ,最先端の手法よりも大幅に向上する。
論文 参考訳（メタデータ） (2024-11-23T13:18:25Z) - Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。
既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。
本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
論文 参考訳（メタデータ） (2024-06-04T07:45:27Z) - STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario [50.37501379058119]
本研究では,クエリ制限シナリオにおいて,悪意のある逆の例を作成するために,空間変換ブラックボックス攻撃(STBA)を提案する。
そこで本研究では,STBAが対向例の認識不能性を効果的に改善し,クエリ制限条件下での攻撃成功率を大幅に向上できることを示す。
論文 参考訳（メタデータ） (2024-03-30T13:28:53Z) - Logit Margin Matters: Improving Transferable Targeted Adversarial Attack
by Logit Calibration [85.71545080119026]
クロスエントロピー(CE)損失関数は、伝達可能な標的対向例を学習するには不十分である。
本稿では,ロジットを温度係数と適応マージンでダウンスケールすることで,ロジットのキャリブレーションを簡易かつ効果的に行う2つの手法を提案する。
ImageNetデータセットを用いて実験を行い,提案手法の有効性を検証した。
論文 参考訳（メタデータ） (2023-03-07T06:42:52Z) - Making Substitute Models More Bayesian Can Enhance Transferability of
Adversarial Examples [89.85593878754571]
ディープニューラルネットワークにおける敵の例の転送可能性は多くのブラックボックス攻撃の欠如である。
我々は、望ましい転送可能性を達成するためにベイズモデルを攻撃することを提唱する。
我々の手法は近年の最先端を大きなマージンで上回る。
論文 参考訳（メタデータ） (2023-02-10T07:08:13Z) - Improving Adversarial Transferability with Scheduled Step Size and Dual
Example [33.00528131208799]
反復型高速勾配符号法により生じる逆例の転送性は,反復数の増加に伴って低下傾向を示すことを示す。
本稿では,スケジューリングステップサイズとデュアルサンプル(SD)を用いて,良性サンプル近傍の対角情報を完全に活用する新しい戦略を提案する。
提案手法は,既存の対向攻撃手法と容易に統合でき,対向移動性が向上する。
論文 参考訳（メタデータ） (2023-01-30T15:13:46Z) - Transfer Attacks Revisited: A Large-Scale Empirical Study in Real
Computer Vision Settings [64.37621685052571]
我々は,主要なクラウドベースのMLプラットフォームに対する転送攻撃について,最初の系統的実証的研究を行った。
この研究は、既存のものと矛盾しない多くの興味深い発見につながっている。
この作業は、一般的なMLプラットフォームの脆弱性に光を当て、いくつかの有望な研究方向を指し示している、と私たちは信じています。
論文 参考訳（メタデータ） (2022-04-07T12:16:24Z) - Boosting Transferability of Targeted Adversarial Examples via
Hierarchical Generative Networks [56.96241557830253]
転送ベースの敵攻撃はブラックボックス設定におけるモデルロバスト性を効果的に評価することができる。
本稿では,異なるクラスを対象にした対角的例を生成する条件生成攻撃モデルを提案する。
提案手法は,既存の手法と比較して,標的となるブラックボックス攻撃の成功率を大幅に向上させる。
論文 参考訳（メタデータ） (2021-07-05T06:17:47Z) - TRS: Transferability Reduced Ensemble via Encouraging Gradient Diversity
and Model Smoothness [14.342349428248887]
逆転性(Adversarial Transferability)は、逆転性(adversarial)の例の興味深い特性である。
本稿では,モデル間の移動性に関する十分な条件を理論的に解析する。
本稿では,そのロバスト性を改善するために,アンサンブル内の転送性を低減するための実用的なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-04-01T17:58:35Z) - Defense-guided Transferable Adversarial Attacks [5.2206166148727835]
敵の例は未知のモデルに 移行するのは困難です
我々は、敵攻撃と防御の両方に有効な入力変換にインスパイアされた最大限のフレームワークを設計する。
本手法は,深層モデルの堅牢性を評価するためのベンチマークとして期待されている。
論文 参考訳（メタデータ） (2020-10-22T08:51:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。