論文の概要: Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation

• arxiv url: http://arxiv.org/abs/2406.02064v1
• Date: Tue, 4 Jun 2024 07:45:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-05 17:21:12.774968
• Title: Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation
• Title（参考訳）: 2レベル最適化と動的シーケンストラニケーションを導出した初期化による一般化転送攻撃の高速化
• Authors: Yaohua Liu, Jiaxin Gao, Xuan Liu, Xianghao Jiao, Xin Fan, Risheng Liu,
• Abstract要約: 転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。 既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。 本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
• 参考スコア（独自算出の注目度）: 49.480978190805125
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transfer attacks generate significant interest for real-world black-box applications by crafting transferable adversarial examples through surrogate models. Whereas, existing works essentially directly optimize the single-level objective w.r.t. the surrogate model, which always leads to poor interpretability of attack mechanism and limited generalization performance over unknown victim models. In this work, we propose the \textbf{B}il\textbf{E}vel \textbf{T}ransfer \textbf{A}ttac\textbf{K} (BETAK) framework by establishing an initialization derived bilevel optimization paradigm, which explicitly reformulates the nested constraint relationship between the Upper-Level (UL) pseudo-victim attacker and the Lower-Level (LL) surrogate attacker. Algorithmically, we introduce the Hyper Gradient Response (HGR) estimation as an effective feedback for the transferability over pseudo-victim attackers, and propose the Dynamic Sequence Truncation (DST) technique to dynamically adjust the back-propagation path for HGR and reduce computational overhead simultaneously. Meanwhile, we conduct detailed algorithmic analysis and provide convergence guarantee to support non-convexity of the LL surrogate attacker. Extensive evaluations demonstrate substantial improvement of BETAK (e.g., $\mathbf{53.41}$\% increase of attack success rates against IncRes-v$2_{ens}$) against different victims and defense methods in targeted and untargeted attack scenarios. The source code is available at https://github.com/callous-youth/BETAK.
• Abstract（参考訳）: トランスファー攻撃は、サロゲートモデルを通じてトランスファー可能な敵例を作成することで、現実世界のブラックボックスアプリケーションに重要な関心を生んでいる。 一方、既存の研究は本質的には単一レベルの目標 w.r.t. サロゲートモデルを直接最適化するものであり、これは攻撃機構の弱い解釈可能性と未知の犠牲者モデルに対する限定的な一般化性能をもたらす。 本研究では,上レベル(UL)擬似ビック攻撃者と下層レベル(LL)サロゲート攻撃者との間のネスト制約関係を明示的に再構成する初期化導出双レベル最適化パラダイムを確立することにより,bf{B}il\textbf{E}vel \textbf{T}ransfer \textbf{A}ttac\textbf{K} (BETAK) フレームワークを提案する。 本稿では,HGRのバックプロパゲーションパスを動的に調整し,計算オーバーヘッドを同時に低減する動的シーケンストラニケーション(DST)技術を提案する。 一方,LLサロゲート攻撃者の非凸性をサポートするために,詳細なアルゴリズム解析を行い,収束保証を行う。 BETAK (例: $\mathbf{53.41}$\% 攻撃成功率のIncRes-v$2_{ens}$) は、標的と未目標の攻撃シナリオにおける様々な犠牲者や防御方法に対して大幅に改善されている。 ソースコードはhttps://github.com/callous-youth/BETAK.comで入手できる。

関連論文リスト

• Securing Recommender System via Cooperative Training [78.97620275467733]
  本稿では,データを相互に強化する3つの協調モデルを用いたTCD(Triple Cooperative Defense)を提案する。 既存の攻撃が二段階最適化と効率のバランスをとるのに苦労していることを考えると、リコメンダシステムにおける毒殺攻撃を再考する。 我々はゲームベースのコトレーニングアタック(GCoAttack)を提案し,提案したCoAttackとTCDをゲーム理論のプロセスとする。
  論文  参考訳（メタデータ） (2024-01-23T12:07:20Z)
• LRS: Enhancing Adversarial Transferability through Lipschitz Regularized Surrogate [8.248964912483912]
  敵の例の転送性は、転送ベースのブラックボックス敵攻撃において重要である。 転送ベースブラックボックス攻撃に対するLipschitz Regularized Surrogate (LRS)を提案する。 我々は、最先端のディープニューラルネットワークとディフェンスモデルを攻撃することで、提案したLSSアプローチを評価する。
  論文  参考訳（メタデータ） (2023-12-20T15:37:50Z)
• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)
• Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
  本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。 その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
  論文  参考訳（メタデータ） (2023-10-25T03:30:42Z)
• Backpropagation Path Search On Adversarial Transferability [35.71353415348786]
  転送ベースの攻撃者は代理モデルに対する敵の例を作成し、犠牲者モデルに転送する。 構造ベースの攻撃者は、サロゲートモデルにオーバーフィットしないようにバックプロパゲーションパスを調整する。 既存の構造ベースの攻撃者は、CNNの畳み込みモジュールを探索できず、バックプロパゲーショングラフを変更する。
  論文  参考訳（メタデータ） (2023-08-15T08:21:20Z)
• Transferable Attack for Semantic Segmentation [59.17710830038692]
  敵が攻撃し、ソースモデルから生成された敵の例がターゲットモデルを攻撃するのに失敗するのを観察します。 本研究では, セマンティックセグメンテーションのためのアンサンブルアタックを提案する。
  論文  参考訳（メタデータ） (2023-07-31T11:05:55Z)
• Boosting the Transferability of Adversarial Attacks with Reverse Adversarial Perturbation [32.81400759291457]
  逆の例は、知覚不能な摂動を注入することで誤った予測を生じさせる。 本研究では,現実の応用への脅威から,敵対的事例の伝達可能性について検討する。 逆対向摂動(RAP)と呼ばれる新しい攻撃法を提案する。
  論文  参考訳（メタデータ） (2022-10-12T07:17:33Z)
• Regularization Can Help Mitigate Poisoning Attacks... with the Right Hyperparameters [1.8570591025615453]
  機械学習アルゴリズムは、トレーニングデータの一部を操作してアルゴリズムのパフォーマンスを低下させる、中毒攻撃に対して脆弱である。 通常、正規化ハイパーパラメータが一定であると仮定する現在のアプローチは、アルゴリズムの堅牢性に対する過度に悲観的な見方をもたらすことを示す。 本稿では,攻撃が過度パラメータに与える影響を考慮し,エフェミニマックスの双レベル最適化問題としてモデル化した新たな最適攻撃定式化を提案する。
  論文  参考訳（メタデータ） (2021-05-23T14:34:47Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。