論文の概要: Gradient Aligned Attacks via a Few Queries

• arxiv url: http://arxiv.org/abs/2205.09518v2
• Date: Wed, 3 May 2023 02:10:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-04 19:00:28.631819
• Title: Gradient Aligned Attacks via a Few Queries
• Title（参考訳）: いくつかのクエリによる勾配アライメント攻撃
• Authors: Xiangyuan Yang, Jie Lin, Hanlin Zhang, Xinyu Yang, Peng Zhao
• Abstract要約: ブラックボックスクエリアタックは、少数のクエリのみを許可する新しいシナリオにおいて、パフォーマンスが低いことを示している。 本研究では, 被害モデルに対する攻撃性能を改善するために, 勾配アライメント・アライメント・アライメント・アタック(GAA)を提案する。 提案した勾配整列攻撃と損失は,ブラックボックスクエリアタックの攻撃性能とクエリ効率を大幅に改善したことを示す。
• 参考スコア（独自算出の注目度）: 18.880398046794138
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Black-box query attacks, which rely only on the output of the victim model, have proven to be effective in attacking deep learning models. However, existing black-box query attacks show low performance in a novel scenario where only a few queries are allowed. To address this issue, we propose gradient aligned attacks (GAA), which use the gradient aligned losses (GAL) we designed on the surrogate model to estimate the accurate gradient to improve the attack performance on the victim model. Specifically, we propose a gradient aligned mechanism to ensure that the derivatives of the loss function with respect to the logit vector have the same weight coefficients between the surrogate and victim models. Using this mechanism, we transform the cross-entropy (CE) loss and margin loss into gradient aligned forms, i.e. the gradient aligned CE or margin losses. These losses not only improve the attack performance of our gradient aligned attacks in the novel scenario but also increase the query efficiency of existing black-box query attacks. Through theoretical and empirical analysis on the ImageNet database, we demonstrate that our gradient aligned mechanism is effective, and that our gradient aligned attacks can improve the attack performance in the novel scenario by 16.1\% and 31.3\% on the $l_2$ and $l_{\infty}$ norms of the box constraint, respectively, compared to four latest transferable prior-based query attacks. Additionally, the gradient aligned losses also significantly reduce the number of queries required in these transferable prior-based query attacks by a maximum factor of 2.9 times. Overall, our proposed gradient aligned attacks and losses show significant improvements in the attack performance and query efficiency of black-box query attacks, particularly in scenarios where only a few queries are allowed.
• Abstract（参考訳）: 被害者モデルの出力のみに依存するブラックボックスクエリアタックは、ディープラーニングモデルへの攻撃に有効であることが証明されている。 しかし、既存のブラックボックスクエリアタックは、少数のクエリしか許可されない新しいシナリオでは、パフォーマンスが低い。 この問題に対処するため,我々は,サロゲートモデル上で設計したグラデーションアライメントアライメント損失 (gal) を用いたグラデーションアライメントアライメントアライメント攻撃 (gaa) を提案する。 具体的には,ロジットベクトルに対する損失関数の導関数がサロゲートモデルと被害者モデルで同一の重み係数を持つことを保証するための勾配アライメント機構を提案する。 この機構を用いて、クロスエントロピー(CE)損失とマージン損失を勾配整列形式、すなわち勾配整列CEまたはマージン損失に変換する。 これらの損失は、新しいシナリオにおける勾配整列攻撃の攻撃性能を改善するだけでなく、既存のブラックボックスクエリ攻撃のクエリ効率を向上させる。 ImageNetデータベース上の理論的および実証的な解析により、我々の勾配整列機構が有効であること、そして我々の勾配整列攻撃が、ボックス制約の$l_2$と$l_{\infty}$ノルムに対して、新しいシナリオにおける攻撃性能を16.1\%と31.3\%向上させることができることを実証した。 さらに、勾配に整合した損失は、転送可能な事前ベースのクエリ攻撃に必要なクエリ数を最大2.9倍削減する。 全体として,提案する勾配アラインアタックと損失は,ブラックボックスクエリアタックのアタック性能とクエリ効率,特に数クエリしか許可されていないシナリオにおいて大幅な改善を示す。

関連論文リスト

• Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
  転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。 既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。 本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
  論文  参考訳（メタデータ） (2024-06-04T07:45:27Z)
• Efficient Black-box Adversarial Attacks via Bayesian Optimization Guided by a Function Prior [36.101904669291436]
  本稿では,入力クエリの出力フィードバックのみを用いて,ブラックボックスモデルに対するサンプル生成を目的としたブラックボックス逆攻撃について検討する。 ブラックボックス攻撃前の大域関数として代理モデルを利用する事前誘導ベイズ最適化(P-BO)アルゴリズムを提案する。 後悔境界に関する理論的解析は、P-BOの性能が悪影響を受けていることを示唆している。
  論文  参考訳（メタデータ） (2024-05-29T14:05:16Z)
• Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
  本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。 その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
  論文  参考訳（メタデータ） (2023-10-25T03:30:42Z)
• CGBA: Curvature-aware Geometric Black-box Attack [39.63633212337113]
  決定に基づくブラックボックス攻撃は、敵の例を作るのに大量のクエリを必要とすることが多い。 我々は新しいクエリ効率の曲率を考慮した幾何的決定に基づくブラックボックスアタック(CGBA)を提案する。 ターゲット攻撃に適応したクエリ効率の高い新しい変種であるCGBA-Hを開発した。
  論文  参考訳（メタデータ） (2023-08-06T17:18:04Z)
• Logit Margin Matters: Improving Transferable Targeted Adversarial Attack by Logit Calibration [85.71545080119026]
  クロスエントロピー(CE)損失関数は、伝達可能な標的対向例を学習するには不十分である。 本稿では,ロジットを温度係数と適応マージンでダウンスケールすることで,ロジットのキャリブレーションを簡易かつ効果的に行う2つの手法を提案する。 ImageNetデータセットを用いて実験を行い,提案手法の有効性を検証した。
  論文  参考訳（メタデータ） (2023-03-07T06:42:52Z)
• Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
  ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。 本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。 提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
  論文  参考訳（メタデータ） (2022-11-23T17:47:49Z)
• Attackar: Attack of the Evolutionary Adversary [0.0]
  本稿では、進化的、スコアベース、ブラックボックス攻撃であるtextitAttackarを紹介する。 アタッカーは、勾配のない最適化問題に使用できる新しい目的関数に基づいている。 以上の結果から,精度とクエリ効率の両面で,Attackarの優れた性能を示す。
  論文  参考訳（メタデータ） (2022-08-17T13:57:23Z)
• Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based Prior [50.393092185611536]
  対象モデルの勾配にアクセスできることなく、敵が敵の例を作らなければならないブラックボックスの敵設定を考える。 従来の手法では、代用ホワイトボックスモデルの転送勾配を用いたり、モデルクエリのフィードバックに基づいて真の勾配を近似しようとした。 偏りサンプリングと勾配平均化に基づく2つの事前誘導型ランダム勾配フリー(PRGF)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-13T04:06:27Z)
• Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural Gradient Descent [92.4348499398224]
  ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。 敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。 ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
  論文  参考訳（メタデータ） (2020-02-18T21:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。