論文の概要: Enhancing the Transferability of Adversarial Examples via a Few Queries
- arxiv url: http://arxiv.org/abs/2205.09518v1
- Date: Thu, 19 May 2022 12:32:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-20 12:04:40.924758
- Title: Enhancing the Transferability of Adversarial Examples via a Few Queries
- Title(参考訳): 少数のクエリによる逆例の転送性の向上
- Authors: Xiangyuan Yang, Jie Lin, Hanlin Zhang, Xinyu Yang, Peng Zhao
- Abstract要約: 本稿では,高速勾配符号法のファミリを向上するために,クエリ事前手法と呼ばれる新しい手法を提案する。
我々は,CIFAR10/100およびImageNetに対する勾配に基づく敵攻撃の転送性を大幅に向上できることを示す。
- 参考スコア(独自算出の注目度): 18.880398046794138
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the vulnerability of deep neural networks, the black-box attack has
drawn great attention from the community. Though transferable priors decrease
the query number of the black-box query attacks in recent efforts, the average
number of queries is still larger than 100, which is easily affected by the
number of queries limit policy. In this work, we propose a novel method called
query prior-based method to enhance the family of fast gradient sign methods
and improve their attack transferability by using a few queries. Specifically,
for the untargeted attack, we find that the successful attacked adversarial
examples prefer to be classified as the wrong categories with higher
probability by the victim model. Therefore, the weighted augmented
cross-entropy loss is proposed to reduce the gradient angle between the
surrogate model and the victim model for enhancing the transferability of the
adversarial examples. Theoretical analysis and extensive experiments
demonstrate that our method could significantly improve the transferability of
gradient-based adversarial attacks on CIFAR10/100 and ImageNet and outperform
the black-box query attack with the same few queries.
- Abstract(参考訳): ディープニューラルネットワークの脆弱性のため、ブラックボックス攻撃はコミュニティから大きな注目を集めている。
転送可能なプリエントは、最近の取り組みでブラックボックスクエリアタックのクエリ数を減少させるが、クエリの平均数は100以上であり、クエリ制限ポリシーの数に影響を受けやすい。
そこで本研究では,高速勾配符号法のファミリを改良し,いくつかのクエリを用いて攻撃伝達性を向上するクエリ事前手法を提案する。
具体的には、標的外攻撃の場合、攻撃に成功した敵の例は、被害者モデルにより高い確率で間違ったカテゴリに分類される傾向にある。
そこで, 重み付き拡張クロスエントロピー損失は, サロゲートモデルと被害者モデル間の勾配角度を減少させ, 逆例の移動性を高めるために提案する。
理論的解析と広範な実験により,cifar10/100とimagenetに対する勾配ベースの逆攻撃の転送性が大幅に向上し,同じクエリ数でブラックボックスクエリ攻撃よりも優れることが示された。
関連論文リスト
- A Curious Case of Remarkable Resilience to Gradient Attacks via Fully
Convolutional and Differentiable Front End with a Skip Connection [5.030787492485122]
勾配マスキングは新しい現象ではありませんが、マスキングの程度は、完全に微分可能なモデルにとって非常に顕著でした。
ブラックボックス攻撃は勾配マスキングに対して部分的に有効であるが、モデルとランダムなアンサンブルを組み合わせることで容易に打ち負かされる。
論文 参考訳(メタデータ) (2024-02-26T20:55:47Z) - Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。
GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。
その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
論文 参考訳(メタデータ) (2023-10-25T03:30:42Z) - CGBA: Curvature-aware Geometric Black-box Attack [39.63633212337113]
決定に基づくブラックボックス攻撃は、敵の例を作るのに大量のクエリを必要とすることが多い。
我々は新しいクエリ効率の曲率を考慮した幾何的決定に基づくブラックボックスアタック(CGBA)を提案する。
ターゲット攻撃に適応したクエリ効率の高い新しい変種であるCGBA-Hを開発した。
論文 参考訳(メタデータ) (2023-08-06T17:18:04Z) - Towards Reasonable Budget Allocation in Untargeted Graph Structure
Attacks via Gradient Debias [50.628150015907565]
クロスエントロピー損失関数は、分類タスクにおける摂動スキームを評価するために用いられる。
従来の手法ではノードレベルの分類モデルを攻撃する攻撃対象として負のクロスエントロピー損失を用いる。
本稿では、予算配分の観点から、これまでの不合理な攻撃目標について論じる。
論文 参考訳(メタデータ) (2023-03-29T13:02:02Z) - Logit Margin Matters: Improving Transferable Targeted Adversarial Attack
by Logit Calibration [85.71545080119026]
クロスエントロピー(CE)損失関数は、伝達可能な標的対向例を学習するには不十分である。
本稿では,ロジットを温度係数と適応マージンでダウンスケールすることで,ロジットのキャリブレーションを簡易かつ効果的に行う2つの手法を提案する。
ImageNetデータセットを用いて実験を行い,提案手法の有効性を検証した。
論文 参考訳(メタデータ) (2023-03-07T06:42:52Z) - Query Efficient Cross-Dataset Transferable Black-Box Attack on Action
Recognition [99.29804193431823]
ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。
本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。
提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
論文 参考訳(メタデータ) (2022-11-23T17:47:49Z) - Attackar: Attack of the Evolutionary Adversary [0.0]
本稿では、進化的、スコアベース、ブラックボックス攻撃であるtextitAttackarを紹介する。
アタッカーは、勾配のない最適化問題に使用できる新しい目的関数に基づいている。
以上の結果から,精度とクエリ効率の両面で,Attackarの優れた性能を示す。
論文 参考訳(メタデータ) (2022-08-17T13:57:23Z) - Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based
Prior [50.393092185611536]
対象モデルの勾配にアクセスできることなく、敵が敵の例を作らなければならないブラックボックスの敵設定を考える。
従来の手法では、代用ホワイトボックスモデルの転送勾配を用いたり、モデルクエリのフィードバックに基づいて真の勾配を近似しようとした。
偏りサンプリングと勾配平均化に基づく2つの事前誘導型ランダム勾配フリー(PRGF)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-03-13T04:06:27Z) - QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。
現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
論文 参考訳(メタデータ) (2020-05-28T16:41:12Z) - Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural
Gradient Descent [92.4348499398224]
ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。
敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。
ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
論文 参考訳(メタデータ) (2020-02-18T21:48:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。