論文の概要: QueryNet: An Efficient Attack Framework with Surrogates Carrying
Multiple Identities
- arxiv url: http://arxiv.org/abs/2105.15010v1
- Date: Mon, 31 May 2021 14:45:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-01 16:51:47.788662
- Title: QueryNet: An Efficient Attack Framework with Surrogates Carrying
Multiple Identities
- Title（参考訳）: QueryNet: 複数のIDを格納する効率的な攻撃フレームワーク
- Authors: Sizhe Chen, Zhehao Huang, Qinghua Tao, Xiaolin Huang
- Abstract要約: ディープニューラルネットワーク(DNN)は敵の攻撃に対して脆弱であると認識されている。
ブラックボックス攻撃は、高い成功率を達成するために、被害者に対して広範囲なクエリを必要とする。
クエリ効率では、被害者の代理モデルが転送可能なアタッカーとして採用されている。
我々は、クエリを大幅に削減できる効率的な攻撃ネットワークであるQueryNetを開発した。
- 参考スコア（独自算出の注目度）: 16.901240544106948
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Neural Networks (DNNs) are acknowledged as vulnerable to adversarial
attacks, while the existing black-box attacks require extensive queries on the
victim DNN to achieve high success rates. For query-efficiency, surrogate
models of the victim are adopted as transferable attackers in consideration of
their Gradient Similarity (GS), i.e., surrogates' attack gradients are similar
to the victim's ones to some extent. However, it is generally neglected to
exploit their similarity on outputs, namely the Prediction Similarity (PS), to
filter out inefficient queries. To jointly utilize and also optimize
surrogates' GS and PS, we develop QueryNet, an efficient attack network that
can significantly reduce queries. QueryNet crafts several transferable
Adversarial Examples (AEs) by surrogates, and then decides also by surrogates
on the most promising AE, which is then sent to query the victim. That is to
say, in QueryNet, surrogates are not only exploited as transferable attackers,
but also as transferability evaluators for AEs. The AEs are generated using
surrogates' GS and evaluated based on their FS, and therefore, the query
results could be back-propagated to optimize surrogates' parameters and also
their architectures, enhancing both the GS and the FS. QueryNet has significant
query-efficiency, i.e., reduces queries by averagely about an order of
magnitude compared to recent SOTA methods according to our comprehensive and
real-world experiments: 11 victims (including 2 commercial models) on
MNIST/CIFAR10/ImageNet, allowing only 8-bit image queries, and no access to the
victim's training data.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)は敵の攻撃に対して脆弱であると認識されている一方、既存のブラックボックス攻撃では、高い成功率を達成するために、被害者のDNNに対して広範囲なクエリを必要とする。
クエリ効率の面では、被害者の代理モデルがグラディエント類似性(GS)を考慮して転送可能な攻撃者として採用される。
しかしながら、その類似性、すなわち予測類似性(PS)を利用して非効率なクエリをフィルタリングすることは一般的に無視されている。
surrogateのgsとpsを共同で利用し最適化するために、クエリを大幅に削減できる効率的な攻撃ネットワークであるquerynetを開発した。
QueryNetは、サロゲートによっていくつかの転送可能なAdversarial Examples(AE)を作成し、次に最も有望なAEをサロゲートすることで決定する。
つまり、QueryNetでは、サロゲートは転送可能なアタッカーだけでなく、AEの転送可能性評価器としても利用される。
AEはSurrogatesのGSを使用して生成され、FSに基づいて評価されるため、クエリ結果はSurrogatesのパラメータとアーキテクチャを最適化するためにバックプロパゲーションされ、GSとFSの両方が強化される。
QueryNetは、MNIST/CIFAR10/ImageNet上の11人の犠牲者(2つの商用モデルを含む)が8ビットの画像クエリしか利用できず、被害者のトレーニングデータへのアクセスもできない。
関連論文リスト
- AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。
我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。
また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
論文 参考訳（メタデータ） (2024-08-04T09:53:50Z) - Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。
既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。
本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
論文 参考訳（メタデータ） (2024-06-04T07:45:27Z) - Query Provenance Analysis: Efficient and Robust Defense against Query-based Black-box Attacks [11.32992178606254]
我々は、より堅牢で効率的なステートフルディフェンスモデル(SDM)のための新しいアプローチ、QPA(Query Provenance Analysis)を提案する。
QPAは、クエリ間の履歴関係をシーケンスの特徴としてカプセル化し、良性クエリシーケンスと逆性クエリシーケンスの基本的な違いをキャプチャする。
我々は,6つのクエリベースのブラックボックスアタックアルゴリズムを用いて,広く使用されている4つのデータセットに対して,2つのベースラインであるBlackLightとPIHAと比較した。
論文 参考訳（メタデータ） (2024-05-31T06:56:54Z) - DTA: Distribution Transform-based Attack for Query-Limited Scenario [11.874670564015789]
敵の例を生成する際、従来のブラックボックス攻撃法は攻撃対象モデルからの十分なフィードバックに依存している。
本稿では,攻撃された動作が限られた数のクエリを実行可能であることをシミュレートするハードラベル攻撃を提案する。
提案したアイデアの有効性とDTAの最先端性を検証する実験を行った。
論文 参考訳（メタデータ） (2023-12-12T13:21:03Z) - Towards Evaluating Transfer-based Attacks Systematically, Practically,
and Fairly [79.07074710460012]
ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。
ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。
30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
論文 参考訳（メタデータ） (2023-11-02T15:35:58Z) - Query Efficient Cross-Dataset Transferable Black-Box Attack on Action
Recognition [99.29804193431823]
ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。
本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。
提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
論文 参考訳（メタデータ） (2022-11-23T17:47:49Z) - Attacking deep networks with surrogate-based adversarial black-box
methods is easy [7.804269142923776]
ブラックボックスの敵攻撃に関する最近の研究は、サロゲートモデルからの転送の使用を復活させた。
そこで本研究では,検索によって最先端の結果を得る,簡潔で簡潔なアルゴリズムを提案する。
このアルゴリズムの導く前提は、研究対象のネットワークが、類似した関数を学習する基本的な意味で存在するということである。
論文 参考訳（メタデータ） (2022-03-16T16:17:18Z) - Discriminator-Free Generative Adversarial Attack [87.71852388383242]
生成的ベースの敵攻撃は、この制限を取り除くことができる。
ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。
SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
論文 参考訳（メタデータ） (2021-07-20T01:55:21Z) - Going Far Boosts Attack Transferability, but Do Not Do It [16.901240544106948]
7つの最適化アルゴリズム,4つのサロゲート,9つのブラックボックスモデルに関する包括的実験により,攻撃伝達性に対する最適化の影響を検討した。
最適化アルゴリズムからのAEsの様々な転送性は、元のサンプルから得られたRoot Mean Square Error(RMSE)と強く関係している。
LARAは転送可能性を大幅に20%改善するが、DNNの脆弱性を利用するには不十分である。
論文 参考訳（メタデータ） (2021-02-20T13:19:31Z) - Boosting Black-Box Attack with Partially Transferred Conditional
Adversarial Distribution [83.02632136860976]
深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究
我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。
ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
論文 参考訳（メタデータ） (2020-06-15T16:45:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。