論文の概要: QueryNet: An Efficient Attack Framework with Surrogates Carrying
Multiple Identities
- arxiv url: http://arxiv.org/abs/2105.15010v1
- Date: Mon, 31 May 2021 14:45:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-01 16:51:47.788662
- Title: QueryNet: An Efficient Attack Framework with Surrogates Carrying
Multiple Identities
- Title(参考訳): QueryNet: 複数のIDを格納する効率的な攻撃フレームワーク
- Authors: Sizhe Chen, Zhehao Huang, Qinghua Tao, Xiaolin Huang
- Abstract要約: ディープニューラルネットワーク(DNN)は敵の攻撃に対して脆弱であると認識されている。
ブラックボックス攻撃は、高い成功率を達成するために、被害者に対して広範囲なクエリを必要とする。
クエリ効率では、被害者の代理モデルが転送可能なアタッカーとして採用されている。
我々は、クエリを大幅に削減できる効率的な攻撃ネットワークであるQueryNetを開発した。
- 参考スコア(独自算出の注目度): 16.901240544106948
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Neural Networks (DNNs) are acknowledged as vulnerable to adversarial
attacks, while the existing black-box attacks require extensive queries on the
victim DNN to achieve high success rates. For query-efficiency, surrogate
models of the victim are adopted as transferable attackers in consideration of
their Gradient Similarity (GS), i.e., surrogates' attack gradients are similar
to the victim's ones to some extent. However, it is generally neglected to
exploit their similarity on outputs, namely the Prediction Similarity (PS), to
filter out inefficient queries. To jointly utilize and also optimize
surrogates' GS and PS, we develop QueryNet, an efficient attack network that
can significantly reduce queries. QueryNet crafts several transferable
Adversarial Examples (AEs) by surrogates, and then decides also by surrogates
on the most promising AE, which is then sent to query the victim. That is to
say, in QueryNet, surrogates are not only exploited as transferable attackers,
but also as transferability evaluators for AEs. The AEs are generated using
surrogates' GS and evaluated based on their FS, and therefore, the query
results could be back-propagated to optimize surrogates' parameters and also
their architectures, enhancing both the GS and the FS. QueryNet has significant
query-efficiency, i.e., reduces queries by averagely about an order of
magnitude compared to recent SOTA methods according to our comprehensive and
real-world experiments: 11 victims (including 2 commercial models) on
MNIST/CIFAR10/ImageNet, allowing only 8-bit image queries, and no access to the
victim's training data.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)は敵の攻撃に対して脆弱であると認識されている一方、既存のブラックボックス攻撃では、高い成功率を達成するために、被害者のDNNに対して広範囲なクエリを必要とする。
クエリ効率の面では、被害者の代理モデルがグラディエント類似性(GS)を考慮して転送可能な攻撃者として採用される。
しかしながら、その類似性、すなわち予測類似性(PS)を利用して非効率なクエリをフィルタリングすることは一般的に無視されている。
surrogateのgsとpsを共同で利用し最適化するために、クエリを大幅に削減できる効率的な攻撃ネットワークであるquerynetを開発した。
QueryNetは、サロゲートによっていくつかの転送可能なAdversarial Examples(AE)を作成し、次に最も有望なAEをサロゲートすることで決定する。
つまり、QueryNetでは、サロゲートは転送可能なアタッカーだけでなく、AEの転送可能性評価器としても利用される。
AEはSurrogatesのGSを使用して生成され、FSに基づいて評価されるため、クエリ結果はSurrogatesのパラメータとアーキテクチャを最適化するためにバックプロパゲーションされ、GSとFSの両方が強化される。
QueryNetは、MNIST/CIFAR10/ImageNet上の11人の犠牲者(2つの商用モデルを含む)が8ビットの画像クエリしか利用できず、被害者のトレーニングデータへのアクセスもできない。
関連論文リスト
- DTA: Distribution Transform-based Attack for Query-Limited Scenario [11.874670564015789]
敵の例を生成する際、従来のブラックボックス攻撃法は攻撃対象モデルからの十分なフィードバックに依存している。
本稿では,攻撃された動作が限られた数のクエリを実行可能であることをシミュレートするハードラベル攻撃を提案する。
提案したアイデアの有効性とDTAの最先端性を検証する実験を行った。
論文 参考訳(メタデータ) (2023-12-12T13:21:03Z) - Towards Evaluating Transfer-based Attacks Systematically, Practically,
and Fairly [79.07074710460012]
ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。
ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。
30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
論文 参考訳(メタデータ) (2023-11-02T15:35:58Z) - Boosting Black-box Attack to Deep Neural Networks with Conditional
Diffusion Models [29.76809637878069]
既存のブラックボックス攻撃は、ディープラーニングモデルを欺く敵の例(AE)を作成する有望な可能性を示している。
本稿では,新しいブラックボックス攻撃戦略である条件拡散モデル攻撃(CDMA)を提案する。
CDMAはクエリ数をほんの数回に減らすことができるが、ほとんどの場合、クエリカウントはONEのみである。
論文 参考訳(メタデータ) (2023-10-11T13:39:11Z) - Query Efficient Cross-Dataset Transferable Black-Box Attack on Action
Recognition [99.29804193431823]
ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。
本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。
提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
論文 参考訳(メタデータ) (2022-11-23T17:47:49Z) - Gradient Aligned Attacks via a Few Queries [18.880398046794138]
ブラックボックスクエリアタックは、少数のクエリのみを許可する新しいシナリオにおいて、パフォーマンスが低いことを示している。
本研究では, 被害モデルに対する攻撃性能を改善するために, 勾配アライメント・アライメント・アライメント・アタック(GAA)を提案する。
提案した勾配整列攻撃と損失は,ブラックボックスクエリアタックの攻撃性能とクエリ効率を大幅に改善したことを示す。
論文 参考訳(メタデータ) (2022-05-19T12:32:20Z) - Transfer Attacks Revisited: A Large-Scale Empirical Study in Real
Computer Vision Settings [64.37621685052571]
我々は,主要なクラウドベースのMLプラットフォームに対する転送攻撃について,最初の系統的実証的研究を行った。
この研究は、既存のものと矛盾しない多くの興味深い発見につながっている。
この作業は、一般的なMLプラットフォームの脆弱性に光を当て、いくつかの有望な研究方向を指し示している、と私たちは信じています。
論文 参考訳(メタデータ) (2022-04-07T12:16:24Z) - Attacking deep networks with surrogate-based adversarial black-box
methods is easy [7.804269142923776]
ブラックボックスの敵攻撃に関する最近の研究は、サロゲートモデルからの転送の使用を復活させた。
そこで本研究では,検索によって最先端の結果を得る,簡潔で簡潔なアルゴリズムを提案する。
このアルゴリズムの導く前提は、研究対象のネットワークが、類似した関数を学習する基本的な意味で存在するということである。
論文 参考訳(メタデータ) (2022-03-16T16:17:18Z) - Discriminator-Free Generative Adversarial Attack [87.71852388383242]
生成的ベースの敵攻撃は、この制限を取り除くことができる。
ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。
SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
論文 参考訳(メタデータ) (2021-07-20T01:55:21Z) - Going Far Boosts Attack Transferability, but Do Not Do It [16.901240544106948]
7つの最適化アルゴリズム,4つのサロゲート,9つのブラックボックスモデルに関する包括的実験により,攻撃伝達性に対する最適化の影響を検討した。
最適化アルゴリズムからのAEsの様々な転送性は、元のサンプルから得られたRoot Mean Square Error(RMSE)と強く関係している。
LARAは転送可能性を大幅に20%改善するが、DNNの脆弱性を利用するには不十分である。
論文 参考訳(メタデータ) (2021-02-20T13:19:31Z) - Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。
NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
論文 参考訳(メタデータ) (2020-09-24T06:22:56Z) - Boosting Black-Box Attack with Partially Transferred Conditional
Adversarial Distribution [83.02632136860976]
深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究
我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。
ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
論文 参考訳(メタデータ) (2020-06-15T16:45:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。