論文の概要: Distributed Black-box Attack: Do Not Overestimate Black-box Attacks

• arxiv url: http://arxiv.org/abs/2210.16371v5
• Date: Mon, 17 Mar 2025 09:22:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-19 07:14:39.171815
• Title: Distributed Black-box Attack: Do Not Overestimate Black-box Attacks
• Title（参考訳）: 分散ブラックボックス攻撃:ブラックボックス攻撃を過大評価しない
• Authors: Han Wu, Sareh Rowlands, Johan Wahlstrom,
• Abstract要約: ブラックボックスの敵攻撃は、モデル構造や重みにアクセスできることなく、画像分類モデルを騙すことができる。 最近の研究によると、攻撃の成功率は95%以上で、クエリは1000に満たない。 我々の研究は、ブラックボックス攻撃が研究論文で提案されているように、クラウドAPIに対して効果的ではないことを示唆している。
• 参考スコア（独自算出の注目度）: 4.764637544913963
• License:
• Abstract: As cloud computing becomes pervasive, deep learning models are deployed on cloud servers and then provided as APIs to end users. However, black-box adversarial attacks can fool image classification models without access to model structure and weights. Recent studies have reported attack success rates of over 95% with fewer than 1,000 queries. Then the question arises: whether black-box attacks have become a real threat against cloud APIs? To shed some light on this, our research indicates that black-box attacks are not as effective against cloud APIs as proposed in research papers due to several common mistakes that overestimate the efficiency of black-box attacks. To avoid similar mistakes, we conduct black-box attacks directly on cloud APIs rather than local models.
• Abstract（参考訳）: クラウドコンピューティングが普及するにつれて、ディープラーニングモデルはクラウドサーバにデプロイされ、エンドユーザのためのAPIとして提供される。 しかし、ブラックボックスの敵攻撃は、モデル構造や重みにアクセスできることなく、画像分類モデルを騙すことができる。 最近の研究によると、攻撃の成功率は95%以上で、クエリは1000に満たない。 ブラックボックス攻撃がクラウドAPIに対する真の脅威になったのか? ブラックボックス攻撃は、ブラックボックス攻撃の効率を過大評価するいくつかのよくある誤りのため、研究論文で提案されているように、クラウドAPIに対して効果的ではないことを示す。 同様のミスを避けるため、ローカルモデルではなく、クラウドAPI上でブラックボックスアタックを実行しています。

関連論文リスト

• Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
  ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。 証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。 この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
  論文  参考訳（メタデータ） (2023-04-10T01:12:09Z)
• Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
  ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。 本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。 提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
  論文  参考訳（メタデータ） (2022-11-23T17:47:49Z)
• Towards Lightweight Black-Box Attacks against Deep Neural Networks [70.9865892636123]
  ブラックボックス攻撃は、いくつかのテストサンプルしか利用できない実用的な攻撃を引き起こす可能性があると我々は主張する。 いくつかのサンプルが必要なので、これらの攻撃を軽量なブラックボックス攻撃と呼ぶ。 近似誤差を軽減するために,Error TransFormer (ETF) を提案する。
  論文  参考訳（メタデータ） (2022-09-29T14:43:03Z)
• Meta Gradient Adversarial Attack [64.5070788261061]
  本稿では,MGAA(Metaversa Gradient Adrial Attack)と呼ばれる新しいアーキテクチャを提案する。 具体的には、モデル動物園から複数のモデルをランダムにサンプリングし、異なるタスクを構成するとともに、各タスクにおけるホワイトボックス攻撃とブラックボックス攻撃を反復的にシミュレートする。 ブラックボックス攻撃における勾配方向とブラックボックス攻撃の差を狭めることにより、ブラックボックス設定における逆例の転送性を向上させることができる。
  論文  参考訳（メタデータ） (2021-08-09T17:44:19Z)
• Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
  ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
  論文  参考訳（メタデータ） (2020-09-24T06:22:56Z)
• Simple and Efficient Hard Label Black-box Adversarial Attacks in Low Query Budget Regimes [80.9350052404617]
  そこで我々は,ブラックボックス攻撃の簡易かつ効率的なベイズ最適化(BO)に基づく手法を提案する。 高次元におけるBOの性能に関する問題は、構造化された低次元部分空間における逆例を探すことによって回避される。 提案手法は,10倍から20倍のクエリを必要としながら,攻撃成功率を2倍から10倍に向上させる。
  論文  参考訳（メタデータ） (2020-07-13T04:34:57Z)
• Blacklight: Scalable Defense for Neural Networks against Query-Based Black-Box Attacks [34.04323550970413]
  我々は、クエリベースのブラックボックス攻撃に対する新たな防御であるブラックライトを提案する。 Blacklightはクエリベースのブラックボックス攻撃を検出する。 我々はBlacklightを8つの最先端攻撃に対して、様々なモデルと画像分類タスクで評価する。
  論文  参考訳（メタデータ） (2020-06-24T20:52:24Z)
• QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
  モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。 現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
  論文  参考訳（メタデータ） (2020-05-28T16:41:12Z)
• Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
  Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。 ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。 本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。