Fugu-MT 論文翻訳(概要): PredCoin: Defense against Query-based Hard-label Attack

論文の概要: PredCoin: Defense against Query-based Hard-label Attack

arxiv url: http://arxiv.org/abs/2102.02923v1
Date: Thu, 4 Feb 2021 22:47:05 GMT
ステータス: 処理完了
システム内更新日: 2021-02-08 22:49:22.803216
Title: PredCoin: Defense against Query-based Hard-label Attack
Title（参考訳）: PredCoin:クエリベースのハードラベル攻撃に対する防御
Authors: Junfeng Guo, Yaswanth Yadlapalli, Thiele Lothar, Ang Li, and Cong Liu
Abstract要約: 新しいクエリベースのハードラベル(QBHL)ブラックボックス攻撃は、現実世界のアプリケーションに重大な脅威をもたらす。本稿では,QBHL攻撃に対する堅牢性を実現するための実用的で汎用的な方法であるPredCoinを提案し,評価する。
参考スコア（独自算出の注目度）: 17.60097877211377
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Many adversarial attacks and defenses have recently been proposed for Deep Neural Networks (DNNs). While most of them are in the white-box setting, which is impractical, a new class of query-based hard-label (QBHL) black-box attacks pose a significant threat to real-world applications (e.g., Google Cloud, Tencent API). Till now, there has been no generalizable and practical approach proposed to defend against such attacks. This paper proposes and evaluates PredCoin, a practical and generalizable method for providing robustness against QBHL attacks. PredCoin poisons the gradient estimation step, an essential component of most QBHL attacks. PredCoin successfully identifies gradient estimation queries crafted by an attacker and introduces uncertainty to the output. Extensive experiments show that PredCoin successfully defends against four state-of-the-art QBHL attacks across various settings and tasks while preserving the target model's overall accuracy. PredCoin is also shown to be robust and effective against several defense-aware attacks, which may have full knowledge regarding the internal mechanisms of PredCoin.
Abstract（参考訳）: 近年、Deep Neural Networks (DNN) では多くの敵対攻撃や防御が提案されている。その多くは非現実的なホワイトボックス設定にあるが、新しいクエリベースのハードラベル(QBHL)のブラックボックス攻撃は、現実世界のアプリケーション(Google Cloud、Tencent APIなど)に重大な脅威をもたらす。今のところ、このような攻撃から守るための汎用的で実践的なアプローチは提案されていない。本稿では,QBHL攻撃に対する堅牢性を実現するための実用的で汎用的な方法であるPredCoinを提案し,評価する。 PredCoinは、ほとんどのQBHL攻撃の必須成分である勾配推定ステップを毒する。 PredCoinは攻撃者が作成した勾配推定クエリをうまく識別し、出力に不確実性を導入する。大規模な実験によると、PredCoinはターゲットモデルの全体的な精度を保ちながら、さまざまな設定やタスクにわたる4つの最先端QBHL攻撃に対して成功している。 PredCoinはまた、PredCoinの内部メカニズムに関する完全な知識を持っているかもしれないいくつかの防衛認識攻撃に対して堅牢かつ効果的であることが示されています。

関連論文リスト

BruSLeAttack: A Query-Efficient Score-Based Black-Box Sparse Adversarial Attack [22.408968332454062]
モデルクエリに対するスコアベースの応答を単純に観察することで、スパース対逆サンプルを生成するという、独特であまりよく理解されていない問題について検討する。この問題に対するBruSLeAttackアルゴリズムを開発した。私たちの作業は、モデル脆弱性の迅速な評価を促進し、デプロイされたシステムの安全性、セキュリティ、信頼性に対する警戒を高めます。
論文参考訳（メタデータ） (2024-04-08T08:59:26Z)
Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
論文参考訳（メタデータ） (2024-04-04T10:10:38Z)
PuriDefense: Randomized Local Implicit Adversarial Purification for Defending Black-box Query-based Attacks [15.842917276255141]
ブラックボックスクエリベースの攻撃は機械学習・アズ・ア・サービス(ML)システムに脅威を与える。低レベルの推論コストで軽量な浄化モデルのアンサンブルでランダムなパッチワイズ処理を施した効率的な防御機構であるPuriDefenseを提案する。我々の理論的分析は、ランダム性を浄化に組み込むことで、クエリベースの攻撃の収束を遅くすることを示唆している。
論文参考訳（メタデータ） (2024-01-19T09:54:23Z)
Certifiable Black-Box Attacks with Randomized Adversarial Examples: Breaking Defenses with Provable Confidence [34.35162562625252]
ブラックボックスの敵攻撃は、機械学習モデルを妥協する強力な可能性を示している。証明可能な保証付きブラックボックス攻撃の新たなパラダイムについて検討する。この新しいブラックボックス攻撃は、機械学習モデルの重大な脆弱性を露呈する。
論文参考訳（メタデータ） (2023-04-10T01:12:09Z)
Theoretical Study of Random Noise Defense against Query-Based Black-Box Attacks [72.8152874114382]
本研究では、クエリベースのブラックボックス攻撃に対するランダムノイズ防御(RND)と呼ばれる単純だが有望な防御手法を検討する。軽量で、既製のモデルやその他の防衛戦略と直接組み合わせることができます。本研究では,クエリベースのブラックボックス攻撃に対する rnd の防御効果と対応する適応攻撃がマグニチュード比に大きく依存することを示すための理論的解析を行った。
論文参考訳（メタデータ） (2021-04-23T08:39:41Z)
Small Input Noise is Enough to Defend Against Query-based Black-box Attacks [23.712389625037442]
本稿では,クエリベースのブラックボックス攻撃に対して,ノイズ防御がいかに小さいかを示す。小さな追加入力ノイズでも、ほとんどのクエリベースの攻撃を中和できます。強力な防御能力を持つSNDは、元のクリーンな精度と計算速度をほぼ維持します。
論文参考訳（メタデータ） (2021-01-13T01:45:59Z)
Improving Query Efficiency of Black-box Adversarial Attack [75.71530208862319]
ニューラルプロセスに基づくブラックボックス対逆攻撃(NP-Attack)を提案する。 NP-Attackはブラックボックス設定でクエリ数を大幅に削減できる。
論文参考訳（メタデータ） (2020-09-24T06:22:56Z)
QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
論文参考訳（メタデータ） (2020-05-28T16:41:12Z)
Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
論文参考訳（メタデータ） (2020-05-11T05:57:15Z)
Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks [65.20660287833537]
本稿では,最適段差の大きさと目的関数の問題による障害を克服するPGD攻撃の2つの拡張を提案する。そして、我々の新しい攻撃と2つの補完的な既存の攻撃を組み合わせることで、パラメータフリーで、計算に手頃な価格で、ユーザに依存しない攻撃のアンサンブルを形成し、敵の堅牢性をテストする。
論文参考訳（メタデータ） (2020-03-03T18:15:55Z)
Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural Gradient Descent [92.4348499398224]
ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。 ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
論文参考訳（メタデータ） (2020-02-18T21:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。