論文の概要: Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2206.08575v1
• Date: Fri, 17 Jun 2022 06:11:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-20 15:12:13.345597
• Title: Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization
• Title（参考訳）: ベイズ最適化による離散逐次データに対するクエリ効率とスケーラブルなブラックボックス攻撃
• Authors: Deokjae Lee, Seungyong Moon, Junhyeok Lee, Hyun Oh Song
• Abstract要約: ブラックボックス設定における離散的な逐次データに基づくモデルに対する敵攻撃の問題に焦点をあてる。 我々はベイジアン最適化を用いたクエリ効率の良いブラックボックス攻撃を提案し、重要な位置を動的に計算する。 そこで我々は,摂動サイズを小さくした逆例を求めるポスト最適化アルゴリズムを開発した。
• 参考スコア（独自算出の注目度）: 10.246596695310176
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We focus on the problem of adversarial attacks against models on discrete sequential data in the black-box setting where the attacker aims to craft adversarial examples with limited query access to the victim model. Existing black-box attacks, mostly based on greedy algorithms, find adversarial examples using pre-computed key positions to perturb, which severely limits the search space and might result in suboptimal solutions. To this end, we propose a query-efficient black-box attack using Bayesian optimization, which dynamically computes important positions using an automatic relevance determination (ARD) categorical kernel. We introduce block decomposition and history subsampling techniques to improve the scalability of Bayesian optimization when an input sequence becomes long. Moreover, we develop a post-optimization algorithm that finds adversarial examples with smaller perturbation size. Experiments on natural language and protein classification tasks demonstrate that our method consistently achieves higher attack success rate with significant reduction in query count and modification rate compared to the previous state-of-the-art methods.
• Abstract（参考訳）: 我々は,攻撃者が被害者モデルへの限定的なクエリアクセスで敵の例を作成することを目的としたブラックボックス設定における,離散的なシーケンシャルデータに対するモデルに対する敵意攻撃の問題に焦点を当てる。 既存のブラックボックス攻撃は、主に欲求アルゴリズムに基づいており、事前計算された鍵位置を用いて摂動の逆例を見つけ、探索空間を著しく制限し、最適解をもたらす可能性がある。 この目的のために,ベイジアン最適化を用いたクエリ効率の良いブラックボックス攻撃を提案し,自動関係決定(ARD)分類カーネルを用いて重要な位置を動的に計算する。 入力シーケンスが長くなるとベイズ最適化のスケーラビリティを向上させるために,ブロック分解と履歴サブサンプリング手法を導入する。 さらに,摂動サイズの小さい逆例を求めるポスト最適化アルゴリズムを開発した。 自然言語およびタンパク質分類タスクの実験により,本手法は従来手法と比較してクエリ数や修正率を大幅に削減し,攻撃成功率を継続的に向上することを示した。

関連論文リスト

• Efficient Black-box Adversarial Attacks via Bayesian Optimization Guided by a Function Prior [36.101904669291436]
  本稿では,入力クエリの出力フィードバックのみを用いて,ブラックボックスモデルに対するサンプル生成を目的としたブラックボックス逆攻撃について検討する。 ブラックボックス攻撃前の大域関数として代理モデルを利用する事前誘導ベイズ最適化(P-BO)アルゴリズムを提案する。 後悔境界に関する理論的解析は、P-BOの性能が悪影響を受けていることを示唆している。
  論文  参考訳（メタデータ） (2024-05-29T14:05:16Z)
• STBA: Towards Evaluating the Robustness of DNNs for Query-Limited Black-box Scenario [50.37501379058119]
  本研究では,クエリ制限シナリオにおいて,悪意のある逆の例を作成するために,空間変換ブラックボックス攻撃(STBA)を提案する。 そこで本研究では,STBAが対向例の認識不能性を効果的に改善し,クエリ制限条件下での攻撃成功率を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-03-30T13:28:53Z)
• Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
  ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。 本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。 提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
  論文  参考訳（メタデータ） (2022-11-23T17:47:49Z)
• Defending Substitution-Based Profile Pollution Attacks on Sequential Recommenders [8.828396559882954]
  本稿では,ある脆弱な要素を選択し,それを逆数要素に置換することで,入力シーケンスを修飾する置換型逆数攻撃アルゴリズムを提案する。 また、ディリクレ近傍サンプリングと呼ばれる効率的な対角防御手法を設計する。 特に,選択した項目を1ホットエンコーディングで表現し,エンコーディングの勾配上昇を行い,トレーニング中の項目埋め込みの最悪の場合の線形結合を探索する。
  論文  参考訳（メタデータ） (2022-07-19T00:19:13Z)
• Proximal Splitting Adversarial Attacks for Semantic Segmentation [33.53113858999438]
  ホワイトボックス攻撃は、近位ラグランジアンノルムに基づく敵対的セグメンテーションモデルを騙すことができることを示す。 セグメンテーションに適応した分類攻撃と同様に,従来提案した攻撃よりも有意に優れていた。
  論文  参考訳（メタデータ） (2022-06-14T21:23:02Z)
• Automated Decision-based Adversarial Attacks [48.01183253407982]
  我々は、実用的で挑戦的な意思決定ベースのブラックボックスの敵意設定を考える。 この設定では、攻撃者はターゲットモデルに問い合わせるだけで最終分類ラベルを取得できる。 意思決定に基づく攻撃アルゴリズムを自動的に発見する。
  論文  参考訳（メタデータ） (2021-05-09T13:15:10Z)
• Practical Relative Order Attack in Deep Ranking [99.332629807873]
  ディープランキングシステム、すなわちオーダーアタックに対する新しい敵の攻撃を定式化します。 順序攻撃は、攻撃者が特定した順列に応じて、選択された候補群間の相対順序を暗黙的に変更する。 主要なeコマースプラットフォームでうまく実装されている。
  論文  参考訳（メタデータ） (2021-03-09T06:41:18Z)
• Local Black-box Adversarial Attacks: A Query Efficient Approach [64.98246858117476]
  アドリアックは、セキュリティに敏感なシナリオにおけるディープニューラルネットワークの適用を脅かしている。 ブラックボックス攻撃における限られたクエリ内でのみクリーンな例の識別領域を摂動させる新しいフレームワークを提案する。 攻撃成功率の高いブラックボックス摂動時のクエリ効率を大幅に改善できることを示すため,広範な実験を行った。
  論文  参考訳（メタデータ） (2021-01-04T15:32:16Z)
• A black-box adversarial attack for poisoning clustering [78.19784577498031]
  本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。 我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
  論文  参考訳（メタデータ） (2020-09-09T18:19:31Z)
• Projection & Probability-Driven Black-Box Attack [205.9923346080908]
  既存のブラックボックス攻撃は、高次元空間における過剰なクエリを必要とする。 本稿では,この問題を解決するために,プロジェクション&確率駆動型ブラックボックス攻撃(PPBA)を提案する。 我々の手法は、最先端の手法に比べて攻撃成功率の高いクエリを少なくとも24%削減する必要がある。
  論文  参考訳（メタデータ） (2020-05-08T03:37:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。