Fugu-MT 論文翻訳(概要): Evaluation of Four Black-box Adversarial Attacks and Some Query-efficient Improvement Analysis

論文の概要: Evaluation of Four Black-box Adversarial Attacks and Some Query-efficient Improvement Analysis

arxiv url: http://arxiv.org/abs/2201.05001v1
Date: Thu, 13 Jan 2022 14:28:31 GMT
ステータス: 処理完了
システム内更新日: 2022-01-14 15:11:30.141772
Title: Evaluation of Four Black-box Adversarial Attacks and Some Query-efficient Improvement Analysis
Title（参考訳）: 4つのブラックボックス対応攻撃の評価とクエリ効率改善分析
Authors: Rui Wang
Abstract要約: 我々は、バンド、NES、スクエアアタック、ZOsignSGDの4つのブラックボックス攻撃アルゴリズムを分析した。また,新たに提案した正方形攻撃法について,クエリ効率の向上を期待して検討した。
参考スコア（独自算出の注目度）: 6.165854333338779
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: With the fast development of machine learning technologies, deep learning models have been deployed in almost every aspect of everyday life. However, the privacy and security of these models are threatened by adversarial attacks. Among which black-box attack is closer to reality, where limited knowledge can be acquired from the model. In this paper, we provided basic background knowledge about adversarial attack and analyzed four black-box attack algorithms: Bandits, NES, Square Attack and ZOsignSGD comprehensively. We also explored the newly proposed Square Attack method with respect to square size, hoping to improve its query efficiency.
Abstract（参考訳）: 機械学習技術の急速な発展に伴い、ディープラーニングモデルは日常生活のほぼあらゆる側面に展開されている。しかし、これらのモデルのプライバシーとセキュリティは敵の攻撃によって脅かされている。ブラックボックス攻撃は現実に近いもので、モデルから限られた知識を得ることができる。本稿では,敵の攻撃に関する基本的な背景知識を提供し,バンディット,nes,スクエアアタック,zosignsgdの4つのブラックボックスアタックアルゴリズムを包括的に解析した。また,新たに提案する正方形攻撃法を正方形サイズに対して検討し,クエリ効率の向上を期待した。

関連論文リスト

BB-Patch: BlackBox Adversarial Patch-Attack using Zeroth-Order Optimization [10.769992215544358]
敵の攻撃戦略は、敵が訓練データ、モデルパラメータ、配置中の入力にアクセスすることを前提としている。入力画像のどこにでも適用可能な敵パッチを生成するブラックボックスの敵攻撃戦略を提案する。
論文参考訳（メタデータ） (2024-05-09T18:42:26Z)
BruSLeAttack: A Query-Efficient Score-Based Black-Box Sparse Adversarial Attack [22.408968332454062]
モデルクエリに対するスコアベースの応答を単純に観察することで、スパース対逆サンプルを生成するという、独特であまりよく理解されていない問題について検討する。この問題に対するBruSLeAttackアルゴリズムを開発した。私たちの作業は、モデル脆弱性の迅速な評価を促進し、デプロイされたシステムの安全性、セキュリティ、信頼性に対する警戒を高めます。
論文参考訳（メタデータ） (2024-04-08T08:59:26Z)
Black-Box Targeted Reward Poisoning Attack Against Online Deep Reinforcement Learning [2.3526458707956643]
トレーニング期間中の報酬中毒によるオンライン深層学習に対する最初のブラックボックス攻撃を提案する。我々の攻撃は未知のアルゴリズムによって学習された未知のダイナミクスを持つ一般的な環境に適用できる。
論文参考訳（メタデータ） (2023-05-18T03:37:29Z)
ChatGPT as an Attack Tool: Stealthy Textual Backdoor Attack via Blackbox Generative Model Trigger [11.622811907571132]
テキストバックドア攻撃は既存のシステムに現実的な脅威をもたらす。 GPT-4のような最先端の生成モデルでは、リライトを異常なレベルに押し上げるため、そのような攻撃はより検出しにくくなっている。我々は、バックドア攻撃ツールとしてのブラックボックス生成モデルの役割を包括的に調査し、相対防衛戦略の研究の重要性を強調した。
論文参考訳（メタデータ） (2023-04-27T19:26:25Z)
Adversarial Attacks and Defenses in Machine Learning-Powered Networks: A Contemporary Survey [114.17568992164303]
機械学習とディープニューラルネットワークにおけるアドリアックと防御が注目されている。本調査は、敵攻撃・防衛技術分野における最近の進歩を包括的に概観する。検索ベース、意思決定ベース、ドロップベース、物理世界攻撃など、新たな攻撃方法も検討されている。
論文参考訳（メタデータ） (2023-03-11T04:19:31Z)
The Space of Adversarial Strategies [6.295859509997257]
機械学習モデルにおける最悪のケース動作を誘発するインプットである逆例は、過去10年間に広く研究されてきた。最悪の場合(すなわち最適な)敵を特徴づける体系的なアプローチを提案する。
論文参考訳（メタデータ） (2022-09-09T20:53:11Z)
Practical No-box Adversarial Attacks with Training-free Hybrid Image Transformation [123.33816363589506]
ノンボックス脅威モデルの下では, テキストbftraining-free adversarial perturbationの存在を示す。低レベルの特徴を持つ高周波成分 (HFC) ドメインは, 主に周波数成分の操作によって画像を攻撃する。我々の手法は、主流の転送ベースのブラックボックス攻撃と競合する。
論文参考訳（メタデータ） (2022-03-09T09:51:00Z)
Parallel Rectangle Flip Attack: A Query-based Black-box Attack against Object Detection [89.08832589750003]
本稿では,攻撃領域近傍の準最適検出を回避するために,ランダム探索による並列矩形フリップ攻撃(PRFA)を提案する。提案手法は, アンカーベースやアンカーフリーなど, 様々な人気物体検出装置を効果的かつ効率的に攻撃し, 転送可能な対向例を生成する。
論文参考訳（メタデータ） (2022-01-22T06:00:17Z)
Attack Agnostic Adversarial Defense via Visual Imperceptible Bound [70.72413095698961]
本研究の目的は、目視攻撃と目視攻撃の両方に対して一定の範囲内で堅牢な防衛モデルを設計することである。提案するディフェンスモデルは,MNIST,CIFAR-10,Tiny ImageNetデータベース上で評価される。提案アルゴリズムは攻撃非依存であり,攻撃アルゴリズムの知識を必要としない。
論文参考訳（メタデータ） (2020-10-25T23:14:26Z)
Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。様々な大規模モデルにおいて,本手法の有効性を検証する。
論文参考訳（メタデータ） (2020-06-26T08:29:05Z)
Spanning Attack: Reinforce Black-box Attacks with Unlabeled Data [96.92837098305898]
Black-box攻撃は、機械学習モデルのインプット・アウトプットペアをクエリすることで、敵の摂動を発生させることを目的としている。ブラックボックス攻撃はしばしば、入力空間の高次元性のためにクエリ非効率性の問題に悩まされる。本研究では,低次元部分空間における逆摂動を,補助的なラベルのないデータセットに分散させることで抑制するスパンニング攻撃と呼ばれる新しい手法を提案する。
論文参考訳（メタデータ） (2020-05-11T05:57:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。