論文の概要: Attacking deep networks with surrogate-based adversarial black-box methods is easy

• arxiv url: http://arxiv.org/abs/2203.08725v1
• Date: Wed, 16 Mar 2022 16:17:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-17 17:22:50.095098
• Title: Attacking deep networks with surrogate-based adversarial black-box methods is easy
• Title（参考訳）: surrogateベースの敵ブラックボックスメソッドでディープネットワークを攻撃するのは簡単
• Authors: Nicholas A. Lord, Romain Mueller, Luca Bertinetto
• Abstract要約: ブラックボックスの敵攻撃に関する最近の研究は、サロゲートモデルからの転送の使用を復活させた。 そこで本研究では,検索によって最先端の結果を得る,簡潔で簡潔なアルゴリズムを提案する。 このアルゴリズムの導く前提は、研究対象のネットワークが、類似した関数を学習する基本的な意味で存在するということである。
• 参考スコア（独自算出の注目度）: 7.804269142923776
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A recent line of work on black-box adversarial attacks has revived the use of transfer from surrogate models by integrating it into query-based search. However, we find that existing approaches of this type underperform their potential, and can be overly complicated besides. Here, we provide a short and simple algorithm which achieves state-of-the-art results through a search which uses the surrogate network's class-score gradients, with no need for other priors or heuristics. The guiding assumption of the algorithm is that the studied networks are in a fundamental sense learning similar functions, and that a transfer attack from one to the other should thus be fairly "easy". This assumption is validated by the extremely low query counts and failure rates achieved: e.g. an untargeted attack on a VGG-16 ImageNet network using a ResNet-152 as the surrogate yields a median query count of 6 at a success rate of 99.9%. Code is available at https://github.com/fiveai/GFCS.
• Abstract（参考訳）: ブラックボックス攻撃に関する最近の研究は、サロゲートモデルからの転送をクエリベースの検索に統合することで復活させた。 しかし、このタイプの既存のアプローチはポテンシャルを過小評価しており、その上複雑すぎる可能性がある。 本稿では,サーロゲートネットワークのクラススコア勾配を用いた検索により,先行処理やヒューリスティック処理を必要とせず,最先端の結果を得るための簡易なアルゴリズムを提案する。 このアルゴリズムの導く前提は、研究対象のネットワークが、類似した関数を学習する基本的な意味で、一方からもう一方への移動攻撃は、かなり「容易」であるべきだというものである。 例えば、サロゲートとしてResNet-152を使用したVGG-16イメージネットネットワークへの未ターゲティング攻撃は、99.9%の成功率で6の中央値のクエリ数が得られる。 コードはhttps://github.com/fiveai/GFCSで入手できる。

関連論文リスト

• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Using Graph Theory for Improving Machine Learning-based Detection of Cyber Attacks [4.465883551216819]
  ネットワーク侵入やサイバー脅威の早期発見は、サイバーセキュリティの主要な柱の1つだ。 この目的のための最も効果的なアプローチの1つは、人工知能アルゴリズムの助けを借りてネットワークトラフィックを分析することである。
  論文  参考訳（メタデータ） (2024-02-12T18:44:02Z)
• Microbial Genetic Algorithm-based Black-box Attack against Interpretable Deep Learning Systems [16.13790238416691]
  ホワイトボックス環境では、解釈可能なディープラーニングシステム(IDLS)が悪意のある操作に対して脆弱であることが示されている。 本稿では,IDLSに対するクエリ効率の高いScoreベースのブラックボックス攻撃QuScoreを提案する。
  論文  参考訳（メタデータ） (2023-07-13T00:08:52Z)
• Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
  ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。 本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。 提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
  論文  参考訳（メタデータ） (2022-11-23T17:47:49Z)
• A Large-scale Multiple-objective Method for Black-box Attack against Object Detection [70.00150794625053]
  我々は、真正の確率を最小化し、偽正の確率を最大化し、より多くの偽正の物体が新しい真正の有界箱を作らないようにする。 我々は、GARSDCと呼ばれるランダム・サブセット選択とディバイド・アンド・コンカーによる標準的な遺伝的アルゴリズムを拡張し、効率を大幅に改善する。 最先端攻撃法と比較して、GARSDCはmAPでは平均12.0、広範囲な実験ではクエリでは約1000倍減少する。
  論文  参考訳（メタデータ） (2022-09-16T08:36:42Z)
• Blackbox Attacks via Surrogate Ensemble Search [18.413568112132197]
  代理アンサンブルサーチ(BASES)によるブラックボックス攻撃の新しい手法を提案する。 提案手法は,最先端の手法と比較して,少なくとも30倍少ないクエリで良好な成功率が得られることを示す。 われわれの方法はGoogle Cloud Vision APIでも有効であり、画像当たり2.9クエリで91%の非ターゲット攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2022-08-07T01:24:11Z)
• Sparse and Imperceptible Adversarial Attack via a Homotopy Algorithm [93.80082636284922]
  少数の敵対的攻撃は、数ピクセルを摂動するだけでディープ・ネットワーク(DNN)を騙すことができる。 近年の取り組みは、他の等級のl_infty摂動と組み合わせている。 本稿では,空間的・神経的摂動に対処するホモトピーアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-10T20:11:36Z)
• Switching Transferable Gradient Directions for Query-Efficient Black-Box Adversarial Attacks [38.91061792696202]
  SWITCH という,単純でクエリ効率のよいブラックボックス攻撃を提案する。 SWITCHは、サロゲートモデルの勾配を非常に効率的かつ効果的に利用している。 CIFAR-10, CIFAR-100, TinyImageNetで行った実験の結果, SWITCHは良好な攻撃成功率を示した。
  論文  参考訳（メタデータ） (2020-09-15T15:55:08Z)
• ESPN: Extremely Sparse Pruned Networks [50.436905934791035]
  簡単な反復マスク探索法により,非常に深いネットワークの最先端の圧縮を実現することができることを示す。 本アルゴリズムは,シングルショット・ネットワーク・プルーニング法とロッテ・ティケット方式のハイブリッド・アプローチを示す。
  論文  参考訳（メタデータ） (2020-06-28T23:09:27Z)
• Targeted Attack for Deep Hashing based Retrieval [57.582221494035856]
  本研究では, ディープ・ハッシュ・ターゲット・アタック (DHTA) と呼ばれる新たな手法を提案し, 対象とする攻撃を探索する。 まず、対象の攻撃を点対セットの最適化として定式化し、敵のサンプルのハッシュコードと対象のラベルを持つ対象の集合の平均距離を最小化する。 性能と知覚性のバランスをとるために,摂動に対する$ellinfty$制限の下で,逆例のハッシュコードとアンカーコードとのハミング距離を最小化することを提案する。
  論文  参考訳（メタデータ） (2020-04-15T08:36:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。