論文の概要: Nonlinear Projection Based Gradient Estimation for Query Efficient Blackbox Attacks

• arxiv url: http://arxiv.org/abs/2102.13184v1
• Date: Thu, 25 Feb 2021 21:32:19 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-01 14:00:23.428469
• Title: Nonlinear Projection Based Gradient Estimation for Query Efficient Blackbox Attacks
• Title（参考訳）: 非線形射影に基づくクエリ効率の良いブラックボックス攻撃の勾配推定
• Authors: Huichen Li and Linyi Li and Xiaojun Xu and Xiaolu Zhang and Shuang Yang and Bo Li
• Abstract要約: 勾配推定とベクトル空間投影とのギャップを橋渡し, 投影された低次元空間に基づいて勾配を効率的に推定する方法を検討する。 理論解析に基づいて,新しいクエリ効率のグラディエントプロジェクションに基づく境界ブラックボックス攻撃を提案する。 予測に基づく境界ブラックボックス攻撃は、効率的なクエリに基づいて100%攻撃成功率で、はるかに小さな摂動を実現できることを示す。
• 参考スコア（独自算出の注目度）: 21.718029193267526
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Gradient estimation and vector space projection have been studied as two distinct topics. We aim to bridge the gap between the two by investigating how to efficiently estimate gradient based on a projected low-dimensional space. We first provide lower and upper bounds for gradient estimation under both linear and nonlinear projections, and outline checkable sufficient conditions under which one is better than the other. Moreover, we analyze the query complexity for the projection-based gradient estimation and present a sufficient condition for query-efficient estimators. Built upon our theoretic analysis, we propose a novel query-efficient Nonlinear Gradient Projection-based Boundary Blackbox Attack (NonLinear-BA). We conduct extensive experiments on four image datasets: ImageNet, CelebA, CIFAR-10, and MNIST, and show the superiority of the proposed methods compared with the state-of-the-art baselines. In particular, we show that the projection-based boundary blackbox attacks are able to achieve much smaller magnitude of perturbations with 100% attack success rate based on efficient queries. Both linear and nonlinear projections demonstrate their advantages under different conditions. We also evaluate NonLinear-BA against the commercial online API MEGVII Face++, and demonstrate the high blackbox attack performance both quantitatively and qualitatively. The code is publicly available at https://github.com/AI-secure/NonLinear-BA.
• Abstract（参考訳）: 勾配推定とベクトル空間投影は2つの異なるトピックとして研究されている。 投影された低次元空間に基づいて効率よく勾配を推定する方法を検討することにより,両者のギャップを埋めることを目指している。 まず,線形と非線形の両方の投影下での勾配推定のための下界と上界を示し,一方が他方より優れている条件をアウトラインチェック可能とする。 さらに,プロジェクションに基づく勾配推定におけるクエリの複雑さを分析し,クエリ効率評価に十分な条件を示す。 理論解析に基づいて,非線形勾配投影に基づく境界ブラックボックス攻撃(NonLinear-BA)を提案する。 本研究では,imagenet,celeba,cifar-10,mnistの4つの画像データセットについて広範な実験を行い,提案手法が最先端のベースラインと比較して優れていることを示す。 特に,プロジェクションに基づく境界ブラックボックス攻撃は,効率的なクエリに基づいて100%攻撃成功率で,はるかに小さな摂動を実現できることを示す。 線型射影も非線形射影も異なる条件下でその利点を示す。 また、商用オンラインAPIMEGVII Face++に対してNonLinear-BAを評価し、ブラックボックス攻撃性能を定量的かつ定性的に示す。 コードはhttps://github.com/AI-secure/NonLinear-BAで公開されている。

関連論文リスト

• Visual Prompt Tuning in Null Space for Continual Learning [51.96411454304625]
  既存のプロンプトチューニング手法は、継続学習(CL)における印象的な性能を示す。 本稿では,従来のタスクの特徴に代表される部分空間に直交する方向のプロンプトを調整し,各タスクを学習することを目的とする。 実際には、即時勾配予測を実装するために、実効的なヌル空間に基づく近似解が提案されている。
  論文  参考訳（メタデータ） (2024-06-09T05:57:40Z)
• Vanishing Point Estimation in Uncalibrated Images with Prior Gravity Direction [82.72686460985297]
  我々はマンハッタンのフレームを推定する問題に取り組む。 2つの新しい2行解法が導出され、そのうちの1つは既存の解法に影響を与える特異点に悩まされない。 また、局所最適化の性能を高めるために、任意の行で実行される新しい最小でないメソッドを設計する。
  論文  参考訳（メタデータ） (2023-08-21T13:03:25Z)
• CGBA: Curvature-aware Geometric Black-box Attack [39.63633212337113]
  決定に基づくブラックボックス攻撃は、敵の例を作るのに大量のクエリを必要とすることが多い。 我々は新しいクエリ効率の曲率を考慮した幾何的決定に基づくブラックボックスアタック(CGBA)を提案する。 ターゲット攻撃に適応したクエリ効率の高い新しい変種であるCGBA-Hを開発した。
  論文  参考訳（メタデータ） (2023-08-06T17:18:04Z)
• Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based Prior [50.393092185611536]
  対象モデルの勾配にアクセスできることなく、敵が敵の例を作らなければならないブラックボックスの敵設定を考える。 従来の手法では、代用ホワイトボックスモデルの転送勾配を用いたり、モデルクエリのフィードバックに基づいて真の勾配を近似しようとした。 偏りサンプリングと勾配平均化に基づく2つの事前誘導型ランダム勾配フリー(PRGF)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-13T04:06:27Z)
• Progressive-Scale Boundary Blackbox Attack via Projective Gradient Estimation [26.16745376395128]
  境界ベースのブラックボックス攻撃は、攻撃者が最終的なモデル予測にのみアクセスする必要があるため、実用的で効果的であると認識されている。 このような効率性は、攻撃が適用される規模に大きく依存し、最適なスケールでの攻撃は効率を著しく向上させることを示す。 本稿では,プログレッシブスケール対応型プログレッシブ・スケール・プロジェクティブ・バウンダリ・アタック(PSBA)を提案する。
  論文  参考訳（メタデータ） (2021-06-10T21:13:41Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• Self-Concordant Analysis of Generalized Linear Bandits with Forgetting [2.282313031205821]
  ポアソンウィンドウや指数重みを用いた自己調和型GLB(ロジスティック回帰を含む)に焦点を当てる。 本稿では,GLB(Generalized Bandits)問題に対処するためのアプローチを提案する。
  論文  参考訳（メタデータ） (2020-11-02T08:36:39Z)
• Large-Scale Methods for Distributionally Robust Optimization [53.98643772533416]
  我々のアルゴリズムは、トレーニングセットのサイズとパラメータの数によらず、多くの評価勾配を必要とすることを証明している。 MNIST と ImageNet の実験により,本手法の 9-36 倍の効率性を持つアルゴリズムの理論的スケーリングが確認された。
  論文  参考訳（メタデータ） (2020-10-12T17:41:44Z)
• QEBA: Query-Efficient Boundary-Based Blackbox Attack [27.740081902519517]
  モデルの最終予測ラベルのみに基づいて,クエリ効率の良い境界ベースのブラックボックスアタック(QEBA)を提案する。 現状のブラックボックス攻撃と比較して、QEBAは、100%攻撃成功率の低い摂動量を達成するために、より少ないクエリを使用できることを示す。
  論文  参考訳（メタデータ） (2020-05-28T16:41:12Z)
• Projection & Probability-Driven Black-Box Attack [205.9923346080908]
  既存のブラックボックス攻撃は、高次元空間における過剰なクエリを必要とする。 本稿では,この問題を解決するために,プロジェクション&確率駆動型ブラックボックス攻撃(PPBA)を提案する。 我々の手法は、最先端の手法に比べて攻撃成功率の高いクエリを少なくとも24%削減する必要がある。
  論文  参考訳（メタデータ） (2020-05-08T03:37:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。