Fugu-MT 論文翻訳(概要): Adversarially Robust Classification by Conditional Generative Model Inversion

論文の概要: Adversarially Robust Classification by Conditional Generative Model Inversion

arxiv url: http://arxiv.org/abs/2201.04733v1
Date: Wed, 12 Jan 2022 23:11:16 GMT
ステータス: 処理完了
システム内更新日: 2022-01-14 14:07:11.061972
Title: Adversarially Robust Classification by Conditional Generative Model Inversion
Title（参考訳）: 条件付き生成モデルインバージョンによる逆ロバスト分類
Authors: Mitra Alirezaei, Tolga Tasdizen
Abstract要約: 本稿では,攻撃の事前知識を仮定することなく,勾配を難読化せず,構造的に堅牢な分類モデルを提案する。提案手法は,未成熟な自然画像に基づいて訓練された条件生成器を「反転」する最適化問題である。我々のモデルはブラックボックス攻撃に対して非常に堅牢であり、ホワイトボックス攻撃に対するロバスト性を改善したことを実証する。
参考スコア（独自算出の注目度）: 4.913248451323163
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Most adversarial attack defense methods rely on obfuscating gradients. These methods are successful in defending against gradient-based attacks; however, they are easily circumvented by attacks which either do not use the gradient or by attacks which approximate and use the corrected gradient. Defenses that do not obfuscate gradients such as adversarial training exist, but these approaches generally make assumptions about the attack such as its magnitude. We propose a classification model that does not obfuscate gradients and is robust by construction without assuming prior knowledge about the attack. Our method casts classification as an optimization problem where we "invert" a conditional generator trained on unperturbed, natural images to find the class that generates the closest sample to the query image. We hypothesize that a potential source of brittleness against adversarial attacks is the high-to-low-dimensional nature of feed-forward classifiers which allows an adversary to find small perturbations in the input space that lead to large changes in the output space. On the other hand, a generative model is typically a low-to-high-dimensional mapping. While the method is related to Defense-GAN, the use of a conditional generative model and inversion in our model instead of the feed-forward classifier is a critical difference. Unlike Defense-GAN, which was shown to generate obfuscated gradients that are easily circumvented, we show that our method does not obfuscate gradients. We demonstrate that our model is extremely robust against black-box attacks and has improved robustness against white-box attacks compared to naturally trained, feed-forward classifiers.
Abstract（参考訳）: ほとんどの敵の攻撃防御方法は難解な勾配に依存している。これらの方法は勾配に基づく攻撃に対する防御に成功しているが、勾配を使わない攻撃や修正した勾配を近似して使用する攻撃によって容易に回避できる。敵の訓練のような勾配を遠ざけない防御は存在するが、これらのアプローチは一般的にその大きさのような攻撃を想定している。本稿では,攻撃の事前知識を仮定することなく,勾配を曖昧にせず,構造的に堅牢な分類モデルを提案する。提案手法では,非摂動型自然画像に訓練された条件付きジェネレータを「反転」し,クエリ画像に最も近いサンプルを生成するクラスを探索する最適化問題として分類を行う。敵の攻撃に対する脆さの潜在的源はフィードフォワード分類器の高次元から低次元の性質であり、敵は入力空間の小さな摂動を発見でき、出力空間に大きな変化をもたらすと仮定する。一方、生成モデルは典型的には低次元から高次元の写像である。本手法はDefense-GANと関係があるが,フィードフォワード分類器の代わりに条件付き生成モデルとモデル内の逆変換を用いることは重要な違いである。難解な勾配を生成することが示されるDefense-GANとは異なり,本手法は勾配を難読化しない。我々は,本モデルがブラックボックス攻撃に対して極めて堅牢であることを示し,自然に訓練されたフィードフォワード分類器と比較して,ホワイトボックス攻撃に対するロバスト性を改善した。

関連論文リスト

Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
論文参考訳（メタデータ） (2023-10-25T03:30:42Z)
Learning to Invert: Simple Adaptive Attacks for Gradient Inversion in Federated Learning [31.374376311614675]
グラディエント・インバージョン・アタックは、フェデレート学習におけるモデル勾配からのトレーニングサンプルの回復を可能にする。既存の防御は、単純な適応攻撃によって破壊される可能性があることを示す。
論文参考訳（メタデータ） (2022-10-19T20:41:30Z)
Gradient Obfuscation Checklist Test Gives a False Sense of Security [85.8719866710494]
このような防御の堅牢性の主な源は、しばしば勾配の難読化によるものであり、誤ったセキュリティの感覚を与えている。 5つの特徴が同定され, 強靭性の改善は, 主に勾配難読化によって引き起こされる。この5つの特徴を十分なテストとして利用し、勾配難読化がロバスト性の主要な源であるかどうかを判断する傾向が強まっている。
論文参考訳（メタデータ） (2022-06-03T17:27:10Z)
Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based Prior [50.393092185611536]
対象モデルの勾配にアクセスできることなく、敵が敵の例を作らなければならないブラックボックスの敵設定を考える。従来の手法では、代用ホワイトボックスモデルの転送勾配を用いたり、モデルクエリのフィードバックに基づいて真の勾配を近似しようとした。偏りサンプリングと勾配平均化に基づく2つの事前誘導型ランダム勾配フリー(PRGF)アルゴリズムを提案する。
論文参考訳（メタデータ） (2022-03-13T04:06:27Z)
RamBoAttack: A Robust Query Efficient Deep Neural Network Decision Exploit [9.93052896330371]
本研究では,局所的な最小値の侵入を回避し,ノイズ勾配からのミスダイレクトを回避できる,堅牢なクエリ効率の高い攻撃法を開発した。 RamBoAttackは、敵クラスとターゲットクラスで利用可能な異なるサンプルインプットに対して、より堅牢である。
論文参考訳（メタデータ） (2021-12-10T01:25:24Z)
Improving the Transferability of Adversarial Examples with New Iteration Framework and Input Dropout [8.24029748310858]
本稿では,反復ステップサイズ,摂動数,最大イテレーションの関係を再定義する,新たな勾配反復フレームワークを提案する。本枠組みでは,DI-TI-MIMの攻撃成功率を容易に向上させる。さらに,入力ドロップアウトに基づく勾配反復攻撃手法を提案する。
論文参考訳（メタデータ） (2021-06-03T06:36:38Z)
Transferable Sparse Adversarial Attack [62.134905824604104]
オーバーフィッティング問題を緩和するジェネレータアーキテクチャを導入し、転送可能なスパース対逆例を効率的に作成する。提案手法は,他の最適化手法よりも700$times$高速な推論速度を実現する。
論文参考訳（メタデータ） (2021-05-31T06:44:58Z)
Staircase Sign Method for Boosting Adversarial Attacks [123.19227129979943]
トランスファーベースの攻撃の敵の例を作るのは難しいし、研究のホットスポットだ。そこで本研究では,この問題を緩和するための新しい階段サイン法(S$2$M)を提案する。我々の手法は一般に転送ベースの攻撃と統合することができ、計算オーバーヘッドは無視できる。
論文参考訳（メタデータ） (2021-04-20T02:31:55Z)
Gradient-based Adversarial Attacks against Text Transformers [96.73493433809419]
トランスモデルに対する初の汎用勾配攻撃を提案する。我々は、ホワイトボックス攻撃が様々な自然言語タスクにおいて最先端の攻撃性能を達成することを実証的に実証する。
論文参考訳（メタデータ） (2021-04-15T17:43:43Z)
Adversarial example generation with AdaBelief Optimizer and Crop Invariance [8.404340557720436]
敵攻撃は、安全クリティカルなアプリケーションにおいて堅牢なモデルを評価し、選択するための重要な方法である。本稿では,AdaBelief Iterative Fast Gradient Method (ABI-FGM)とCrop-Invariant attack Method (CIM)を提案する。我々の手法は、最先端の勾配に基づく攻撃法よりも成功率が高い。
論文参考訳（メタデータ） (2021-02-07T06:00:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。