論文の概要: Flatness-aware Adversarial Attack
- arxiv url: http://arxiv.org/abs/2311.06423v1
- Date: Fri, 10 Nov 2023 23:10:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-14 18:48:55.808949
- Title: Flatness-aware Adversarial Attack
- Title（参考訳）: 平坦性を考慮した敵攻撃
- Authors: Mingyuan Fan, Xiaodan Li, Cen Chen, Yinggui Wang
- Abstract要約: 入力正規化に基づく手法は, 平面極端領域に偏って, 結果の逆例を生じさせることを示す。
そこで本研究では,フラットネス・アウェア・敵攻撃(FAA)と呼ばれる攻撃に対して,最適化対象に平坦ネス・アウェア・正規化項を明示的に付加する手法を提案する。
- 参考スコア（独自算出の注目度）: 24.182898385616184
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The transferability of adversarial examples can be exploited to launch
black-box attacks. However, adversarial examples often present poor
transferability. To alleviate this issue, by observing that the diversity of
inputs can boost transferability, input regularization based methods are
proposed, which craft adversarial examples by combining several transformed
inputs. We reveal that input regularization based methods make resultant
adversarial examples biased towards flat extreme regions. Inspired by this, we
propose an attack called flatness-aware adversarial attack (FAA) which
explicitly adds a flatness-aware regularization term in the optimization target
to promote the resultant adversarial examples towards flat extreme regions. The
flatness-aware regularization term involves gradients of samples around the
resultant adversarial examples but optimizing gradients requires the evaluation
of Hessian matrix in high-dimension spaces which generally is intractable. To
address the problem, we derive an approximate solution to circumvent the
construction of Hessian matrix, thereby making FAA practical and cheap.
Extensive experiments show the transferability of adversarial examples crafted
by FAA can be considerably boosted compared with state-of-the-art baselines.
- Abstract（参考訳）: 敵の例の転送可能性を利用してブラックボックス攻撃を起動することができる。
しかし、逆の例は、しばしばトランスファービリティが劣る。
この問題を緩和するために、入力の多様性が転送性を高めることを観察することにより、複数の変換入力を組み合わせることで逆行例を作成する入力正規化に基づく手法が提案されている。
入力正規化に基づく手法は,結果の逆例を平坦な極端領域に偏らせる。
そこで本研究では,フラットネス・アウェア・逆境攻撃(FAA)と呼ばれる攻撃を,最適化対象にフラットネス・アウェア・正則化項を明示的に付加し,その結果をフラット極端領域に向けて促進する手法を提案する。
平坦性対応正規化項は、結果の逆例の周りのサンプルの勾配を含むが、最適化勾配は一般に難解な高次元空間におけるヘッセン行列の評価を必要とする。
この問題に対処するため、ヘッセン行列の構築を回避し、FAAを実用的かつ安価にするための近似解を導出する。
広範な実験により、faaが作成した敵のサンプルの移動性は最先端のベースラインと比較して大幅に向上することが示された。
関連論文リスト
- Understanding Model Ensemble in Transferable Adversarial Attack [14.942434125390074]
まず、逆転送可能性の誤差を測定するために、転送可能性誤差を定義する。
次に、転送可能性エラーを脆弱性、多様性、定数に分解する。
本稿では,情報理論における最新の数学的ツールを用いて,複雑性と一般化項を用いて伝達可能性誤差を限定する。
論文 参考訳（メタデータ） (2024-10-09T13:14:11Z) - Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。
KL偏差正規化損失関数の最適化により重みを求める。
提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
論文 参考訳（メタデータ） (2023-08-01T06:16:18Z) - Why Does Little Robustness Help? Understanding and Improving Adversarial
Transferability from Surrogate Training [24.376314203167016]
DNNの逆例(AE)は転送可能であることが示されている。
本稿では,敵対的伝達可能性の理解に向けてさらなる一歩を踏み出す。
論文 参考訳（メタデータ） (2023-07-15T19:20:49Z) - Towards Characterizing Domain Counterfactuals For Invertible Latent Causal Models [15.817239008727789]
本研究では,異なるドメインで生成された場合,サンプルがどのようなものであったのかを仮定した,ドメイン反事実と呼ばれる特定のタイプの因果クエリを解析する。
本研究では, 潜在構造因果モデル (SCM) の回復は, ドメイン・デファクト・デファクトを推定するために不要であることを示す。
また、モデル生成過程を単純化し、生成モデル推定を行うための理論的基盤となる実用的なアルゴリズムも開発する。
論文 参考訳（メタデータ） (2023-06-20T04:19:06Z) - Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。
提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。
複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文 参考訳（メタデータ） (2023-06-09T08:30:51Z) - An Intermediate-level Attack Framework on The Basis of Linear Regression [89.85593878754571]
本論文はECCVにおいて,いくつかのベースライン対向例の転送性を改善するため,中間レベルアタック(中間レベルアタック)を提案し,本研究を実質的に拡張するものである。
我々は,中間レベルの相違点(対角的特徴と良性的特徴)から,対角的例の分類的損失への直接的な線形写像の確立を提唱する。
1) 様々な線形回帰モデルがマッピングを確立するために考慮可能であること,2) 最終的に得られた中間レベル差の大きさが逆転率と線形に相関していること,3) ベースラインアタックを複数回実行することで,さらなる性能向上が達成できること,などが示される。
論文 参考訳（メタデータ） (2022-03-21T03:54:53Z) - TRS: Transferability Reduced Ensemble via Encouraging Gradient Diversity
and Model Smoothness [14.342349428248887]
逆転性(Adversarial Transferability)は、逆転性(adversarial)の例の興味深い特性である。
本稿では,モデル間の移動性に関する十分な条件を理論的に解析する。
本稿では,そのロバスト性を改善するために,アンサンブル内の転送性を低減するための実用的なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-04-01T17:58:35Z) - Generalization Properties of Optimal Transport GANs with Latent
Distribution Learning [52.25145141639159]
本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。
我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
論文 参考訳（メタデータ） (2020-07-29T07:31:33Z) - Adversarial Example Games [51.92698856933169]
Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。
AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。
MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
論文 参考訳（メタデータ） (2020-07-01T19:47:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。