論文の概要: Transferability Bound Theory: Exploring Relationship between Adversarial Transferability and Flatness

• arxiv url: http://arxiv.org/abs/2311.06423v3
• Date: Tue, 08 Oct 2024 08:34:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-10 14:29:58.850314
• Title: Transferability Bound Theory: Exploring Relationship between Adversarial Transferability and Flatness
• Title（参考訳）: 伝達可能性境界理論:対向移動可能性と平坦性の関係を探る
• Authors: Mingyuan Fan, Xiaodan Li, Cen Chen, Wenmeng Zhou, Yaliang Li,
• Abstract要約: 一般的な信念は、対向例の平坦度が高ければ高いほど、モデル間移動性が向上するということである。 そこで本研究では, クラフト逆数例に対する導出のサロゲートを最適化する, 理論的に予測可能な攻撃であるTPAを提案する。
• 参考スコア（独自算出の注目度）: 40.873711834682055
• License:
• Abstract: A prevailing belief in attack and defense community is that the higher flatness of adversarial examples enables their better cross-model transferability, leading to a growing interest in employing sharpness-aware minimization and its variants. However, the theoretical relationship between the transferability of adversarial examples and their flatness has not been well established, making the belief questionable. To bridge this gap, we embark on a theoretical investigation and, for the first time, derive a theoretical bound for the transferability of adversarial examples with few practical assumptions. Our analysis challenges this belief by demonstrating that the increased flatness of adversarial examples does not necessarily guarantee improved transferability. Moreover, building upon the theoretical analysis, we propose TPA, a Theoretically Provable Attack that optimizes a surrogate of the derived bound to craft adversarial examples. Extensive experiments across widely used benchmark datasets and various real-world applications show that TPA can craft more transferable adversarial examples compared to state-of-the-art baselines. We hope that these results can recalibrate preconceived impressions within the community and facilitate the development of stronger adversarial attack and defense mechanisms. The source codes are available in <https://github.com/fmy266/TPA>.
• Abstract（参考訳）: 攻撃と防衛のコミュニティに対する一般的な信念は、敵の例の平坦度が高くなれば、モデル間の移動性が向上し、シャープネスを意識した最小化とその変種の採用への関心が高まっているということである。 しかし、敵の例の移動可能性とその平坦性の間の理論的関係は十分に確立されておらず、その信念は疑問視されている。 このギャップを埋めるために、我々は理論的な調査を開始し、初めて、現実的な仮定をほとんど持たない敵の例の移動可能性に関する理論的境界を導出した。 本分析は, 対向例の平坦度の増加が伝達可能性の向上を必ずしも保証しないことを示すことによって, この信念に異議を唱えるものである。 さらに, 理論的解析に基づいて, TPAを提案する。 広く使用されているベンチマークデータセットやさまざまな実世界のアプリケーションに対する大規模な実験は、TPAが最先端のベースラインと比較して、より移行可能な逆の例を作成できることを示している。 これらの結果が、コミュニティ内の先入観を再認識し、より強力な敵攻撃・防衛機構の開発を促進することを期待する。 ソースコードは <https://github.com/fmy266/TPA> で公開されている。

関連論文リスト

• Understanding Model Ensemble in Transferable Adversarial Attack [14.942434125390074]
  まず、逆転送可能性の誤差を測定するために、転送可能性誤差を定義する。 次に、転送可能性エラーを脆弱性、多様性、定数に分解する。 本稿では,情報理論における最新の数学的ツールを用いて,複雑性と一般化項を用いて伝達可能性誤差を限定する。
  論文  参考訳（メタデータ） (2024-10-09T13:14:11Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Why Does Little Robustness Help? Understanding and Improving Adversarial Transferability from Surrogate Training [24.376314203167016]
  DNNの逆例(AE)は転送可能であることが示されている。 本稿では,敵対的伝達可能性の理解に向けてさらなる一歩を踏み出す。
  論文  参考訳（メタデータ） (2023-07-15T19:20:49Z)
• Towards Characterizing Domain Counterfactuals For Invertible Latent Causal Models [15.817239008727789]
  本研究では,異なるドメインで生成された場合,サンプルがどのようなものであったのかを仮定した,ドメイン反事実と呼ばれる特定のタイプの因果クエリを解析する。 本研究では, 潜在構造因果モデル (SCM) の回復は, ドメイン・デファクト・デファクトを推定するために不要であることを示す。 また、モデル生成過程を単純化し、生成モデル推定を行うための理論的基盤となる実用的なアルゴリズムも開発する。
  論文  参考訳（メタデータ） (2023-06-20T04:19:06Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• An Intermediate-level Attack Framework on The Basis of Linear Regression [89.85593878754571]
  本論文はECCVにおいて,いくつかのベースライン対向例の転送性を改善するため,中間レベルアタック(中間レベルアタック)を提案し,本研究を実質的に拡張するものである。 我々は,中間レベルの相違点(対角的特徴と良性的特徴)から,対角的例の分類的損失への直接的な線形写像の確立を提唱する。 1) 様々な線形回帰モデルがマッピングを確立するために考慮可能であること,2) 最終的に得られた中間レベル差の大きさが逆転率と線形に相関していること,3) ベースラインアタックを複数回実行することで,さらなる性能向上が達成できること,などが示される。
  論文  参考訳（メタデータ） (2022-03-21T03:54:53Z)
• TRS: Transferability Reduced Ensemble via Encouraging Gradient Diversity and Model Smoothness [14.342349428248887]
  逆転性(Adversarial Transferability)は、逆転性(adversarial)の例の興味深い特性である。 本稿では,モデル間の移動性に関する十分な条件を理論的に解析する。 本稿では,そのロバスト性を改善するために,アンサンブル内の転送性を低減するための実用的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-04-01T17:58:35Z)
• Generalization Properties of Optimal Transport GANs with Latent Distribution Learning [52.25145141639159]
  本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。 我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
  論文  参考訳（メタデータ） (2020-07-29T07:31:33Z)
• Adversarial Example Games [51.92698856933169]
  Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。 AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。 MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
  論文  参考訳（メタデータ） (2020-07-01T19:47:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。