論文の概要: Universal Adversarial Directions

• arxiv url: http://arxiv.org/abs/2210.15997v1
• Date: Fri, 28 Oct 2022 09:03:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-31 15:04:20.899372
• Title: Universal Adversarial Directions
• Title（参考訳）: Universal Adversarial Directions (英語)
• Authors: Ching Lam Choi, Farzan Farnia
• Abstract要約: 深部ニューラルネットワーク(DNN)における普遍対向摂動(UAP)の伝達性について検討する。 本稿では, 対人摂動の普遍方向のみを固定し, 対人摂動の大きさをサンプル間で自由に選択できるユニバーサル対人方向(UAD)を提案する。 数値計算の結果,UADは標準勾配のUAPよりも高い転送性を示した。
• 参考スコア（独自算出の注目度）: 14.213973379473652
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Despite their great success in image recognition tasks, deep neural networks (DNNs) have been observed to be susceptible to universal adversarial perturbations (UAPs) which perturb all input samples with a single perturbation vector. However, UAPs often struggle in transferring across DNN architectures and lead to challenging optimization problems. In this work, we study the transferability of UAPs by analyzing equilibrium in the universal adversarial example game between the classifier and UAP adversary players. We show that under mild assumptions the universal adversarial example game lacks a pure Nash equilibrium, indicating UAPs' suboptimal transferability across DNN classifiers. To address this issue, we propose Universal Adversarial Directions (UADs) which only fix a universal direction for adversarial perturbations and allow the perturbations' magnitude to be chosen freely across samples. We prove that the UAD adversarial example game can possess a Nash equilibrium with a pure UAD strategy, implying the potential transferability of UADs. We also connect the UAD optimization problem to the well-known principal component analysis (PCA) and develop an efficient PCA-based algorithm for optimizing UADs. We evaluate UADs over multiple benchmark image datasets. Our numerical results show the superior transferability of UADs over standard gradient-based UAPs.
• Abstract（参考訳）: 画像認識タスクにおいて大きな成功を収めたにもかかわらず、ディープニューラルネットワーク(DNN)は、単一の摂動ベクトルで全ての入力サンプルを摂動する普遍的対向摂動(UAP)の影響を受けやすいことが観察されている。 しかし、UPAはDNNアーキテクチャ間の転送に苦労し、最適化の問題に挑戦する。 本研究では,UAP と分類器の共通対角ゲームにおける平衡を解析し,UAP の転送可能性について検討する。 軽微な仮定の下では、普遍対逆例ゲームは純粋なナッシュ均衡を欠き、DNN分類器間のUPAの準最適移動可能性を示す。 この問題に対処するため, 対人摂動の普遍方向のみを固定し, 対人摂動の大きさをサンプル間で自由に選択できるユニバーサル対人方向(UAD)を提案する。 我々は, UAD対逆例ゲームが純粋な UAD 戦略とナッシュ均衡を持つことを証明し, UAD の移動可能性を示す。 また, uad最適化問題をよく知られた主成分分析 (pca) と結びつけ, 効率的なuad最適化アルゴリズムを開発した。 複数のベンチマーク画像データセット上でUADを評価する。 数値計算の結果,UADは標準勾配のUAPよりも高い転送性を示した。

関連論文リスト

• Transferable Adversarial Attacks on SAM and Its Downstream Models [87.23908485521439]
  本稿では,セグメント・アプライス・モデル(SAM)から微調整した様々な下流モデルに対する敵攻撃の可能性について検討する。 未知のデータセットを微調整したモデルに対する敵攻撃の有効性を高めるために,ユニバーサルメタ初期化(UMI)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-26T15:04:04Z)
• Adversarial Example Soups: Improving Transferability and Stealthiness for Free [17.094999396412216]
  転送可能性の最大化のための従来のレシピは、最適化パイプラインで得られた全てのものから最適な逆例のみを保持することである。 AES-tune を用いて, 廃棄された逆数例を平均化するための「逆数例スープ」 (AES) を提案する。 AESは10の最先端の転送攻撃とそれらの組み合わせを最大13%増やし、10の多様な(防御的な)ターゲットモデルに対抗します。
  論文  参考訳（メタデータ） (2024-02-27T01:21:37Z)
• Robustness Against Adversarial Attacks via Learning Confined Adversarial Polytopes [0.0]
  ディープニューラルネットワーク(DNN)は、クリーンサンプルの人間の知覚できない摂動を発生させることによって、騙される可能性がある。 本稿では,クリーンサンプルに追加されるノルム束縛摂動によって到達可能な出力のセットを制限することで,堅牢なDNNの訓練を目指す。
  論文  参考訳（メタデータ） (2024-01-15T22:31:15Z)
• SAM Meets UAP: Attacking Segment Anything Model With Universal Adversarial Perturbation [61.732503554088524]
  画像認識不能なユニバーサル適応摂動(UAP)を用いてSAM(Segment Anything Model)を攻撃できるかどうかを検討する。 自己教師付きコントラスト学習(CL)に基づくUAP生成手法を実現する新しい摂動中心フレームワークを提案する。 CLを用いたUAP生成手法の有効性を定量的および定性的に検証した。
  論文  参考訳（メタデータ） (2023-10-19T02:49:24Z)
• UADB: Unsupervised Anomaly Detection Booster [29.831918685340433]
  教師なし異常検出(Unsupervised Anomaly Detection, UAD)は、その広範囲な実世界の応用のために重要なデータマイニング問題である。 そのような複雑さを記述できる仮定はひとつもなく、すべてのシナリオで有効である。 我々は、異なるデータに適応可能な任意のUADモデルに権限を与える一般的なUADブースタ(UADB)を提案する。
  論文  参考訳（メタデータ） (2023-06-03T04:16:31Z)
• Making Substitute Models More Bayesian Can Enhance Transferability of Adversarial Examples [89.85593878754571]
  ディープニューラルネットワークにおける敵の例の転送可能性は多くのブラックボックス攻撃の欠如である。 我々は、望ましい転送可能性を達成するためにベイズモデルを攻撃することを提唱する。 我々の手法は近年の最先端を大きなマージンで上回る。
  論文  参考訳（メタデータ） (2023-02-10T07:08:13Z)
• Improving Out-of-Distribution Generalization by Adversarial Training with Structured Priors [17.936426699670864]
  サンプルワイド・アドバイザリ・トレーニング (AT) では, アウト・オブ・ディストリビューション (OOD) の一般化が限定的に改善されていることを示す。 OOD-robustモデルのトレーニングのために,低ランク構造をもつ2つのAT変種を提案する。 提案手法は,経験的リスク最小化(ERM)とサンプルワイドATより優れている。
  論文  参考訳（メタデータ） (2022-10-13T07:37:42Z)
• Universal Adversarial Training with Class-Wise Perturbations [78.05383266222285]
  敵の訓練は 敵の攻撃を防御するために 最も広く使われる方法です この作業では、UAPがすべてのクラスを等しく攻撃しないことがわかります。 我々は,対人訓練におけるクラスワイドUAPの利用を提案することで,SOTA UATを改善した。
  論文  参考訳（メタデータ） (2021-04-07T09:05:49Z)
• Generalizing Adversarial Examples by AdaBelief Optimizer [6.243028964381449]
  本稿では,AdaBelief反復高速勾配符号法を提案し,その逆例を一般化する。 提案手法は,最先端の攻撃手法と比較して,ホワイトボックス設定における敵例を効果的に生成することができる。 転送速度は、最新の攻撃方法よりも7%-21%高いです。
  論文  参考訳（メタデータ） (2021-01-25T07:39:16Z)
• Understanding Adversarial Examples from the Mutual Influence of Images and Perturbations [83.60161052867534]
  クリーンな画像と敵の摂動を遠ざけることで敵の例を分析し,その相互への影響を分析した。 以上の結果から,画像と普遍摂動の関係に対する新たな視点が示唆された。 我々は、オリジナルトレーニングデータを活用することなく、目標とするユニバーサルアタックの挑戦的なタスクを最初に達成した人物です。
  論文  参考訳（メタデータ） (2020-07-13T05:00:09Z)
• Bias-based Universal Adversarial Patch Attack for Automatic Check-out [59.355948824578434]
  逆の例は、ディープニューラルネットワーク(DNN)を簡単に誤解させる、知覚不能な摂動を持つ入力である。 既存の戦略は強力な一般化能力を持つ敵パッチを生成できなかった。 本稿では,強い一般化能力を持つクラス非依存の普遍的敵パッチを生成するためのバイアスベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-05-19T07:38:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。