論文の概要: Orthogonal Deep Models As Defense Against Black-Box Attacks

• arxiv url: http://arxiv.org/abs/2006.14856v1
• Date: Fri, 26 Jun 2020 08:29:05 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-16 20:46:09.851476
• Title: Orthogonal Deep Models As Defense Against Black-Box Attacks
• Title（参考訳）: ブラックボックス攻撃に対する防御としての直交深層モデル
• Authors: Mohammad A. A. K. Jalwana, Naveed Akhtar, Mohammed Bennamoun, Ajmal Mian
• Abstract要約: 攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。 本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。 様々な大規模モデルにおいて,本手法の有効性を検証する。
• 参考スコア（独自算出の注目度）: 71.23669614195195
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning has demonstrated state-of-the-art performance for a variety of challenging computer vision tasks. On one hand, this has enabled deep visual models to pave the way for a plethora of critical applications like disease prognostics and smart surveillance. On the other, deep learning has also been found vulnerable to adversarial attacks, which calls for new techniques to defend deep models against these attacks. Among the attack algorithms, the black-box schemes are of serious practical concern since they only need publicly available knowledge of the targeted model. We carefully analyze the inherent weakness of deep models in black-box settings where the attacker may develop the attack using a model similar to the targeted model. Based on our analysis, we introduce a novel gradient regularization scheme that encourages the internal representation of a deep model to be orthogonal to another, even if the architectures of the two models are similar. Our unique constraint allows a model to concomitantly endeavour for higher accuracy while maintaining near orthogonal alignment of gradients with respect to a reference model. Detailed empirical study verifies that controlled misalignment of gradients under our orthogonality objective significantly boosts a model's robustness against transferable black-box adversarial attacks. In comparison to regular models, the orthogonal models are significantly more robust to a range of $l_p$ norm bounded perturbations. We verify the effectiveness of our technique on a variety of large-scale models.
• Abstract（参考訳）: ディープラーニングは、さまざまなコンピュータビジョンタスクで最先端のパフォーマンスを実証している。 一方、深い視覚モデルによって、病気の予後やスマート監視といった重要な応用の道を開くことができる。 一方、深層学習は敵の攻撃に弱いことが分かっており、これらの攻撃に対して深層モデルを保護する新しい技術を求めている。 攻撃アルゴリズムのうち、ブラックボックスのスキームは、ターゲットモデルの公開知識のみを必要とするため、深刻な問題となっている。 我々は、攻撃者がターゲットモデルに似たモデルを用いて攻撃を展開するブラックボックス設定において、深層モデルの固有の弱点を慎重に分析する。 この分析に基づいて,2つのモデルのアーキテクチャが類似していても,深層モデルの内部表現が他のモデルと直交することを奨励する新しい勾配正規化スキームを導入する。 この一意的な制約により、モデルは、参照モデルに対する勾配の直交的アライメントを保ちながら、より高い精度で共役的に努力することができる。 詳細な実証研究は、直交目的の下で勾配の調整ミスアライメントが、移動可能なブラックボックス攻撃に対するモデルの堅牢性を大幅に向上させることを示した。 正規モデルと比較して、直交モデルは$l_p$ノルム有界摂動の範囲に対してはるかに堅牢である。 様々な大規模モデルにおいて,本手法の有効性を検証する。

関連論文リスト

• Scaling Laws for Black box Adversarial Attacks [37.744814957775965]
  敵の例では、クロスモデル転送可能性を示し、ブラックボックスモデルを攻撃することができる。 モデルアンサンブルは、複数のサロゲートモデルを同時に攻撃することで、転送可能性を改善する効果的な戦略である。 スケールされた攻撃はセマンティクスにおいてより良い解釈可能性をもたらし、モデルの共通の特徴がキャプチャーされることを示す。
  論文  参考訳（メタデータ） (2024-11-25T08:14:37Z)
• On Evaluating Adversarial Robustness of Volumetric Medical Segmentation Models [59.45628259925441]
  体積医学セグメンテーションモデルは、臓器および腫瘍ベースのセグメンテーションタスクにおいて大きな成功を収めた。 敵の攻撃に対するその脆弱性はほとんど解明されていない。 このことは、既存のモデルの堅牢性を調べることの重要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-06-12T17:59:42Z)
• Understanding Deep Learning defenses Against Adversarial Examples Through Visualizations for Dynamic Risk Assessment [0.0]
  対人訓練,次元減少,予測類似性を対人攻撃に対する防御として選択した。 各防御において、元のモデルの挙動は、可視化されたグラフによって対象モデルの振る舞いを表現し、防御されたモデルの挙動と比較された。
  論文  参考訳（メタデータ） (2024-02-12T09:05:01Z)
• Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
  本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。 その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
  論文  参考訳（メタデータ） (2023-10-25T03:30:42Z)
• Understanding the Robustness of Randomized Feature Defense Against Query-Based Adversarial Attacks [23.010308600769545]
  ディープニューラルネットワークは、元の画像に近いサンプルを見つける敵の例に弱いが、モデルを誤分類させる可能性がある。 モデル中間層における隠れた特徴にランダムノイズを付加することにより,ブラックボックス攻撃に対する簡易かつ軽量な防御法を提案する。 本手法は,スコアベースと決定ベースの両方のブラックボックス攻撃に対するモデルのレジリエンスを効果的に向上させる。
  論文  参考訳（メタデータ） (2023-10-01T03:53:23Z)
• Minimizing Maximum Model Discrepancy for Transferable Black-box Targeted Attacks [30.863450425927613]
  モデル差分の観点から,ブラックボックスの標的攻撃問題について検討する。 我々は,ブラックボックス攻撃に対する一般化誤差を提示し,攻撃の成功を保証するための厳密な理論的解析を行う。 我々は理論解析に基づいてブラックボックス攻撃のための新しいアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2022-12-18T08:19:08Z)
• Scoring Black-Box Models for Adversarial Robustness [4.416484585765028]
  敵の攻撃に対する モデルの堅牢性が分析されました 逆入力に対する頑健性を示すブラックボックスモデルの簡易スコアリング法を提案する。
  論文  参考訳（メタデータ） (2022-10-31T08:41:44Z)
• Training Meta-Surrogate Model for Transferable Adversarial Attack [98.13178217557193]
  クエリーを許可しない場合、ブラックボックスモデルに対する逆攻撃を考える。 この設定では、多くの手法が代理モデルを直接攻撃し、得られた敵の例をターゲットモデルを騙すために転送する。 メタサロゲートモデル(Meta-Surrogate Model:MSM)は,このモデルに対する攻撃が,他のモデルに容易に転送できることを示す。
  論文  参考訳（メタデータ） (2021-09-05T03:27:46Z)
• "What's in the box?!": Deflecting Adversarial Attacks by Randomly Deploying Adversarially-Disjoint Models [71.91835408379602]
  敵の例は長い間、機械学習モデルに対する真の脅威と考えられてきた。 我々は、従来のホワイトボックスやブラックボックスの脅威モデルを超えた、配置ベースの防衛パラダイムを提案する。
  論文  参考訳（メタデータ） (2021-02-09T20:07:13Z)
• Two Sides of the Same Coin: White-box and Black-box Attacks for Transfer Learning [60.784641458579124]
  ホワイトボックスFGSM攻撃によるモデルロバスト性を効果的に向上することを示す。 また,移動学習モデルに対するブラックボックス攻撃手法を提案する。 ホワイトボックス攻撃とブラックボックス攻撃の双方の効果を系統的に評価するために,ソースモデルからターゲットモデルへの変換可能性の評価手法を提案する。
  論文  参考訳（メタデータ） (2020-08-25T15:04:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。