論文の概要: Feature Importance Guided Attack: A Model Agnostic Adversarial Attack

• arxiv url: http://arxiv.org/abs/2106.14815v1
• Date: Mon, 28 Jun 2021 15:46:22 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-29 15:38:08.556116
• Title: Feature Importance Guided Attack: A Model Agnostic Adversarial Attack
• Title（参考訳）: 特徴的重要度誘導攻撃:モデル非依存の敵意攻撃
• Authors: Gilad Gressel, Niranjan Hegde, Archana Sreekumar, and Michael Darling
• Abstract要約: 本稿では,敵の避難サンプルを生成する「FIGA(Feature Importance Guided Attack)」を提案する。 8種類のフィッシング検出モデルに対してFIGAを実証する。 フィッシング検出モデルのF1スコアを平均0.96から0.41に下げることが可能である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning models are susceptible to adversarial attacks which dramatically reduce their performance. Reliable defenses to these attacks are an unsolved challenge. In this work, we present a novel evasion attack: the 'Feature Importance Guided Attack' (FIGA) which generates adversarial evasion samples. FIGA is model agnostic, it assumes no prior knowledge of the defending model's learning algorithm, but does assume knowledge of the feature representation. FIGA leverages feature importance rankings; it perturbs the most important features of the input in the direction of the target class we wish to mimic. We demonstrate FIGA against eight phishing detection models. We keep the attack realistic by perturbing phishing website features that an adversary would have control over. Using FIGA we are able to cause a reduction in the F1-score of a phishing detection model from 0.96 to 0.41 on average. Finally, we implement adversarial training as a defense against FIGA and show that while it is sometimes effective, it can be evaded by changing the parameters of FIGA.
• Abstract（参考訳）: 機械学習モデルは、そのパフォーマンスを劇的に低下させる敵攻撃の影響を受けやすい。 これらの攻撃に対する信頼できる防御は未解決の課題である。 本研究では,新たな回避攻撃として,敵の避難サンプルを生成する「FIGA(Feature Importance Guided Attack)」を提案する。 FIGAはモデル非依存であり、防御モデルの学習アルゴリズムの事前知識は想定しないが、特徴表現の知識を前提としている。 FIGAは、我々が模倣したいターゲットクラスの方向において、入力の最も重要な特徴を摂動させます。 8種類のフィッシング検出モデルに対してFIGAを示す。 我々は、敵が支配するフィッシングのウェブサイト機能によって攻撃を現実的に保ちます。 FIGAを用いて、フィッシング検出モデルのF1スコアを平均0.96から0.41に下げることができる。 最後に、FIGAに対する防御として対人訓練を実施し、その効果はあるが、FIGAのパラメータを変更することで回避できることを示す。

関連論文リスト

• Revealing Vulnerabilities of Neural Networks in Parameter Learning and Defense Against Explanation-Aware Backdoors [2.1165011830664673]
  ブラディング攻撃は、機械学習アルゴリズムの予測と説明を大きく変える可能性がある。 我々は統計的解析を利用して、目隠し攻撃後のCNN内のCNN重みの変化を明らかにする。 本研究では,評価段階における攻撃の有効性を限定する手法を提案する。
  論文  参考訳（メタデータ） (2024-03-25T09:36:10Z)
• Does Few-shot Learning Suffer from Backdoor Attacks? [63.9864247424967]
  数発の学習がバックドアアタックに対して脆弱であることは明らかです。 本手法は,FSLタスクにおける攻撃成功率(ASR)を,異なる数発の学習パラダイムで示す。 この研究は、数発の学習がまだバックドア攻撃に悩まされており、そのセキュリティに注意を払う必要があることを明らかにしている。
  論文  参考訳（メタデータ） (2023-12-31T06:43:36Z)
• Isolation and Induction: Training Robust Deep Neural Networks against Model Stealing Attacks [51.51023951695014]
  既存のモデル盗難防衛は、被害者の後部確率に偽りの摂動を加え、攻撃者を誤解させる。 本稿では,モデルステルス防衛のための新規かつ効果的なトレーニングフレームワークである分離誘導(InI)を提案する。 モデルの精度を損なうモデル予測に摂動を加えるのとは対照的に、我々はモデルを訓練して、盗むクエリに対して非形式的なアウトプットを生成する。
  論文  参考訳（メタデータ） (2023-08-02T05:54:01Z)
• Adversary Aware Continual Learning [3.3439097577935213]
  Adversaryは、テスト時に特定のタスクやクラスを意図的に忘れるように、少量の誤報をモデルに導入することができる。 我々は,攻撃者のバックドアパターンを人間には認識不能にすることで,攻撃者の主要な強みを隠蔽し,攻撃者の知覚不能パターンを超過する知覚的(強者)パターンを学習することを提案する。 提案手法は,攻撃者の目標タスク,攻撃者の目標クラス,攻撃者の許容できないパターンを知らずに,クラスインクリメンタル学習アルゴリズムの性能を著しく向上させることを示す。
  論文  参考訳（メタデータ） (2023-04-27T19:49:50Z)
• Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models [48.93128542994217]
  ブラックボックスニューラルパスランキングモデルに対する模倣逆攻撃を提案する。 重要クエリ/候補を列挙することで,対象経路ランキングモデルを透明化し,模倣することができることを示す。 また,一対の目的関数によって強化された革新的な勾配に基づく攻撃手法を提案し,敵の引き金を発生させる。
  論文  参考訳（メタデータ） (2022-09-14T09:10:07Z)
• On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
  敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。 モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。 私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
  論文  参考訳（メタデータ） (2022-05-19T14:26:50Z)
• Semi-Targeted Model Poisoning Attack on Federated Learning via Backward Error Analysis [15.172954465350667]
  フェデレートラーニング(FL)に対するモデル中毒は、エッジモデルを妥協することでシステム全体に侵入する。 本稿では,特徴空間に最適化された標的クラスを見出すことにより,アタック・ディスタンス・アウェア・アタック(ADA)の攻撃性を高めることを提案する。 ADAは攻撃頻度0.01の最も困難な場合において、攻撃性能を1.8倍に向上させることに成功した。
  論文  参考訳（メタデータ） (2022-03-22T11:40:07Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Manipulating SGD with Data Ordering Attacks [23.639512087220137]
  基礎となるモデルデータセットやアーキテクチャを変更する必要のない,一連のトレーニングタイムアタックを提示する。 特に、アタッカーはトレーニングバッチをリオーダーするだけでモデルの完全性と可用性を損なう可能性がある。 攻撃は、攻撃後数百エポックというモデル性能を低下させるという長期的な影響をもたらす。
  論文  参考訳（メタデータ） (2021-04-19T22:17:27Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)
• Adversarial Detection and Correction by Matching Prediction Distributions [0.0]
  この検出器は、MNISTとFashion-MNISTに対するCarini-WagnerやSLIDEのような強力な攻撃をほぼ完全に中和する。 本手法は,攻撃者がモデルと防御の両方について十分な知識を持つホワイトボックス攻撃の場合においても,なおも敵の例を検出することができることを示す。
  論文  参考訳（メタデータ） (2020-02-21T15:45:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。