論文の概要: Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack

• arxiv url: http://arxiv.org/abs/2011.12720v2
• Date: Tue, 12 Oct 2021 18:04:38 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-22 03:23:35.149021
• Title: Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack
• Title（参考訳）: Omni: 敵の侵入攻撃に対する予期せぬモデルによる自動アンサンブル
• Authors: Rui Shu, Tianpei Xia, Laurie Williams, Tim Menzies
• Abstract要約: 機械学習に基づくセキュリティ検出モデルは、敵の回避攻撃の影響を受けやすい。 我々はオムニ(Omni)と呼ばれる手法を提案し、「予期せぬモデル」のアンサンブルを作成する方法を探る。 5種類の敵対的回避攻撃による研究において,オムニは防衛戦略として有望なアプローチであることを示す。
• 参考スコア（独自算出の注目度）: 35.0689225703137
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Background: Machine learning-based security detection models have become prevalent in modern malware and intrusion detection systems. However, previous studies show that such models are susceptible to adversarial evasion attacks. In this type of attack, inputs (i.e., adversarial examples) are specially crafted by intelligent malicious adversaries, with the aim of being misclassified by existing state-of-the-art models (e.g., deep neural networks). Once the attackers can fool a classifier to think that a malicious input is actually benign, they can render a machine learning-based malware or intrusion detection system ineffective. Goal: To help security practitioners and researchers build a more robust model against non-adaptive, white-box, and non-targeted adversarial evasion attacks through the idea of an ensemble model. Method: We propose an approach called Omni, the main idea of which is to explore methods that create an ensemble of "unexpected models"; i.e., models whose control hyperparameters have a large distance to the hyperparameters of an adversary's target model, with which we then make an optimized weighted ensemble prediction. Result: In studies with five types of adversarial evasion attacks (FGSM, BIM, JSMA, DeepFooland Carlini-Wagner) on five security datasets (NSL-KDD, CIC-IDS-2017, CSE-CIC-IDS2018, CICAnd-Mal2017, and the Contagio PDF dataset), we show Omni is a promising approach as a defense strategy against adversarial attacks when compared with other baseline treatments. Conclusion: When employing ensemble defense against adversarial evasion attacks, we suggest creating an ensemble with unexpected models that are distant from the attacker's expected model (i.e., target model) through methods such as hyperparameter optimization.
• Abstract（参考訳）: 背景: 機械学習ベースのセキュリティ検出モデルは、現代のマルウェアや侵入検知システムで普及している。 しかし、以前の研究では、そのようなモデルは敵対的回避攻撃の影響を受けやすいことが示されている。 このタイプの攻撃では、入力(すなわち敵の例)は、既存の最先端モデル(ディープニューラルネットワークなど)によって誤って分類されることを目的として、知的悪意のある敵によって特別に作成される。 攻撃者が分類器を騙して悪意のある入力が実際に良質であると考えると、機械学習ベースのマルウェアや侵入検知システムが無効になる。 目標: セキュリティ実践者や研究者がアンサンブルモデルの概念を通じて、非適応的、ホワイトボックス、非標的の敵の回避攻撃に対してより堅牢なモデルを構築するのを助けること。 方法:オムニと呼ばれる手法を提案し,その主な考え方は「未予測モデル」のアンサンブルを生成する手法を探索することである。すなわち,制御ハイパーパラメータが敵のターゲットモデルのハイパーパラメータと大きな距離を持つモデルであり,最適化された重み付けアンサンブル予測を行う。 結果: セキュリティデータセット(NSL-KDD, CIC-IDS-2017, CSE-CIC-IDS2018, CICAnd-Mal2017, Contagio PDFデータセット)の5種類の逆回避攻撃(FGSM, BIM, JSMA, DeepFooland Carlini-Wagner)を用いた研究において, Omniは他のベースライン治療と比較して、敵攻撃に対する防衛戦略として有望なアプローチであることが示された。 結論: 敵の回避攻撃に対するアンサンブル防御を用いる場合, ハイパーパラメータ最適化などの手法を用いて, 攻撃者の予測モデル(標的モデル)から離れた予期せぬモデルでアンサンブルを作成することを提案する。

関連論文リスト

• Defense Against Model Extraction Attacks on Recommender Systems [53.127820987326295]
  本稿では、モデル抽出攻撃に対するリコメンデータシステムに対する防御のために、グラディエントベースのランキング最適化(GRO)を導入する。 GROは、攻撃者の代理モデルの損失を最大化しながら、保護対象モデルの損失を最小限にすることを目的としている。 その結果,モデル抽出攻撃に対するGROの防御効果は良好であった。
  論文  参考訳（メタデータ） (2023-10-25T03:30:42Z)
• Adversarial Attacks Neutralization via Data Set Randomization [3.655021726150369]
  ディープラーニングモデルに対する敵対的な攻撃は、信頼性とセキュリティに深刻な脅威をもたらす。 本稿では,超空間射影に根ざした新しい防御機構を提案する。 提案手法は,敵対的攻撃に対するディープラーニングモデルの堅牢性を高めていることを示す。
  論文  参考訳（メタデータ） (2023-06-21T10:17:55Z)
• Can Adversarial Examples Be Parsed to Reveal Victim Model Information? [62.814751479749695]
  本研究では,データ固有の敵インスタンスから,データに依存しない被害者モデル(VM)情報を推測できるかどうかを問う。 我々は,135件の被害者モデルから生成された7種類の攻撃に対して,敵攻撃のデータセットを収集する。 単純な教師付きモデル解析ネットワーク(MPN)は、見えない敵攻撃からVM属性を推測できることを示す。
  論文  参考訳（メタデータ） (2023-03-13T21:21:49Z)
• DODEM: DOuble DEfense Mechanism Against Adversarial Attacks Towards Secure Industrial Internet of Things Analytics [8.697883716452385]
  I-IoT環境における敵攻撃の検出と軽減のための二重防御機構を提案する。 まず、新規性検出アルゴリズムを用いて、サンプルに対して逆攻撃があるかどうかを検知する。 攻撃があった場合、敵の再訓練はより堅牢なモデルを提供する一方、通常のサンプルに対して標準的な訓練を適用する。
  論文  参考訳（メタデータ） (2023-01-23T22:10:40Z)
• I Know What You Trained Last Summer: A Survey on Stealing Machine Learning Models and Defences [0.1031296820074812]
  本研究では,モデル盗難攻撃について検討し,その性能を評価し,異なる環境で対応する防御技術を探究する。 攻撃・防衛アプローチのための分類法を提案し,目標と利用可能な資源に基づいて適切な攻撃・防衛を選択する方法に関するガイドラインを提供する。
  論文  参考訳（メタデータ） (2022-06-16T21:16:41Z)
• Interpolated Joint Space Adversarial Training for Robust and Generalizable Defenses [82.3052187788609]
  敵の訓練(AT)は、敵の攻撃に対する最も信頼できる防御の1つと考えられている。 近年の研究では、新たな脅威モデルの下での対向サンプルによる一般化の改善が示されている。 我々は、JSTM(Joint Space Threat Model)と呼ばれる新しい脅威モデルを提案する。 JSTMでは,新たな敵攻撃・防衛手法が開発されている。
  論文  参考訳（メタデータ） (2021-12-12T21:08:14Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• ExAD: An Ensemble Approach for Explanation-based Adversarial Detection [17.455233006559734]
  説明手法のアンサンブルを用いて逆例を検出するフレームワークであるExADを提案する。 3つの画像データセットに対する6つの最先端の敵攻撃によるアプローチの評価を行った。
  論文  参考訳（メタデータ） (2021-03-22T00:53:07Z)
• Practical No-box Adversarial Attacks against DNNs [31.808770437120536]
  我々は、攻撃者がモデル情報やトレーニングセットにアクセスしたり、モデルに問い合わせたりできない、ノンボックスの逆例を調査する。 非常に小さなデータセットでトレーニングを行うための3つのメカニズムを提案し、プロトタイプの再構築が最も効果的であることを示す。 提案手法は, システムの平均予測精度を15.40%に低下させ, 事前学習したArcfaceモデルから, 敵のサンプルを転送する攻撃と同等にする。
  論文  参考訳（メタデータ） (2020-12-04T11:10:03Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)
• Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
  本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
  論文  参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。