論文の概要: Utilizing XAI technique to improve autoencoder based model for computer
network anomaly detection with shapley additive explanation(SHAP)
- arxiv url: http://arxiv.org/abs/2112.08442v1
- Date: Tue, 14 Dec 2021 09:42:04 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-18 12:12:46.595339
- Title: Utilizing XAI technique to improve autoencoder based model for computer
network anomaly detection with shapley additive explanation(SHAP)
- Title(参考訳): シェープな付加的説明を用いたコンピュータネットワーク異常検出のためのXAI手法によるオートエンコーダモデルの改良
- Authors: Khushnaseeb Roshan and Aasim Zafar
- Abstract要約: 機械学習(ML)とディープラーニング(DL)メソッドは、特にコンピュータネットワークセキュリティにおいて急速に採用されている。
MLとDLベースのモデルの透明性の欠如は、実装の大きな障害であり、ブラックボックスの性質から批判されている。
XAIは、これらのモデルの信頼性を向上させる上で、説明やアウトプットの解釈を通じて有望な分野である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning (ML) and Deep Learning (DL) methods are being adopted
rapidly, especially in computer network security, such as fraud detection,
network anomaly detection, intrusion detection, and much more. However, the
lack of transparency of ML and DL based models is a major obstacle to their
implementation and criticized due to its black-box nature, even with such
tremendous results. Explainable Artificial Intelligence (XAI) is a promising
area that can improve the trustworthiness of these models by giving
explanations and interpreting its output. If the internal working of the ML and
DL based models is understandable, then it can further help to improve its
performance. The objective of this paper is to show that how XAI can be used to
interpret the results of the DL model, the autoencoder in this case. And, based
on the interpretation, we improved its performance for computer network anomaly
detection. The kernel SHAP method, which is based on the shapley values, is
used as a novel feature selection technique. This method is used to identify
only those features that are actually causing the anomalous behaviour of the
set of attack/anomaly instances. Later, these feature sets are used to train
and validate the autoencoder but on benign data only. Finally, the built
SHAP_Model outperformed the other two models proposed based on the feature
selection method. This whole experiment is conducted on the subset of the
latest CICIDS2017 network dataset. The overall accuracy and AUC of SHAP_Model
is 94% and 0.969, respectively.
- Abstract(参考訳): 機械学習(ML)とディープラーニング(DL)メソッドは、特に不正検出、ネットワーク異常検出、侵入検出など、コンピュータネットワークセキュリティにおいて急速に採用されている。
しかし、MLとDLベースのモデルの透明性の欠如は、その実装の大きな障害であり、そのブラックボックスの性質から批判されている。
説明可能な人工知能(XAI)は、これらのモデルの信頼性を向上させるための有望な分野である。
mlおよびdlベースのモデルの内部動作が理解可能であれば、パフォーマンスをさらに向上させることができる。
本論文の目的は,XAI を用いて DL モデル,オートエンコーダの結果を解釈する方法を示すことである。
そして,その解釈に基づいて,コンピュータネットワーク異常検出の性能を改善した。
シャープリー値に基づくカーネルSHAP法は,新しい特徴選択手法として用いられている。
このメソッドは、攻撃/異常インスタンスの集合の異常な振る舞いを実際に引き起こしている機能のみを識別するために使用される。
その後、これらの特徴セットは自動エンコーダのトレーニングと検証に使用されるが、良質なデータのみである。
最後に、SHAP_Modelは特徴選択法に基づいて提案された他の2つのモデルよりも優れていた。
この実験は、最新のCICIDS2017ネットワークデータセットのサブセットで実施されている。
SHAP_Modelの総合精度とAUCはそれぞれ94%と0.969である。
関連論文リスト
- TEN-GUARD: Tensor Decomposition for Backdoor Attack Detection in Deep
Neural Networks [3.489779105594534]
本稿では,ネットワークアクティベーションに適用した2つのテンソル分解法によるバックドア検出手法を提案する。
これは、複数のモデルを同時に分析する機能など、既存の検出方法と比較して、多くの利点がある。
その結果,現在の最先端手法よりも,バックドアネットワークを高精度かつ効率的に検出できることがわかった。
論文 参考訳(メタデータ) (2024-01-06T03:08:28Z) - Using Kernel SHAP XAI Method to optimize the Network Anomaly Detection
Model [0.0]
異常検出とその説明は、侵入検知、不正検出、未知の攻撃検出、ネットワークトラフィック、ログなど、多くの研究領域において重要である。
ひとつのインスタンスが異常である理由や説明を特定するのは難しいですか?
XAIは、Deep Learning (DL)のような複雑なモデルのアウトプットと動作を解釈し、説明するためのツールと技術を提供する。
論文 参考訳(メタデータ) (2023-07-31T18:47:45Z) - Limits of Machine Learning for Automatic Vulnerability Detection [0.0]
自動脆弱性検出のための機械学習の最近の成果は非常に有望である。
しかし、これらの結果が一般的なものであり、データセットに特有でないことをどうやって知るのか?
トレーニングセットまたはテストセットの増幅中に意味保存変換を適用するクロスバリデーションアルゴリズムを提案する。
改善されたロバスト性は、トレーニングデータ増幅時に使用される特定の変換にのみ適用される。
論文 参考訳(メタデータ) (2023-06-28T08:41:39Z) - Unleashing Mask: Explore the Intrinsic Out-of-Distribution Detection
Capability [70.72426887518517]
Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイする際に、セキュアAIの必須の側面である。
本稿では,IDデータを用いた学習モデルのOOD識別能力を復元する新しい手法であるUnleashing Maskを提案する。
本手法では, マスクを用いて記憶した非定型サンプルを抽出し, モデルを微調整するか, 導入したマスクでプルーする。
論文 参考訳(メタデータ) (2023-06-06T14:23:34Z) - Watermarking for Out-of-distribution Detection [76.20630986010114]
Out-of-Distribution (OOD) 検出は、よく訓練された深層モデルから抽出された表現に基づいてOODデータを識別することを目的としている。
本稿では,透かしという一般的な手法を提案する。
我々は,元データの特徴に重畳される統一パターンを学習し,ウォーターマーキング後にモデルの検出能力が大きく向上する。
論文 参考訳(メタデータ) (2022-10-27T06:12:32Z) - Model2Detector:Widening the Information Bottleneck for
Out-of-Distribution Detection using a Handful of Gradient Steps [12.263417500077383]
アウト・オブ・ディストリビューション検出は、長いバニラニューラルネットワークを持つ重要な機能である。
推論時間外分布検出の最近の進歩は、これらの問題のいくつかを緩和するのに役立つ。
提案手法は,一般的な画像データセットにおける検出精度において,常に最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-02-22T23:03:40Z) - Adaptive Memory Networks with Self-supervised Learning for Unsupervised
Anomaly Detection [54.76993389109327]
教師なし異常検出は、通常のデータのみをトレーニングすることで、目に見えない異常を検出するモデルを構築することを目的としている。
本稿では,これらの課題に対処するために,自己教師付き学習(AMSL)を用いた適応記憶ネットワーク(Adaptive Memory Network)を提案する。
AMSLには、一般的な正規パターンを学ぶための自己教師付き学習モジュールと、リッチな特徴表現を学ぶための適応型メモリ融合モジュールが組み込まれている。
論文 参考訳(メタデータ) (2022-01-03T03:40:21Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳(メタデータ) (2021-05-30T22:07:13Z) - Explaining Network Intrusion Detection System Using Explainable AI
Framework [0.5076419064097734]
侵入検知システムは、今日の世界のサイバー安全の重要なレイヤーの1つです。
本稿では,ディープニューラルネットワークを用いてネットワーク侵入検出を行った。
また、機械学習パイプラインの各段階で透明性を追加する説明可能なAIフレームワークも提案しました。
論文 参考訳(メタデータ) (2021-03-12T07:15:09Z) - Contextual-Bandit Anomaly Detection for IoT Data in Distributed
Hierarchical Edge Computing [65.78881372074983]
IoTデバイスは複雑なディープニューラルネットワーク(DNN)モデルにはほとんど余裕がなく、異常検出タスクをクラウドにオフロードすることは長い遅延を引き起こす。
本稿では,分散階層エッジコンピューティング(HEC)システムを対象とした適応型異常検出手法のデモと構築を行う。
提案手法は,検出タスクをクラウドにオフロードした場合と比較して,精度を犠牲にすることなく検出遅延を著しく低減することを示す。
論文 参考訳(メタデータ) (2020-04-15T06:13:33Z) - Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。
我々は,再建基準の代替として,異常スコアの代替尺度を提案した。
提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2020-03-24T08:26:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。