論文の概要: L-XAIDS: A LIME-based eXplainable AI framework for Intrusion Detection Systems

• arxiv url: http://arxiv.org/abs/2508.17244v1
• Date: Sun, 24 Aug 2025 07:47:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-26 18:43:45.423345
• Title: L-XAIDS: A LIME-based eXplainable AI framework for Intrusion Detection Systems
• Title（参考訳）: L-XAIDS:侵入検知システムのためのLIMEベースのeXplainable AIフレームワーク
• Authors: Aoun E Muhammad, Kin-Choong Yow, Nebojsa Bacanin-Dzakula, Muhammad Attique Khan,
• Abstract要約: 人工知能(AI)の最近の発展と重要な産業における応用は、AIにおける説明可能性の研究の急増につながっている。 本稿では,侵入検知システム決定の枠組みを提案する。 我々のフレームワークはUNSW-NB15データセット上での攻撃行動の分類における精度のパーセントを達成することができる。
• 参考スコア（独自算出の注目度）: 4.711103317066182
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent developments in Artificial Intelligence (AI) and their applications in critical industries such as healthcare, fin-tech and cybersecurity have led to a surge in research in explainability in AI. Innovative research methods are being explored to extract meaningful insight from blackbox AI systems to make the decision-making technology transparent and interpretable. Explainability becomes all the more critical when AI is used in decision making in domains like fintech, healthcare and safety critical systems such as cybersecurity and autonomous vehicles. However, there is still ambiguity lingering on the reliable evaluations for the users and nature of transparency in the explanations provided for the decisions made by black-boxed AI. To solve the blackbox nature of Machine Learning based Intrusion Detection Systems, a framework is proposed in this paper to give an explanation for IDSs decision making. This framework uses Local Interpretable Model-Agnostic Explanations (LIME) coupled with Explain Like I'm five (ELI5) and Decision Tree algorithms to provide local and global explanations and improve the interpretation of IDSs. The local explanations provide the justification for the decision made on a specific input. Whereas, the global explanations provides the list of significant features and their relationship with attack traffic. In addition, this framework brings transparency in the field of ML driven IDS that might be highly significant for wide scale adoption of eXplainable AI in cyber-critical systems. Our framework is able to achieve 85 percent accuracy in classifying attack behaviour on UNSW-NB15 dataset, while at the same time displaying the feature significance ranking of the top 10 features used in the classification.
• Abstract（参考訳）: 人工知能(AI)の最近の発展と、医療、フィンテック、サイバーセキュリティといった重要な産業における応用は、AIにおける説明可能性の研究の急増につながっている。 ブラックボックスAIシステムから意味のある洞察を抽出し、意思決定技術を透過的かつ解釈可能なものにするために、革新的な研究手法が研究されている。 フィンテックやヘルスケア、サイバーセキュリティや自動運転車などの安全クリティカルシステムといった分野において、AIが意思決定に使用される場合、説明責任はますます重要になる。 しかしながら、ユーザに対する信頼性評価と、ブラックボックス化されたAIによる決定に対する説明における透明性の性質には、いまだ曖昧さがある。 本稿では,機械学習を用いた侵入検知システムにおけるブラックボックスの性質を解決するために,IDSの意思決定についての説明を行うためのフレームワークを提案する。 このフレームワークは、ローカルおよびグローバルな説明を提供し、IDSの解釈を改善するために、LIME(Local Interpretable Model-Agnostic Explanations)とExplain Like I'm Five(ELI5)とDecision Treeアルゴリズムを結合したLIME(Local Interpretable Model-Agnostic Explanations)を使用する。 局所的な説明は、特定の入力でなされた決定の正当性を提供する。 一方、グローバルな説明では、重要な機能のリストと攻撃トラフィックとの関係が提供されている。 さらに、このフレームワークはML駆動型IDSの分野において透明性をもたらし、サイバークリティカルシステムにおけるeXplainable AIの大規模採用に極めて重要である可能性がある。 我々のフレームワークは、UNSW-NB15データセット上での攻撃行動の分類において85%の精度を達成でき、同時に、この分類で使用される上位10の特徴量ランキングを表示することができる。

関連論文リスト

• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Explainable AI for Safe and Trustworthy Autonomous Driving: A Systematic Review [12.38351931894004]
  本稿では,安全かつ信頼性の高い自動運転のための説明可能な手法に関する,最初の体系的な文献レビューを紹介する。 我々は、ADにおける安全で信頼性の高いAIに対するXAIの5つの重要な貢献を特定し、それらは解釈可能な設計、解釈可能な代理モデル、解釈可能なモニタリング、補助的な説明、解釈可能な検証である。 我々は、これらのコントリビューションを統合するためにSafeXと呼ばれるモジュラーフレームワークを提案し、同時にAIモデルの安全性を確保しながら、ユーザへの説明提供を可能にした。
  論文  参考訳（メタデータ） (2024-02-08T09:08:44Z)
• Explainable Intrusion Detection Systems (X-IDS): A Survey of Current Methods, Challenges, and Opportunities [0.0]
  侵入検知システム(IDS)は、大量のデータを高い予測精度で処理できるため、広く採用されている。 深層学習(DL)技術を用いて設計されたIDSは、ブラックボックスモデルとして扱われることが多く、予測の正当化は提供されない。 この調査では、IDSの最先端AI(XAI)とその現在の課題についてレビューし、これらの課題がX-IDSの設計にどのように当てはまるかを論じる。
  論文  参考訳（メタデータ） (2022-07-13T14:31:46Z)
• An Objective Metric for Explainable AI: How and Why to Estimate the Degree of Explainability [3.04585143845864]
  本稿では, 客観的手法を用いて, 正しい情報のeX説明可能性の度合いを測定するための, モデルに依存しない新しい指標を提案する。 私たちは、医療とファイナンスのための2つの現実的なAIベースのシステムについて、いくつかの実験とユーザースタディを設計しました。
  論文  参考訳（メタデータ） (2021-09-11T17:44:13Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• LioNets: A Neural-Specific Local Interpretation Technique Exploiting Penultimate Layer Information [6.570220157893279]
  解釈可能な機械学習(IML)は研究の緊急のトピックである。 本稿では,テキストデータと時系列データに適用される局所的,神経特異的な解釈プロセスに焦点を当てる。
  論文  参考訳（メタデータ） (2021-04-13T09:39:33Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Bias in Multimodal AI: Testbed for Fair Automatic Recruitment [73.85525896663371]
  異種情報ソースに基づく現在のマルチモーダルアルゴリズムは、データ中の機密要素や内部バイアスによってどのように影響を受けるかを検討する。 我々は、性別や人種の偏りを意識的に評価したマルチモーダルな合成プロファイルを用いて、自動求人アルゴリズムを訓練する。 我々の方法論と結果は、一般により公平なAIベースのツール、特により公平な自動採用システムを生成する方法を示している。
  論文  参考訳（メタデータ） (2020-04-15T15:58:05Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。