論文の概要: TRUST XAI: Model-Agnostic Explanations for AI With a Case Study on IIoT Security

• arxiv url: http://arxiv.org/abs/2205.01232v1
• Date: Mon, 2 May 2022 21:44:27 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-04 14:54:27.266469
• Title: TRUST XAI: Model-Agnostic Explanations for AI With a Case Study on IIoT Security
• Title（参考訳）: TRUST XAI: IIoTセキュリティに関するケーススタディによるAIのモデルに依存しない説明
• Authors: Maede Zolanvari, Zebo Yang, Khaled Khan, Raj Jain, and Nader Meskin
• Abstract要約: 我々は,トランスパラシー・アポン・統計理論(XAI)という普遍的XAIモデルを提案する。 TRUST XAIが, 平均成功率98%の新しいランダムサンプルについて, どのように説明するかを示す。 最後に、TRUSTがユーザに対してどのように説明されるかを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Despite AI's significant growth, its "black box" nature creates challenges in generating adequate trust. Thus, it is seldom utilized as a standalone unit in IoT high-risk applications, such as critical industrial infrastructures, medical systems, and financial applications, etc. Explainable AI (XAI) has emerged to help with this problem. However, designing appropriately fast and accurate XAI is still challenging, especially in numerical applications. Here, we propose a universal XAI model named Transparency Relying Upon Statistical Theory (TRUST), which is model-agnostic, high-performing, and suitable for numerical applications. Simply put, TRUST XAI models the statistical behavior of the AI's outputs in an AI-based system. Factor analysis is used to transform the input features into a new set of latent variables. We use mutual information to rank these variables and pick only the most influential ones on the AI's outputs and call them "representatives" of the classes. Then we use multi-modal Gaussian distributions to determine the likelihood of any new sample belonging to each class. We demonstrate the effectiveness of TRUST in a case study on cybersecurity of the industrial Internet of things (IIoT) using three different cybersecurity datasets. As IIoT is a prominent application that deals with numerical data. The results show that TRUST XAI provides explanations for new random samples with an average success rate of 98%. Compared with LIME, a popular XAI model, TRUST is shown to be superior in the context of performance, speed, and the method of explainability. In the end, we also show how TRUST is explained to the user.
• Abstract（参考訳）: AIの著しい成長にもかかわらず、その“ブラックボックス”の性質は、適切な信頼を生み出す上での課題を生み出します。 したがって、重要な産業インフラ、医療システム、金融アプリケーションなど、iotハイリスクアプリケーションにおいてスタンドアロンユニットとして利用されることはめったにない。 この問題を解決するために、説明可能なAI(XAI)が登場した。 しかしながら、特に数値アプリケーションでは、適切に高速かつ正確なXAIを設計することは依然として困難である。 本稿では,トランスペアレンシー・アポン・統計理論 (Transparency Relying Upon Statistical Theory, TRUST) と呼ばれる汎用XAIモデルを提案する。 簡単に言うと、TRUST XAIはAIベースのシステムでAIの出力の統計的挙動をモデル化する。 因子分析は入力特徴を新しい潜在変数のセットに変換するために使用される。 相互情報を使ってこれらの変数をランク付けし、aiのアウトプットでもっとも影響力のある変数だけを選び、それらをクラスの“代表”と呼ぶ。 次に、マルチモーダルガウス分布を用いて、各クラスに属する新しいサンプルの可能性を決定する。 3つの異なるサイバーセキュリティデータセットを用いた産業用モノのインターネット(IIoT)のサイバーセキュリティに関するケーススタディにおいて、TRUSTの有効性を実証する。 IIoTは数値データを扱う顕著なアプリケーションである。 その結果, TRUST XAIは, 平均成功率98%の新しいランダムサンプルについて説明できることがわかった。 一般的なXAIモデルであるLIMEと比較して、TRUSTは性能、速度、説明可能性の点で優れていることが示されている。 最後に、TRUSTがユーザに対してどのように説明されるかを示す。

関連論文リスト

• SegXAL: Explainable Active Learning for Semantic Segmentation in Driving Scene Scenarios [1.2172320168050466]
  XALに基づくセマンティックセグメンテーションモデル "SegXAL" を提案する。 SegXALは、(i)ラベルのないデータを効果的に活用し、(ii)"Human-in-the-loop"パラダイムを促進し、(iii)解釈可能な方法でモデル決定を強化する。 特に,シーン駆動シナリオにおけるセマンティックセグメンテーションに対するSegXALモデルの適用について検討する。
  論文  参考訳（メタデータ） (2024-08-08T14:19:11Z)
• Explainable AI for Enhancing Efficiency of DL-based Channel Estimation [1.0136215038345013]
  人工知能に基づく意思決定のサポートは、将来の6Gネットワークの重要な要素である。 このようなアプリケーションでは、ブラックボックスモデルとしてAIを使用するのは危険で難しい。 本稿では,無線通信におけるチャネル推定を目的とした新しいXAI-CHESTフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-09T16:24:21Z)
• Explainable AI for Comparative Analysis of Intrusion Detection Models [20.683181384051395]
  本研究は,ネットワークトラフィックから侵入検出を行うために,各種機械学習モデルを二分分類および多クラス分類のタスクに解析する。 すべてのモデルをUNSW-NB15データセットで90%の精度でトレーニングしました。 また、Random Forestは正確さ、時間効率、堅牢性という点で最高のパフォーマンスを提供します。
  論文  参考訳（メタデータ） (2024-06-14T03:11:01Z)
• Sampling - Variational Auto Encoder - Ensemble: In the Quest of Explainable Artificial Intelligence [0.0]
  本稿では,新しい枠組みに基づく実証的評価を提示することによって,XAIに関する談話に寄与する。 VAEとアンサンブルスタックとSHapley Additive ExPlanationsを組み合わせたハイブリッドアーキテクチャである。 この発見は、アンサンブルスタック、VAE、SHAPを組み合わせることで、モデルのパフォーマンスが向上するだけでなく、簡単に説明可能なフレームワークを提供できることを示している。
  論文  参考訳（メタデータ） (2023-09-25T02:46:19Z)
• Optimizing Explanations by Network Canonization and Hyperparameter Search [74.76732413972005]
  ルールベースで修正されたバックプロパゲーションXAIアプローチは、モダンなモデルアーキテクチャに適用される場合、しばしば課題に直面します。 モデルカノン化は、基礎となる機能を変更することなく問題のあるコンポーネントを無視してモデルを再構成するプロセスである。 本研究では、一般的なディープニューラルネットワークアーキテクチャに適用可能な、現在関連するモデルブロックのカノン化を提案する。
  論文  参考訳（メタデータ） (2022-11-30T17:17:55Z)
• Explanation-by-Example Based on Item Response Theory [0.0]
  本研究は, 項目応答理論(IRT)を, モデルを説明し, 説明による信頼性のレベルを測定するためのツールとして検討する。 テストセットからすると、83.8%のエラーはIRTがモデルを信頼できないと指摘しているインスタンスからのものである。
  論文  参考訳（メタデータ） (2022-10-04T14:36:33Z)
• UKP-SQuARE v2 Explainability and Adversarial Attacks for Trustworthy QA [47.8796570442486]
  質問回答システムは、現実の意思決定をサポートするアプリケーションにますますデプロイされています。 本質的に解釈可能なモデルやポストホックな説明可能性メソッドは、モデルがその予測にどのように到着するかをユーザが理解するのに役立ちます。 SQuAREの新バージョンであるSQuARE v2を導入し、モデルを比較するための説明可能性インフラストラクチャを提供する。
  論文  参考訳（メタデータ） (2022-08-19T13:01:01Z)
• AES Systems Are Both Overstable And Oversensitive: Explaining Why And Proposing Defenses [66.49753193098356]
  スコアリングモデルの驚くべき逆方向の脆さの原因について検討する。 のモデルとして訓練されているにもかかわらず、単語の袋のように振る舞うことを示唆している。 高い精度で試料を発生させる過敏性と過敏性を検出できる検出ベース保護モデルを提案する。
  論文  参考訳（メタデータ） (2021-09-24T03:49:38Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• Evaluation Toolkit For Robustness Testing Of Automatic Essay Scoring Systems [64.4896118325552]
  モデル逆算評価スキームと関連するメトリクスを用いて、現状のAESモデルを評価する。 AESモデルは非常に過大評価されていることがわかった。質問の話題に関係のない内容の重い修正(25%まで)でさえ、モデルが生み出すスコアを低下させることはない。
  論文  参考訳（メタデータ） (2020-07-14T03:49:43Z)
• AvgOut: A Simple Output-Probability Measure to Eliminate Dull Responses [97.50616524350123]
  機能エンジニアリングなしで、どの発話やトークンが退屈であるかを動的に認識する対話モデルを構築します。 最初のモデルMinAvgOutは、各バッチの出力分布を通して、ダイバーシティスコアを直接最大化する。 第2のモデルであるラベルファインチューニング(LFT)は、多様性スコアによって連続的にスケールされたラベルをソースシーケンスにプリペイドし、多様性レベルを制御する。 3つ目のモデルであるRLは強化学習を採用し、多様性スコアを報奨信号として扱う。
  論文  参考訳（メタデータ） (2020-01-15T18:32:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。