論文の概要: PhilaeX: Explaining the Failure and Success of AI Models in Malware Detection

• arxiv url: http://arxiv.org/abs/2207.00740v1
• Date: Sat, 2 Jul 2022 05:06:24 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-09 11:39:53.659556
• Title: PhilaeX: Explaining the Failure and Success of AI Models in Malware Detection
• Title（参考訳）: PhilaeX: マルウェア検出におけるAIモデルの失敗と成功を説明する
• Authors: Zhi Lu, Vrizlynn L. L. Thing
• Abstract要約: サイバーセキュリティにおける意思決定を支援するために使用されるAIモデルの予測に対する説明は、非常に重要である。 既存のAIモデルには、ほとんどのシナリオでパフォーマンスが強いにもかかわらず、予測結果に関する説明を提供する能力がない。 我々は、AIモデルの予測の完全な説明を形成するために、最適化された機能のサブセットを識別する手段を提供する、PhillaeXと呼ばれる新しい説明可能なAI手法を提案する。
• 参考スコア（独自算出の注目度）: 6.264663726458324
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The explanation to an AI model's prediction used to support decision making in cyber security, is of critical importance. It is especially so when the model's incorrect prediction can lead to severe damages or even losses to lives and critical assets. However, most existing AI models lack the ability to provide explanations on their prediction results, despite their strong performance in most scenarios. In this work, we propose a novel explainable AI method, called PhilaeX, that provides the heuristic means to identify the optimized subset of features to form the complete explanations of AI models' predictions. It identifies the features that lead to the model's borderline prediction, and those with positive individual contributions are extracted. The feature attributions are then quantified through the optimization of a Ridge regression model. We verify the explanation fidelity through two experiments. First, we assess our method's capability in correctly identifying the activated features in the adversarial samples of Android malwares, through the features attribution values from PhilaeX. Second, the deduction and augmentation tests, are used to assess the fidelity of the explanations. The results show that PhilaeX is able to explain different types of classifiers correctly, with higher fidelity explanations, compared to the state-of-the-arts methods such as LIME and SHAP.
• Abstract（参考訳）: サイバーセキュリティにおける意思決定を支援するaiモデルの予測に対する説明は、非常に重要である。 特に、モデルの不正確な予測が、重大な損害や、生命や重要な資産の損失につながる場合である。 しかしながら、既存のAIモデルには、ほとんどのシナリオで強力なパフォーマンスにもかかわらず、予測結果の説明を提供する能力がない。 本稿では、AIモデルの予測の完全な説明を形成するために、最適化された機能のサブセットを特定するためのヒューリスティックな手段を提供する、PhillaeXと呼ばれる新しい説明可能なAI手法を提案する。 モデルの境界線予測に繋がる特徴を特定し、肯定的な個人貢献を持つものを抽出する。 特徴属性は、リッジ回帰モデルの最適化によって定量化される。 2つの実験により説明忠実度を検証する。 まず,PhillaeX の特徴帰属値を用いて,Android マルウェアの敵検体中の活性化特徴を正確に同定する手法の有効性を評価する。 第二に、説明の忠実性を評価するために、推論と拡張テストが使用される。 その結果, LIME や SHAP のような最先端の手法と比較して, フィラエX は多種多様な分類法を高精度に説明できることがわかった。

関連論文リスト

• F-Fidelity: A Robust Framework for Faithfulness Evaluation of Explainable AI [15.314388210699443]
  微調整フィデリティF-フィデリティはXAIの堅牢な評価フレームワークである。 その結果, F-Fidelity は, 説明者の信頼度を回復する上で, 事前評価基準を著しく改善することを示した。 また,F-Fidelityの指標を忠実に説明すれば,入力成分の空間性を計算することができることを示す。
  論文  参考訳（メタデータ） (2024-10-03T20:23:06Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• AUTOLYCUS: Exploiting Explainable AI (XAI) for Model Extraction Attacks against Interpretable Models [1.8752655643513647]
  XAIツールは、モデル抽出攻撃の脆弱性を増大させる可能性がある。 そこで本研究では,ブラックボックス設定下での解釈可能なモデルに対して,新たなリトレーニング(学習)に基づくモデル抽出攻撃フレームワークを提案する。 AUTOLYCUSは非常に効果的で、最先端の攻撃に比べてクエリが大幅に少ないことが示される。
  論文  参考訳（メタデータ） (2023-02-04T13:23:39Z)
• Rationalizing Predictions by Adversarial Information Calibration [65.19407304154177]
  我々は2つのモデルを共同で訓練する: 1つは、正確だがブラックボックスな方法でタスクを解く典型的なニューラルモデルであり、もう1つは、予測の理論的根拠を付加するセレクタ・予測モデルである。 我々は,2つのモデルから抽出した情報を,それらの違いが欠落した特徴や過度に選択された特徴の指標であるように校正するために,敵対的手法を用いる。
  論文  参考訳（メタデータ） (2023-01-15T03:13:09Z)
• VisFIS: Visual Feature Importance Supervision with Right-for-the-Right-Reason Objectives [84.48039784446166]
  モデルFI監督は、VQAモデルの精度と、Right-to-the-Right-Reasonメトリクスの性能を有意義に向上させることができることを示す。 我々の最高のパフォーマンス手法であるVisual Feature Importance Supervision (VisFIS)は、ベンチマークVQAデータセットで強いベースラインを上回ります。 説明が妥当で忠実な場合には予測がより正確になる。
  論文  参考訳（メタデータ） (2022-06-22T17:02:01Z)
• "How Does It Detect A Malicious App?" Explaining the Predictions of AI-based Android Malware Detector [6.027885037254337]
  そこで本研究では,Androidのマルウェア検出に応用したAIモデルに対して,新たなモデルに依存しない説明手法を提案する。 提案手法は,データの特徴と予測との関係を2つのステップで同定し,定量化する。 まず,提案手法は,AIモデルが定量的に相手のサンプルによってどのように回避されているかを検出するのに役立つことを実証する。
  論文  参考訳（メタデータ） (2021-11-06T11:25:24Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• Learning from the Best: Rationalizing Prediction by Adversarial Information Calibration [39.685626118667074]
  2つのモデルを共同でトレーニングする。1つは手前のタスクを正確だがブラックボックスな方法で解く典型的なニューラルモデルであり、もう1つはセレクタ-予測モデルであり、予測の根拠も生み出す。 両モデルから抽出した情報の校正には,逆数に基づく手法を用いる。 自然言語タスクには, 言語モデルに基づく正規化子を用いて, 流線型論理の抽出を促進することを提案する。
  論文  参考訳（メタデータ） (2020-12-16T11:54:15Z)
• Model extraction from counterfactual explanations [68.8204255655161]
  本稿では, 敵が反実的説明によって提供された情報を利用して, 高精度かつ高精度なモデル抽出攻撃を構築する方法を示す。 我々の攻撃は、敵が相手モデルの忠実なコピーを、その偽説明にアクセスして作成することを可能にする。
  論文  参考訳（メタデータ） (2020-09-03T19:02:55Z)
• Are Visual Explanations Useful? A Case Study in Model-in-the-Loop Prediction [49.254162397086006]
  画像に基づく年齢予測課題における視覚的満足度に基づく説明について検討する。 モデル予測の提示により,人間の精度が向上することが判明した。 しかし、様々な種類の説明は、人間の正確さやモデルの信頼を著しく変えることができない。
  論文  参考訳（メタデータ） (2020-07-23T20:39:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。