論文の概要: Explaining Provenance-Based GNN Detectors with Graph Structural Features

• arxiv url: http://arxiv.org/abs/2306.00934v3
• Date: Mon, 21 Oct 2024 18:24:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-23 14:25:35.522413
• Title: Explaining Provenance-Based GNN Detectors with Graph Structural Features
• Title（参考訳）: グラフ構造を持つプロバンスベースGNN検出器の解説
• Authors: Kunal Mukherjee, Joshua Wiedemeier, Tianhao Wang, Muhyun Kim, Feng Chen, Murat Kantarcioglu, Kangkook Jee,
• Abstract要約: 本稿では,MLモデルの決定境界を代理DTの解釈可能な特徴空間に変換することで,セキュリティに配慮した説明を提供するフレームワークであるPROVEXPLAINERを紹介する。 我々のフレームワークは、主にGNNを使用して構築されたセキュリティモデルの説明に焦点を当てている。 PROVEXPLAINER は SOTA GNN の説明器と比較して最大 9.14% と 6.97% の精度で再現できる。
• 参考スコア（独自算出の注目度）: 15.256262257064982
• License:
• Abstract: The opaqueness of ML-based security models hinders their broad adoption and consequently restricts transparent security operations due to their limited verifiability and explainability. To enhance the explainability of ML-based security models, we introduce PROVEXPLAINER, a framework offering security-aware explanations by translating an ML model's decision boundary onto the interpretable feature space of a surrogate DT. Our PROVEXPLAINER framework primarily focuses on explaining security models that are built using GNNs since recent studies employ GNNs to comprehensively digest system provenance graphs for security critical tasks. PROVEXPLAINER uses graph structural features based on security domain knowledge gained from extensive data analysis, utilizing public and private system provenance datasets. PROVEXPLAINER's interpretable feature space can be directly mapped to the system provenance problem space, making the explanations human understandable. Because the security landscape is constantly changing, PROVEXPLAINER can be easily extended with new explanatory features as they are identified in the wild. By considering prominent GNN architectures (e.g., GAT and GraphSAGE) for program classification and anomaly detection tasks, we show how PROVEXPLAINER synergizes with current SOTA GNN explainers to deliver domain-specific explanations. On malware and APT datasets, PROVEXPLAINER achieves up to 9.14% and 6.97% higher precision and recall, respectively, compared to SOTA GNN explainers. When combined with a general-purpose SOTA GNN explainer, PROVEXPLAINER shows a further improvement of 7.22% and 4.86% precision and recall over the best individual explainer.
• Abstract（参考訳）: MLベースのセキュリティモデルの不透明さは、広く採用されるのを妨げ、その結果、その限定された妥当性と説明可能性のために透過的なセキュリティ操作を制限する。 本稿では,MLモデルの決定境界を代理DTの解釈可能な特徴空間に変換することで,セキュリティを意識した説明を提供するフレームワークであるPROVEXPLAINERを紹介する。 我々のPROVEXPLAINERフレームワークは主に、GNNを用いて構築されたセキュリティモデルの説明に重点を置いている。 PROVEXPLAINERは、公開およびプライベートシステムの前駆的データセットを利用して、広範なデータ分析から得られたセキュリティドメイン知識に基づいたグラフ構造的特徴を使用する。 PROVEXPLAINERの解釈可能な特徴空間はシステム証明問題空間に直接マッピングされ、人間の説明が理解できる。 セキュリティの状況は常に変化しているため、PROVEXPLAINERは野生で識別されるように、新しい説明機能で容易に拡張できる。 本稿では,プログラム分類や異常検出タスクのための著名なGNNアーキテクチャ(GAT,GraphSAGEなど)を考慮し,PROVEXPLAINERが現在のSOTA GNN説明器と相乗してドメイン固有の説明を行う方法を示す。 マルウェアとAPTのデータセットでは、SOTA GNNの説明者と比較して、PROVEXPLAINERは最大9.14%の精度と6.97%の精度を達成している。 汎用的なSOTA GNN説明器と組み合わせると、PROVEXPLAINERはさらに7.22%と4.86%の精度で改善され、最高の個人説明器よりもリコールされた。

関連論文リスト

• Graph Neural Networks for Vulnerability Detection: A Counterfactual Explanation [41.831831628421675]
  グラフニューラルネットワーク(GNN)は、脆弱性検出のための顕著なコード埋め込みアプローチとして登場した。 本稿では,GNNに基づく脆弱性検出のための新しいファクト・ファクト・アナライザCFExplainerを提案する。
  論文  参考訳（メタデータ） (2024-04-24T06:52:53Z)
• Uncertainty in Graph Neural Networks: A Survey [50.63474656037679]
  グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで広く使われている。 しかし、多様な情報源から生じるGNNの予測的不確実性は、不安定で誤った予測につながる可能性がある。 本調査は,不確実性の観点からGNNの概要を概観することを目的としている。
  論文  参考訳（メタデータ） (2024-03-11T21:54:52Z)
• X-CBA: Explainability Aided CatBoosted Anomal-E for Intrusion Detection System [2.556190321164248]
  Intrusion Detection Systemsにおける機械学習(ML)モデルとディープラーニング(DL)モデルの使用は、不透明な意思決定による信頼の欠如につながっている。 本稿では、グラフニューラルネットワーク(GNN)の構造的利点を活用して、ネットワークトラフィックデータを効率的に処理する新しい説明可能なIDS手法であるX-CBAを提案する。 本手法は、脅威検出の99.47%で高精度に達成し、その分析結果の明確で実用的な説明を提供する。
  論文  参考訳（メタデータ） (2024-02-01T18:29:16Z)
• HGAttack: Transferable Heterogeneous Graph Adversarial Attack [63.35560741500611]
  ヘテロジニアスグラフニューラルネットワーク(HGNN)は、Webやeコマースなどの分野でのパフォーマンスでますます認識されている。 本稿ではヘテロジニアスグラフに対する最初の専用グレーボックス回避手法であるHGAttackを紹介する。
  論文  参考訳（メタデータ） (2024-01-18T12:47:13Z)
• Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
  我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。 提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。 本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
  論文  参考訳（メタデータ） (2023-12-13T03:17:05Z)
• Towards Robust Fidelity for Evaluating Explainability of Graph Neural Networks [32.345435955298825]
  グラフニューラルネットワーク(GNN)は、グラフノード間のメッセージパッシングを介してグラフィカルデータの依存性構造を利用するニューラルネットワークである。 GNN説明可能性の研究における主な課題は、これらの説明機能の性能を評価するための忠実度尺度を提供することである。 本稿では,この基礎的課題について考察し,その限界を浮き彫りにする。
  論文  参考訳（メタデータ） (2023-10-03T06:25:14Z)
• DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
  我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。 GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。 また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2023-05-22T10:29:52Z)
• Information Obfuscation of Graph Neural Networks [96.8421624921384]
  本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。 本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-09-28T17:55:04Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。