論文の概要: Graph Neural Networks for Vulnerability Detection: A Counterfactual Explanation

• arxiv url: http://arxiv.org/abs/2404.15687v1
• Date: Wed, 24 Apr 2024 06:52:53 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-26 19:59:40.938526
• Title: Graph Neural Networks for Vulnerability Detection: A Counterfactual Explanation
• Title（参考訳）: 脆弱性検出のためのグラフニューラルネットワークの提案
• Authors: Zhaoyang Chu, Yao Wan, Qian Li, Yang Wu, Hongyu Zhang, Yulei Sui, Guandong Xu, Hai Jin,
• Abstract要約: グラフニューラルネットワーク(GNN)は、脆弱性検出のための顕著なコード埋め込みアプローチとして登場した。 本稿では,GNNに基づく脆弱性検出のための新しいファクト・ファクト・アナライザCFExplainerを提案する。
• 参考スコア（独自算出の注目度）: 41.831831628421675
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vulnerability detection is crucial for ensuring the security and reliability of software systems. Recently, Graph Neural Networks (GNNs) have emerged as a prominent code embedding approach for vulnerability detection, owing to their ability to capture the underlying semantic structure of source code. However, GNNs face significant challenges in explainability due to their inherently black-box nature. To this end, several factual reasoning-based explainers have been proposed. These explainers provide explanations for the predictions made by GNNs by analyzing the key features that contribute to the outcomes. We argue that these factual reasoning-based explanations cannot answer critical what-if questions: What would happen to the GNN's decision if we were to alter the code graph into alternative structures? Inspired by advancements of counterfactual reasoning in artificial intelligence, we propose CFExplainer, a novel counterfactual explainer for GNN-based vulnerability detection. Unlike factual reasoning-based explainers, CFExplainer seeks the minimal perturbation to the input code graph that leads to a change in the prediction, thereby addressing the what-if questions for vulnerability detection. We term this perturbation a counterfactual explanation, which can pinpoint the root causes of the detected vulnerability and furnish valuable insights for developers to undertake appropriate actions for fixing the vulnerability. Extensive experiments on four GNN-based vulnerability detection models demonstrate the effectiveness of CFExplainer over existing state-of-the-art factual reasoning-based explainers.
• Abstract（参考訳）: 脆弱性検出は、ソフトウェアシステムのセキュリティと信頼性を確保するために不可欠である。 最近、Graph Neural Networks(GNN)は、ソースコードの基盤となるセマンティック構造をキャプチャする能力のため、脆弱性検出のための顕著なコード埋め込みアプローチとして登場した。 しかし、GNNは本質的にブラックボックスの性質のため、説明可能性において重大な課題に直面している。 この目的のために、いくつかの事実推論に基づく説明器が提案されている。 これらの説明者は、結果に寄与する主要な特徴を分析することによって、GNNによる予測について説明する。 コードグラフを代替構造に変更するならば、GNNの決定はどうなるのか? 人工知能における反ファクト推論の進歩に触発されて、GNNベースの脆弱性検出のための新しい反ファクト説明器CFExplainerを提案する。 事実推論ベースの説明器とは異なり、CFExplainerは入力コードグラフに対する最小限の摂動を求め、予測が変更される。 検出された脆弱性の根本原因を特定し、開発者が脆弱性を修正するための適切なアクションを実行するための貴重な洞察を与えることができる。 4つのGNNベースの脆弱性検出モデルに対する大規模な実験は、既存の最先端の事実推論に基づく説明器に対するCFExplainerの有効性を示している。

関連論文リスト

• Explainable Graph Neural Networks Under Fire [69.15708723429307]
  グラフニューラルネットワーク(GNN)は通常、複雑な計算挙動とグラフの抽象的性質のために解釈性に欠ける。 ほとんどのGNN説明法は、ポストホックな方法で動作し、重要なエッジと/またはノードの小さなサブセットの形で説明を提供する。 本稿では,これらの説明が信頼できないことを実証する。GNNの一般的な説明手法は,敵対的摂動に強い影響を受けやすいことが判明した。
  論文  参考訳（メタデータ） (2024-06-10T16:09:16Z)
• Coca: Improving and Explaining Graph Neural Network-Based Vulnerability Detection Systems [16.005996517940964]
  グラフニューラルネットワーク(GNN)ベースの脆弱性検出システムは大きな成功を収めている。 説明責任の欠如は、セキュリティ関連ドメインにブラックボックスモデルをデプロイする上で重要な課題となる。 我々は,既存のGNNベースの脆弱性検出モデルの堅牢性向上を目的とした,一般的なフレームワークであるCocaを提案する。
  論文  参考訳（メタデータ） (2024-01-26T14:14:52Z)
• Towards Robust Fidelity for Evaluating Explainability of Graph Neural Networks [32.345435955298825]
  グラフニューラルネットワーク(GNN)は、グラフノード間のメッセージパッシングを介してグラフィカルデータの依存性構造を利用するニューラルネットワークである。 GNN説明可能性の研究における主な課題は、これらの説明機能の性能を評価するための忠実度尺度を提供することである。 本稿では,この基礎的課題について考察し,その限界を浮き彫りにする。
  論文  参考訳（メタデータ） (2023-10-03T06:25:14Z)
• DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
  我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。 GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。 また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2023-05-22T10:29:52Z)
• Faithful and Consistent Graph Neural Network Explanations with Rationale Alignment [38.66324833510402]
  インスタンスレベルのGNN説明は、ターゲットのGNNが予測に頼っているノードやエッジなどの重要な入力要素を発見することを目的としている。 様々なアルゴリズムが提案され、その多くは、元の予測を保存できる最小限のサブグラフを探索することで、このタスクを形式化する。 いくつかの部分グラフは元のグラフと同じもしくは類似した出力をもたらす。 弱いパフォーマンスのGNNを説明するためにそれらを適用することは、これらの問題をさらに増幅する。
  論文  参考訳（メタデータ） (2023-01-07T06:33:35Z)
• On Consistency in Graph Neural Network Interpretation [34.25952902469481]
  インスタンスレベルのGNN説明は、ターゲットのGNNが予測に頼っているノードやエッジなどの重要な入力要素を発見することを目的としている。 様々なアルゴリズムが提案されているが、その多くは最小の部分グラフを探索することによってこのタスクを定式化している。 埋め込みの整列による簡易かつ効果的な対策を提案する。
  論文  参考訳（メタデータ） (2022-05-27T02:58:07Z)
• Reinforced Causal Explainer for Graph Neural Networks [112.57265240212001]
  グラフニューラルネットワーク(GNN)の探索には説明可能性が不可欠である 我々は強化学習エージェントReinforced Causal Explainer (RC-Explainer)を提案する。 RC-Explainerは忠実で簡潔な説明を生成し、グラフを見えなくするより優れたパワーを持つ。
  論文  参考訳（メタデータ） (2022-04-23T09:13:25Z)
• Jointly Attacking Graph Neural Network and its Explanations [50.231829335996814]
  グラフニューラルネットワーク(GNN)は多くのグラフ関連タスクのパフォーマンスを向上した。 近年の研究では、GNNは敵の攻撃に対して非常に脆弱であることが示されており、敵はグラフを変更することでGNNの予測を誤認することができる。 本稿では、GNNモデルとその説明の両方を同時に利用して攻撃できる新しい攻撃フレームワーク(GEAttack)を提案する。
  論文  参考訳（メタデータ） (2021-08-07T07:44:33Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。