論文の概要: GISExplainer: On Explainability of Graph Neural Networks via Game-theoretic Interaction Subgraphs

• arxiv url: http://arxiv.org/abs/2409.15698v2
• Date: Mon, 30 Dec 2024 13:28:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:00:00.847158
• Title: GISExplainer: On Explainability of Graph Neural Networks via Game-theoretic Interaction Subgraphs
• Title（参考訳）: GISExplainer:ゲーム理論インタラクショングラフによるグラフニューラルネットワークの説明可能性について
• Authors: Xingping Xian, Jianlu Liu, Chao Wang, Tao Wu, Shaojie Qiao, Xiaochuan Tang, Qun Liu,
• Abstract要約: GISExplainerはゲーム理論の相互作用に基づく説明手法である。 これは、GNNがノード分類のために学んだことを明らかにする。 GISExplainerは最先端のアプローチよりも優れたパフォーマンスを実現している。
• 参考スコア（独自算出の注目度）: 21.012180171806456
• License:
• Abstract: Explainability is crucial for the application of black-box Graph Neural Networks (GNNs) in critical fields such as healthcare, finance, cybersecurity, and more. Various feature attribution methods, especially the perturbation-based methods, have been proposed to indicate how much each node/edge contributes to the model predictions. However, these methods fail to generate connected explanatory subgraphs that consider the causal interaction between edges within different coalition scales, which will result in unfaithful explanations. In our study, we propose GISExplainer, a novel game-theoretic interaction based explanation method that uncovers what the underlying GNNs have learned for node classification by discovering human-interpretable causal explanatory subgraphs. First, GISExplainer defines a causal attribution mechanism that considers the game-theoretic interaction of multi-granularity coalitions in candidate explanatory subgraph to quantify the causal effect of an edge on the prediction. Second, GISExplainer assumes that the coalitions with negative effects on the predictions are also significant for model interpretation, and the contribution of the computation graph stems from the combined influence of both positive and negative interactions within the coalitions. Then, GISExplainer regards the explanation task as a sequential decision process, in which a salient edges is successively selected and connected to the previously selected subgraph based on its causal effect to form an explanatory subgraph, ultimately striving for better explanations. Additionally, an efficiency optimization scheme is proposed for the causal attribution mechanism through coalition sampling. Extensive experiments demonstrate that GISExplainer achieves better performance than state-of-the-art approaches w.r.t. two quantitative metrics: Fidelity and Sparsity.
• Abstract（参考訳）: 医療、金融、サイバーセキュリティなど、重要な分野におけるブラックボックスグラフニューラルネットワーク(GNN)の適用には、説明責任が不可欠である。 様々な特徴属性法,特に摂動に基づく手法は,各ノード/エッジがモデル予測にどの程度寄与するかを示すために提案されている。 しかしながら、これらの手法は、異なる連立スケール内のエッジ間の因果的相互作用を考慮し、不信な説明をもたらす連結説明部分グラフを生成することに失敗する。 そこで本研究では,GNNがノード分類で学んだことを,人間の解釈可能な因果説明部分グラフによって明らかにする,新たなゲーム理論に基づく説明手法であるGISExplainerを提案する。 まず、GISExplainerは、予測に対するエッジの因果効果を定量化するために、候補説明部分グラフにおける多粒度連立のゲーム理論的相互作用を考慮した因果帰属機構を定義する。 第二に、GISExplainerは、予測に対する負の影響のある連立関係もモデル解釈に重要であると仮定し、計算グラフの寄与は、連立関係における正と負の相互作用の組合せの影響に由来する。 そして、GISExplainerは、説明課題をシーケンシャルな決定プロセスとみなし、その因果効果に基づいて、サリアントエッジを順次選択し、予め選択したサブグラフに接続し、説明的なサブグラフを形成し、最終的にはより良い説明を求めて努力する。 さらに、連立サンプリングによる因果帰属機構の効率最適化手法を提案する。 大規模な実験では、GISExplainerは2つの定量的メトリクスであるフィデリティとスパーシティよりも優れたパフォーマンスを実現している。

関連論文リスト

• TANGNN: a Concise, Scalable and Effective Graph Neural Networks with Top-m Attention Mechanism for Graph Representation Learning [7.879217146851148]
  本稿では,Top-mアテンション機構アグリゲーションコンポーネントと近傍アグリゲーションコンポーネントを統合した,革新的なグラフニューラルネットワーク(GNN)アーキテクチャを提案する。 提案手法の有効性を評価するため,提案手法をGNN分野において未探索の新たな課題である引用感情予測に適用した。
  論文  参考訳（メタデータ） (2024-11-23T05:31:25Z)
• Semantic Interpretation and Validation of Graph Attention-based Explanations for GNN Models [9.260186030255081]
  本稿では,グラフニューラルネットワーク(GNN)に基づくモデルの説明可能性を高めるために,意味的注意力を用いた手法を提案する。 本研究は,注意分布のばらつきを意味的にソートした特徴集合と関連づけることで,既存の注意グラフ説明可能性手法を拡張した。 提案手法をライダーポイントクラウド推定モデルに適用し,性能向上に寄与する主要なセマンティッククラスを同定する。
  論文  参考訳（メタデータ） (2023-08-08T12:34:32Z)
• DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
  我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。 GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。 また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2023-05-22T10:29:52Z)
• On the Ability of Graph Neural Networks to Model Interactions Between Vertices [14.909298522361306]
  グラフニューラルネットワーク(GNN)は、グラフの頂点として表されるエンティティ間の複雑な相互作用をモデル化するために広く使われている。 近年のGNNの表現力を理論的に分析する試みにもかかわらず、相互作用をモデル化する能力の形式的特徴は欠如している。
  論文  参考訳（メタデータ） (2022-11-29T18:58:07Z)
• Robust Causal Graph Representation Learning against Confounding Effects [21.380907101361643]
  本稿では,ロバスト因果グラフ表現学習(RCGRL)を提案する。 RCGRLは、無条件のモーメント制約の下でインストゥルメンタル変数を生成するアクティブなアプローチを導入し、グラフ表現学習モデルにより、共同設立者を排除している。
  論文  参考訳（メタデータ） (2022-08-18T01:31:25Z)
• A Graph-Enhanced Click Model for Web Search [67.27218481132185]
  ウェブ検索のための新しいグラフ強調クリックモデル(GraphCM)を提案する。 セッション内情報とセッション間情報の両方を、スパーシリティ問題とコールドスタート問題に活用する。
  論文  参考訳（メタデータ） (2022-06-17T08:32:43Z)
• Discovering the Representation Bottleneck of Graph Neural Networks from Multi-order Interactions [51.597480162777074]
  グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。 最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。 科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
  論文  参考訳（メタデータ） (2022-05-15T11:38:14Z)
• Bayesian Graph Contrastive Learning [55.36652660268726]
  本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。 提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。 いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
  論文  参考訳（メタデータ） (2021-12-15T01:45:32Z)
• Neural Belief Propagation for Scene Graph Generation [31.9682610869767]
  本稿では,結果のシーングラフを生成するための新しいニューラル信念伝搬法を提案する。 平均場近似よりも構造的Bethe近似を用いて、関連する限界を推定する。 様々な人気のあるシーングラフ生成ベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2021-12-10T18:30:27Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• Learning to Extrapolate Knowledge: Transductive Few-shot Out-of-Graph Link Prediction [69.1473775184952]
  数発のアウトオブグラフリンク予測という現実的な問題を導入する。 我々は,新しいメタ学習フレームワークによってこの問題に対処する。 我々は,知識グラフの補完と薬物と薬物の相互作用予測のために,複数のベンチマークデータセット上でモデルを検証した。
  論文  参考訳（メタデータ） (2020-06-11T17:42:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。