論文の概要: XInsight: Revealing Model Insights for GNNs with Flow-based Explanations
- arxiv url: http://arxiv.org/abs/2306.04791v1
- Date: Wed, 7 Jun 2023 21:25:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-09 17:33:14.814681
- Title: XInsight: Revealing Model Insights for GNNs with Flow-based Explanations
- Title（参考訳）: XInsight:フローベースの説明付きGNNのためのモデルインサイト
- Authors: Eli Laird, Ayesh Madushanka, Elfi Kraka, Corey Clark
- Abstract要約: 薬物発見のような多くの高度な応用は、モデルから人間には理解できない説明を必要とする。
我々は,GFlowNetsを用いてモデル説明の分布を生成する,XInsightと呼ばれるGNNのための説明可能性アルゴリズムを提案する。
QSAR モデルを用いて生成した化合物を解析し,XInsight の説明の有用性を示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Progress in graph neural networks has grown rapidly in recent years, with
many new developments in drug discovery, medical diagnosis, and recommender
systems. While this progress is significant, many networks are `black boxes'
with little understanding of the `what' exactly the network is learning. Many
high-stakes applications, such as drug discovery, require human-intelligible
explanations from the models so that users can recognize errors and discover
new knowledge. Therefore, the development of explainable AI algorithms is
essential for us to reap the benefits of AI.
We propose an explainability algorithm for GNNs called eXplainable Insight
(XInsight) that generates a distribution of model explanations using GFlowNets.
Since GFlowNets generate objects with probabilities proportional to a reward,
XInsight can generate a diverse set of explanations, compared to previous
methods that only learn the maximum reward sample. We demonstrate XInsight by
generating explanations for GNNs trained on two graph classification tasks:
classifying mutagenic compounds with the MUTAG dataset and classifying acyclic
graphs with a synthetic dataset that we have open-sourced. We show the utility
of XInsight's explanations by analyzing the generated compounds using QSAR
modeling, and we find that XInsight generates compounds that cluster by
lipophilicity, a known correlate of mutagenicity. Our results show that
XInsight generates a distribution of explanations that uncovers the underlying
relationships demonstrated by the model. They also highlight the importance of
generating a diverse set of explanations, as it enables us to discover hidden
relationships in the model and provides valuable guidance for further analysis.
- Abstract（参考訳）: グラフニューラルネットワークの進歩は近年急速に成長し、薬物発見、医学診断、レコメンデーターシステムなど多くの新しい発展を遂げている。
この進歩は重要であるが、多くのネットワークは「ブラックボックス」であり、ネットワークが学習している「何」を正確に理解していない。
薬物発見のような多くの高リスクアプリケーションは、ユーザーがエラーを認識し、新しい知識を見つけるために、モデルから人間の知的な説明を必要とする。
したがって、AIの利点を享受するためには、説明可能なAIアルゴリズムの開発が不可欠である。
本稿では,GFlowNets を用いたモデル説明の分布を生成する eXplainable Insight (XInsight) と呼ばれる GNN のための説明可能性アルゴリズムを提案する。
GFlowNetsは報酬に比例した確率を持つオブジェクトを生成するため、XInsightは最大報酬サンプルのみを学習する従来の方法と比較して、さまざまな説明を生成できる。
我々は、MUTAGデータセットによる変異原性化合物の分類と、オープンソースで公開した合成データセットによる非環状グラフの分類という、2つのグラフ分類タスクで訓練されたGNNの説明を生成することで、XInsightを実証する。
qsarモデルを用いて生成した化合物を解析することにより,xinsightの説明の有用性を示し,変異原性の相関関係が知られている脂肪親和性によって,xinsightが群集する化合物を生成することを見出した。
以上の結果から,xinsightはモデルが示す基礎的な関係を明らかにするための説明の分布を生成する。
また、モデル内の隠れた関係を発見でき、さらなる分析のための貴重なガイダンスを提供するため、多様な説明を生成することの重要性を強調します。
関連論文リスト
- Self-Supervised Graph Neural Networks for Enhanced Feature Extraction in Heterogeneous Information Networks [16.12856816023414]
本稿では,インターネットの急速な発展に伴う複雑なグラフデータ処理におけるグラフニューラルネットワーク(GNN)の適用と課題について考察する。
自己監督機構を導入することにより、グラフデータの多様性と複雑さに対する既存モデルの適合性を向上させることが期待されている。
論文 参考訳（メタデータ） (2024-10-23T07:14:37Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳（メタデータ） (2023-05-22T10:29:52Z) - Structural Explanations for Graph Neural Networks using HSIC [21.929646888419914]
グラフニューラルネットワーク(GNN)は、グラフィカルなタスクをエンドツーエンドで処理するニューラルネットワークの一種である。
GNNの複雑なダイナミクスは、グラフの特徴のどの部分が予測に強く寄与しているかを理解するのを困難にしている。
本研究では,グラフ内の重要な構造を検出するために,フレキシブルモデルに依存しない説明法を提案する。
論文 参考訳（メタデータ） (2023-02-04T09:46:47Z) - A Detailed Study of Interpretability of Deep Neural Network based Top
Taggers [3.8541104292281805]
説明可能なAI(XAI)の最近の進歩により、研究者はディープニューラルネットワーク(DNN)の内部動作を探索できる。
大型ハドロン衝突型加速器(LHC)における高エネルギー陽子-陽子衝突におけるトップクォーク崩壊からのジェットの解釈可能性について検討する。
本研究は,既存のXAI手法の大きな落とし穴を明らかにし,これらのモデルの一貫性と意味のある解釈をいかに克服できるかを説明する。
論文 参考訳（メタデータ） (2022-10-09T23:02:42Z) - An Empirical Study of Retrieval-enhanced Graph Neural Networks [48.99347386689936]
グラフニューラルネットワーク(GNN)は、グラフ表現学習に有効なツールである。
本稿では,グラフニューラルネットワークモデルの選択に非依存な GraphRETRIEVAL という検索強化方式を提案する。
我々は13のデータセットに対して包括的な実験を行い、GRAPHRETRIEVALが既存のGNNよりも大幅に改善されていることを観察した。
論文 参考訳（メタデータ） (2022-06-01T09:59:09Z) - OrphicX: A Causality-Inspired Latent Variable Model for Interpreting
Graph Neural Networks [42.539085765796976]
本稿では、グラフニューラルネットワーク(GNN)の因果説明を生成するための新しいeXplanationフレームワークOrphicXを提案する。
本研究では, 個別な生成モデルを構築し, 因果的, コンパクト, 忠実な説明を生成モデルに推奨する目的関数を設計する。
OrphicXは因果的説明を生成するための因果的意味論を効果的に識別できることを示す。
論文 参考訳（メタデータ） (2022-03-29T03:08:33Z) - Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised
Node Classification [59.06717774425588]
本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。
出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。
本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
論文 参考訳（メタデータ） (2021-07-27T19:47:53Z) - Quantitative Evaluation of Explainable Graph Neural Networks for
Molecular Property Prediction [2.8544822698499255]
グラフニューラルネットワーク(GNN)は、解釈可能性の欠如により、薬物発見において限定的に受け入れられている。
本研究では,最新のGNNモデルの解釈可能性を定量的に評価するために,3段階のベンチマークデータセットを構築した。
我々は,最近のXAI手法と異なるGNNアルゴリズムを組み合わせることで,薬物発見のメリット,限界,今後の可能性を明らかにする。
論文 参考訳（メタデータ） (2021-07-01T04:49:29Z) - Leveraging Sparse Linear Layers for Debuggable Deep Networks [86.94586860037049]
学習した深い特徴表現に疎い線形モデルを適用することで、よりデバッグ可能なニューラルネットワークを実現する方法を示す。
その結果、スパースな説明は、スプリアス相関を特定し、誤分類を説明し、視覚および言語タスクにおけるモデルバイアスを診断するのに役立ちます。
論文 参考訳（メタデータ） (2021-05-11T08:15:25Z) - GraphSVX: Shapley Value Explanations for Graph Neural Networks [81.83769974301995]
グラフニューラルネットワーク(GNN)は、幾何データに基づく様々な学習タスクにおいて大きな性能を発揮する。
本稿では,既存のGNN解説者の多くが満足する統一フレームワークを提案する。
GNN用に特別に設計されたポストホックローカルモデル非依存説明法であるGraphSVXを紹介します。
論文 参考訳（メタデータ） (2021-04-18T10:40:37Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳（メタデータ） (2020-07-18T01:11:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。