論文の概要: Design Requirements for Human-Centered Graph Neural Network Explanations
- arxiv url: http://arxiv.org/abs/2405.06917v1
- Date: Sat, 11 May 2024 05:13:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-14 19:22:14.396541
- Title: Design Requirements for Human-Centered Graph Neural Network Explanations
- Title（参考訳）: 人中心型グラフニューラルネットワーク記述のための設計要件
- Authors: Pantea Habibi, Peyman Baghershahi, Sourav Medya, Debaleena Chattopadhyay,
- Abstract要約: グラフニューラルネットワーク(GNN)は、強力なグラフベースの機械学習モデルである。
GNNは、その予測について人間には理解できない説明を、容易に許さない。
本稿では、ドメインエキスパートにGNNの説明をアクセス可能な形で提供することを目的とした2つの論文について論じる。
- 参考スコア（独自算出の注目度）: 9.163767791893624
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph neural networks (GNNs) are powerful graph-based machine-learning models that are popular in various domains, e.g., social media, transportation, and drug discovery. However, owing to complex data representations, GNNs do not easily allow for human-intelligible explanations of their predictions, which can decrease trust in them as well as deter any collaboration opportunities between the AI expert and non-technical, domain expert. Here, we first discuss the two papers that aim to provide GNN explanations to domain experts in an accessible manner and then establish a set of design requirements for human-centered GNN explanations. Finally, we offer two example prototypes to demonstrate some of those proposed requirements.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、強力なグラフベースの機械学習モデルであり、例えば、ソーシャルメディア、輸送、薬物発見など、さまざまな領域で人気がある。
しかし、複雑なデータ表現のため、GNNは人間の知的な予測の説明を容易にできないため、信頼を減らしたり、AIの専門家と非技術ドメインの専門家とのコラボレーションの機会を減らしたりすることができる。
本稿ではまず,ドメインエキスパートにGNNの説明を提供するための2つの論文について論じるとともに,人間中心のGNN説明のための一連の設計要件を確立する。
最後に、提案された要求のいくつかを実証する2つの例を挙げる。
関連論文リスト
- A Survey on Explainability of Graph Neural Networks [4.612101932762187]
グラフニューラルネットワーク(GNN)は、グラフベースの強力なディープラーニングモデルである。
本調査は,GNNの既存の説明可能性技術の概要を概観することを目的としている。
論文 参考訳（メタデータ） (2023-06-02T23:36:49Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳（メタデータ） (2023-05-22T10:29:52Z) - Towards Prototype-Based Self-Explainable Graph Neural Network [37.90997236795843]
本稿では,プロトタイプベースの自己説明可能なGNNを学習し,正確な予測とプロトタイプベースの予測説明を同時に行うという,新たな課題について考察する。
学習したプロトタイプは、テストインスタンスの予測とインスタンスレベルの説明を同時に行うためにも使用される。
論文 参考訳（メタデータ） (2022-10-05T00:47:42Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳（メタデータ） (2022-08-21T15:12:08Z) - A Survey of Explainable Graph Neural Networks: Taxonomy and Evaluation
Metrics [8.795591344648294]
本稿では,説明可能なグラフニューラルネットワークに着目し,説明可能な手法を用いて分類する。
我々は,GNNの解説に共通する性能指標を提供し,今後の研究の方向性を指摘する。
論文 参考訳（メタデータ） (2022-07-26T01:45:54Z) - Trustworthy Graph Neural Networks: Aspects, Methods and Trends [115.84291569988748]
グラフニューラルネットワーク(GNN)は,さまざまな実世界のシナリオに対して,有能なグラフ学習手法として登場した。
パフォーマンス指向のGNNは、敵の攻撃に対する脆弱性のような潜在的な副作用を示す。
こうした意図しない害を避けるためには、信頼度に特徴付けられる有能なGNNを構築する必要がある。
論文 参考訳（メタデータ） (2022-05-16T02:21:09Z) - A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy,
Robustness, Fairness, and Explainability [59.80140875337769]
グラフニューラルネットワーク(GNN)は近年,急速な発展を遂げている。
GNNは個人情報をリークしたり、敵対的攻撃に弱いり、トレーニングデータから社会的バイアスを継承したり、拡大したりすることができる。
本稿では、プライバシー、堅牢性、公正性、説明可能性の計算面におけるGNNの包括的調査を行う。
論文 参考訳（メタデータ） (2022-04-18T21:41:07Z) - ProtGNN: Towards Self-Explaining Graph Neural Networks [12.789013658551454]
本稿では,プロトタイプ学習とGNNを組み合わせたプロトタイプグラフニューラルネットワーク(ProtGNN)を提案する。
ProtGNNとProtGNN+は、非解釈不能のものと同等の精度を保ちながら、本質的に解釈可能である。
論文 参考訳（メタデータ） (2021-12-02T01:16:29Z) - GNNLens: A Visual Analytics Approach for Prediction Error Diagnosis of
Graph Neural Networks [42.222552078920216]
Graph Neural Networks(GNN)は、ディープラーニング技術をグラフデータに拡張することを目的としている。
GNNは、モデル開発者やユーザから詳細を隠したブラックボックスのように振る舞う。
したがって、GNNの潜在的なエラーを診断することは困難である。
本稿では,対話型視覚分析ツールGNNLensで研究ギャップを埋め,モデル開発者やユーザによるGNNの理解と分析を支援する。
論文 参考訳（メタデータ） (2020-11-22T16:09:08Z) - A Practical Tutorial on Graph Neural Networks [49.919443059032226]
グラフニューラルネットワーク(GNN)は、人工知能(AI)分野において最近人気が高まっている。
このチュートリアルでは、GNNのパワーとノベルティをAI実践者に公開している。
論文 参考訳（メタデータ） (2020-10-11T12:36:17Z) - XGNN: Towards Model-Level Explanations of Graph Neural Networks [113.51160387804484]
グラフニューラルネットワーク(GNN)は、隣の情報を集約して組み合わせることでノードの特徴を学習する。
GNNはブラックボックスとして扱われ、人間の知的な説明が欠けている。
我々はモデルレベルでGNNを解釈する新しい手法 XGNN を提案する。
論文 参考訳（メタデータ） (2020-06-03T23:52:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。