論文の概要: Graph Neural Network Explanations are Fragile

• arxiv url: http://arxiv.org/abs/2406.03193v1
• Date: Wed, 5 Jun 2024 12:23:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 18:30:28.160399
• Title: Graph Neural Network Explanations are Fragile
• Title（参考訳）: グラフニューラルネットワークの説明は誤りである
• Authors: Jiate Li, Meng Pang, Yun Dong, Jinyuan Jia, Binghui Wang,
• Abstract要約: 我々は、敵の攻撃下でGNNの説明者を研究するための第一歩を踏み出した。 逆の摂動グラフ構造は、GNNモデルが正しい予測を行うのを確実にするが、GNN説明器は摂動グラフに大きく異なる説明を与える。
• 参考スコア（独自算出の注目度）: 39.9987140075811
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainable Graph Neural Network (GNN) has emerged recently to foster the trust of using GNNs. Existing GNN explainers are developed from various perspectives to enhance the explanation performance. We take the first step to study GNN explainers under adversarial attack--We found that an adversary slightly perturbing graph structure can ensure GNN model makes correct predictions, but the GNN explainer yields a drastically different explanation on the perturbed graph. Specifically, we first formulate the attack problem under a practical threat model (i.e., the adversary has limited knowledge about the GNN explainer and a restricted perturbation budget). We then design two methods (i.e., one is loss-based and the other is deduction-based) to realize the attack. We evaluate our attacks on various GNN explainers and the results show these explainers are fragile.
• Abstract（参考訳）: 説明可能なグラフニューラルネットワーク(GNN)が最近登場し、GNNの信頼性を高めている。 既存のGNN説明器は、説明性能を高めるために様々な観点から開発されている。 我々は、敵対的攻撃下でGNN説明器を研究するための第一歩を踏み出した -- 敵のわずかに摂動するグラフ構造は、GNNモデルが正しい予測を下すことを保証できるが、GNN説明器は、摂動したグラフに大きく異なる説明を与える。 具体的には,まず,実際の脅威モデルに基づいて攻撃問題を定式化する(つまり,敵はGNNの説明器と制限された摂動予算について限られた知識を持っている)。 次に、攻撃を実現するために2つの方法(損失ベースと減算ベース)を設計する。 我々は,様々なGNN説明書に対する攻撃を評価し,これらの説明書が脆弱であることを示す。

関連論文リスト

• Global Graph Counterfactual Explanation: A Subgraph Mapping Approach [54.42907350881448]
  グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションに広くデプロイされている。 対実的説明は、GNN予測を変える入力グラフ上で最小の摂動を見つけることを目的としている。 我々は,グローバルレベルのグラフ対実的説明法であるGlobalGCEを提案する。
  論文  参考訳（メタデータ） (2024-10-25T21:39:05Z)
• Explainable Graph Neural Networks Under Fire [69.15708723429307]
  グラフニューラルネットワーク(GNN)は通常、複雑な計算挙動とグラフの抽象的性質のために解釈性に欠ける。 ほとんどのGNN説明法は、ポストホックな方法で動作し、重要なエッジと/またはノードの小さなサブセットの形で説明を提供する。 本稿では,これらの説明が信頼できないことを実証する。GNNの一般的な説明手法は,敵対的摂動に強い影響を受けやすいことが判明した。
  論文  参考訳（メタデータ） (2024-06-10T16:09:16Z)
• Link Stealing Attacks Against Inductive Graph Neural Networks [60.931106032824275]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理するように設計されたニューラルネットワークの一種である。 これまでの研究によると、トランスダクティブGNNは一連のプライバシー攻撃に弱い。 本稿では,リンク盗難攻撃のレンズを通して,誘導型GNNの包括的プライバシー分析を行う。
  論文  参考訳（メタデータ） (2024-05-09T14:03:52Z)
• On Consistency in Graph Neural Network Interpretation [34.25952902469481]
  インスタンスレベルのGNN説明は、ターゲットのGNNが予測に頼っているノードやエッジなどの重要な入力要素を発見することを目的としている。 様々なアルゴリズムが提案されているが、その多くは最小の部分グラフを探索することによってこのタスクを定式化している。 埋め込みの整列による簡易かつ効果的な対策を提案する。
  論文  参考訳（メタデータ） (2022-05-27T02:58:07Z)
• Explainability in Graph Neural Networks: An Experimental Survey [12.440636971075977]
  グラフ表現学習のためのグラフニューラルネットワーク(GNN)が広く開発されている。 GNNは、その基盤となるメカニズムを理解できないため、ブラックボックスの問題に悩まされる。 GNNによる意思決定を説明するために、いくつかのGNN説明可能性法が提案されている。
  論文  参考訳（メタデータ） (2022-03-17T11:25:41Z)
• Jointly Attacking Graph Neural Network and its Explanations [50.231829335996814]
  グラフニューラルネットワーク(GNN)は多くのグラフ関連タスクのパフォーマンスを向上した。 近年の研究では、GNNは敵の攻撃に対して非常に脆弱であることが示されており、敵はグラフを変更することでGNNの予測を誤認することができる。 本稿では、GNNモデルとその説明の両方を同時に利用して攻撃できる新しい攻撃フレームワーク(GEAttack)を提案する。
  論文  参考訳（メタデータ） (2021-08-07T07:44:33Z)
• Generative Causal Explanations for Graph Neural Networks [39.60333255875979]
  Gemは、さまざまなグラフ学習タスクで任意のGNNに対して解釈可能な説明を提供するモデルに依存しないアプローチです。 説明精度の相対的な向上を最大30%$で達成し、その最先端の代替品と比較して、説明プロセスを最大$ 10times $でスピードアップします。
  論文  参考訳（メタデータ） (2021-04-14T06:22:21Z)
• Graph Structure Learning for Robust Graph Neural Networks [63.04935468644495]
  グラフニューラルネットワーク(GNN)は、グラフの表現学習において強力なツールである。 近年の研究では、GNNは敵攻撃と呼ばれる、慎重に構築された摂動に弱いことが示されている。 本稿では,構造グラフと頑健なグラフニューラルネットワークモデルを共同で学習できる汎用フレームワークであるPro-GNNを提案する。
  論文  参考訳（メタデータ） (2020-05-20T17:07:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。