論文の概要: Resilient Graph Neural Networks: A Coupled Dynamical Systems Approach

• arxiv url: http://arxiv.org/abs/2311.06942v3
• Date: Wed, 11 Sep 2024 19:18:02 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-13 22:22:54.196025
• Title: Resilient Graph Neural Networks: A Coupled Dynamical Systems Approach
• Title（参考訳）: Resilient Graph Neural Networks: Coupled Dynamical Systems Approach
• Authors: Moshe Eliasof, Davide Murari, Ferdia Sherry, Carola-Bibiane Schönlieb,
• Abstract要約: グラフニューラルネットワーク(GNN)は、さまざまなグラフベースのタスクに対処するための重要なコンポーネントとして、自らを確立している。 彼らの顕著な成功にもかかわらず、GNNは相変わらず敵の攻撃の形で摂動を入力できる。 本稿では, 連成力学系のレンズを用いて, 対向摂動に対するGNNの強化手法を提案する。
• 参考スコア（独自算出の注目度）: 12.856220339384269
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph Neural Networks (GNNs) have established themselves as a key component in addressing diverse graph-based tasks. Despite their notable successes, GNNs remain susceptible to input perturbations in the form of adversarial attacks. This paper introduces an innovative approach to fortify GNNs against adversarial perturbations through the lens of coupled dynamical systems. Our method introduces graph neural layers based on differential equations with contractive properties, which, as we show, improve the robustness of GNNs. A distinctive feature of the proposed approach is the simultaneous learned evolution of both the node features and the adjacency matrix, yielding an intrinsic enhancement of model robustness to perturbations in the input features and the connectivity of the graph. We mathematically derive the underpinnings of our novel architecture and provide theoretical insights to reason about its expected behavior. We demonstrate the efficacy of our method through numerous real-world benchmarks, reading on par or improved performance compared to existing methods.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、さまざまなグラフベースのタスクに対処するための重要なコンポーネントとして、自らを確立している。 彼らの顕著な成功にもかかわらず、GNNは相変わらず敵の攻撃の形で摂動を入力できる。 本稿では, 連成力学系のレンズを用いて, 対向摂動に対するGNNの強化手法を提案する。 本手法は,GNNの強靭性を改善するために,縮退特性を持つ微分方程式に基づくグラフニューラル層を導入する。 提案手法の特筆すべき特徴は,ノード特徴と隣接行列の同時学習進化であり,入力特徴の摂動とグラフの接続性に対するモデルロバストネスの本質的な向上をもたらす。 我々は、数学的に新しいアーキテクチャの基盤を導き、その期待される振る舞いを推論するための理論的洞察を提供する。 提案手法の有効性を実世界のベンチマークを用いて実証し,既存手法と比較した場合の読み出しや性能改善について述べる。

関連論文リスト

• Unveiling Mode Connectivity in Graph Neural Networks [30.854487554682628]
  本研究は,グラフニューラルネットワーク(GNN)におけるモード接続性の最初の研究である。 我々は、GNNが完全に接続されたネットワークやCNNで観測されるパターンから逸脱して、非線形な接続性を示すことを明らかにした。 我々は、モード接続性と一般化のリンクを確立し、損失障壁に基づく一般化を提案し、診断ツールとしての有用性を明らかにする。
  論文  参考訳（メタデータ） (2025-02-18T07:46:10Z)
• A Dynamical Systems-Inspired Pruning Strategy for Addressing Oversmoothing in Graph Neural Networks [18.185834696177654]
  グラフニューラルネットワーク(GNN)のオーバースムース化は、ネットワークの深さが増加するにつれて大きな課題となる。 オーバースムーシングの根本原因を特定し,textbftextitDYNAMO-GATを提案する。 我々の理論的分析は、DYNAMO-GATが過密状態への収束を妨げていることを示している。
  論文  参考訳（メタデータ） (2024-12-10T07:07:06Z)
• Perturbation Ontology based Graph Attention Networks [26.95077612390953]
  Ontology-based Graph Attention Networks (POGAT) は、オントロジーのサブグラフと高度な自己教師付き学習パラダイムを組み合わせて、深い文脈理解を実現する新しい方法論である。 POGATは最先端のベースラインを大幅に上回り、リンク予測のクリティカルタスクはF1スコアで10.78%、ノード分類のクリティカルタスクはMicro-F1で12.01%という画期的な改善を実現している。
  論文  参考訳（メタデータ） (2024-11-27T17:12:14Z)
• Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
  本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。 我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。 本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
  論文  参考訳（メタデータ） (2024-03-18T18:01:01Z)
• HGAttack: Transferable Heterogeneous Graph Adversarial Attack [63.35560741500611]
  ヘテロジニアスグラフニューラルネットワーク(HGNN)は、Webやeコマースなどの分野でのパフォーマンスでますます認識されている。 本稿ではヘテロジニアスグラフに対する最初の専用グレーボックス回避手法であるHGAttackを紹介する。
  論文  参考訳（メタデータ） (2024-01-18T12:47:13Z)
• Label Deconvolution for Node Representation Learning on Large-scale Attributed Graphs against Learning Bias [75.44877675117749]
  本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。 実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
  論文  参考訳（メタデータ） (2023-09-26T13:09:43Z)
• DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
  我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。 GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。 また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2023-05-22T10:29:52Z)
• Spiking Variational Graph Auto-Encoders for Efficient Graph Representation Learning [10.65760757021534]
  本稿では,効率的なグラフ表現学習のためのSNNに基づく深層生成手法,すなわちSpking Variational Graph Auto-Encoders (S-VGAE)を提案する。 我々は,複数のベンチマークグラフデータセット上でリンク予測実験を行い,この結果から,グラフ表現学習における他のANNやSNNに匹敵する性能で,より少ないエネルギーを消費することを示した。
  論文  参考訳（メタデータ） (2022-10-24T12:54:41Z)
• Relation Embedding based Graph Neural Networks for Handling Heterogeneous Graph [58.99478502486377]
  我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。 具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
  論文  参考訳（メタデータ） (2022-09-23T05:24:18Z)
• Continuous-Depth Neural Models for Dynamic Graph Prediction [16.89981677708299]
  連続深度グラフニューラルネットワーク(GNN)の枠組みを紹介する。 ニューラルグラフ微分方程式(ニューラルグラフ微分方程式)は、GNNに対抗して形式化される。 その結果、遺伝的制御ネットワークにおけるトラフィック予測や予測など、アプリケーション全体にわたって提案されたモデルの有効性が証明された。
  論文  参考訳（メタデータ） (2021-06-22T07:30:35Z)
• Binarized Graph Neural Network [65.20589262811677]
  我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。 提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。 実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
  論文  参考訳（メタデータ） (2020-04-19T09:43:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。