論文の概要: Over-Squashing in Graph Neural Networks: A Comprehensive survey
- arxiv url: http://arxiv.org/abs/2308.15568v3
- Date: Sun, 17 Sep 2023 13:06:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-19 22:15:27.954262
- Title: Over-Squashing in Graph Neural Networks: A Comprehensive survey
- Title（参考訳）: グラフニューラルネットワークのオーバースカッシング: 総合的な調査
- Authors: Singh Akansha
- Abstract要約: グラフニューラルネットワーク(GNN)は、機械学習の領域における革命的なパラダイムとして登場した。
本稿では,GNNにおけるオーバースカッシングの多面的問題について概説する。
それは、根本原因、結果、そして最先端の緩和戦略に関する構造化された分析を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) have emerged as a revolutionary paradigm in the
realm of machine learning, offering a transformative approach to dissect
intricate relationships inherent in graph-structured data. The foundational
architecture of most GNNs involves the dissemination of information through
message aggregation and transformation among interconnected nodes, a mechanism
that has demonstrated remarkable efficacy across diverse applications
encompassing node classification, link prediction, and recommendation systems.
However, their potential effectiveness is constrained in situations demanding
comprehensive contextual understanding. In certain contexts, accurate
predictions hinge not only upon a node's immediate local surroundings but also
on interactions spanning far-reaching domains. This intricate demand for
long-range information dissemination exposes a pivotal challenge recognized as
"over-squashing," wherein the fidelity of information flow from distant nodes
becomes distorted. This phenomenon significantly curtails the efficiency of
message-passing mechanisms, particularly for tasks reliant on intricate
long-distance interactions. This survey article comprehensively explores the
multifaceted issue of over-squashing in GNNs, offering a structured analysis of
the underlying causes, consequences, and state-of-the-art mitigation
strategies. To address this challenge, we review an array of methodologies
proposed by the research community. These methods encompass graph rewiring
techniques that modify the graph topology to enhance information flow, and
innovative strategies that leverage spectral analysis and curvature-based
insights. Furthermore, this survey highlights the interconnectedness of
over-squashing with other fundamental limitations in GNNs, such as
over-smoothing, and discusses recent developments in addressing these
challenges simultaneously.
- Abstract（参考訳）: グラフニューラルネットワーク(gnns)は、マシンラーニングの領域における革命的パラダイムとして登場し、グラフ構造化データに固有の複雑な関係を分類するトランスフォーメーションアプローチを提供する。
多くのGNNの基本アーキテクチャは、ノード分類、リンク予測、レコメンデーションシステムを含む様々なアプリケーションにおいて顕著な効果を示すメカニズムである、相互接続ノード間のメッセージアグリゲーションと変換による情報の拡散である。
しかし、その潜在的有効性は包括的文脈理解を必要とする状況によって制限される。
特定の文脈では、正確な予測はノードの直近の局所的な環境だけでなく、遠くの領域にまたがる相互作用にも当てはまる。
この長距離情報拡散の複雑な需要は、遠方のノードから流れる情報の忠実さが歪む「オーバー・スカッシング」として認識される重要な課題を露呈する。
この現象は、特に複雑な長距離相互作用に依存するタスクにおいて、メッセージパッシングメカニズムの効率を大幅に低下させる。
本稿では、GNNにおけるオーバースカッシングの多面的問題について包括的に検討し、根本原因、結果、最先端の緩和戦略の構造化分析を提供する。
この課題に対処するために,研究コミュニティが提案する方法論を概説する。
これらの手法は、情報の流れを高めるためにグラフトポロジーを変更するグラフ検索技術と、スペクトル分析と曲率に基づく洞察を活用する革新的な戦略を包含する。
さらに, オーバースムーシングなどの他のGNNの基本的制約との相互接続性を強調し, これらの課題を同時に解決する最近の発展について考察する。
関連論文リスト
- A Model-Agnostic Graph Neural Network for Integrating Local and Global Information [2.6164652182042505]
グラフニューラルネットワーク(GNN)は、さまざまなグラフにフォーカスしたタスクにおいて、有望なパフォーマンスを実現している。
既存のGNNには、ブラックボックスの性質による結果の解釈可能性の欠如と、さまざまな順序の表現を学べないという2つの大きな制限がある。
各種注文情報を効果的に統合し,高次隣人から知識を抽出し,有意義な情報を提供する,新しい textbfModel-textbfagnostic textbfGraph Neural textbfNetwork (MaGNet) フレームワークを提案する。
論文 参考訳（メタデータ） (2023-09-23T19:07:03Z) - FedGKD: Unleashing the Power of Collaboration in Federated Graph Neural
Networks [40.5420021584431]
グラフニューラルネットワーク(GNN)のフェデレーショントレーニングは、データ分離シナリオ下でグラフ関連のタスクを実行する能力によって、近年人気を集めている。
連合型GNNシステムにおけるグラフの不均一性問題は、引き続き課題を提起している。
本稿では,新しいクライアント側グラフデータセット蒸留法を利用した新しいGNNフレームワークであるFedGKDを提案する。
論文 参考訳（メタデータ） (2023-09-18T06:55:14Z) - Information Flow in Graph Neural Networks: A Clinical Triage Use Case [49.86931948849343]
グラフニューラルネットワーク(GNN)は、マルチモーダルグラフとマルチリレーショナルグラフを処理する能力によって、医療やその他の領域で人気を集めている。
GNNにおける埋め込み情報のフローが知識グラフ(KG)におけるリンクの予測に与える影響について検討する。
以上の結果から,ドメイン知識をGNN接続に組み込むことで,KGと同じ接続を使用する場合や,制約のない埋め込み伝搬を行う場合よりも優れた性能が得られることが示された。
論文 参考訳（メタデータ） (2023-09-12T09:18:12Z) - BOURNE: Bootstrapped Self-supervised Learning Framework for Unified
Graph Anomaly Detection [50.26074811655596]
自己指導型自己学習(BOURNE)に基づく新しい統合グラフ異常検出フレームワークを提案する。
ノードとエッジ間のコンテキスト埋め込みを交換することで、ノードとエッジの異常を相互に検出できる。
BOURNEは、負のサンプリングを必要としないため、大きなグラフを扱う際の効率を高めることができる。
論文 参考訳（メタデータ） (2023-07-28T00:44:57Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳（メタデータ） (2023-05-22T10:29:52Z) - Discovering the Representation Bottleneck of Graph Neural Networks from
Multi-order Interactions [51.597480162777074]
グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。
最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。
科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
論文 参考訳（メタデータ） (2022-05-15T11:38:14Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳（メタデータ） (2020-09-28T17:55:04Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳（メタデータ） (2020-07-18T01:11:14Z) - The Impact of Global Structural Information in Graph Neural Networks
Applications [5.629161809575013]
グラフニューラルネットワーク(GNN)は、集約戦略を定義するためにグラフ構造に依存する。
GNNの既知の制限は、レイヤーの数が増加するにつれて情報がスムースになり、切り離されることである。
いくつかのGNNモデルにグローバル情報へのアクセスを提供し、それが下流のパフォーマンスに与える影響を観察する。
論文 参考訳（メタデータ） (2020-06-06T08:52:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。