論文の概要: Attention-based graph neural networks: a survey
- arxiv url: http://arxiv.org/abs/2605.08679v1
- Date: Sat, 09 May 2026 04:33:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.808532
- Title: Attention-based graph neural networks: a survey
- Title（参考訳）: 注意に基づくグラフニューラルネットワーク:サーベイ
- Abstract要約: 注目に基づくGNNのための新しい二段階分類法を提案する。
我々はこれらの注意に基づく手法について,提案した分類法に従って詳細に検討する。
我々は、いくつかのオープンな問題と、注意に基づくGNNの今後の方向性について、私たちの考えを共有します。
- 参考スコア（独自算出の注目度）: 13.676883481845314
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural networks (GNNs) aim to learn well-trained representations in a lower-dimension space for downstream tasks while preserving the topological structures. In recent years, attention mechanism, which is brilliant in the fields of natural language processing and computer vision, is introduced to GNNs to adaptively select the discriminative features and automatically filter the noisy information. To the best of our knowledge, due to the fast-paced advances in this domain, a systematic overview of attention-based GNNs is still missing. To fill this gap, this paper aims to provide a comprehensive survey on recent advances in attention-based GNNs. Firstly, we propose a novel two-level taxonomy for attention-based GNNs from the perspective of development history and architectural perspectives. Specifically, the upper level reveals the three developmental stages of attention-based GNNs, including graph recurrent attention networks, graph attention networks, and graph transformers. The lower level focuses on various typical architectures of each stage. Secondly, we review these attention-based methods following the proposed taxonomy in detail and summarize the advantages and disadvantages of various models. A model characteristics table is also provided for a more comprehensive comparison. Thirdly, we share our thoughts on some open issues and future directions of attention-based GNNs. We hope this survey will provide researchers with an up-to-date reference regarding applications of attention-based GNNs. In addition, to cope with the rapid development in this field, we intend to share the relevant latest papers as an open resource at https://github.com/sunxiaobei/awesome-attention-based-gnns.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、トポロジ構造を保ちながら、下流タスクのための低次元空間において、よく訓練された表現を学習することを目的としている。
近年,自然言語処理やコンピュータビジョンの分野で優れた注意機構がGNNに導入され,識別的特徴を適応的に選択し,ノイズ情報を自動的にフィルタリングするようになっている。
我々の知る限りでは、この領域の急速な進歩のために、注意に基づくGNNの体系的な概要はいまだに欠落している。
このギャップを埋めるため,近年の注目型GNNの動向を包括的に調査することを目的としている。
まず、開発史とアーキテクチャの観点から、注目に基づくGNNのための新しい二段階分類法を提案する。
特に、上位層では、グラフリカレントアテンションネットワーク、グラフアテンションネットワーク、グラフトランスフォーマーを含む、アテンションベースのGNNの3つの発達段階を明らかにしている。
下層階は各ステージの様々な典型的なアーキテクチャに焦点を当てている。
第二に、これらの注意に基づく手法について、提案した分類法を詳細に検討し、様々なモデルの利点とデメリットを要約する。
より包括的な比較のために、モデル特性テーブルも提供される。
第3に、いくつかのオープンな問題と、注意に基づくGNNの今後の方向性について、私たちの考えを共有します。
この調査は、注目に基づくGNNの適用について、研究者に最新のリファレンスを提供することを期待している。
また、この分野の急速な発展に対応するため、関連する最新の論文をhttps://github.com/sunxiaobei/awesome-attention-based-gnnsで公開リソースとして公開するつもりです。
関連論文リスト
- A Survey on GNN-based Link Prediction: Techniques, Applications, and Challenges [36.51411347767061]
リンク予測の主要なパラダイムとしてグラフニューラルネットワーク(GNN)が登場している。
本稿では,新規かつ専用GNNの観点から,GNNに基づくリンク予測の包括的レビューを行う。
論文 参考訳（メタデータ） (2026-04-29T01:34:00Z) - Spatiotemporal Graph Learning with Direct Volumetric Information Passing and Feature Enhancement [62.91536661584656]
本稿では,CeFeGNN(CeFeGNN)とCell-embeddedとFeature-enhanced Graph Neural Networkを学習用として提案する。
学習可能なセル属性を共通ノードエッジメッセージパッシングプロセスに埋め込むことで,地域特性の空間依存性をよりよく把握する。
各種PDEシステムと1つの実世界のデータセットを用いた実験により、CeFeGNNは他のベースラインと比較して優れた性能を発揮することが示された。
論文 参考訳（メタデータ） (2024-09-26T16:22:08Z) - The Expressive Power of Graph Neural Networks: A Survey [8.652204270723994]
定義の異なる表現力向上モデルに関する第1回調査を行う。
モデルは、グラフ機能拡張、グラフトポロジ拡張、GNNアーキテクチャ拡張という3つのカテゴリに基づいてレビューされる。
論文 参考訳（メタデータ） (2023-08-16T09:12:21Z) - A Survey on Graph Neural Networks for Time Series: Forecasting, Classification, Imputation, and Anomaly Detection [98.41798478488101]
時系列分析は、利用可能なデータに暗黙的な情報の富を解放するために不可欠である。
グラフニューラルネットワーク(GNN)の最近の進歩は、時系列解析のためのGNNベースのアプローチの急増につながっている。
この調査は、GNNベースの時系列研究に関する膨大な知識をまとめ、基礎、実践的応用、時系列分析のためのグラフニューラルネットワークの機会を強調します。
論文 参考訳（メタデータ） (2023-07-07T08:05:03Z) - Towards Deep Attention in Graph Neural Networks: Problems and Remedies [15.36416000750147]
グラフニューラルネットワーク(GNN)はグラフ構造化データの表現を学習し、その表現性は伝播のためのノード関係を推論することによって向上することができる。
本稿では,過度に平滑な特徴に対する脆弱性やスムーズな累積的注意など,グラフの深い注意に関連するいくつかの問題現象について検討する。
AEROGNNはグラフの注目度を高めるために設計された新しいGNNアーキテクチャである。
論文 参考訳（メタデータ） (2023-06-04T15:19:44Z) - A Survey on Explainability of Graph Neural Networks [4.612101932762187]
グラフニューラルネットワーク(GNN)は、グラフベースの強力なディープラーニングモデルである。
本調査は,GNNの既存の説明可能性技術の概要を概観することを目的としている。
論文 参考訳（メタデータ） (2023-06-02T23:36:49Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳（メタデータ） (2022-08-21T15:12:08Z) - Automatic Relation-aware Graph Network Proliferation [182.30735195376792]
GNNを効率的に検索するためのARGNP(Automatic Relation-Aware Graph Network Proliferation)を提案する。
これらの操作は階層的なノード/リレーショナル情報を抽出し、グラフ上のメッセージパッシングのための異方的ガイダンスを提供する。
4つのグラフ学習タスクのための6つのデータセットの実験により、我々の手法によって生成されたGNNは、現在最先端の手作りおよび検索に基づくGNNよりも優れていることが示された。
論文 参考訳（メタデータ） (2022-05-31T10:38:04Z) - Federated Graph Neural Networks: Overview, Techniques and Challenges [16.62839758251491]
グラフニューラルネットワーク(GNN)が注目されている。
社会がデータプライバシーに関心を持つようになるにつれ、GNNはこの新しい標準に適応する必要性に直面している。
このことが近年、フェデレートグラフニューラルネットワーク(FedGNN)の研究の急速な発展につながっている。
論文 参考訳（メタデータ） (2022-02-15T09:05:35Z) - Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。
具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。
グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
論文 参考訳（メタデータ） (2022-02-14T23:07:47Z) - Overcoming Catastrophic Forgetting in Graph Neural Networks [50.900153089330175]
破滅的な忘れは、ニューラルネットワークが新しいタスクを学ぶ前に学んだ知識を「忘れる」傾向を指します。
本稿では,この問題を克服し,グラフニューラルネットワーク(GNN)における継続学習を強化するための新しいスキームを提案する。
私たちのアプローチの中心には、トポロジ認識重量保存(TWP)と呼ばれる汎用モジュールがあります。
論文 参考訳（メタデータ） (2020-12-10T22:30:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。