論文の概要: A Bird's-Eye Tutorial of Graph Attention Architectures
- arxiv url: http://arxiv.org/abs/2206.02849v1
- Date: Mon, 6 Jun 2022 18:47:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-09 09:07:06.568987
- Title: A Bird's-Eye Tutorial of Graph Attention Architectures
- Title（参考訳）: グラフ注意アーキテクチャの鳥のチュートリアル
- Authors: Kaustubh D. Dhole and Carl Yang
- Abstract要約: グラフ構造化データに関連するノイズ、異質性、複雑さを克服するため、グラフニューラルネットワーク(GNN)に"注意"が組み込まれている。
本チュートリアルでは、注目機能の観点からGNNの変種を考察し、異なるグラフ注意変種に対する読者の理解を反復的に構築する。
- 参考スコア（独自算出の注目度）: 22.72989031916219
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) have shown tremendous strides in performance for
graph-structured problems especially in the domains of natural language
processing, computer vision and recommender systems. Inspired by the success of
the transformer architecture, there has been an ever-growing body of work on
attention variants of GNNs attempting to advance the state of the art in many
of these problems. Incorporating "attention" into graph mining has been viewed
as a way to overcome the noisiness, heterogenity and complexity associated with
graph-structured data as well as to encode soft-inductive bias. It is hence
crucial and advantageous to study these variants from a bird's-eye view to
assess their strengths and weaknesses. We provide a systematic and focused
tutorial centered around attention based GNNs in a hope to benefit researchers
dealing with graph-structured problems. Our tutorial looks at GNN variants from
the point of view of the attention function and iteratively builds the reader's
understanding of different graph attention variants.
- Abstract（参考訳）: グラフニューラルネットワーク(gnns)は,特に自然言語処理やコンピュータビジョン,レコメンダシステムといった領域において,グラフ構造問題のパフォーマンスが著しく向上している。
トランスフォーマーアーキテクチャの成功に触発されて、これらの問題の多くで芸術の進歩を図ろうとするGNNの注目の変種について、絶え間なく研究が続けられてきた。
グラフマイニングに"注意"を組み込むことは、グラフ構造化データに関連するノイズ、異質性、複雑さを克服し、ソフトインダクティブバイアスを符号化する方法として見なされている。
したがって、これらの変種を鳥の目の観点から研究し、その強さと弱点を評価することは重要である。
我々は,グラフ構造問題を扱う研究者に利益をもたらすために,注目に基づくGNNを中心に,体系的で集中的なチュートリアルを提供する。
本チュートリアルでは、注目機能の観点からGNNの変種を考察し、異なるグラフ注意変種に対する読者の理解を反復的に構築する。
関連論文リスト
- GNNAnatomy: Systematic Generation and Evaluation of Multi-Level Explanations for Graph Neural Networks [20.05098366613674]
本稿では,グラフ分類タスクの多段階説明の生成と評価を目的とした視覚解析システムであるGNNAnatomyを紹介する。
GNNAnatomyは、グラフレット、原始グラフサブ構造を用いて、GNN予測とグラフレット周波数の相関を分析することにより、グラフクラスで最も重要なサブ構造を識別する。
社会学・生物学領域からの合成および実世界のグラフデータセットのケーススタディを通して,GNN解剖学の有効性を実証する。
論文 参考訳（メタデータ） (2024-06-06T23:09:54Z) - On the Expressive Power of Graph Neural Networks [0.0]
グラフニューラルネットワーク(GNN)は、社会科学、化学、医学といった分野における様々なタスクを解くことができる。
ディープラーニングをグラフ構造化データに拡張することにより、GNNは、社会科学、化学、医学といった分野におけるさまざまなタスクを解決できる。
論文 参考訳（メタデータ） (2024-01-03T08:54:56Z) - Towards Deep Attention in Graph Neural Networks: Problems and Remedies [15.36416000750147]
グラフニューラルネットワーク(GNN)はグラフ構造化データの表現を学習し、その表現性は伝播のためのノード関係を推論することによって向上することができる。
本稿では,過度に平滑な特徴に対する脆弱性やスムーズな累積的注意など,グラフの深い注意に関連するいくつかの問題現象について検討する。
AEROGNNはグラフの注目度を高めるために設計された新しいGNNアーキテクチャである。
論文 参考訳（メタデータ） (2023-06-04T15:19:44Z) - DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。
GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。
また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
論文 参考訳（メタデータ） (2023-05-22T10:29:52Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳（メタデータ） (2022-08-21T15:12:08Z) - GraphMAE: Self-Supervised Masked Graph Autoencoders [52.06140191214428]
本稿では,自己教師付きグラフ学習における課題を軽減するマスク付きグラフオートエンコーダGraphMAEを提案する。
我々は3つの異なるグラフ学習タスクに対して、21の公開データセットに関する広範な実験を行った。
その結果,GraphMAEはグラフオートエンコーダであり,設計に注意を払っている。
論文 参考訳（メタデータ） (2022-05-22T11:57:08Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳（メタデータ） (2022-05-19T14:08:15Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。