論文の概要: How to Find Your Friendly Neighborhood: Graph Attention Design with Self-Supervision

• arxiv url: http://arxiv.org/abs/2204.04879v1
• Date: Mon, 11 Apr 2022 05:45:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-12 13:09:18.895473
• Title: How to Find Your Friendly Neighborhood: Graph Attention Design with Self-Supervision
• Title（参考訳）: 親しみやすい隣人を見つける方法:セルフスーパービジョンによるグラフアテンションデザイン
• Authors: Dongkwan Kim and Alice Oh
• Abstract要約: ノイズグラフに対する自己教師付きグラフアテンションネットワーク(SuperGAT)を提案する。 我々は、エッジを予測するために、自己教師型タスクと互換性のある2つの注意形式を利用する。 エッジを符号化することで、SuperGATは、リンクされた隣人を識別する際に、より表現力のある注意を学習する。
• 参考スコア（独自算出の注目度）: 16.86132592140062
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Attention mechanism in graph neural networks is designed to assign larger weights to important neighbor nodes for better representation. However, what graph attention learns is not understood well, particularly when graphs are noisy. In this paper, we propose a self-supervised graph attention network (SuperGAT), an improved graph attention model for noisy graphs. Specifically, we exploit two attention forms compatible with a self-supervised task to predict edges, whose presence and absence contain the inherent information about the importance of the relationships between nodes. By encoding edges, SuperGAT learns more expressive attention in distinguishing mislinked neighbors. We find two graph characteristics influence the effectiveness of attention forms and self-supervision: homophily and average degree. Thus, our recipe provides guidance on which attention design to use when those two graph characteristics are known. Our experiment on 17 real-world datasets demonstrates that our recipe generalizes across 15 datasets of them, and our models designed by recipe show improved performance over baselines.
• Abstract（参考訳）: グラフニューラルネットワークのアテンション機構は、より優れた表現のために重要な隣ノードにより大きな重みを割り当てるように設計されている。 しかし、特にグラフが騒がしい場合、グラフの注意が学ぶことはよく理解されていない。 本稿では、ノイズグラフに対する改善されたグラフアテンションモデルである、自己教師付きグラフアテンションネットワーク(SuperGAT)を提案する。 具体的には,ノード間の関係の重要性に関する固有情報を含むエッジ予測のために,自己教師付きタスクと互換性のある2つの注意形式を利用する。 エッジを符号化することで、SuperGATは、リンクされた隣人を識別する際により表現力のある注意を学習する。 その結果,注意形態と自己スーパービジョンの効果に2つのグラフ特性が影響することがわかった。 そこで本研究では,これら2つのグラフ特性が知られている場合の注意設計について指導を行う。 実世界の17のデータセットに対する我々の実験は、レシピが15のデータセットにまたがって一般化されることを示し、レシピによって設計されたモデルはベースラインよりもパフォーマンスが向上したことを示している。

関連論文リスト

• InstructG2I: Synthesizing Images from Multimodal Attributed Graphs [50.852150521561676]
  InstructG2Iと呼ばれるグラフ文脈条件拡散モデルを提案する。 InstructG2Iはまずグラフ構造とマルチモーダル情報を利用して情報的隣人サンプリングを行う。 Graph-QFormerエンコーダは、グラフノードをグラフプロンプトの補助セットに適応的に符号化し、デノナイジングプロセスを導く。
  論文  参考訳（メタデータ） (2024-10-09T17:56:15Z)
• Neighbor Overlay-Induced Graph Attention Network [5.792501481702088]
  グラフニューラルネットワーク(GNN)は、グラフデータを表現できることから、大きな注目を集めている。 本研究は、次の2つのアイデアを持つ、隣接するオーバーレイ誘発グラフアテンションネットワーク(NO-GAT)を提案する。 グラフベンチマークデータセットに関する実証研究は、提案されたNO-GATが最先端モデルより一貫して優れていることを示している。
  論文  参考訳（メタデータ） (2024-08-16T15:01:28Z)
• Self-attention Dual Embedding for Graphs with Heterophily [6.803108335002346]
  多くの実世界のグラフはヘテロ親和性があり、標準のGNNを用いた分類精度ははるかに低い。 ヘテロ親和性グラフとホモ親和性グラフの両方に有効である新しいGNNを設計する。 我々は,数千から数百万のノードを含む実世界のグラフ上でアルゴリズムを評価し,最先端の結果が得られたことを示す。
  論文  参考訳（メタデータ） (2023-05-28T09:38:28Z)
• Causally-guided Regularization of Graph Attention Improves Generalizability [69.09877209676266]
  本稿では,グラフアテンションネットワークのための汎用正規化フレームワークであるCARを紹介する。 メソッド名は、グラフ接続に対するアクティブ介入の因果効果とアテンションメカニズムを一致させる。 ソーシャル・メディア・ネットワーク規模のグラフでは、CAR誘導グラフ再構成アプローチにより、グラフの畳み込み手法のスケーラビリティとグラフの注意力の向上を両立させることができる。
  論文  参考訳（メタデータ） (2022-10-20T01:29:10Z)
• On Classification Thresholds for Graph Attention with Edge Features [26.01769042481568]
  我々は,古典的分類課題におけるグラフ注意ネットワークとノードの正確なラベル付け能力を分析し,理論的,実証的に分析する。 注意係数を決定するためにランダムエッジ特徴を入力とする一般グラフアテンション機構を考察する。
  論文  参考訳（メタデータ） (2022-10-18T17:32:18Z)
• Graph Attention Retrospective [14.52271219759284]
  グラフベースの学習は、ソーシャルネットワーク、引用ネットワーク、バイオインフォマティクスに応用された機械学習の急速に成長するサブフィールドである。 本稿では,グラフ注意ネットワークの挙動を理論的に検討する。 ガウスの手段間の距離が十分大きい「容易」な体制では、グラフの注意はクラス内縁とクラス間縁を区別することができる。 硬い」体制では、すべての注意機構がクラス内エッジとクラス間エッジを区別できないことを示す。
  論文  参考訳（メタデータ） (2022-02-26T04:58:36Z)
• Edge but not Least: Cross-View Graph Pooling [76.71497833616024]
  本稿では,重要なグラフ構造情報を活用するために,クロスビューグラフプーリング(Co-Pooling)手法を提案する。 クロスビュー相互作用、エッジビュープーリング、ノードビュープーリングにより、相互にシームレスに強化され、より情報的なグラフレベルの表現が学習される。
  論文  参考訳（メタデータ） (2021-09-24T08:01:23Z)
• Joint Graph Learning and Matching for Semantic Feature Correspondence [69.71998282148762]
  本稿では,グラフマッチングを向上するための信頼度の高いグラフ構造を探索するために,GLAMという共用電子グラフ学習とマッチングネットワークを提案する。 提案手法は,3つの人気ビジュアルマッチングベンチマーク (Pascal VOC, Willow Object, SPair-71k) で評価される。 すべてのベンチマークにおいて、従来の最先端のグラフマッチング手法よりも大きなマージンを達成している。
  論文  参考訳（メタデータ） (2021-09-01T08:24:02Z)
• Graph Decoupling Attention Markov Networks for Semi-supervised Graph Node Classification [38.52231889960877]
  グラフニューラルネットワーク(GNN)は、ノード分類などのグラフ学習タスクにおいてユビキタスである。 本稿では,グラフノードのラベル依存を考察し,ハードとソフトの両方の注意を学ぶための分離注意機構を提案する。
  論文  参考訳（メタデータ） (2021-04-28T11:44:13Z)
• Line Graph Neural Networks for Link Prediction [71.00689542259052]
  実世界の多くのアプリケーションにおいて古典的なグラフ解析問題であるグラフリンク予測タスクについて検討する。 このフォーマリズムでは、リンク予測問題をグラフ分類タスクに変換する。 本稿では,線グラフをグラフ理論に用いて,根本的に異なる新しい経路を求めることを提案する。 特に、線グラフの各ノードは、元のグラフのユニークなエッジに対応するため、元のグラフのリンク予測問題は、グラフ分類タスクではなく、対応する線グラフのノード分類問題として等価に解決できる。
  論文  参考訳（メタデータ） (2020-10-20T05:54:31Z)
• Multilevel Graph Matching Networks for Deep Graph Similarity Learning [79.3213351477689]
  グラフ構造オブジェクト間のグラフ類似性を計算するためのマルチレベルグラフマッチングネットワーク(MGMN)フレームワークを提案する。 標準ベンチマークデータセットの欠如を補うため、グラフグラフ分類とグラフグラフ回帰タスクの両方のためのデータセットセットを作成し、収集した。 総合的な実験により、MGMNはグラフグラフ分類とグラフグラフ回帰タスクの両方において、最先端のベースラインモデルより一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2020-07-08T19:48:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。