Fugu-MT 論文翻訳(概要): Node Embedding using Mutual Information and Self-Supervision based Bi-level Aggregation

論文の概要: Node Embedding using Mutual Information and Self-Supervision based Bi-level Aggregation

arxiv url: http://arxiv.org/abs/2104.13014v1
Date: Tue, 27 Apr 2021 07:32:57 GMT
ステータス: 処理完了
システム内更新日: 2021-04-28 22:04:34.508744
Title: Node Embedding using Mutual Information and Self-Supervision based Bi-level Aggregation
Title（参考訳）: 相互情報と自己スーパービジョンに基づくバイレベルアグリゲーションを用いたノード埋め込み
Authors: Kashob Kumar Roy, Amit Roy, A K M Mahbubur Rahman, M Ashraful Amin and Amin Ahsan Ali
Abstract要約: グラフニューラルネットワークは、近傍のグラフから情報を集約することで、ノードの低次元表現を学習する。我々は,1)コミュニティ内でノードが密結合され,各ノードが上位のMIを隣人と共有するtextitLocal Neighborhood,2)MIベースのノードクラスタリングを導入して,同一クラスタ内の情報的かつ図形的に離れたノードを組み立てる textitNon-Local Neighborhood という2つのタイプを定義するために相互情報(MI)を利用する。我々は,このモデルが多種多様グラフおよび異種グラフにおいて最先端手法を著しく上回っていることを示す。
参考スコア（独自算出の注目度）: 2.7088996845250897
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Graph Neural Networks (GNNs) learn low dimensional representations of nodes by aggregating information from their neighborhood in graphs. However, traditional GNNs suffer from two fundamental shortcomings due to their local ($l$-hop neighborhood) aggregation scheme. First, not all nodes in the neighborhood carry relevant information for the target node. Since GNNs do not exclude noisy nodes in their neighborhood, irrelevant information gets aggregated, which reduces the quality of the representation. Second, traditional GNNs also fail to capture long-range non-local dependencies between nodes. To address these limitations, we exploit mutual information (MI) to define two types of neighborhood, 1) \textit{Local Neighborhood} where nodes are densely connected within a community and each node would share higher MI with its neighbors, and 2) \textit{Non-Local Neighborhood} where MI-based node clustering is introduced to assemble informative but graphically distant nodes in the same cluster. To generate node presentations, we combine the embeddings generated by bi-level aggregation - local aggregation to aggregate features from local neighborhoods to avoid noisy information and non-local aggregation to aggregate features from non-local neighborhoods. Furthermore, we leverage self-supervision learning to estimate MI with few labeled data. Finally, we show that our model significantly outperforms the state-of-the-art methods in a wide range of assortative and disassortative graphs.
Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、近隣の情報をグラフで集約することで、ノードの低次元表現を学習する。しかし、伝統的なGNNは、地元(l$-hop neighborhood)のアグリゲーションスキームのために、2つの根本的な欠点に悩まされている。まず、近隣の全てのノードが対象ノードに関連する情報を持っているわけではない。 gnnは近隣のノイズノードを除外しないので、関連しない情報が集約され、表現の品質が低下する。第二に、従来のGNNはノード間の長距離非ローカル依存関係をキャプチャできない。これらの制限に対処するために,1) ノードがコミュニティ内で密結合され,各ノードが近隣ノードと高いMIを共有している場合,2) MI ベースのノードクラスタリングを導入して,同一クラスタ内の情報的かつ図形的に離れたノードを知らせる場合,の2つのタイプを定義するために相互情報(MI)を利用する。ローカルアグリゲーション - ローカルアグリゲーション - ローカルアグリゲーション - によって生成された埋め込みを組み合わせることで、ノイズ情報や非ローカルアグリゲーションを回避することで、非ローカルアグリゲーションの機能を集約する。さらに、自己超越学習を利用して、ラベル付きデータが少ないMIを推定する。最後に,本モデルが多種多様かつ異種なグラフにおいて,最先端の手法を著しく上回っていることを示す。

関連論文リスト

NodeMixup: Tackling Under-Reaching for Graph Neural Networks [27.393295683072406]
グラフニューラルネットワーク(GNN)は,半教師付きノード分類問題の解法として主流となっている。グラフ内のラベル付きノードの位置分布が不均一であるため、ラベル付きノードはラベルなしノードのごく一部にしかアクセスできないため、アンファンダーリーチングの問題が発生する。 GNNのアンダーリーチングに取り組むために,NodeMixupと呼ばれるアーキテクチャに依存しない手法を提案する。
論文参考訳（メタデータ） (2023-12-20T13:56:27Z)
RBA-GCN: Relational Bilevel Aggregation Graph Convolutional Network for Emotion Recognition [38.87080348908327]
本稿ではリレーショナル・バイレベル・アグリゲーショングラフ畳み込みネットワーク(RBA-GCN)について述べる。グラフ生成モジュール(GGM)、類似性に基づくクラスタ構築モジュール(SCBM)、バイレベルアグリゲーションモジュール(BiAM)の3つのモジュールで構成されている。 IEMOCAPとMELDの両方のデータセットでは、RAB-GCNの重み付き平均F1スコアは、最も高度な手法よりも2.17$sim$5.21%改善されている。
論文参考訳（メタデータ） (2023-08-18T11:29:12Z)
Contrastive Meta-Learning for Few-shot Node Classification [54.36506013228169]
少ないショットノード分類は、限定されたラベル付きノードのみを参照としてグラフ上のノードのラベルを予測することを目的としている。グラフ上にCOSMICという新しい対照的なメタラーニングフレームワークを2つの重要な設計で作成する。
論文参考訳（メタデータ） (2023-06-27T02:22:45Z)
LSGNN: Towards General Graph Neural Network in Node Classification by Local Similarity [59.41119013018377]
本稿では,ローカル類似性(LocalSim)を用いて,プラグイン・アンド・プレイモジュールとしても機能するノードレベルの重み付き融合を学習する。そこで本研究では,より情報性の高いマルチホップ情報を抽出するための,新規かつ効率的な初期残留差分接続(IRDC)を提案する。提案手法,すなわちローカル類似グラフニューラルネットワーク(LSGNN)は,ホモ親和性グラフとヘテロ親和性グラフの両方において,同等あるいは優れた最先端性能を提供できる。
論文参考訳（メタデータ） (2023-05-07T09:06:11Z)
A Variational Edge Partition Model for Supervised Graph Representation Learning [51.30365677476971]
本稿では,重なり合うノード群間の相互作用を集約することで,観測されたエッジがどのように生成されるかをモデル化するグラフ生成プロセスを提案する。それぞれのエッジを複数のコミュニティ固有の重み付きエッジの和に分割し、コミュニティ固有のGNNを定義する。エッジを異なるコミュニティに分割するGNNベースの推論ネットワーク,これらのコミュニティ固有のGNN,およびコミュニティ固有のGNNを最終分類タスクに組み合わせたGNNベースの予測器を共同で学習するために,変分推論フレームワークを提案する。
論文参考訳（メタデータ） (2022-02-07T14:37:50Z)
Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
論文参考訳（メタデータ） (2021-11-19T08:54:21Z)
Node-wise Localization of Graph Neural Networks [52.04194209002702]
グラフニューラルネットワーク(GNN)は、グラフ上の表現学習モデルの強力なファミリーとして出現する。グラフのグローバルな側面とローカルな側面の両方を考慮し,GNNのノードワイドなローカライゼーションを提案する。我々は,4つのベンチマークグラフに対して広範な実験を行い,最先端のGNNを超える有望な性能を継続的に獲得する。
論文参考訳（メタデータ） (2021-10-27T10:02:03Z)
On Local Aggregation in Heterophilic Graphs [11.100606980915144]
我々は,従来のGNNと多層パーセプトロンを適切に調整した手法が,ヘテロ親和性グラフ上の最近の長距離アグリゲーション手法の精度に適合しているか,あるいは超越しているかを示す。本稿では,新しい情報理論グラフ計量であるNativeborhood Information Content(NIC)メトリックを提案する。
論文参考訳（メタデータ） (2021-06-06T19:12:31Z)
Hop-Aware Dimension Optimization for Graph Neural Networks [11.341455005324104]
LADDER-GNNという,単純で効果的なラグスタイルのGNNアーキテクチャを提案する。具体的には、異なるホップからメッセージを分離し、ノード表現を得るためにそれらを結合する前に異なる次元を割り当てます。その結果,提案した単純なホップ認識型表現学習ソリューションは,ほとんどのデータセットで最先端のパフォーマンスを達成できることが示唆された。
論文参考訳（メタデータ） (2021-05-30T10:12:56Z)
Towards Deeper Graph Neural Networks with Differentiable Group Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。 2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文参考訳（メタデータ） (2020-06-12T07:18:02Z)
Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
論文参考訳（メタデータ） (2020-02-10T06:43:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。