論文の概要: Omni-Granular Ego-Semantic Propagation for Self-Supervised Graph Representation Learning

• arxiv url: http://arxiv.org/abs/2205.15746v1
• Date: Tue, 31 May 2022 12:31:33 GMT
• ステータス: 処理完了
• システム内更新日: 2022-06-01 12:31:16.490328
• Title: Omni-Granular Ego-Semantic Propagation for Self-Supervised Graph Representation Learning
• Title（参考訳）: 自己教師付きグラフ表現学習のためのOmni-Granular Ego-Semantic Propagation
• Authors: Ling Yang, Shenda Hong
• Abstract要約: 下流ノードとグラフレベルの分類タスクでは,教師なし/自己教師付きグラフ表現学習が重要である。 インスタンス適応型グローバル・アウェア・エゴ・セマンティック・ディスクリプタを提案する。 ディスクリプタは、ローカルグラフの畳み込みに、新しい隣接ノードとして明示的に統合することができる。
• 参考スコア（独自算出の注目度）: 6.128446481571702
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unsupervised/self-supervised graph representation learning is critical for downstream node- and graph-level classification tasks. Global structure of graphs helps discriminating representations and existing methods mainly utilize the global structure by imposing additional supervisions. However, their global semantics are usually invariant for all nodes/graphs and they fail to explicitly embed the global semantics to enrich the representations. In this paper, we propose Omni-Granular Ego-Semantic Propagation for Self-Supervised Graph Representation Learning (OEPG). Specifically, we introduce instance-adaptive global-aware ego-semantic descriptors, leveraging the first- and second-order feature differences between each node/graph and hierarchical global clusters of the entire graph dataset. The descriptors can be explicitly integrated into local graph convolution as new neighbor nodes. Besides, we design an omni-granular normalization on the whole scales and hierarchies of the ego-semantic to assign attentional weight to each descriptor from an omni-granular perspective. Specialized pretext tasks and cross-iteration momentum update are further developed for local-global mutual adaptation. In downstream tasks, OEPG consistently achieves the best performance with a 2%~6% accuracy gain on multiple datasets cross scales and domains. Notably, OEPG also generalizes to quantity- and topology-imbalance scenarios.
• Abstract（参考訳）: 下流ノードとグラフレベルの分類タスクでは,教師なし/自己教師付きグラフ表現学習が重要である。 グラフのグローバル構造は表現の識別に役立ち、既存の手法は追加の監督を課すことでグローバル構造を主に活用している。 しかしながら、グローバルセマンティクスは通常すべてのノード/グラフに対して不変であり、表現を豊かにするためにグローバルセマンティクスを明示的に埋め込むことができない。 本稿では,Omni-Granular Ego-Semantic Propagation for Self-Supervised Graph Representation Learning (OEPG)を提案する。 具体的には、グラフデータセット全体のノード/グラフと階層的グローバルクラスタ間の1階と2階の特徴差を利用した、インスタンス適応型グローバルアウェアなエゴセマンティックディスクリプタを提案する。 ディスクリプタは新しい隣接ノードとして、ローカルグラフ畳み込みに明示的に統合することができる。 さらに,全粒正規化をエゴ・セマンティクスの全体スケールと階層上で設計し,各記述者に対して全粒的視点から注意重みを割り当てる。 局所的グローバル相互適応のための特殊前文タスクとクロスイテレーションモーメント更新がさらに開発されている。 ダウンストリームタスクでは、OEPGは、複数のデータセットのクロススケールとドメインで2%～6%の精度で最高のパフォーマンスを達成する。 特に、OEPGは量的および位相的不均衡のシナリオにも一般化する。

関連論文リスト

• Federated Graph Semantic and Structural Learning [54.97668931176513]
  本稿では,ノードレベルのセマンティクスとグラフレベルの構造の両方によって局所的なクライアントの歪みがもたらされることを示す。 構造的グラフニューラルネットワークは、固有の隣接関係のため、隣人に類似性を持っていると仮定する。 我々は、隣接関係を類似度分布に変換し、グローバルモデルを利用して関係知識を局所モデルに蒸留する。
  論文  参考訳（メタデータ） (2024-06-27T07:08:28Z)
• FedGT: Federated Node Classification with Scalable Graph Transformer [27.50698154862779]
  本稿では,スケーラブルな textbfFederated textbfGraph textbfTransformer (textbfFedGT) を提案する。 FedGTは、最適なトランスポートで整列したグローバルノードに基づいて、クライアントの類似性を計算する。
  論文  参考訳（メタデータ） (2024-01-26T21:02:36Z)
• Generative and Contrastive Paradigms Are Complementary for Graph Self-Supervised Learning [56.45977379288308]
  Masked Autoencoder (MAE)は、マスク付きグラフエッジやノード機能の再構築を学ぶ。 Contrastive Learning (CL)は、同じグラフの拡張ビュー間の類似性を最大化する。 我々は,MAE と CL を統一するグラフコントラッシブマスク付きオートエンコーダ (GCMAE) フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-24T05:06:06Z)
• GraphGLOW: Universal and Generalizable Structure Learning for Graph Neural Networks [72.01829954658889]
  本稿では,この新たな問題設定の数学的定義を紹介する。 一つのグラフ共有構造学習者と複数のグラフ固有GNNを協調する一般的なフレームワークを考案する。 十分に訓練された構造学習者は、微調整なしで、目に見えない対象グラフの適応的な構造を直接生成することができる。
  論文  参考訳（メタデータ） (2023-06-20T03:33:22Z)
• Graph Representation Learning via Contrasting Cluster Assignments [57.87743170674533]
  GRCCAと呼ばれるクラスタ割り当てを対比して、教師なしグラフ表現モデルを提案する。 クラスタリングアルゴリズムとコントラスト学習を組み合わせることで、局所的およびグローバルな情報を合成的にうまく活用する動機付けがある。 GRCCAは、ほとんどのタスクにおいて強力な競争力を持っている。
  論文  参考訳（メタデータ） (2021-12-15T07:28:58Z)
• Learnable Structural Semantic Readout for Graph Classification [23.78861906423389]
  位置レベルでのノード表現を要約するために,構造的セマンティック・リードアウト(SSRead)を提案する。 SSReadは、ノードと構造プロトタイプ間のセマンティックアライメントを使用することで、構造的に意味のある位置を特定することを目的としている。 実験の結果,SSReadはGNN分類器の分類性能と解釈可能性を大幅に向上させることがわかった。
  論文  参考訳（メタデータ） (2021-11-22T20:44:27Z)
• Self-supervised Graph-level Representation Learning with Local and Global Structure [71.45196938842608]
  自己教師付き全グラフ表現学習のためのローカル・インスタンスとグローバル・セマンティック・ラーニング(GraphLoG)という統合フレームワークを提案する。 GraphLoGは、局所的な類似点の保存に加えて、グローバルなセマンティッククラスタをキャプチャする階層的なプロトタイプも導入している。 モデル学習のための効率的なオンライン予測最大化(EM)アルゴリズムがさらに開発された。
  論文  参考訳（メタデータ） (2021-06-08T05:25:38Z)
• Multi-Level Graph Convolutional Network with Automatic Graph Learning for Hyperspectral Image Classification [63.56018768401328]
  HSI分類のための自動グラフ学習法(MGCN-AGL)を用いたマルチレベルグラフ畳み込みネットワーク(GCN)を提案する。 空間的に隣接する領域における重要度を特徴付けるために注意機構を利用することで、最も関連性の高い情報を適応的に組み込んで意思決定を行うことができる。 MGCN-AGLは局所的に生成した表現表現に基づいて画像領域間の長距離依存性を符号化する。
  論文  参考訳（メタデータ） (2020-09-19T09:26:20Z)
• Self-Supervised Graph Representation Learning via Global Context Prediction [31.07584920486755]
  本稿では,データ自体による自然監督を利用して,グラフ表現学習のための新たな自己教師型戦略を提案する。 グラフ内のノードのペアをランダムに選択し、よく設計されたニューラルネットをトレーニングし、一方のノードのコンテキスト位置を他方と相対的に予測する。 我々の仮説は、そのようなグラフ内コンテキストから得られた表現はグラフのグローバルなトポロジーを捉え、ノード間の類似性と区別を微妙に特徴づける、というものである。
  論文  参考訳（メタデータ） (2020-03-03T15:46:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。