論文の概要: SCGC : Self-Supervised Contrastive Graph Clustering

• arxiv url: http://arxiv.org/abs/2204.12656v1
• Date: Wed, 27 Apr 2022 01:38:46 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-28 13:03:40.945544
• Title: SCGC : Self-Supervised Contrastive Graph Clustering
• Title（参考訳）: SCGC : 自己監督型コントラストグラフクラスタリング
• Authors: Gayan K. Kulatilleke, Marius Portmann, Shekhar S. Chandra
• Abstract要約: グラフクラスタリングはネットワーク内のグループやコミュニティを検出する。 オートエンコーダのような深層学習手法は、豊富な構造情報を組み込むことはできない。 自己監督型コントラストグラフクラスタリング(SCGC)を提案する。
• 参考スコア（独自算出の注目度）: 1.1470070927586016
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph clustering discovers groups or communities within networks. Deep learning methods such as autoencoders (AE) extract effective clustering and downstream representations but cannot incorporate rich structural information. While Graph Neural Networks (GNN) have shown great success in encoding graph structure, typical GNNs based on convolution or attention variants suffer from over-smoothing, noise, heterophily, are computationally expensive and typically require the complete graph being present. Instead, we propose Self-Supervised Contrastive Graph Clustering (SCGC), which imposes graph-structure via contrastive loss signals to learn discriminative node representations and iteratively refined soft cluster labels. We also propose SCGC*, with a more effective, novel, Influence Augmented Contrastive (IAC) loss to fuse richer structural information, and half the original model parameters. SCGC(*) is faster with simple linear units, completely eliminate convolutions and attention of traditional GNNs, yet efficiently incorporates structure. It is impervious to layer depth and robust to over-smoothing, incorrect edges and heterophily. It is scalable by batching, a limitation in many prior GNN models, and trivially parallelizable. We obtain significant improvements over state-of-the-art on a wide range of benchmark graph datasets, including images, sensor data, text, and citation networks efficiently. Specifically, 20% on ARI and 18% on NMI for DBLP; overall 55% reduction in training time and overall, 81% reduction on inference time. Our code is available at : https://github.com/gayanku/SCGC
• Abstract（参考訳）: グラフクラスタリングはネットワーク内のグループやコミュニティを検出する。 オートエンコーダ(AE)のようなディープラーニング手法は効果的なクラスタリングや下流表現を抽出するが、豊富な構造情報を組み込むことはできない。 グラフニューラルネットワーク(GNN)はグラフ構造を符号化することに成功したが、畳み込みやアテンションの変種に基づく典型的なGNNは、過度なスムース化に悩まされ、ノイズ、ヘテロフィリーなどの計算コストがかかり、一般的には完全なグラフが存在する必要がある。 その代わりに、識別ノード表現と反復的に洗練されたソフトクラスタラベルを学習するために、対比損失信号を介してグラフ構造を強制するセルフスーパービジョン・コントラストグラフクラスタリング(SCGC)を提案する。 また,より効率的な,より新しいインフルエンサー・コントラスト(iac)損失により,よりリッチな構造情報を融合し,元のモデルパラメータの半分を和らげるscgc*を提案する。 SCGC(*)は単純な線形単位で高速であり、従来のGNNの畳み込みや注意を完全に排除するが、効率的に構造を組み込む。 層状深度は不必要であり、過密、不正確な縁、不均一である。 バッチ処理、多くの従来のGNNモデルでの制限、簡単に並列化可能である。 画像やセンサデータ,テキスト,引用ネットワークなど,幅広いベンチマークグラフデータセットにおいて,最先端よりも大幅に改善した。 具体的には、ariの20%、dblpのnmiの18%、トレーニング時間の55%、全体的な推論時間の81%削減である。 私たちのコードは、https://github.com/gayanku/SCGCで利用可能です。

関連論文リスト

• Synergistic Deep Graph Clustering Network [14.569867830074292]
  我々はSynC(Syngistic Deep Graph Clustering Network)というグラフクラスタリングフレームワークを提案する。 本稿では,構造拡張を導くための高品質な埋め込みを実現するために,TIGAE (Transform Input Graph Auto-Encoder) を設計する。 特に、表現学習と構造増強は重みを共有し、モデルパラメータの数を著しく減少させる。
  論文  参考訳（メタデータ） (2024-06-22T09:40:34Z)
• Spectral Greedy Coresets for Graph Neural Networks [61.24300262316091]
  ノード分類タスクにおける大規模グラフの利用は、グラフニューラルネットワーク(GNN)の現実的な応用を妨げる 本稿では,GNNのグラフコアセットについて検討し,スペクトル埋め込みに基づくエゴグラフの選択により相互依存の問題を回避する。 我々のスペクトルグレディグラフコアセット(SGGC)は、数百万のノードを持つグラフにスケールし、モデル事前学習の必要性を排除し、低ホモフィリーグラフに適用する。
  論文  参考訳（メタデータ） (2024-05-27T17:52:12Z)
• Efficient Heterogeneous Graph Learning via Random Projection [58.4138636866903]
  不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。 最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。 我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
  論文  参考訳（メタデータ） (2023-10-23T01:25:44Z)
• T-GAE: Transferable Graph Autoencoder for Network Alignment [79.89704126746204]
  T-GAEはグラフオートエンコーダフレームワークで、GNNの転送性と安定性を活用して、再トレーニングなしに効率的なネットワークアライメントを実現する。 実験の結果、T-GAEは最先端の最適化手法と最高のGNN手法を最大38.7%、50.8%で上回っていることがわかった。
  論文  参考訳（メタデータ） (2023-10-05T02:58:29Z)
• Redundancy-Free Self-Supervised Relational Learning for Graph Clustering [13.176413653235311]
  冗長フリーグラフクラスタリング(R$2$FGC)という,自己教師付き深層グラフクラスタリング手法を提案する。 オートエンコーダとグラフオートエンコーダに基づいて,グローバルビューとローカルビューの両方から属性レベルと構造レベルの関係情報を抽出する。 この実験は,R$2$FGCが最先端のベースラインよりも優れていることを示すために,広く使用されているベンチマークデータセット上で実施されている。
  論文  参考訳（メタデータ） (2023-09-09T06:18:50Z)
• EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
  埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。 EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。 提案手法はいくつかの最先端手法より一貫して優れている。
  論文  参考訳（メタデータ） (2022-11-19T09:08:43Z)
• Learning heterophilious edge to drop: A general framework for boosting graph neural networks [19.004710957882402]
  本研究は, グラフ構造を最適化することにより, ヘテロフィリの負の影響を緩和することを目的とする。 LHEと呼ばれる構造学習手法を提案する。 emphLHEによるGNNの性能改善は, ホモフィリレベルの全スペクトルにわたる複数のデータセットで実証された。
  論文  参考訳（メタデータ） (2022-05-23T14:07:29Z)
• A Unified Lottery Ticket Hypothesis for Graph Neural Networks [82.31087406264437]
  本稿では,グラフ隣接行列とモデルの重み付けを同時に行う統一GNNスペーシフィケーション(UGS)フレームワークを提案する。 グラフ宝くじ(GLT)をコアサブデータセットとスパースサブネットワークのペアとして定義することにより、人気のある宝くじチケット仮説を初めてGNNsにさらに一般化します。
  論文  参考訳（メタデータ） (2021-02-12T21:52:43Z)
• Graph Clustering with Graph Neural Networks [5.305362965553278]
  グラフニューラルネットワーク(GNN)は多くのグラフ解析タスクにおいて最先端の結果を得た。 グラフクラスタリングのようなグラフ上の教師なしの問題は、GNNの進歩に対してより抵抗性があることが証明されている。 本稿では,クラスタリング品質のモジュラリティ尺度にインスパイアされた教師なしプール手法であるDeep Modularity Networks (DMoN)を紹介する。
  論文  参考訳（メタデータ） (2020-06-30T15:30:49Z)
• Graph Highway Networks [77.38665506495553]
  グラフ畳み込みネットワーク(GCN)は、グラフ表現の有効性と効率性から、グラフ表現の学習に広く利用されている。 彼らは、多くの層が積み重ねられたとき、学習された表現が類似したベクトルに収束するという悪名高い過度に滑らかな問題に悩まされる。 本稿では,GCN学習プロセスにおける均一性と不均一性との間のトレードオフのバランスをとるため,ゲーティングユニットを利用したグラフハイウェイネットワークを提案する。
  論文  参考訳（メタデータ） (2020-04-09T16:26:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。