論文の概要: DyG2Vec: Representation Learning for Dynamic Graphs with Self-Supervision

• arxiv url: http://arxiv.org/abs/2210.16906v1
• Date: Sun, 30 Oct 2022 18:13:04 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-01 16:24:22.555851
• Title: DyG2Vec: Representation Learning for Dynamic Graphs with Self-Supervision
• Title（参考訳）: DyG2Vec:自己スーパービジョンによる動的グラフの表現学習
• Authors: Mohammad Ali Alomrani, Mahdi Biparva, Yingxue Zhang, Mark Coates
• Abstract要約: 動的グラフ上での表現学習のための効率的なモデルであるDyG2Vecを提案する。 DyG2Vecはウィンドウベースのメカニズムを使用してタスクに依存しないノード埋め込みを生成し、将来のインタラクションを予測する。 2つのSSL評価機構を適用して動的グラフに適用し、SSL事前トレーニングがより堅牢な時間ノード表現の学習に役立つことを示す。
• 参考スコア（独自算出の注目度）: 30.720276069157613
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The challenge in learning from dynamic graphs for predictive tasks lies in extracting fine-grained temporal motifs from an ever-evolving graph. Moreover, task labels are often scarce, costly to obtain, and highly imbalanced for large dynamic graphs. Recent advances in self-supervised learning on graphs demonstrate great potential, but focus on static graphs. State-of-the-art (SoTA) models for dynamic graphs are not only incompatible with the self-supervised learning (SSL) paradigm but also fail to forecast interactions beyond the very near future. To address these limitations, we present DyG2Vec, an SSL-compatible, efficient model for representation learning on dynamic graphs. DyG2Vec uses a window-based mechanism to generate task-agnostic node embeddings that can be used to forecast future interactions. DyG2Vec significantly outperforms SoTA baselines on benchmark datasets for downstream tasks while only requiring a fraction of the training/inference time. We adapt two SSL evaluation mechanisms to make them applicable to dynamic graphs and thus show that SSL pre-training helps learn more robust temporal node representations, especially for scenarios with few labels.
• Abstract（参考訳）: 動的グラフから予測タスクを学ぶ上での課題は、進化し続けるグラフからきめ細かい時間的モチーフを抽出することである。 さらに、タスクラベルは、しばしば不足し、コストがかかり、大きな動的グラフに対して高度にバランスが取れない。 グラフにおける自己教師付き学習の最近の進歩は、大きな可能性を示しているが、静的グラフに焦点を当てている。 動的グラフのための最先端(SoTA)モデルは、自己教師付き学習(SSL)パラダイムと互換性がないだけでなく、近い将来に相互作用を予測できない。 dyg2vecは,動的グラフ上で表現学習を行うためのssl互換で効率的なモデルである。 DyG2Vecはウィンドウベースのメカニズムを使用してタスクに依存しないノード埋め込みを生成する。 DyG2Vecは、トレーニング/推論時間の一部を必要としながら、下流タスクのベンチマークデータセットのSoTAベースラインを大幅に上回る。 我々は,2つのssl評価機構を動的グラフに適用し,ssl事前学習がより堅牢な時空間ノード表現,特にラベルの少ないシナリオの学習に役立つことを示す。

関連論文リスト

• From random-walks to graph-sprints: a low-latency node embedding framework on continuous-time dynamic graphs [4.372841335228306]
  本稿では,レイテンシが低く,最先端の高レイテンシモデルと競合する連続時間動的グラフ(CTDG)のフレームワークを提案する。 本フレームワークでは,マルチホップ情報を要約したタイムアウェアノード埋め込みを,入ってくるエッジ上のシングルホップ操作のみを用いて計算する。 グラフプリント機能と機械学習を組み合わせることで,競争性能が向上することを示す。
  論文  参考訳（メタデータ） (2023-07-17T12:25:52Z)
• Sparsity exploitation via discovering graphical models in multi-variate time-series forecasting [1.2762298148425795]
  本稿では,グラフ生成モジュールとGNN予測モジュールを含む分離学習手法を提案する。 まず、Graphical Lasso(またはGraphLASSO)を使用して、データから空間パターンを直接利用してグラフ構造を構築します。 次に、これらのグラフ構造と入力データをGCRN(Graph Convolutional Recurrent Network)に適合させて予測モデルをトレーニングする。
  論文  参考訳（メタデータ） (2023-06-29T16:48:00Z)
• Contrastive Learning for Time Series on Dynamic Graphs [17.46524362769774]
  本稿では,グラフと時系列の結合表現の教師なし学習のためのGraphTNCというフレームワークを提案する。 実世界のデータセットを用いた分類作業において有益であることを示す。
  論文  参考訳（メタデータ） (2022-09-21T21:14:28Z)
• Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
  グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。 GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。 提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
  論文  参考訳（メタデータ） (2022-03-03T09:53:53Z)
• Spatio-Temporal Graph Contrastive Learning [49.132528449909316]
  これらの問題に対処するための時空間グラフコントラスト学習フレームワーク(STGCL)を提案する。 グラフ構造、時間領域、周波数領域の4種類のデータ拡張について詳述する。 我々のフレームワークは、実世界の3つのデータセットと4つの最先端モデルで評価されている。
  論文  参考訳（メタデータ） (2021-08-26T16:05:32Z)
• Temporal Graph Network Embedding with Causal Anonymous Walks Representations [54.05212871508062]
  本稿では,時間グラフネットワークに基づく動的ネットワーク表現学習のための新しいアプローチを提案する。 評価のために、時間的ネットワーク埋め込みの評価のためのベンチマークパイプラインを提供する。 欧州の大手銀行が提供した実世界のダウンストリームグラフ機械学習タスクにおいて、我々のモデルの適用性と優れた性能を示す。
  論文  参考訳（メタデータ） (2021-08-19T15:39:52Z)
• A Large-Scale Study on Unsupervised Spatiotemporal Representation Learning [60.720251418816815]
  本稿では,ビデオからの教師なし表現学習に関する大規模研究を行う。 目的は同じビデオにおける時間的特徴を奨励する。 長時間持続を奨励することは,60秒であっても有効であることがわかった。
  論文  参考訳（メタデータ） (2021-04-29T17:59:53Z)
• Time-varying Graph Representation Learning via Higher-Order Skip-Gram with Negative Sampling [0.456877715768796]
  我々は,スキップグラム埋め込み手法が行列分解を暗黙的に行うという事実に基づいて構築する。 負のサンプリングを持つ高次スキップグラムは、ノードと時間の役割を乱すことができることを示す。 提案手法を時間分解型対面近接データを用いて実証的に評価し,学習した時間変化グラフ表現が最先端の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-06-25T12:04:48Z)
• Heuristic Semi-Supervised Learning for Graph Generation Inspired by Electoral College [80.67842220664231]
  本稿では,新たなノードやエッジを自動的に拡張して,高密度サブグラフ内のラベル類似性を向上する,新しい前処理手法であるElectoral College(ELCO)を提案する。 テストされたすべての設定において、我々の手法はベースモデルの平均スコアを4.7ポイントの広いマージンで引き上げるとともに、常に最先端のモデルよりも優れています。
  論文  参考訳（メタデータ） (2020-06-10T14:48:48Z)
• Learning to Hash with Graph Neural Networks for Recommender Systems [103.82479899868191]
  グラフ表現学習は、大規模に高品質な候補探索をサポートすることに多くの注目を集めている。 ユーザ・イテム相互作用ネットワークにおけるオブジェクトの埋め込みベクトルの学習の有効性にもかかわらず、連続的な埋め込み空間におけるユーザの好みを推測する計算コストは膨大である。 連続的かつ離散的なコードとを協調的に学習するための,単純かつ効果的な離散表現学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-04T06:59:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。