論文の概要: Accelerating Dynamic Network Embedding with Billions of Parameter Updates to Milliseconds

• arxiv url: http://arxiv.org/abs/2306.08967v1
• Date: Thu, 15 Jun 2023 09:02:17 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-16 15:34:35.479876
• Title: Accelerating Dynamic Network Embedding with Billions of Parameter Updates to Milliseconds
• Title（参考訳）: 数十億のパラメータをミリ秒に更新する動的ネットワークの高速化
• Authors: Haoran Deng, Yang Yang, Jiahe Li, Haoyang Cai, Shiliang Pu, Weihao Jiang
• Abstract要約: 本稿では,ノードごとの更新ではなく,埋め込み空間の軸を回転させ,拡張する新しい動的ネットワーク埋め込みパラダイムを提案する。 具体的には,DAMF(Dynamic Adjacency Matrix Factorization)アルゴリズムを提案する。 異なるサイズの動的グラフ上でのノード分類、リンク予測、グラフ再構成の実験は、DAMFが動的ネットワーク埋め込みを進めることを示唆している。
• 参考スコア（独自算出の注目度）: 27.98359191399847
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Network embedding, a graph representation learning method illustrating network topology by mapping nodes into lower-dimension vectors, is challenging to accommodate the ever-changing dynamic graphs in practice. Existing research is mainly based on node-by-node embedding modifications, which falls into the dilemma of efficient calculation and accuracy. Observing that the embedding dimensions are usually much smaller than the number of nodes, we break this dilemma with a novel dynamic network embedding paradigm that rotates and scales the axes of embedding space instead of a node-by-node update. Specifically, we propose the Dynamic Adjacency Matrix Factorization (DAMF) algorithm, which achieves an efficient and accurate dynamic network embedding by rotating and scaling the coordinate system where the network embedding resides with no more than the number of edge modifications changes of node embeddings. Moreover, a dynamic Personalized PageRank is applied to the obtained network embeddings to enhance node embeddings and capture higher-order neighbor information dynamically. Experiments of node classification, link prediction, and graph reconstruction on different-sized dynamic graphs suggest that DAMF advances dynamic network embedding. Further, we unprecedentedly expand dynamic network embedding experiments to billion-edge graphs, where DAMF updates billion-level parameters in less than 10ms.
• Abstract（参考訳）: ノードを低次元ベクトルにマッピングすることでネットワークトポロジを描写するグラフ表現学習手法であるネットワーク埋め込みは、実際には変化する動的グラフに適応することが困難である。 既存の研究は主にノード単位の埋め込み修正に基づいており、効率的な計算と精度のジレンマに陥っている。 埋め込み次元は通常ノード数よりもずっと小さいことを観察し、ノード単位の更新ではなく埋め込み空間の軸を回転およびスケールする新しい動的ネットワーク埋め込みパラダイムによってこのジレンマを破る。 具体的には、ネットワーク埋め込みがノード埋め込みのエッジ変更の回数に留まらず、座標系を回転させ、スケールさせることにより、効率的かつ正確な動的ネットワーク埋め込みを実現する動的隣接行列分解(DAMF)アルゴリズムを提案する。 さらに、取得したネットワーク埋め込みに動的にパーソナライズされたPageRankを適用し、ノード埋め込みを強化し、高次隣接情報を動的にキャプチャする。 異なるサイズの動的グラフ上でのノード分類、リンク予測、グラフ再構成の実験は、DAMFが動的ネットワーク埋め込みを進めることを示唆している。 さらに、DAMFは10ミリ秒未満で10億レベルのパラメータを更新する。

関連論文リスト

• Discovering Message Passing Hierarchies for Mesh-Based Physics Simulation [61.89682310797067]
  DHMPを導入し,異なるノード選択手法を用いてメッセージパッシングネットワークの動的階層を学習する。 本実験はDHMPの有効性を実証し,近年の固定階層型メッセージパッシングネットワークと比較して平均22.7%改善した。
  論文  参考訳（メタデータ） (2024-10-03T15:18:00Z)
• Online Learning Of Expanding Graphs [14.952056744888916]
  本稿では,信号ストリームからグラフを拡張するためのオンラインネットワーク推論の問題に対処する。 ネットワークに加入したばかりのノードや,それまでのノードに対して,さまざまなタイプの更新を可能にする戦略を導入する。
  論文  参考訳（メタデータ） (2024-09-13T09:20:42Z)
• DYMOND: DYnamic MOtif-NoDes Network Generative Model [14.207034497262741]
  DYnamic MOtif-NoDes - 時間的モチーフ活動を用いた全体グラフ構造の変化を考慮した生成モデルを提案する。 DYMONDは、観測されたネットワークと同様のグラフ構造とノードの挙動を生成するのに優れていることを示す。 また,ネットワークの時間的側面をよりよく評価するために,グラフ構造メトリクスを適応させる手法を提案する。
  論文  参考訳（メタデータ） (2023-08-01T18:20:05Z)
• Temporal Aggregation and Propagation Graph Neural Networks for Dynamic Representation [67.26422477327179]
  時間グラフは連続時間を通してノード間の動的相互作用を示す。 本研究では,周辺地域全体と時間的グラフ畳み込みの新たな手法を提案する。 提案するTAP-GNNは,予測性能とオンライン推論遅延の両面で,既存の時間グラフ手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-04-15T08:17:18Z)
• EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
  埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。 EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。 提案手法はいくつかの最先端手法より一貫して優れている。
  論文  参考訳（メタデータ） (2022-11-19T09:08:43Z)
• Robust Knowledge Adaptation for Dynamic Graph Neural Networks [61.8505228728726]
  動的グラフニューラルネットワークのための強化学習による堅牢な知識適応フレームワークであるAda-DyGNNを提案する。 我々のアプローチは、強化学習による堅牢な知識適応を探求する最初の試みである。 3つのベンチマークデータセットの実験は、Ada-DyGNNが最先端のパフォーマンスを達成することを示した。
  論文  参考訳（メタデータ） (2022-07-22T02:06:53Z)
• DyGCN: Dynamic Graph Embedding with Graph Convolutional Network [25.02329024926518]
  動的グラフ畳み込みネットワーク(DyGCN)の効率的な動的グラフ埋め込み手法を提案する。 私たちのモデルは、ノードの埋め込みを時間節約とパフォーマンス保存の方法で更新できます。
  論文  参考訳（メタデータ） (2021-04-07T07:28:44Z)
• DynACPD Embedding Algorithm for Prediction Tasks in Dynamic Networks [6.5361928329696335]
  本稿では,動的ネットワークのテンソル表現に対する高次テンソル分解に基づく動的ネットワークに対する新しい埋め込み手法を提案する。 リンク予測タスクにおけるアルゴリズムの性能を,現在のベースライン手法の配列と比較することにより,提案手法のパワーと効率を実証する。
  論文  参考訳（メタデータ） (2021-03-12T04:36:42Z)
• Dynamic Graph: Learning Instance-aware Connectivity for Neural Networks [78.65792427542672]
  動的グラフネットワーク(DG-Net)は完全な有向非巡回グラフであり、ノードは畳み込みブロックを表し、エッジは接続経路を表す。 ネットワークの同じパスを使用する代わりに、DG-Netは各ノードの機能を動的に集約する。
  論文  参考訳（メタデータ） (2020-10-02T16:50:26Z)
• GloDyNE: Global Topology Preserving Dynamic Network Embedding [31.269883917366478]
  動的ネットワーク埋め込み(DNE)は、ネットワークトポロジを各ステップで保存しながらノード埋め込みを更新することを目的としている。 本稿では,ネットワーク上の代表ノードを多様に選択する新たな手法を提案する。 実験では、少数のノードが選択されているGloDyNEが、すでに優れたパフォーマンスまたは同等のパフォーマンスを達成できることを示した。
  論文  参考訳（メタデータ） (2020-08-05T05:10:15Z)
• Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
  グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。 複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。 本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
  論文  参考訳（メタデータ） (2020-06-26T17:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。