論文の概要: Gradient-Based Spectral Embeddings of Random Dot Product Graphs
- arxiv url: http://arxiv.org/abs/2307.13818v2
- Date: Fri, 8 Dec 2023 18:50:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-11 18:39:02.704480
- Title: Gradient-Based Spectral Embeddings of Random Dot Product Graphs
- Title(参考訳): ランダムドット積グラフの勾配に基づくスペクトル埋め込み
- Authors: Marcelo Fiori, Bernardo Marenco, Federico Larroca, Paola Bermolen,
Gonzalo Mateos
- Abstract要約: 本稿では,RDPG (Random Dot Product Graph) の組込み問題の解法について述べる。
そこで我々は, 結果の多様体に対して, 実現可能な新しい最適化手法を開発した。
当社のオープンソースアルゴリズムの実装はスケーラブルで、エッジデータに欠ける堅牢さと異なり、ストリーミンググラフからゆっくりと、潜伏した位置を追跡することができます。
- 参考スコア(独自算出の注目度): 7.612218105739107
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Random Dot Product Graph (RDPG) is a generative model for relational
data, where nodes are represented via latent vectors in low-dimensional
Euclidean space. RDPGs crucially postulate that edge formation probabilities
are given by the dot product of the corresponding latent positions.
Accordingly, the embedding task of estimating these vectors from an observed
graph is typically posed as a low-rank matrix factorization problem. The
workhorse Adjacency Spectral Embedding (ASE) enjoys solid statistical
properties, but it is formally solving a surrogate problem and can be
computationally intensive. In this paper, we bring to bear recent advances in
non-convex optimization and demonstrate their impact to RDPG inference. We
advocate first-order gradient descent methods to better solve the embedding
problem, and to organically accommodate broader network embedding applications
of practical relevance. Notably, we argue that RDPG embeddings of directed
graphs loose interpretability unless the factor matrices are constrained to
have orthogonal columns. We thus develop a novel feasible optimization method
in the resulting manifold. The effectiveness of the graph representation
learning framework is demonstrated on reproducible experiments with both
synthetic and real network data. Our open-source algorithm implementations are
scalable, and unlike the ASE they are robust to missing edge data and can track
slowly-varying latent positions from streaming graphs.
- Abstract(参考訳): Random Dot Product Graph (RDPG) は関係データの生成モデルであり、ノードは低次元ユークリッド空間の潜在ベクトルを介して表現される。
RDPGは、エッジ形成確率が対応する潜伏位置のドット積によって与えられることを決定的に仮定する。
したがって、これらのベクトルを観測グラフから推定する埋め込みタスクは、一般に低ランク行列分解問題として表される。
ワークホースの隣接スペクトル埋め込み(ASE)は、固体統計的性質を享受するが、公式には代理問題を解き、計算に重きを置くことができる。
本稿では,非凸最適化の最近の進歩に対処し,RDPG推論への影響を実証する。
本稿では, 組込み問題をよりよく解くための一階勾配降下法を提案し, 実用的妥当性の広いネットワーク埋込み応用を有機的に適応する。
特に、係数行列が直交列を持つことに制約されない限り、有向グラフのRDPG埋め込みはゆるやかに解釈可能であると論じる。
そこで我々は, 結果の多様体において, 実現可能な新しい最適化手法を開発した。
グラフ表現学習フレームワークの有効性を,合成データと実ネットワークデータの両方を用いて再現可能な実験で実証した。
私たちのオープンソースアルゴリズムの実装はスケーラブルで、ASEとは異なりエッジデータに欠ける堅牢で、ストリーミンググラフからゆっくりと変化する潜在位置を追跡することができます。
関連論文リスト
- Convergence Guarantees for the DeepWalk Embedding on Block Models [9.898607871253775]
ブロックモデル(SBM)から得られたグラフ上でDeepWalkアルゴリズムの使い方を示す。
単純化されているにもかかわらず、SBMは大きなグラフ上のアルゴリズムを解析するための古典的なモデルであることが証明されている。
論文 参考訳(メタデータ) (2024-10-26T18:35:11Z) - Exploring Edge Probability Graph Models Beyond Edge Independency: Concepts, Analyses, and Algorithms [26.550266795403022]
好ましくないランダムグラフモデル(RGM)は、高いクラスタリング(高サブグラフ密度)のような現実的な構造を生成するべきである。
RGMの一般的なクラス(例えば、ErdHos-R'enyi や Kronecker など)はエッジ確率を出力する。
エッジ独立性では、理論上RGMは高いサブグラフ密度と高い出力変動を同時に生成することはできない。
論文 参考訳(メタデータ) (2024-05-26T23:48:30Z) - Gradformer: Graph Transformer with Exponential Decay [69.50738015412189]
グラフ変換器(GT)の自己保持機構は、グラフの帰納バイアス、特に構造に関するバイアスを見落としている。
本稿では,GTと本質的帰納バイアスを革新的に統合するGradformerを提案する。
GradformerはグラフニューラルネットワークやGTベースラインモデルよりも、さまざまなグラフ分類や回帰タスクにおいて一貫して優れています。
論文 参考訳(メタデータ) (2024-04-24T08:37:13Z) - Deep Manifold Graph Auto-Encoder for Attributed Graph Embedding [51.75091298017941]
本稿では,属性付きグラフデータに対する新しいDeep Manifold (Variational) Graph Auto-Encoder (DMVGAE/DMGAE)を提案する。
提案手法は,最先端のベースラインアルゴリズムを,一般的なデータセット間でのダウンストリームタスクの差を大きく越える。
論文 参考訳(メタデータ) (2024-01-12T17:57:07Z) - Implicit Graph Neural Diffusion Networks: Convergence, Generalization,
and Over-Smoothing [7.984586585987328]
Inlicit Graph Neural Networks (GNN)は、グラフ学習問題に対処する上で大きな成功を収めた。
パラメータ化グラフラプラシアン演算子に基づく暗黙グラフ拡散層を設計するための幾何学的枠組みを提案する。
ディリクレエネルギー最小化問題の固定点方程式として, 暗黙のGNN層がどう見えるかを示す。
論文 参考訳(メタデータ) (2023-08-07T05:22:33Z) - OrthoReg: Improving Graph-regularized MLPs via Orthogonality
Regularization [66.30021126251725]
グラフニューラルネットワーク(GNN)は現在、グラフ構造データのモデリングにおいて支配的である。
グラフ正規化ネットワーク(GR-MLP)はグラフ構造情報をモデル重みに暗黙的に注入するが、その性能はほとんどのタスクにおいてGNNとほとんど一致しない。
GR-MLPは,最大数個の固有値が埋め込み空間を支配する現象である次元崩壊に苦しむことを示す。
次元崩壊問題を緩和する新しいGR-MLPモデルであるOrthoRegを提案する。
論文 参考訳(メタデータ) (2023-01-31T21:20:48Z) - Latent Graph Inference using Product Manifolds [0.0]
遅延グラフ学習のための離散微分可能グラフモジュール(dDGM)を一般化する。
我々の新しいアプローチは、幅広いデータセットでテストされ、元のdDGMモデルよりも優れています。
論文 参考訳(メタデータ) (2022-11-26T22:13:06Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Learning Graphs from Smooth Signals under Moment Uncertainty [23.868075779606425]
与えられたグラフ信号の集合からグラフ構造を推測する問題を検討する。
従来のグラフ学習モデルは、この分布の不確実性を考慮していない。
論文 参考訳(メタデータ) (2021-05-12T06:47:34Z) - Unsupervised Graph Embedding via Adaptive Graph Learning [85.28555417981063]
グラフオートエンコーダ(GAE)は、グラフ埋め込みのための表現学習において強力なツールである。
本稿では,2つの新しい教師なしグラフ埋め込み法,適応グラフ学習(BAGE)による教師なしグラフ埋め込み,変分適応グラフ学習(VBAGE)による教師なしグラフ埋め込みを提案する。
いくつかのデータセットに関する実験的研究により、我々の手法がノードクラスタリング、ノード分類、グラフ可視化タスクにおいて、ベースラインよりも優れていることが実証された。
論文 参考訳(メタデータ) (2020-03-10T02:33:14Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。