論文の概要: Learning Graph Node Embeddings by Smooth Pair Sampling

• arxiv url: http://arxiv.org/abs/2501.12884v1
• Date: Wed, 22 Jan 2025 13:51:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-23 16:53:19.141614
• Title: Learning Graph Node Embeddings by Smooth Pair Sampling
• Title（参考訳）: 平滑なペアサンプリングによるグラフノードの埋め込み学習
• Authors: Konstantin Kutzkov,
• Abstract要約: ランダムウォークベースのノード埋め込みアルゴリズムは、スケーラビリティと実装の容易さから、多くの注目を集めている。 これまでの研究は、様々な歩行戦略、最適化目標、学習モデルの埋め込みに重点を置いてきた。 実データに対する観測から着想を得て、我々は異なるアプローチを採り、新しい正規化手法を提案する。
• 参考スコア（独自算出の注目度）: 5.167069404528051
• License:
• Abstract: Random walk-based node embedding algorithms have attracted a lot of attention due to their scalability and ease of implementation. Previous research has focused on different walk strategies, optimization objectives, and embedding learning models. Inspired by observations on real data, we take a different approach and propose a new regularization technique. More precisely, the frequencies of node pairs generated by the skip-gram model on random walk node sequences follow a highly skewed distribution which causes learning to be dominated by a fraction of the pairs. We address the issue by designing an efficient sampling procedure that generates node pairs according to their {\em smoothed frequency}. Theoretical and experimental results demonstrate the advantages of our approach.
• Abstract（参考訳）: ランダムウォークベースのノード埋め込みアルゴリズムは、スケーラビリティと実装の容易さから、多くの注目を集めている。 これまでの研究は、様々な歩行戦略、最適化目標、学習モデルの埋め込みに重点を置いてきた。 実データに対する観測から着想を得て、我々は異なるアプローチを採り、新しい正規化手法を提案する。 より正確には、ランダムウォークノード列上のスキップグラムモデルによって生成されたノードペアの周波数は、学習がペアのごく一部に支配されるように、高度に歪んだ分布に従う。 本稿では,ノード対をスムーズな周波数で生成する効率的なサンプリング手順を設計することによって,この問題に対処する。 理論的,実験的な結果は,我々のアプローチの利点を示している。

関連論文リスト

• Sparse Decomposition of Graph Neural Networks [20.768412002413843]
  本稿では,集約中に含まれるノード数を削減する手法を提案する。 線形変換された特徴の重み付け和を用いてノード表現の近似を学習し、スパース分解によりこれを実現できる。 提案手法は推論高速化のために設計された他のベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-25T17:52:16Z)
• Ensemble Quadratic Assignment Network for Graph Matching [52.20001802006391]
  グラフマッチングはコンピュータビジョンやパターン認識において一般的に用いられる技法である。 最近のデータ駆動型アプローチは、グラフマッチングの精度を著しく改善した。 データ駆動手法と従来の手法の利点を組み合わせたグラフニューラルネットワーク(GNN)に基づくアプローチを提案する。
  論文  参考訳（メタデータ） (2024-03-11T06:34:05Z)
• Stochastic Unrolled Federated Learning [85.6993263983062]
  本稿では,UnRolled Federated Learning (SURF)を導入する。 提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
  論文  参考訳（メタデータ） (2023-05-24T17:26:22Z)
• LoNe Sampler: Graph node embeddings by coordinated local neighborhood sampling [0.7614628596146599]
  局所グラフ近傍サンプリングは、ノード表現学習のアルゴリズムの中心にある基本的な計算問題である。 そこで我々はLoNe Samplerを提案する。LoNe Samplerはローカル近傍サンプリングによる離散ノード埋め込みを生成するアルゴリズムスイートである。
  論文  参考訳（メタデータ） (2022-11-28T08:04:26Z)
• Calibrate and Debias Layer-wise Sampling for Graph Convolutional Networks [39.56471534442315]
  本稿では,行列近似の観点からアプローチを再考する。 本稿では,サンプリング確率と効率的なデバイアスアルゴリズムを構築するための新しい原理を提案する。 改良は、推定分散の広範囲な解析と、一般的なベンチマークの実験によって実証される。
  論文  参考訳（メタデータ） (2022-06-01T15:52:06Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
  グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。 グラフが現在の勾配を混合する能力を定量化する計量法を提案する。 そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
  論文  参考訳（メタデータ） (2022-04-13T15:54:35Z)
• Learning with Neighbor Consistency for Noisy Labels [69.83857578836769]
  特徴空間におけるトレーニング例間の類似性を利用した雑音ラベルから学習する手法を提案する。 合成(CIFAR-10, CIFAR-100)とリアル(mini-WebVision, Clothing1M, mini-ImageNet-Red)の両方のノイズを評価するデータセットの評価を行った。
  論文  参考訳（メタデータ） (2022-02-04T15:46:27Z)
• Bayesian Graph Contrastive Learning [55.36652660268726]
  本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。 提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。 いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
  論文  参考訳（メタデータ） (2021-12-15T01:45:32Z)
• Learning Representations using Spectral-Biased Random Walks on Graphs [18.369974607582584]
  このプロセスにおける確率バイアスが、プロセスによって選択されたノードの品質にどの程度影響するかを調査する。 我々は、この近傍を正規化ラプラス行列として表されるノードの近傍部分グラフのスペクトルに基づく確率測度として簡潔に捉えた。 我々は,様々な実世界のデータセット上で,最先端ノード埋め込み技術に対する我々のアプローチを実証的に評価した。
  論文  参考訳（メタデータ） (2020-05-19T20:42:43Z)
• Investigating Extensions to Random Walk Based Graph Embedding [0.3867052484157571]
  ランダムウォークに基づくグラフ埋め込みの新たな拡張を提案する。これは、ウォークから最も頻度の低いノードのパーセンテージを異なるレベルで除去する。 この除去により、我々は遠く離れたノードがノードの近傍に存在することをシミュレートし、従ってそれらの接続を明示的に表現する。 その結果、ランダムウォークベースの手法の拡張(うちを含む)は、予測性能をほんの少しだけ改善することがわかった。
  論文  参考訳（メタデータ） (2020-02-17T21:14:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。