論文の概要: Free Energy Node Embedding via Generalized Skip-gram with Negative Sampling

• arxiv url: http://arxiv.org/abs/2105.09182v1
• Date: Wed, 19 May 2021 14:58:13 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-20 13:39:06.062231
• Title: Free Energy Node Embedding via Generalized Skip-gram with Negative Sampling
• Title（参考訳）: 負サンプリングを用いた一般化スキップグラムによる自由エネルギーノード埋め込み
• Authors: Yu Zhu, Ananthram Swami, Santiago Segarra
• Abstract要約: 教師なしノード埋め込みフレームワークの2段階の改善を提案する。 一方,最短経路と通勤時間距離を補間する自由エネルギー距離に基づいてノード類似性を符号化することを提案する。 一方,任意の類似度行列に一般化する損失関数に基づく行列分解法を提案する。
• 参考スコア（独自算出の注目度）: 34.12821919995092
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A widely established set of unsupervised node embedding methods can be interpreted as consisting of two distinctive steps: i) the definition of a similarity matrix based on the graph of interest followed by ii) an explicit or implicit factorization of such matrix. Inspired by this viewpoint, we propose improvements in both steps of the framework. On the one hand, we propose to encode node similarities based on the free energy distance, which interpolates between the shortest path and the commute time distances, thus, providing an additional degree of flexibility. On the other hand, we propose a matrix factorization method based on a loss function that generalizes that of the skip-gram model with negative sampling to arbitrary similarity matrices. Compared with factorizations based on the widely used $\ell_2$ loss, the proposed method can better preserve node pairs associated with higher similarity scores. Moreover, it can be easily implemented using advanced automatic differentiation toolkits and computed efficiently by leveraging GPU resources. Node clustering, node classification, and link prediction experiments on real-world datasets demonstrate the effectiveness of incorporating free-energy-based similarities as well as the proposed matrix factorization compared with state-of-the-art alternatives.
• Abstract（参考訳）: 教師なしノード埋め込み法の広く確立された集合は、2つの異なるステップからなると解釈できる: i) 関心グラフに基づく類似性行列の定義、ii) そのような行列の明示的または暗黙的な分解。 この観点から,フレームワークの両ステップの改善を提案する。 一方,最短経路と可換時間距離を補間する自由エネルギー距離に基づいてノードの類似性を符号化し,柔軟性を高めることを提案する。 一方,任意の類似度行列に対して負のサンプリングを施したスキップグラムモデルを一般化した損失関数に基づく行列分解法を提案する。 広く使われている$\ell_2$損失に基づく因子分解と比較すると,提案手法は高い類似度スコアに関連するノードペアをよりよく保存することができる。 さらに、高度な自動微分ツールキットを使用して容易に実装でき、GPUリソースを活用して効率的に計算できる。 実世界のデータセットにおけるノードクラスタリング、ノード分類、リンク予測実験は、フリーエネルギベースの類似性と、提案されたマトリックス因子化を最先端の代替品と比較した効果を示している。

関連論文リスト

• Reliable Node Similarity Matrix Guided Contrastive Graph Clustering [51.23437296378319]
  我々は、新しいフレームワーク、Reliable Node similarity Matrix Guided Contrastive Graph Clustering (NS4GC)を紹介した。 本手法は,ノード近傍のアライメントとセマンティック・アウェア・スパリフィケーションを導入し,ノード類似度行列が正確かつ効率的にスパースであることを保証する。
  論文  参考訳（メタデータ） (2024-08-07T13:36:03Z)
• Regularized Projection Matrix Approximation with Applications to Community Detection [1.3761665705201904]
  本稿では,アフィニティ行列からクラスタ情報を復元するための正規化プロジェクション行列近似フレームワークを提案する。 3つの異なるペナルティ関数について検討し, それぞれが有界, 正, スパースシナリオに対応するように調整した。 合成および実世界の両方のデータセットで行った数値実験により、我々の正規化射影行列近似アプローチはクラスタリング性能において最先端の手法を著しく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-05-26T15:18:22Z)
• Classification of BCI-EEG based on augmented covariance matrix [0.0]
  本稿では,運動画像分類の改善を目的とした自己回帰モデルから抽出した拡張共分散に基づく新しいフレームワークを提案する。 私たちはMOABBフレームワークを使って、いくつかのデータセットといくつかの主題でアプローチを検証します。
  論文  参考訳（メタデータ） (2023-02-09T09:04:25Z)
• Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
  本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。 6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-21T01:47:17Z)
• Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization [59.87663954467815]
  アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。 本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。 実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
  論文  参考訳（メタデータ） (2021-09-10T07:01:15Z)
• Adversarially-Trained Nonnegative Matrix Factorization [77.34726150561087]
  非負行列ファクタリゼーションの逆学習版を検討する。 我々の定式化では、攻撃者は与えられたデータ行列に有界ノルムの任意の行列を追加する。 辞書と係数行列を最適化するために, 逆学習に触発された効率的なアルゴリズムを設計する。
  論文  参考訳（メタデータ） (2021-04-10T13:13:17Z)
• Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
  結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。 新規な構造化融合正規化に基づく一般グラフ推定器を提案する。 提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
  論文  参考訳（メタデータ） (2021-03-05T04:42:32Z)
• Clustering Ensemble Meets Low-rank Tensor Approximation [50.21581880045667]
  本稿では,複数のクラスタリングを組み合わせ,個々のクラスタリングよりも優れたパフォーマンスを実現するクラスタリングアンサンブルの問題について検討する。 本稿では,この問題をグローバルな視点から解くために,新しい低ランクテンソル近似法を提案する。 7つのベンチマークデータセットを用いた実験の結果,提案手法は12の最先端手法と比較して,クラスタリング性能のブレークスルーを達成した。
  論文  参考訳（メタデータ） (2020-12-16T13:01:37Z)
• Non-Convex Exact Community Recovery in Stochastic Block Model [31.221745716673546]
  近年,対称ブロックモデル(SBM)に基づくグラフのコミュニティ検出が注目されている。 この問題の対数的疎度構造において、提案した2段階法は、$mathcalO(nlog2n/loglog n)$ timeにおいて、情報理論の限界まで正確に2つのコミュニティを復元できることを示す。 また, 提案手法の有効性を実証し, 理論的発展を補完するために, 合成データセットと実データセットの両方で数値実験を行った。
  論文  参考訳（メタデータ） (2020-06-29T07:03:27Z)
• FREDE: Linear-Space Anytime Graph Embeddings [12.53022591889574]
  グラフのノードの低次元表現(埋め込み)は、データマイニング作業を容易にする。 FREquent Directions Embeddingは、類似度行列の行を個別に処理しながら、品質を反復的に改善するスケッチベースの手法である。 可変サイズのネットワークに対する評価は、FREDEがSVDと同等に動作し、多様なデータマイニングタスクにおける現在の最先端手法と競合することを示している。
  論文  参考訳（メタデータ） (2020-06-08T16:51:24Z)
• A Block Coordinate Descent-based Projected Gradient Algorithm for Orthogonal Non-negative Matrix Factorization [0.0]
  本稿では非負行列分解問題(NMF)に対する投影勾配法(PG)を用いる。 正則性制約をペナライズし,ブロック座標降下法を用いてPG法を適用した。
  論文  参考訳（メタデータ） (2020-03-23T13:24:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。