論文の概要: FREDE: Linear-Space Anytime Graph Embeddings
- arxiv url: http://arxiv.org/abs/2006.04746v1
- Date: Mon, 8 Jun 2020 16:51:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 01:36:05.321753
- Title: FREDE: Linear-Space Anytime Graph Embeddings
- Title(参考訳): FREDE: 線形空間の任意のグラフ埋め込み
- Authors: Anton Tsitsulin, Marina Munkhoeva, Davide Mottin, Panagiotis Karras,
Ivan Oseledets, Emmanuel M\"uller
- Abstract要約: グラフのノードの低次元表現(埋め込み)は、データマイニング作業を容易にする。
FREquent Directions Embeddingは、類似度行列の行を個別に処理しながら、品質を反復的に改善するスケッチベースの手法である。
可変サイズのネットワークに対する評価は、FREDEがSVDと同等に動作し、多様なデータマイニングタスクにおける現在の最先端手法と競合することを示している。
- 参考スコア(独自算出の注目度): 12.53022591889574
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Low-dimensional representations, or embeddings, of a graph's nodes facilitate
data mining tasks. Known embedding methods explicitly or implicitly rely on a
similarity measure among nodes. As the similarity matrix is quadratic, a
tradeoff between space complexity and embedding quality arises; past research
initially opted for heuristics and linear-transform factorizations, which allow
for linear space but compromise on quality; recent research has proposed a
quadratic-space solution as a viable option too.
In this paper we observe that embedding methods effectively aim to preserve
the covariance among the rows of a similarity matrix, and raise the question:
is there a method that combines (i) linear space complexity, (ii) a nonlinear
transform as its basis, and (iii) nontrivial quality guarantees? We answer this
question in the affirmative, with FREDE(FREquent Directions Embedding), a
sketching-based method that iteratively improves on quality while processing
rows of the similarity matrix individually; thereby, it provides, at any
iteration, column-covariance approximation guarantees that are, in due course,
almost indistinguishable from those of the optimal row-covariance approximation
by SVD. Our experimental evaluation on variably sized networks shows that FREDE
performs as well as SVD and competitively against current state-of-the-art
methods in diverse data mining tasks, even when it derives an embedding based
on only 10% of node similarities.
- Abstract(参考訳): グラフノードの低次元表現や埋め込みは、データマイニングタスクを容易にする。
埋め込み法はノード間の類似度を明示的にまたは暗黙的に依存する。
類似性行列は二次的であるため、空間複雑性と埋め込み品質のトレードオフが生じる; 過去の研究は、まず、線形空間を許容するが品質を妥協するヒューリスティックスと線形変換因子分解を選択した; 近年の研究では、実行可能な選択肢として二次空間解も提案している。
本稿では,類似度行列の行間の共分散を効果的に維持することを目的とした埋め込み手法について述べる。
(i)線形空間複雑性。
(ii)その基礎としての非線形変換、及び
(iii)非自明な品質保証?
本稿では,類似度行列の行を個々に処理しながら品質を反復的に改善するスケッチベース手法であるfrede(frequent directions embedded)を用いて,この質問に回答する。
可変サイズネットワークを用いた実験により,fredeはsvdと同様に,ノードの類似性のわずか10%に基づく組込みを導出しても,データマイニングタスクにおける現在の最先端手法と競合することを示した。
関連論文リスト
- Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Diff-PCR: Diffusion-Based Correspondence Searching in Doubly Stochastic
Matrix Space for Point Cloud Registration [35.82753072083472]
最先端の手法では、ソリューションを洗練させるためにRAFTのような反復的な更新が採用されている。
本稿では,最適マッチング行列の探索を予測するために,Denoising Diffusion Modelを利用する新しい手法を提案する。
提案手法は,オンラインバックボーンやホワイトノイズによって提供される任意の初期マッチング行列から検索を開始することで,柔軟性を提供する。
論文 参考訳(メタデータ) (2023-12-31T09:24:28Z) - Recovering Simultaneously Structured Data via Non-Convex Iteratively
Reweighted Least Squares [0.8702432681310401]
線形観測から多種多様低次元構造に固執するデータを復元する新しいアルゴリズムを提案する。
IRLS法は,低/複合状態の計測に好適であることを示す。
論文 参考訳(メタデータ) (2023-06-08T06:35:47Z) - Inverse Kernel Decomposition [3.066967635405937]
逆カーネル分解法(Inverse Kernel Decomposition, IKD)を提案する。
IKDはデータのサンプル共分散行列の固有分解に基づいている。
合成データセットと4つの実世界のデータセットを用いて、IKDが他の固有分解法よりも次元削減法として優れていることを示す。
論文 参考訳(メタデータ) (2022-11-11T02:14:29Z) - MARS via LASSO [1.5199437137239338]
我々はMARS法の自然変種を提案し,研究する。
提案手法は,関数の凸クラス上での少なくとも2乗推定に基づいている。
我々の推定器は有限次元凸最適化によって計算できる。
論文 参考訳(メタデータ) (2021-11-23T07:30:33Z) - Sparse Quadratic Optimisation over the Stiefel Manifold with Application
to Permutation Synchronisation [71.27989298860481]
二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。
そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-09-30T19:17:35Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Free Energy Node Embedding via Generalized Skip-gram with Negative
Sampling [34.12821919995092]
教師なしノード埋め込みフレームワークの2段階の改善を提案する。
一方,最短経路と通勤時間距離を補間する自由エネルギー距離に基づいてノード類似性を符号化することを提案する。
一方,任意の類似度行列に一般化する損失関数に基づく行列分解法を提案する。
論文 参考訳(メタデータ) (2021-05-19T14:58:13Z) - Hybrid Trilinear and Bilinear Programming for Aligning Partially
Overlapping Point Sets [85.71360365315128]
多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。
まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。
次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-01-19T04:24:23Z) - Random extrapolation for primal-dual coordinate descent [61.55967255151027]
本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。
一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
論文 参考訳(メタデータ) (2020-07-13T17:39:35Z) - Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める
近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。
両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
論文 参考訳(メタデータ) (2020-03-30T08:40:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。