論文の概要: Alternating minimization algorithms for graph regularized tensor
completion
- arxiv url: http://arxiv.org/abs/2008.12876v2
- Date: Sat, 11 Nov 2023 22:55:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-15 01:00:27.172035
- Title: Alternating minimization algorithms for graph regularized tensor
completion
- Title(参考訳): グラフ正規化テンソル補完のための交互最小化アルゴリズム
- Authors: Yu Guan, Shuyu Dong, Bin Gao, P.-A. Absil, Fran\c{c}ois Glineur
- Abstract要約: 我々は、低ランクテンソル完備化(LRTC)に対するカノニカルポリアディック(CP)分解法を考える。
グラフ正規化の使用にはLRTCの学習精度のメリットが伴うが、同時に結合グラフラプラシア語を誘導する。
基礎となるCP分解モデルにおけるブロック構造を利用して, 効率の良い同期最小化アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 8.26185178671935
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider a Canonical Polyadic (CP) decomposition approach to low-rank
tensor completion (LRTC) by incorporating external pairwise similarity
relations through graph Laplacian regularization on the CP factor matrices. The
usage of graph regularization entails benefits in the learning accuracy of
LRTC, but at the same time, induces coupling graph Laplacian terms that hinder
the optimization of the tensor completion model. In order to solve
graph-regularized LRTC, we propose efficient alternating minimization
algorithms by leveraging the block structure of the underlying CP
decomposition-based model. For the subproblems of alternating minimization, a
linear conjugate gradient subroutine is specifically adapted to
graph-regularized LRTC. Alternatively, we circumvent the complicating coupling
effects of graph Laplacian terms by using an alternating directions method of
multipliers. Based on the Kurdyka-{\L}ojasiewicz property, we show that the
sequence generated by the proposed algorithms globally converges to a critical
point of the objective function. Moreover, the complexity and convergence rate
are also derived. In addition, numerical experiments including synthetic data
and real data show that the graph regularized tensor completion model has
improved recovery results compared to those without graph regularization, and
that the proposed algorithms achieve gains in time efficiency over existing
algorithms.
- Abstract(参考訳): cp因子行列上のグラフラプラシアン正則化を通した外部対関係を組み込むことにより、低ランクテンソル完全化(lrtc)に対する正準多進(cp)分解法を考える。
グラフ正規化の利用にはLRTCの学習精度の利点が伴うが、同時にテンソル完備モデルの最適化を妨げる結合グラフラプラシアン項を誘導する。
グラフ正規化lrtcの解法として,cp分解ベースモデルのブロック構造を活用し,効率的な交互最小化アルゴリズムを提案する。
交互最小化の部分問題に対して、線形共役勾配サブルーチンはグラフ正規化lrtcに特に適合する。
あるいは、乗算器の交互方向法を用いてグラフラプラシアン項の複雑結合効果を回避する。
Kurdyka-{\L}ojasiewicz の性質に基づき、提案アルゴリズムによって生成される列が、対象関数の臨界点にグローバルに収束することを示す。
さらに、複雑性と収束率も導出される。
さらに、合成データや実データを含む数値実験により、グラフ正規化テンソル補完モデルがグラフ正規化のないモデルに比べて回復結果が向上し、既存のアルゴリズムよりも時間効率が向上することを示した。
関連論文リスト
- Computational and Statistical Guarantees for Tensor-on-Tensor Regression with Tensor Train Decomposition [27.29463801531576]
TTに基づくToT回帰モデルの理論的およびアルゴリズム的側面について検討する。
制約付き誤差境界に対する解を効率的に見つけるための2つのアルゴリズムを提案する。
我々はIHTとRGDの両方の線形収束速度を確立する。
論文 参考訳(メタデータ) (2024-06-10T03:51:38Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Network Topology Inference with Sparsity and Laplacian Constraints [18.447094648361453]
我々はラプラシアの制約付きガウス図形モデルを用いてネットワークトポロジに取り組む。
この問題を解決するために,効率的なプロジェクションアルゴリズムが開発された。
論文 参考訳(メタデータ) (2023-09-02T15:06:30Z) - An inexact LPA for DC composite optimization and application to matrix completions with outliers [5.746154410100363]
本稿では,複合最適化問題のクラスについて述べる。
合成構造を利用することで、ポテンシャル関数が反復列において1/2$のKL特性を持つ条件を与える。
論文 参考訳(メタデータ) (2023-03-29T16:15:34Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Graph Polynomial Convolution Models for Node Classification of
Non-Homophilous Graphs [52.52570805621925]
本研究では,高階グラフ畳み込みからの効率的な学習と,ノード分類のための隣接行列から直接学習する。
得られたモデルが新しいグラフと残留スケーリングパラメータをもたらすことを示す。
提案手法は,非親和性パラメータのノード分類における精度の向上を実証する。
論文 参考訳(メタデータ) (2022-09-12T04:46:55Z) - From graphs to DAGs: a low-complexity model and a scalable algorithm [0.0]
本稿では,低ランク行列因数分解とDAGの連続的な最適化のためのスペース化機構を組み合わせたLoRAM for Low-Rank Additive Modelを提案する。
提案手法は,NoTearsと同じDAG特性関数を扱いながら,立方的複雑性から二次的複雑性への還元を実現する。
論文 参考訳(メタデータ) (2022-04-10T10:22:56Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。
新規な構造化融合正規化に基づく一般グラフ推定器を提案する。
提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
論文 参考訳(メタデータ) (2021-03-05T04:42:32Z) - New Riemannian preconditioned algorithms for tensor completion via
polyadic decomposition [10.620193291237262]
これらのアルゴリズムは、ポリアジック分解形態におけるローランクテンソルの因子行列の積空間上の非ユークリッド計量を利用する。
提案された勾配降下アルゴリズムがテンソル完備問題の定常点にグローバルに収束することを証明する。
合成データと実世界のデータの数値計算結果から,提案アルゴリズムは最先端アルゴリズムよりもメモリと時間において効率的であることが示唆された。
論文 参考訳(メタデータ) (2021-01-26T22:11:06Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。