論文の概要: Landscape analysis of an improved power method for tensor decomposition
- arxiv url: http://arxiv.org/abs/2110.15821v1
- Date: Fri, 29 Oct 2021 14:32:54 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-01 15:32:51.279189
- Title: Landscape analysis of an improved power method for tensor decomposition
- Title（参考訳）: テンソル分解のための改良パワー法の景観解析
- Authors: Joe Kileel, Timo Klock, Jo\~ao M. Pereira
- Abstract要約: 本稿では,最近Subspace Power Methodで導入された対称テンソル分解の最適化式について考察する。
我々は、最大$tildeo(Dlfloor m r)$までの準グロバル保証と、ランダムテンソル成分までのグローバル保証を得る。
- 参考スコア（独自算出の注目度）: 2.363388546004777
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we consider the optimization formulation for symmetric tensor
decomposition recently introduced in the Subspace Power Method (SPM) of Kileel
and Pereira. Unlike popular alternative functionals for tensor decomposition,
the SPM objective function has the desirable properties that its maximal value
is known in advance, and its global optima are exactly the rank-1 components of
the tensor when the input is sufficiently low-rank. We analyze the non-convex
optimization landscape associated with the SPM objective. Our analysis accounts
for working with noisy tensors. We derive quantitative bounds such that any
second-order critical point with SPM objective value exceeding the bound must
equal a tensor component in the noiseless case, and must approximate a tensor
component in the noisy case. For decomposing tensors of size $D^{\times m}$, we
obtain a near-global guarantee up to rank $\widetilde{o}(D^{\lfloor m/2
\rfloor})$ under a random tensor model, and a global guarantee up to rank
$\mathcal{O}(D)$ assuming deterministic frame conditions. This implies that SPM
with suitable initialization is a provable, efficient, robust algorithm for
low-rank symmetric tensor decomposition. We conclude with numerics that show a
practical preferability for using the SPM functional over a more established
counterpart.
- Abstract（参考訳）: 本稿では,最近Kileel と Pereira の Subspace Power Method (SPM) で導入された対称テンソル分解の最適化式について考察する。
テンソル分解に対する一般的な代替関数とは異なり、SPM目的関数は、その最大値が予め知られているという望ましい性質を持ち、その大域的最適化は、入力が十分に低ランクであるときのテンソルのランク1成分である。
SPMの目的に付随する非凸最適化のランドスケープを解析する。
我々の分析は騒音のあるテンソルで作業している。
我々は、SPM目標値が境界を超える任意の二階臨界点がノイズのない場合のテンソル成分と等しくなければならず、ノイズのある場合のテンソル成分を近似しなければならないような量的境界を導出する。
大きさ$D^{\times m}$のテンソルを分解するために、ランダムテンソルモデルの下で$\widetilde{o}(D^{\lfloor m/2 \rfloor})$に、決定論的フレーム条件を仮定して$\mathcal{O}(D)$に、大域的保証を得る。
これは、適切な初期化を持つSPMが低ランク対称テンソル分解のための証明可能で効率的で堅牢なアルゴリズムであることを意味する。
結論として,spm関数がより確立された関数よりも実用的好適性を示す数値を導出する。
関連論文リスト
- A Novel Tensor Factorization-Based Method with Robustness to Inaccurate
Rank Estimation [9.058215418134209]
本稿では,2つの低ランク制約を持つテンソルノルムを提案する。
結果のテンソル完成モデルが不正確なランク推定による性能劣化を効果的に回避できることが理論的に証明されている。
これに基づいて、最適化アルゴリズムの各イテレーションの総コストは$mathcalO(n3log n + kn3)$から$mathcalO(n4)$に削減される。
論文 参考訳（メタデータ） (2023-05-19T06:26:18Z) - Tensor Recovery Based on Tensor Equivalent Minimax-Concave Penalty [3.0711362702464675]
これはコンピュータと機械学習において重要な問題である。
2つのテンソルリカバリ問題に対する2つの適応モデルを提案する。
提案手法は最先端の実験よりも優れている。
論文 参考訳（メタデータ） (2022-01-30T03:28:01Z) - When Random Tensors meet Random Matrices [50.568841545067144]
本稿では,ガウス雑音を伴う非対称次数-$d$スパイクテンソルモデルについて検討する。
検討したモデルの解析は、等価なスパイクされた対称テクシットブロック-ワイドランダム行列の解析に起因していることを示す。
論文 参考訳（メタデータ） (2021-12-23T04:05:01Z) - Robust M-estimation-based Tensor Ring Completion: a Half-quadratic
Minimization Approach [14.048989759890475]
我々はM推定器を誤差統計量として用いるテンソル環完備化への頑健なアプローチを開発する。
truncatedの特異値分解と行列分解に基づくHQに基づく2つのアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-06-19T04:37:50Z) - MTC: Multiresolution Tensor Completion from Partial and Coarse
Observations [49.931849672492305]
既存の完備化の定式化は、主に1つのテンソルからの部分的な観測に依存する。
この問題を解決するために,効率的なマルチレゾリューション・コンプリート・モデル(MTC)を提案する。
論文 参考訳（メタデータ） (2021-06-14T02:20:03Z) - Near-Optimal High Probability Complexity Bounds for Non-Smooth
Stochastic Optimization with Heavy-Tailed Noise [63.304196997102494]
アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。
既存の非滑らか凸最適化法は、負のパワーまたは対数的な信頼度に依存する境界の複雑さを持つ。
クリッピングを用いた2つの勾配法に対して, 新たなステップサイズルールを提案する。
論文 参考訳（メタデータ） (2021-06-10T17:54:21Z) - On Stochastic Moving-Average Estimators for Non-Convex Optimization [105.22760323075008]
本稿では,移動平均(SEMA)問題に基づく広く利用されている推定器のパワーを実証する。
これらすべてのアートな結果に対して、これらのアートな問題に対する結果も提示します。
論文 参考訳（メタデータ） (2021-04-30T08:50:24Z) - Beyond Lazy Training for Over-parameterized Tensor Decomposition [69.4699995828506]
過度なパラメータ化対象の勾配勾配は遅延学習体制を超え、データ中の特定の低ランク構造を利用する可能性があることを示す。
以上の結果から,過パラメータ化対象の勾配勾配は遅延学習体制を超え,データ中の特定の低ランク構造を利用する可能性が示唆された。
論文 参考訳（メタデータ） (2020-10-22T00:32:12Z) - Robust Tensor Principal Component Analysis: Exact Recovery via
Deterministic Model [5.414544833902815]
本稿では,ロバストテンソル主成分分析法(RTPCA)を提案する。
これは最近開発されたテンソルテンソル積とテンソル特異値分解(t-SVD)に基づいている。
論文 参考訳（メタデータ） (2020-08-05T16:26:10Z) - Uncertainty quantification for nonconvex tensor completion: Confidence
intervals, heteroscedasticity and optimality [92.35257908210316]
本研究では,不完全かつ破損した観測によって与えられる低ランクテンソルを推定する問題について検討する。
改善不可能なレートをell-2$の精度で達成できることが分かりました。
論文 参考訳（メタデータ） (2020-06-15T17:47:13Z) - Tensor completion via nonconvex tensor ring rank minimization with
guaranteed convergence [16.11872681638052]
近年の研究では、テンソル環(TR)のランクはテンソル完備化において高い効果を示している。
最近提案されたTRランクは、特異値が等しくペナル化される重み付き和の中で構造を捉えることに基づいている。
本稿では,ロゼット型関数を非スムーズな緩和法として利用することを提案する。
論文 参考訳（メタデータ） (2020-05-14T03:13:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。