論文の概要: A Robust Spectral Algorithm for Overcomplete Tensor Decomposition
- arxiv url: http://arxiv.org/abs/2203.02790v1
- Date: Sat, 5 Mar 2022 17:25:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-08 18:32:07.071252
- Title: A Robust Spectral Algorithm for Overcomplete Tensor Decomposition
- Title(参考訳): 過完全テンソル分解のためのロバストスペクトルアルゴリズム
- Authors: Samuel B. Hopkins, Tselil Schramm, Jonathan Shi
- Abstract要約: オーバーコンプリートオーダー4テンソルを分解するスペクトルアルゴリズムを提案する。
我々のアルゴリズムは、有界スペクトルノルムの逆摂動に対して頑健である。
本アルゴリズムは半定値プログラミングを回避し,一連の線形代数演算として実装することができる。
- 参考スコア(独自算出の注目度): 10.742675209112623
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We give a spectral algorithm for decomposing overcomplete order-4 tensors, so
long as their components satisfy an algebraic non-degeneracy condition that
holds for nearly all (all but an algebraic set of measure $0$) tensors over
$(\mathbb{R}^d)^{\otimes 4}$ with rank $n \le d^2$. Our algorithm is robust to
adversarial perturbations of bounded spectral norm.
Our algorithm is inspired by one which uses the sum-of-squares semidefinite
programming hierarchy (Ma, Shi, and Steurer STOC'16, arXiv:1610.01980), and we
achieve comparable robustness and overcompleteness guarantees under similar
algebraic assumptions. However, our algorithm avoids semidefinite programming
and may be implemented as a series of basic linear-algebraic operations. We
consequently obtain a much faster running time than semidefinite programming
methods: our algorithm runs in time $\tilde O(n^2d^3) \le \tilde O(d^7)$, which
is subquadratic in the input size $d^4$ (where we have suppressed factors
related to the condition number of the input tensor).
- Abstract(参考訳): 我々は、超完全次数 4 のテンソルを分解するスペクトルアルゴリズムを与えるが、それらの成分がほとんどすべての(すべての代数的測度が 0$ である)テンソルを $(\mathbb{r}^d)^{\otimes 4}$ でランク $n \le d^2$ で持つ代数的非退化条件を満たす限り、スペクトルアルゴリズムを与える。
我々のアルゴリズムは、有界スペクトルノルムの逆摂動に頑健である。
我々のアルゴリズムは、半定値プログラム階層(Ma, Shi, and Steurer STOC'16, arXiv:1610.0 1980)を用いており、同様の代数的仮定の下で同等の頑健性と過剰完全性を保証する。
しかし,本アルゴリズムは半定値プログラミングを回避し,一連の線形代数演算として実装することができる。
我々のアルゴリズムは、入力サイズ$d^4$(入力テンソルの条件数に関連する要因を抑える)のサブクワッドラティックである$\tilde O(n^2d^3) \le \tilde O(d^7)$で実行されます。
関連論文リスト
- Implicit High-Order Moment Tensor Estimation and Learning Latent Variable Models [39.33814194788341]
潜在変数モデル学習の課題について検討する。
このような応用により、暗黙のモーメント計算のための一般化されたアルゴリズムを開発した。
一般的なアルゴリズムを利用して, 以下のモデルに対する初等学習者を得る。
論文 参考訳(メタデータ) (2024-11-23T23:13:24Z) - Overcomplete Tensor Decomposition via Koszul-Young Flattenings [63.01248796170617]
最小ランク1項の和として$n_times n times n_3$ tensorを分解する新しいアルゴリズムを与える。
次数-d$s のさらに一般的なクラスは、定数 $C = C(d)$ に対して階数 $Cn$ を超えることができないことを示す。
論文 参考訳(メタデータ) (2024-11-21T17:41:09Z) - A Sub-Quadratic Time Algorithm for Robust Sparse Mean Estimation [6.853165736531941]
逆数外乱の存在下でのスパース平均推定のアルゴリズム的問題について検討する。
我々の主な貢献は、$mathrmpoly(k,log d,1/epsilon)$サンプルを用いて、エフェサブクアクラティック時間で実行される頑健なスパース平均推定アルゴリズムである。
論文 参考訳(メタデータ) (2024-03-07T18:23:51Z) - Efficiently Learning One-Hidden-Layer ReLU Networks via Schur
Polynomials [50.90125395570797]
正方形損失に関して、標準的なガウス分布の下での$k$ReLU活性化の線形結合をPAC学習する問題をmathbbRd$で検討する。
本研究の主な成果は,この学習課題に対して,サンプルおよび計算複雑性が$(dk/epsilon)O(k)$で,epsilon>0$が目標精度である。
論文 参考訳(メタデータ) (2023-07-24T14:37:22Z) - Fast and Practical Quantum-Inspired Classical Algorithms for Solving
Linear Systems [11.929584800629673]
線形系を解くための高速で実用的な量子インスパイアされた古典的アルゴリズムを提案する。
我々の主な貢献は、線形系を解くために量子に着想を得た古典的アルゴリズムへの重球運動量法の適用である。
論文 参考訳(メタデータ) (2023-07-13T08:46:19Z) - Private estimation algorithms for stochastic block models and mixture
models [63.07482515700984]
効率的なプライベート推定アルゴリズムを設計するための一般的なツール。
最初の効率的な$(epsilon, delta)$-differentially private algorithm for both weak recovery and exact recovery。
論文 参考訳(メタデータ) (2023-01-11T09:12:28Z) - Average-Case Complexity of Tensor Decomposition for Low-Degree
Polynomials [93.59919600451487]
多くの統計的推論タスクにおいて「統計計算ギャップ」が発生する。
1つの成分が他の成分よりもわずかに大きいランダムオーダー3分解モデルを考える。
テンソルエントリは$ll n3/2$のとき最大成分を正確に推定できるが、$rgg n3/2$のとき失敗する。
論文 参考訳(メタデータ) (2022-11-10T00:40:37Z) - Learning a Single Neuron with Adversarial Label Noise via Gradient
Descent [50.659479930171585]
モノトン活性化に対する $mathbfxmapstosigma(mathbfwcdotmathbfx)$ の関数について検討する。
学習者の目標は仮説ベクトル $mathbfw$ that $F(mathbbw)=C, epsilon$ を高い確率で出力することである。
論文 参考訳(メタデータ) (2022-06-17T17:55:43Z) - Sketching Algorithms and Lower Bounds for Ridge Regression [65.0720777731368]
リッジ回帰問題に対する1+varepsilon$近似解を計算するスケッチベース反復アルゴリズムを提案する。
また,このアルゴリズムがカーネルリッジ回帰の高速化に有効であることを示す。
論文 参考訳(メタデータ) (2022-04-13T22:18:47Z) - Reconstruction Algorithms for Low-Rank Tensors and Depth-3 Multilinear
Circuits [4.129484350382891]
深さ$3$の算術回路のクラスに対して、新しい効率的なブラックボックス再構成アルゴリズムを提供する。
我々のアルゴリズムは、すべてのフィールド特性 0 以上の大きな特性に作用する。
論文 参考訳(メタデータ) (2021-05-04T20:45:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。