論文の概要: Symmetry & Critical Points for Symmetric Tensor Decomposition Problems
- arxiv url: http://arxiv.org/abs/2306.07886v3
- Date: Mon, 7 Aug 2023 10:01:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-08 22:43:18.139910
- Title: Symmetry & Critical Points for Symmetric Tensor Decomposition Problems
- Title(参考訳): 対称テンソル分解問題の対称性と臨界点
- Authors: Yossi Arjevani, Gal Vinograd
- Abstract要約: 実対称テンソルをランク1項の和に分解する非最適化問題を考える。
使用法は、問題次元においてプーズ級数で表される臨界点の無限の族を構成するためのリッチ対称性構造から成り立っている。
すべての臨界点に対して生じる望ましくない現象は、対象関数の値によって増加する負のヘッセン固有値の数を懸念する。
- 参考スコア(独自算出の注目度): 6.650108973968032
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the nonconvex optimization problem associated with the
decomposition of a real symmetric tensor into a sum of rank one terms. Use is
made of the rich symmetry structure to construct infinite families of critical
points represented by Puiseux series in the problem dimension, and so obtain
precise analytic estimates on the value of the objective function and the
Hessian spectrum. The results allow an analytic characterization of various
obstructions to using local optimization methods, revealing in particular a
complex array of saddles and minima differing by their symmetry, structure and
analytic properties. A~desirable phenomenon, occurring for all critical points
considered, concerns the number of negative Hessian eigenvalues increasing with
the value of the objective function. Our approach makes use of Newton polyhedra
as well as results from real algebraic geometry, notably the Curve Selection
Lemma, to determine the extremal character of degenerate critical points,
establishing in particular the existence of infinite families of third-order
saddles which can significantly slow down the optimization process.
- Abstract(参考訳): 実対称テンソルの階数 1 項の和への分解に伴う非凸最適化問題を考える。
問題次元においてPuiseux級数で表される臨界点の無限族を構成するために、リッチ対称性構造を用いており、目的関数とヘッセンスペクトルの値に関する正確な解析的推定値を得る。
その結果、局所最適化法を用いて様々な障害の解析的特徴付けが可能となり、特に、その対称性、構造、解析的性質によって異なるサドルとミニマの複雑な配列が明らかにされた。
すべての臨界点に対して生じる望ましくない現象は、対象関数の値によって増加する負のヘッセン固有値の数を懸念する。
我々のアプローチはニュートン多面体と実際の代数幾何学、特に曲線選択補題の成果を利用して、退化臨界点の極端な性質を決定し、特に最適化過程を著しく遅くする3階サドルの無限の族の存在を確立する。
関連論文リスト
- Topological complexity of spiked random polynomials and finite-rank
spherical integrals [2.1756081703276]
特に,有限ランクスパイクされたガウス・ウィグナー行列の平均臨界点数の指数式と局所パラメータの行列式を定式化する。
この分析は、[Guionnet, Husson] による有限ランク球面積分の最近の進歩に基づいて、多ランクスパイクされたガウス・ウィグナー行列の大きな偏差を研究する。
外部パラメータの正確なしきい値があり、一度超えると、複雑性関数は与えられたベクトルに臨界点が近い新しい領域に消える。
論文 参考訳(メタデータ) (2023-12-19T16:52:01Z) - The Tempered Hilbert Simplex Distance and Its Application To Non-linear
Embeddings of TEMs [36.135201624191026]
負のテンパー付きエントロピー関数のルジャンドル関数を介して、有限離散TEMの3つの異なるパラメータ化を導入する。
ヒルベルト幾何学と同様に、テンパードヒルベルト距離は、向き付けられたテンパードファンク距離の$t$-対称性として特徴づけられる。
論文 参考訳(メタデータ) (2023-11-22T15:24:29Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Symmetry Breaking in Symmetric Tensor Decomposition [44.181747424363245]
我々は、対称テンソルの点階分解を計算する非対称問題を考える。
損失関数の臨界点が標準手法によって検出されることを示す。
論文 参考訳(メタデータ) (2021-03-10T18:11:22Z) - Classical symmetries and QAOA [3.2880869992413246]
本稿では,量子近似最適化アルゴリズム(QAOA)と最適化対象関数の基本的な対称性との関係について検討する。
本稿では,QAOA力学の量子対称性特性と目的関数の古典対称性群との関係を定式化する。
論文 参考訳(メタデータ) (2020-12-08T20:02:09Z) - Nonconvex Matrix Completion with Linearly Parameterized Factors [10.163102766021373]
パラメトリック因子化は、部分空間や完了シミュレーションを含む重要な例を示す。
また, 統一的非制約行列最適化法の有効性について述べる。
論文 参考訳(メタデータ) (2020-03-29T22:40:47Z) - Semiparametric Nonlinear Bipartite Graph Representation Learning with
Provable Guarantees [106.91654068632882]
半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。
提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。
我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
論文 参考訳(メタデータ) (2020-03-02T16:40:36Z) - Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。
正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。
高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
論文 参考訳(メタデータ) (2020-02-25T23:05:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。