論文の概要: Riemannian Perspective on Matrix Factorization
- arxiv url: http://arxiv.org/abs/2102.00937v1
- Date: Mon, 1 Feb 2021 16:12:07 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-02 19:18:30.696741
- Title: Riemannian Perspective on Matrix Factorization
- Title(参考訳): 行列因子化のリーマン的展望
- Authors: Kwangjun Ahn, Felipe Suarez
- Abstract要約: 部分空間の間には主角の批判的概念が存在することを示す。
完全に観察された場合、測地線が凸状であり、その外にあるすべてのサドルが存在する。
- 参考スコア(独自算出の注目度): 6.85316573653194
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the non-convex matrix factorization approach to matrix completion
via Riemannian geometry. Based on an optimization formulation over a
Grassmannian manifold, we characterize the landscape based on the notion of
principal angles between subspaces. For the fully observed case, our results
show that there is a region in which the cost is geodesically convex, and
outside of which all critical points are strictly saddle. We empirically study
the partially observed case based on our findings.
- Abstract(参考訳): リーマン幾何学による行列完備に対する非凸行列分解法の研究を行う。
グラスマン多様体上の最適化定式化に基づき、部分空間間の主角の概念に基づいて風景を特徴づける。
完全に観察された場合、我々は、コストが測地的に凸である領域と、すべての臨界点が厳密なサドルである領域が存在することを示した。
本研究では, 部分観察例を経験的に検討した。
関連論文リスト
- Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Nonconvex Matrix Factorization is Geodesically Convex: Global Landscape
Analysis for Fixed-rank Matrix Optimization From a Riemannian Perspective [2.28438857884398]
固定ランク正半定値(PSD)制約を用いた一般行列最適化問題について検討する。
探索空間全体は、(R1)対象パラメータの近傍の領域、(R2)厳密なサドル点の近傍を含む領域、(R3)残りの領域の3つの領域に分けられることを示す。
以上の結果から, ブラー・モンテイロの分解条件下でのバニラ勾配降下の優れた性能について, 完全に説明できる。
論文 参考訳(メタデータ) (2022-09-29T23:08:41Z) - Shape And Structure Preserving Differential Privacy [70.08490462870144]
正方形距離関数の勾配がラプラス機構よりも感度をよりよく制御できることを示す。
また,2乗距離関数の勾配を用いることで,ラプラス機構よりも感度を制御できることを示す。
論文 参考訳(メタデータ) (2022-09-21T18:14:38Z) - First-Order Algorithms for Min-Max Optimization in Geodesic Metric
Spaces [93.35384756718868]
min-maxアルゴリズムはユークリッド設定で解析されている。
指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
論文 参考訳(メタデータ) (2022-06-04T18:53:44Z) - A singular Riemannian geometry approach to Deep Neural Networks I.
Theoretical foundations [77.86290991564829]
ディープニューラルネットワークは、音声認識、機械翻訳、画像解析など、いくつかの科学領域で複雑な問題を解決するために広く使われている。
我々は、リーマン計量を備えた列の最後の多様体で、多様体間の写像の特定の列を研究する。
このようなシーケンスのマップの理論的性質について検討し、最終的に実践的な関心を持つニューラルネットワークの実装間のマップのケースに焦点を当てる。
論文 参考訳(メタデータ) (2021-12-17T11:43:30Z) - Nonconvex Factorization and Manifold Formulations are Almost Equivalent in Low-rank Matrix Optimization [8.59387261480044]
我々は、広く研究された多様体の幾何学的地形接続と、低ランク正半定値(PSD)および一般行列最適化における分解公式を考える。
サンドイッチ関係は、ある定式化から別の定式化へのより定量的な幾何学的性質の伝達に利用できることを示す。
論文 参考訳(メタデータ) (2021-08-03T22:14:01Z) - Bayesian Quadrature on Riemannian Data Manifolds [79.71142807798284]
データに固有の非線形幾何学構造をモデル化する原則的な方法が提供される。
しかし、これらの演算は通常計算的に要求される。
特に、正規法則上の積分を数値計算するためにベイズ二次(bq)に焦点を当てる。
先行知識と活発な探索手法を両立させることで,BQは必要な評価回数を大幅に削減できることを示す。
論文 参考訳(メタデータ) (2021-02-12T17:38:04Z) - Curvature-Dependant Global Convergence Rates for Optimization on
Manifolds of Bounded Geometry [6.85316573653194]
1-有界幾何多様体上で定義される弱凸函数に対する曲率依存性収束率を与える。
最適化文献でよく用いられる多様体に対して、これらの境界を明示的に計算する。
指数写像の微分のノルムに完全一般境界の自己完備証明を与える。
論文 参考訳(メタデータ) (2020-08-06T08:30:35Z) - On the minmax regret for statistical manifolds: the role of curvature [68.8204255655161]
2つの部分のコードと最小記述長は、最高のモデルを選別するための手順を提供するのに成功している。
我々は、フィッシャー情報計量のスカラー曲率が支配的な役割を果たす複雑さによって与えられる標準表現よりも、よりシャープな表現を導出する。
論文 参考訳(メタデータ) (2020-07-06T17:28:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。