論文の概要: Spherical Matrix Factorization
- arxiv url: http://arxiv.org/abs/2111.14536v1
- Date: Mon, 29 Nov 2021 13:57:48 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-30 18:14:29.313678
- Title: Spherical Matrix Factorization
- Title(参考訳): 球状マトリックス因子化
- Authors: Kai Liu
- Abstract要約: 行列因子化は非負行列因子化のような機械学習において重要な役割を果たす。
本稿では,様々な制約を伴い,証明可能な収束保証を施した一般フレームワークを提案する。
- 参考スコア(独自算出の注目度): 3.890439885458666
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Matrix Factorization plays an important role in machine learning such as
Non-negative Matrix Factorization, Principal Component Analysis, Dictionary
Learning, etc. However, most of the studies aim to minimize the loss by
measuring the Euclidean distance, though in some fields, angle distance is
known to be more important and critical for analysis. In this paper, we propose
a method by adding constraints on factors to unify the Euclidean and angle
distance. However, due to non-convexity of the objective and constraints, the
optimized solution is not easy to obtain. In this paper we propose a general
framework to systematically solve it with provable convergence guarantee with
various constraints.
- Abstract(参考訳): 非負の行列因子化、主成分分析、辞書学習などの機械学習において、行列因子化は重要な役割を果たす。
しかしながら、ほとんどの研究はユークリッド距離を測定することで損失を最小化することを目的としているが、いくつかの分野では、角度距離は分析にとってより重要かつ重要であることが知られている。
本稿では,ユークリッド距離と角度距離を統一するための因子の制約を付加する手法を提案する。
しかし、目的と制約の非凸性のため、最適化された解は容易には得られない。
本稿では,様々な制約を満たした証明可能な収束保証によって体系的に解く汎用フレームワークを提案する。
関連論文リスト
- Sample-Efficient Geometry Reconstruction from Euclidean Distances using Non-Convex Optimization [7.114174944371803]
ユークリッド距離情報点対を埋め込む適切な点を見つける問題は、コアタスクとサブマシン学習の問題の両方として生じる。
本稿では,最小限のサンプル数を考えると,この問題を解決することを目的とする。
論文 参考訳(メタデータ) (2024-10-22T13:02:12Z) - Absence of spurious solutions far from ground truth: A low-rank analysis
with high-order losses [28.034556542422976]
マトリックスセンシング問題は、最適以下の急激な解の拡散を伴う、広範に非順序性を示す。
この研究は、景観の複雑さを解き明かす新しい理論的な洞察を提供する。
論文 参考訳(メタデータ) (2024-03-10T01:07:22Z) - Structured Matrix Learning under Arbitrary Entrywise Dependence and
Estimation of Markov Transition Kernel [4.360281374698232]
本稿では、ノイズの多い低ランク+スパース行列回復の一般的な枠組みについて考察する。
本稿では,不整合制約最小二乗推定器を提案し,その厳密性を決定論的下界とミニマックスリスクの整合性の両方で証明する。
次に、我々のフレームワークのいくつかの重要な統計機械学習問題への適用について紹介する。
論文 参考訳(メタデータ) (2024-01-04T20:13:23Z) - Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。
大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
論文 参考訳(メタデータ) (2023-10-09T14:30:06Z) - Scalable Bayesian Meta-Learning through Generalized Implicit Gradients [64.21628447579772]
Inlicit Bayesian Meta-learning (iBaML) 法は、学習可能な事前のスコープを広げるだけでなく、関連する不確実性も定量化する。
解析誤差境界は、明示的よりも一般化された暗黙的勾配の精度と効率を示すために確立される。
論文 参考訳(メタデータ) (2023-03-31T02:10:30Z) - Beyond Procrustes: Balancing-Free Gradient Descent for Asymmetric
Low-Rank Matrix Sensing [36.96922859748537]
低ランク行列推定は、科学と工学のさまざまなアプリケーションで中心的な役割を果たします。
既存のアプローチは、2つの行列因子のスケールのバランスをとるために計量正規化項を加えることに頼っている。
本論文では,低ランク行列の線形測定値の少ない値から回復する性能の理論的正当化について述べる。
論文 参考訳(メタデータ) (2021-01-13T15:03:52Z) - Follow the bisector: a simple method for multi-objective optimization [65.83318707752385]
複数の異なる損失を最小化しなければならない最適化問題を考える。
提案手法は、各イテレーションにおける降下方向を計算し、目的関数の相対的減少を等しく保証する。
論文 参考訳(メタデータ) (2020-07-14T09:50:33Z) - Conditional gradient methods for stochastically constrained convex
minimization [54.53786593679331]
構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。
私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。
提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
論文 参考訳(メタデータ) (2020-07-07T21:26:35Z) - Scalable Differentiable Physics for Learning and Control [99.4302215142673]
微分物理学は、物理的対象や環境を含む問題を学習し、制御するための強力なアプローチである。
我々は、多数のオブジェクトとその相互作用をサポートすることができる微分可能物理学のためのスケーラブルなフレームワークを開発する。
論文 参考訳(メタデータ) (2020-07-04T19:07:51Z) - Eigendecomposition-Free Training of Deep Networks for Linear
Least-Square Problems [107.3868459697569]
我々は、ディープネットワークのトレーニングに固有分解のないアプローチを導入する。
この手法は固有分解の明示的な微分よりもはるかに堅牢であることを示す。
我々の手法は収束特性が良く、最先端の結果が得られます。
論文 参考訳(メタデータ) (2020-04-15T04:29:34Z) - Nonconvex Matrix Completion with Linearly Parameterized Factors [10.163102766021373]
パラメトリック因子化は、部分空間や完了シミュレーションを含む重要な例を示す。
また, 統一的非制約行列最適化法の有効性について述べる。
論文 参考訳(メタデータ) (2020-03-29T22:40:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。