論文の概要: Riemannian Optimization for Hadamard Products of Low-Rank Matrices
- arxiv url: http://arxiv.org/abs/2606.01216v1
- Date: Sun, 31 May 2026 13:10:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.390404
- Title: Riemannian Optimization for Hadamard Products of Low-Rank Matrices
- Title(参考訳): 低ランク行列のアダマール積に対するリーマン最適化
- Authors: Pratik Jawanpuria, Ankish Chandresh, Bamdev Mishra,
- Abstract要約: 2つの低ランク行列の要素的アダマール積は、乗法構造を持つデータに対してパラメータ効率のモデルを提供するが、追加の対称性が存在するため、そのモデリングは困難である。
空間の幾何学を活用するために、リーマン商多様体上の最適化としてそのような行列の学習を定式化する。
我々は、チューニング不要ガウスを用いた勾配のないガウス-ニュートン降下アルゴリズムを開発し、イテレーション毎に観測されたエントリ数に対して、ニュートンステップサイズと線形にスケールする。
- 参考スコア(独自算出の注目度): 8.444687277893827
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The elementwise Hadamard product of two low-rank matrices provides a parameter-efficient model for data with multiplicative structure, but its modeling is challenging due to the presence of additional symmetries under coupled row/column scalings between the two factors. In order to leverage the geometry of the space, we formulate the learning of such matrices as optimization on a Riemannian quotient manifold. We propose a novel block-diagonal Riemannian metric derived from the pullback of the Frobenius inner product. The metric is shown to be invariant under the full symmetry group. We develop a Riemannian gradient descent algorithm that uses a tuning-free Gauss--Newton step size and scales linearly in the number of observed entries per iteration. Experiments on real and synthetic datasets illustrate the efficacy of our proposed Riemannian approach.
- Abstract(参考訳): 2つの低ランク行列の要素的アダマール積は、乗法構造を持つデータに対してパラメータ効率のモデルを提供するが、そのモデリングは2つの要素間の結合行/列スケーリングの下で追加の対称性が存在するため困難である。
空間の幾何学を活用するために、リーマン商多様体上の最適化としてそのような行列の学習を定式化する。
フロベニウス内積の引き戻しから導かれるブロック対角リーマン計量を提案する。
計量は全対称性群の下で不変であることが示されている。
我々は,チューニングフリーなガウスを用いたリーマン勾配降下アルゴリズムを開発した。-ニュートンのステップサイズとスケールは,反復毎に観測されたエントリ数で線形である。
実および合成データセットの実験は、提案したリーマン的アプローチの有効性を示す。
関連論文リスト
- Riemannian Optimization on Relaxed Indicator Matrix Manifold [83.13494760649874]
インジケータ行列は機械学習において重要な役割を果たすが、最適化はNPハード問題である。
我々は、指標行列の新たな緩和を提案し、この緩和が多様体を形成することを証明し、それをRelaxed Indicator Matrix Manifold (RIM manifold) と呼ぶ。
測地学を得るための高速な測地法を含む,いくつかのリトラクション法を提案する。
論文 参考訳(メタデータ) (2025-03-26T12:45:52Z) - FORML: A Riemannian Hessian-free Method for Meta-learning on Stiefel Manifolds [4.757859522106933]
本稿では、スティーフェル多様体上の微分の1次近似を用いたヘッセンフリーアプローチを提案する。
本手法は計算負荷とメモリフットプリントを大幅に削減する。
論文 参考訳(メタデータ) (2024-02-28T10:57:30Z) - Low-complexity subspace-descent over symmetric positive definite
manifold [9.346050098365648]
対称正定値多様体(SPD)上の関数の最小化のための低複素性アルゴリズムを開発する。
提案手法は、慎重に選択された部分空間を利用して、更新をイテレートのコレスキー因子とスパース行列の積として記述することができる。
論文 参考訳(メタデータ) (2023-05-03T11:11:46Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-21T01:47:17Z) - Automatic differentiation for Riemannian optimization on low-rank matrix
and tensor-train manifolds [71.94111815357064]
科学計算および機械学習アプリケーションでは、行列およびより一般的な多次元配列(テンソル)は、しばしば低ランク分解の助けを借りて近似することができる。
低ランク近似を見つけるための一般的なツールの1つはリーマン最適化を使うことである。
論文 参考訳(メタデータ) (2021-03-27T19:56:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。