論文の概要: Efficient algorithms for the Hadamard decomposition

• arxiv url: http://arxiv.org/abs/2504.13633v2
• Date: Tue, 22 Apr 2025 11:02:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-30 12:01:29.100814
• Title: Efficient algorithms for the Hadamard decomposition
• Title（参考訳）: アダマール分解のための効率的なアルゴリズム
• Authors: Samuel Wertz, Arnaud Vandaele, Nicolas Gillis,
• Abstract要約: アダマール分解はデータ解析と行列圧縮の強力な技術である。 本稿では、与えられた行列を2つ以上の低ランク近似の積に分解するフレームワークを開発する。 本研究では,アダマール分解に対する既存の降下法との比較実験を行った。
• 参考スコア（独自算出の注目度）: 14.653207365119796
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The Hadamard decomposition is a powerful technique for data analysis and matrix compression, which decomposes a given matrix into the element-wise product of two or more low-rank matrices. In this paper, we develop an efficient algorithm to solve this problem, leveraging an alternating optimization approach that decomposes the global non-convex problem into a series of convex sub-problems. To improve performance, we explore advanced initialization strategies inspired by the singular value decomposition (SVD) and incorporate acceleration techniques by introducing momentum-based updates. Beyond optimizing the two-matrix case, we also extend the Hadamard decomposition framework to support more than two low-rank matrices, enabling approximations with higher effective ranks while preserving computational efficiency. Finally, we conduct extensive experiments to compare our method with the existing gradient descent-based approaches for the Hadamard decomposition and with traditional low-rank approximation techniques. The results highlight the effectiveness of our proposed method across diverse datasets.
• Abstract（参考訳）: アダマール分解はデータ解析と行列圧縮の強力な手法であり、与えられた行列を2つ以上の低ランク行列の要素積に分解する。 本稿では,グローバルな非凸問題を一連の凸サブプロブレムに分解する逐次最適化手法を活用することにより,この問題を解決するための効率的なアルゴリズムを開発する。 性能向上のために,特異値分解(SVD)にインスパイアされた高度な初期化戦略を探求し,モーメントベースの更新を導入することで加速手法を取り入れた。 2つの行列を最適化する以外に、Hadamard分解フレームワークを拡張して2つ以上の低ランク行列をサポートし、計算効率を保ちながら高い有効ランクの近似を可能にする。 最後に,アダマール分解法と従来の低ランク近似法との比較実験を行った。 その結果,提案手法の有効性を多種多様なデータセットで明らかにした。

関連論文リスト

• An Efficient Alternating Algorithm for ReLU-based Symmetric Matrix Decomposition [0.0]
  本稿では,正則線形単位(ReLU)アクティベーション関数を用いて,非負およびスパース行列の低ランク構造を活用することに焦点を当てる。 本稿では,ReLUに基づく非線形対称行列分解(ReLU-NSMD)モデルを提案し,その解に対して高速化された交互部分ブレグマン(AAPB)法を導入し,アルゴリズムの収束結果を示す。
  論文  参考訳（メタデータ） (2025-03-21T04:32:53Z)
• Regularized Projection Matrix Approximation with Applications to Community Detection [1.3761665705201904]
  本稿では,アフィニティ行列からクラスタ情報を復元するための正規化プロジェクション行列近似フレームワークを提案する。 3つの異なるペナルティ関数について検討し, それぞれが有界, 正, スパースシナリオに対応するように調整した。 合成および実世界の両方のデータセットで行った数値実験により、我々の正規化射影行列近似アプローチはクラスタリング性能において最先端の手法を著しく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-05-26T15:18:22Z)
• Randomized Approach to Matrix Completion: Applications in Collaborative Filtering and Image Inpainting [0.0]
  カラム選択マトリックスコンプリート(CSMC)法は列サブセット選択と低ランク行列コンプリートを組み合わせたものである。 CSMCを実装するための2つのアルゴリズムを導入し、それぞれ異なるサイズの問題に適合する。 CSMCは凸最適化に基づく最先端行列補完アルゴリズムと同じ品質のソリューションを提供する。
  論文  参考訳（メタデータ） (2024-03-04T10:36:06Z)
• Accelerating Cutting-Plane Algorithms via Reinforcement Learning Surrogates [49.84541884653309]
  凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。 多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。 そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
  論文  参考訳（メタデータ） (2023-07-17T20:11:56Z)
• Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
  本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。 微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
  論文  参考訳（メタデータ） (2023-02-24T18:41:48Z)
• Converting ADMM to a Proximal Gradient for Convex Optimization Problems [4.56877715768796]
  融解ラッソや凸クラスタリングなどのスパース推定では、問題を解くために、近位勾配法またはマルチプライヤー(ADMM)の交互方向法のいずれかを適用します。 本論文では,制約と目的が強く凸であると仮定し,ADMM溶液を近位勾配法に変換する一般的な方法を提案する。 数値実験により, 効率の面で有意な改善が得られることを示した。
  論文  参考訳（メタデータ） (2021-04-22T07:41:12Z)
• On the Efficient Implementation of the Matrix Exponentiated Gradient Algorithm for Low-Rank Matrix Optimization [26.858608065417663]
  スペクトル上の凸最適化は、機械学習、信号処理、統計学に重要な応用がある。 低ランク行列による最適化に適したMEGの効率的な実装を提案し、各イテレーションで単一の低ランクSVDのみを使用する。 また,本手法の正しい収束のための効率よく計算可能な証明書も提供する。
  論文  参考訳（メタデータ） (2020-12-18T19:14:51Z)
• Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
  バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
  論文  参考訳（メタデータ） (2020-10-15T18:09:48Z)
• Multi-View Spectral Clustering with High-Order Optimal Neighborhood Laplacian Matrix [57.11971786407279]
  マルチビュースペクトルクラスタリングは、データ間の固有のクラスタ構造を効果的に明らかにすることができる。 本稿では,高次最適近傍ラプラシア行列を学習するマルチビュースペクトルクラスタリングアルゴリズムを提案する。 提案アルゴリズムは, 1次ベースと高次ベースの両方の線形結合の近傍を探索し, 最適ラプラシア行列を生成する。
  論文  参考訳（メタデータ） (2020-08-31T12:28:40Z)
• Robust Low-rank Matrix Completion via an Alternating Manifold Proximal Gradient Continuation Method [47.80060761046752]
  ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。 この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。 RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。 本稿では、近年のローワークの動機付けについて述べる。
  論文  参考訳（メタデータ） (2020-08-18T04:46:22Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。