論文の概要: A Novel Maximum-Entropy-Driven Technique for Low-Rank Orthogonal
Nonnegative Matrix Factorization with $\ell_0$-Norm sparsity Constraint
- arxiv url: http://arxiv.org/abs/2210.02672v3
- Date: Fri, 19 Jan 2024 00:57:05 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-22 19:37:30.429341
- Title: A Novel Maximum-Entropy-Driven Technique for Low-Rank Orthogonal
Nonnegative Matrix Factorization with $\ell_0$-Norm sparsity Constraint
- Title(参考訳): $\ell_0$-Normスペーサ制約を用いた低ランク直交非負行列分解のための新しい最大エントロピー駆動手法
- Authors: Salar Basiri and Srinivasa Salapaka
- Abstract要約: データ駆動制御と機械学習では、大きな行列を小さく、低ランクな要素に分解する、という一般的な要件がある。
本稿では,直交非負行列分解(ONMF)問題に対する革新的な解を提案する。
提案手法は,文献と同等あるいは改善された復元誤差を実現する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In data-driven control and machine learning, a common requirement involves
breaking down large matrices into smaller, low-rank factors that possess
specific levels of sparsity. This paper introduces an innovative solution to
the orthogonal nonnegative matrix factorization (ONMF) problem. The objective
is to approximate input data by using two low-rank nonnegative matrices,
adhering to both orthogonality and $\ell_0$-norm sparsity constraints. the
proposed maximum-entropy-principle based framework ensures orthogonality and
sparsity of features or the mixing matrix, while maintaining nonnegativity in
both. Additionally, the methodology offers a quantitative determination of the
``true'' number of underlying features, a crucial hyperparameter for ONMF.
Experimental evaluation on synthetic and a standard datasets highlights the
method's superiority in terms of sparsity, orthogonality, and computational
speed compared to existing approaches. Notably, the proposed method achieves
comparable or improved reconstruction errors in line with the literature.
- Abstract(参考訳): データ駆動制御と機械学習において、一般的な要件は、大きな行列を特定の空間レベルを持つ小さな低ランクの要素に分解することである。
本稿では直交非負行列分解(ONMF)問題に対する革新的な解を提案する。
目的は2つの低ランク非負行列を用いて入力データを近似し、直交性と$\ell_0$-normスペーサ性制約を両立させることである。
提案する最大エントロピー原理に基づく枠組みは, 特徴量や混合行列の直交性とスパース性を確保しつつ, 両者の非負性を維持している。
さらに、この方法論は、ONMFにとって重要なハイパーパラメータである `true' の根底にある多くの特徴を定量的に決定する。
合成および標準データセットに関する実験的評価は、既存のアプローチと比較してスパース性、直交性、計算速度において、この手法が優れていることを浮き彫りにしている。
特に,提案手法は文献と同等あるいは改善された再構成誤差を実現する。
関連論文リスト
- Low-Rank Prune-And-Factorize for Language Model Compression [18.088550230146247]
マトリックスの分解は、中程度から高い圧縮速度で良好な性能を維持することができない。
スパシティ対応SVDとミックスランクファインチューニングの2つの手法を提案する。
論文 参考訳(メタデータ) (2023-06-25T07:38:43Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-21T01:47:17Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳(メタデータ) (2022-04-22T11:38:10Z) - Learning a Compressive Sensing Matrix with Structural Constraints via
Maximum Mean Discrepancy Optimization [17.104994036477308]
本稿では,圧縮センシング関連回復問題に対する測定行列を得るための学習に基づくアルゴリズムを提案する。
ニューラルネットワーク関連のトピックにおけるこのようなメトリクスの最近の成功は、機械学習に基づく問題の解決策を動機付けている。
論文 参考訳(メタデータ) (2021-10-14T08:35:54Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Adversarially-Trained Nonnegative Matrix Factorization [77.34726150561087]
非負行列ファクタリゼーションの逆学習版を検討する。
我々の定式化では、攻撃者は与えられたデータ行列に有界ノルムの任意の行列を追加する。
辞書と係数行列を最適化するために, 逆学習に触発された効率的なアルゴリズムを設計する。
論文 参考訳(メタデータ) (2021-04-10T13:13:17Z) - Column $\ell_{2,0}$-norm regularized factorization model of low-rank
matrix recovery and its computation [0.9281671380673306]
本稿では低ランク計算問題の列 $ell_2,0$regularized factorization モデルについて述べる。
数値実験は、合成および実データ例を用いて行われる。
論文 参考訳(メタデータ) (2020-08-24T14:15:36Z) - Robust Low-rank Matrix Completion via an Alternating Manifold Proximal
Gradient Continuation Method [47.80060761046752]
ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。
この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。
RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。
本稿では、近年のローワークの動機付けについて述べる。
論文 参考訳(メタデータ) (2020-08-18T04:46:22Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - A Block Coordinate Descent-based Projected Gradient Algorithm for
Orthogonal Non-negative Matrix Factorization [0.0]
本稿では非負行列分解問題(NMF)に対する投影勾配法(PG)を用いる。
正則性制約をペナライズし,ブロック座標降下法を用いてPG法を適用した。
論文 参考訳(メタデータ) (2020-03-23T13:24:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。