論文の概要: Sum-of-norms regularized Nonnegative Matrix Factorization

• arxiv url: http://arxiv.org/abs/2407.00706v1
• Date: Sun, 30 Jun 2024 14:16:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-04 01:57:25.936200
• Title: Sum-of-norms regularized Nonnegative Matrix Factorization
• Title（参考訳）: サム・オブ・ノームズ正規化非負行列分解
• Authors: Andersen Ang, Waqas Bin Hamed, Hans De Sterck,
• Abstract要約: 本研究では、非負行列分解(NMF)を解きながら、そのようなランクを推定する近似法を提案する。 SON(sum-of-norm)は、一対の類似性を促進する群ラッソ構造であり、ランクが過大評価される因子行列のランクを減少させる。 SON-NMFはデータから自動的にランクを推定でき、ランク不足のデータ行列に対処でき、弱い成分を小さなエネルギーで検出できる。
• 参考スコア（独自算出の注目度）: 1.5484595752241124
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When applying nonnegative matrix factorization (NMF), generally the rank parameter is unknown. Such rank in NMF, called the nonnegative rank, is usually estimated heuristically since computing the exact value of it is NP-hard. In this work, we propose an approximation method to estimate such rank while solving NMF on-the-fly. We use sum-of-norm (SON), a group-lasso structure that encourages pairwise similarity, to reduce the rank of a factor matrix where the rank is overestimated at the beginning. On various datasets, SON-NMF is able to reveal the correct nonnegative rank of the data without any prior knowledge nor tuning. SON-NMF is a nonconvx nonsmmoth non-separable non-proximable problem, solving it is nontrivial. First, as rank estimation in NMF is NP-hard, the proposed approach does not enjoy a lower computational complexity. Using a graph-theoretic argument, we prove that the complexity of the SON-NMF is almost irreducible. Second, the per-iteration cost of any algorithm solving SON-NMF is possibly high, which motivated us to propose a first-order BCD algorithm to approximately solve SON-NMF with a low per-iteration cost, in which we do so by the proximal average operator. Lastly, we propose a simple greedy method for post-processing. SON-NMF exhibits favourable features for applications. Beside the ability to automatically estimate the rank from data, SON-NMF can deal with rank-deficient data matrix, can detect weak component with small energy. Furthermore, on the application of hyperspectral imaging, SON-NMF handle the issue of spectral variability naturally.
• Abstract（参考訳）: 非負行列分解(NMF)を適用する場合、一般にランクパラメータは未知である。 非負ランクと呼ばれるNMFのそのようなランクは通常、その正確な値がNPハードであるため、ヒューリスティックに推定される。 本研究では,NMFをオンザフライで解きながら,そのランクを推定する近似法を提案する。 スム・オブ・ノルム (Sum-of-norm, SON) は、一対の類似性を促進する群ラッソ構造であり、初期においてランクが過大評価される因子行列のランクを減少させる。 様々なデータセットにおいて、SON-NMFは、事前の知識やチューニングなしに、データの正しい非負のランクを明らかにすることができる。 SON-NMF は非凸非可分非可分非可分問題であり、非自明な問題を解く。 第一に、NMFのランク推定はNPハードであるため、提案手法はより低い計算複雑性を享受しない。 グラフ理論の議論を用いて、SON-NMFの複雑さはほぼ既約であることを示す。 第2に、SON-NMF を解くアルゴリズムの1次解法コストは高い可能性があり、これはSON-NMF を1次解法として1次解法を提案する動機となった。 最後に,ポストプロセッシングのための簡単なグリージー手法を提案する。 SON-NMFはアプリケーションに好適な機能を示す。 データからランクを自動的に推定する能力の他に、SON-NMFはランク不足のデータ行列を扱うことができ、小さなエネルギーで弱い成分を検出することができる。 さらに、ハイパースペクトルイメージングの適用により、SON-NMFはスペクトル変動の問題を自然に処理する。

関連論文リスト

• A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
  Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。 現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。 本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T07:24:11Z)
• Implicitly normalized forecaster with clipping for linear and non-linear heavy-tailed multi-armed bandits [85.27420062094086]
  Implicitly Normalized Forecaster (INF) は、敵対的マルチアームバンディット(MAB)問題に対する最適解であると考えられている。 重み付き設定のMAB問題に対するクリッピング(INFclip)を用いたINFの新バージョン"Implicitly Normalized Forecaster"を提案する。 INFclipは線形重み付きMAB問題に対して最適であり、非線形問題に対して有効であることを示す。
  論文  参考訳（メタデータ） (2023-05-11T12:00:43Z)
• SymNMF-Net for The Symmetric NMF Problem [62.44067422984995]
  我々は,Symmetric NMF問題に対するSymNMF-Netと呼ばれるニューラルネットワークを提案する。 各ブロックの推測は最適化の単一イテレーションに対応することを示す。 実世界のデータセットに関する実証的な結果は、我々のSymNMF-Netの優位性を示している。
  論文  参考訳（メタデータ） (2022-05-26T08:17:39Z)
• Log-based Sparse Nonnegative Matrix Factorization for Data Representation [55.72494900138061]
  非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。 そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。 提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
  論文  参考訳（メタデータ） (2022-04-22T11:38:10Z)
• Fast Rank-1 NMF for Missing Data with KL Divergence [8.020742121274417]
  A1GMは入力行列から再構成されたランク1行列へのKLの発散を最小限にする。 A1GMは、競合する再構成誤差を持つ勾配法よりも効率的であることを示す。
  論文  参考訳（メタデータ） (2021-10-25T02:05:35Z)
• Entropy Minimizing Matrix Factorization [102.26446204624885]
  NMF(Nonnegative Matrix Factorization)は、広く使用されているデータ分析技術であり、多くの実際のタスクで印象的な結果をもたらしました。 本研究では,上述の問題に対処するために,EMMF (Entropy Minimizing Matrix Factorization framework) を開発した。 通常、外れ値が通常のサンプルよりもはるかに小さいことを考えると、行列分解のために新しいエントロピー損失関数が確立される。
  論文  参考訳（メタデータ） (2021-03-24T21:08:43Z)
• Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
  シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。 より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。 SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
  論文  参考訳（メタデータ） (2021-03-02T12:47:40Z)
• Algorithms for Nonnegative Matrix Factorization with the Kullback-Leibler Divergence [20.671178429005973]
  Kullback-Leibler (KL) の発散は、非負行列分解(NMF)の最も広く使われている目的関数の1つである。 目的関数の非増加を保証する3つの新しいアルゴリズムを提案する。 我々は、KL NMFアルゴリズムの性能に関する総合的な画像を提供するために、広範な数値実験を行う。
  論文  参考訳（メタデータ） (2020-10-05T11:51:39Z)
• Sparse Separable Nonnegative Matrix Factorization [22.679160149512377]
  非負行列分解(NMF)の新しい変種を提案する。 分離性は、第1NMF因子の列が入力行列の列に等しいのに対して、スパース性は第2NMF因子の列がスパースであることが要求される。 雑音のない環境では、軽微な仮定の下で、我々のアルゴリズムが真に根底にある情報源を復元することを証明する。
  論文  参考訳（メタデータ） (2020-06-13T03:52:29Z)
• Convergence to Second-Order Stationarity for Non-negative Matrix Factorization: Provably and Concurrently [18.89597524771988]
  非負行列分解(NMF)は、機械学習における多くの応用において、基本的な非修飾最適化問題である。 本稿では,サドル点を同時にかつ確実に回避する乗法的重み更新型力学(Seung algorithm)を定義する。 重要な利点は、並列コンピューティング環境で並列実装を使用することである。
  論文  参考訳（メタデータ） (2020-02-26T06:40:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。