論文の概要: Sum-of-norms regularized Nonnegative Matrix Factorization

• arxiv url: http://arxiv.org/abs/2407.00706v2
• Date: Mon, 22 Sep 2025 20:06:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-24 20:41:27.353913
• Title: Sum-of-norms regularized Nonnegative Matrix Factorization
• Title（参考訳）: サム・オブ・ノームズ正規化非負行列分解
• Authors: Andersen Ang, Waqas Bin Hamed, Hans De Sterck,
• Abstract要約: NMF を解きながらランク・オン・フライを推定する近似法を提案する。 様々なデータセットにおいて、SONNMFは正しい非負のランクを明らかにすることができる。
• 参考スコア（独自算出の注目度）: 0.818198392834469
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When applying nonnegative matrix factorization (NMF), the rank parameter is generally unknown. This rank, called the nonnegative rank, is usually estimated heuristically since computing its exact value is NP-hard. In this work, we propose an approximation method to estimate the rank on-the-fly while solving NMF. We use the sum-of-norm (SON), a group-lasso structure that encourages pairwise sim- ilarity, to reduce the rank of a factor matrix when the initial rank is overestimated. On various datasets, SON-NMF can reveal the correct nonnegative rank of the data without prior knowledge or parameter tuning. SON-NMF is a nonconvex, nonsmooth, non-separable, and non-proximable problem, making it nontrivial to solve. First, since rank estimation in NMF is NP-hard, the proposed approach does not benefit from lower computational com- plexity. Using a graph-theoretic argument, we prove that the complexity of SON- NMF is essentially irreducible. Second, the per-iteration cost of algorithms for SON-NMF can be high. This motivates us to propose a first-order BCD algorithm that approximately solves SON-NMF with low per-iteration cost via the proximal average operator. SON-NMF exhibits favorable features for applications. Besides the ability to automatically estimate the rank from data, SON-NMF can handle rank-deficient data matrices and detect weak components with small energy. Furthermore, in hyperspectral imaging, SON-NMF naturally addresses the issue of spectral variability.
• Abstract（参考訳）: 非負行列分解(NMF)を適用する場合、ランクパラメータは一般に不明である。 非負ランクと呼ばれるこのランクは通常、計算の正確な値はNPハードであるため、ヒューリスティックに推定される。 そこで本研究では,NMFを解きながらフライ時のランクを推定する近似法を提案する。 SON (Sum-of-norm) は、初期ランクが過大評価されるときの係数行列のランクを減少させるために、ペアワイズ・シム・イラリティを促進するグループ・ラッソ構造である。 様々なデータセットにおいて、SON-NMFは、事前の知識やパラメータチューニングなしで、データの正しい非負ランクを明らかにすることができる。 SON-NMF は非凸、非滑らか、非分離、および非公約問題であり、解決し難い。 第一に、NMFのランク推定はNPハードであるため、提案手法はより低い計算コモディティの恩恵を受けない。 グラフ理論の議論を用いて、SON-NMFの複雑さは本質的に既約であることを示す。 第二に、SON-NMFのアルゴリズムの着色コストが高い。 これにより,SON-NMF を近似平均演算子を用いて低イテレーションコストで解く一階BCDアルゴリズムを提案する。 SON-NMFはアプリケーションに好都合な機能を示す。 データからランクを自動的に推定する機能に加えて、SON-NMFはランク不足のデータ行列を処理し、小さなエネルギーで弱いコンポーネントを検出することができる。 さらに、高スペクトルイメージングでは、SON-NMFはスペクトル変動の問題を自然に解決する。

関連論文リスト

• Automatic Rank Determination for Low-Rank Adaptation via Submodular Function Maximization [56.78271181959529]
  SubLoRAは、サブモジュール関数に基づくローランド適応(LoRA)のランク決定方法である。 提案手法は, 理論的基礎, 2次精度, 実用計算効率の両立を図っている。
  論文  参考訳（メタデータ） (2025-07-02T15:56:40Z)
• A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
  Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。 現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。 本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T07:24:11Z)
• Implicitly normalized forecaster with clipping for linear and non-linear heavy-tailed multi-armed bandits [85.27420062094086]
  Implicitly Normalized Forecaster (INF) は、敵対的マルチアームバンディット(MAB)問題に対する最適解であると考えられている。 重み付き設定のMAB問題に対するクリッピング(INFclip)を用いたINFの新バージョン"Implicitly Normalized Forecaster"を提案する。 INFclipは線形重み付きMAB問題に対して最適であり、非線形問題に対して有効であることを示す。
  論文  参考訳（メタデータ） (2023-05-11T12:00:43Z)
• SymNMF-Net for The Symmetric NMF Problem [62.44067422984995]
  我々は,Symmetric NMF問題に対するSymNMF-Netと呼ばれるニューラルネットワークを提案する。 各ブロックの推測は最適化の単一イテレーションに対応することを示す。 実世界のデータセットに関する実証的な結果は、我々のSymNMF-Netの優位性を示している。
  論文  参考訳（メタデータ） (2022-05-26T08:17:39Z)
• Log-based Sparse Nonnegative Matrix Factorization for Data Representation [55.72494900138061]
  非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。 そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。 提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
  論文  参考訳（メタデータ） (2022-04-22T11:38:10Z)
• Fast Rank-1 NMF for Missing Data with KL Divergence [8.020742121274417]
  A1GMは入力行列から再構成されたランク1行列へのKLの発散を最小限にする。 A1GMは、競合する再構成誤差を持つ勾配法よりも効率的であることを示す。
  論文  参考訳（メタデータ） (2021-10-25T02:05:35Z)
• Entropy Minimizing Matrix Factorization [102.26446204624885]
  NMF(Nonnegative Matrix Factorization)は、広く使用されているデータ分析技術であり、多くの実際のタスクで印象的な結果をもたらしました。 本研究では,上述の問題に対処するために,EMMF (Entropy Minimizing Matrix Factorization framework) を開発した。 通常、外れ値が通常のサンプルよりもはるかに小さいことを考えると、行列分解のために新しいエントロピー損失関数が確立される。
  論文  参考訳（メタデータ） (2021-03-24T21:08:43Z)
• Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
  シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。 より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。 SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
  論文  参考訳（メタデータ） (2021-03-02T12:47:40Z)
• Algorithms for Nonnegative Matrix Factorization with the Kullback-Leibler Divergence [20.671178429005973]
  Kullback-Leibler (KL) の発散は、非負行列分解(NMF)の最も広く使われている目的関数の1つである。 目的関数の非増加を保証する3つの新しいアルゴリズムを提案する。 我々は、KL NMFアルゴリズムの性能に関する総合的な画像を提供するために、広範な数値実験を行う。
  論文  参考訳（メタデータ） (2020-10-05T11:51:39Z)
• Sparse Separable Nonnegative Matrix Factorization [22.679160149512377]
  非負行列分解(NMF)の新しい変種を提案する。 分離性は、第1NMF因子の列が入力行列の列に等しいのに対して、スパース性は第2NMF因子の列がスパースであることが要求される。 雑音のない環境では、軽微な仮定の下で、我々のアルゴリズムが真に根底にある情報源を復元することを証明する。
  論文  参考訳（メタデータ） (2020-06-13T03:52:29Z)
• Convergence to Second-Order Stationarity for Non-negative Matrix Factorization: Provably and Concurrently [18.89597524771988]
  非負行列分解(NMF)は、機械学習における多くの応用において、基本的な非修飾最適化問題である。 本稿では,サドル点を同時にかつ確実に回避する乗法的重み更新型力学(Seung algorithm)を定義する。 重要な利点は、並列コンピューティング環境で並列実装を使用することである。
  論文  参考訳（メタデータ） (2020-02-26T06:40:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。