論文の概要: On the Connection Between Non-negative Matrix Factorization and Latent Dirichlet Allocation

• arxiv url: http://arxiv.org/abs/2405.20542v1
• Date: Thu, 30 May 2024 23:54:17 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-03 15:55:52.619750
• Title: On the Connection Between Non-negative Matrix Factorization and Latent Dirichlet Allocation
• Title（参考訳）: 非負行列因子化と潜在ディリクレ配置の関連について
• Authors: Benedikt Geiger, Peter J. Park,
• Abstract要約: 一般化Kullback-Leibler分散(NMF)と潜在Dirichletアロケーション(LDA)を併用した非負行列分解は、非負データ次元化のための2つの一般的なアプローチである。 分解の両行列の列に正規化制約のあるNMFと1つの行列の列に先行するディリクレがLDAと同値であることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Non-negative matrix factorization with the generalized Kullback-Leibler divergence (NMF) and latent Dirichlet allocation (LDA) are two popular approaches for dimensionality reduction of non-negative data. Here, we show that NMF with $\ell_1$ normalization constraints on the columns of both matrices of the decomposition and a Dirichlet prior on the columns of one matrix is equivalent to LDA. To show this, we demonstrate that explicitly accounting for the scaling ambiguity of NMF by adding $\ell_1$ normalization constraints to the optimization problem allows a joint update of both matrices in the widely used multiplicative updates (MU) algorithm. When both of the matrices are normalized, the joint MU algorithm leads to probabilistic latent semantic analysis (PLSA), which is LDA without a Dirichlet prior. Our approach of deriving joint updates for NMF also reveals that a Lasso penalty on one matrix together with an $\ell_1$ normalization constraint on the other matrix is insufficient to induce any sparsity.
• Abstract（参考訳）: 一般化Kullback-Leibler分散(NMF)と潜在Dirichletアロケーション(LDA)を併用した非負行列分解は、非負データ次元化のための2つの一般的なアプローチである。 ここでは、分解の両行列の列に$\ell_1$正規化制約を持つNMFと、ある行列の列に先行するディリクレがLDAと同値であることを示す。 これを示すために、最適化問題に$\ell_1$正規化制約を加えることで、NMFのスケーリングのあいまいさを明示的に説明することにより、広く使われている乗算更新(MU)アルゴリズムにおいて、両方の行列を共同で更新できることを示した。 両方の行列が正規化されると、結合MUアルゴリズムは確率的潜在意味解析(PLSA)をもたらす。 NMFの合同更新を導出するアプローチはまた、一方の行列上のラッソのペナルティと他方の行列上の$\ell_1$正規化制約は、いかなる間隔も引き起こすには不十分であることを示す。

関連論文リスト

• Semi-supervised Symmetric Non-negative Matrix Factorization with Low-Rank Tensor Representation [27.14442336413482]
  半教師付き対称非負行列分解(SNMF) 対制約行列により合成されたテンソルの低ランク表現を求めるSNMFモデルを提案する。 次に、拡張SNMFモデルを提案し、埋め込み行列を上記のテンソル低ランク表現に適合させる。
  論文  参考訳（メタデータ） (2024-05-04T14:58:47Z)
• A Novel Maximum-Entropy-Driven Technique for Low-Rank Orthogonal Nonnegative Matrix Factorization with $\ell_0$-Norm sparsity Constraint [0.0]
  データ駆動制御と機械学習では、大きな行列を小さく、低ランクな要素に分解する、という一般的な要件がある。 本稿では,直交非負行列分解(ONMF)問題に対する革新的な解を提案する。 提案手法は,文献と同等あるいは改善された復元誤差を実現する。
  論文  参考訳（メタデータ） (2022-10-06T04:30:59Z)
• Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
  本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。 6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-21T01:47:17Z)
• Log-based Sparse Nonnegative Matrix Factorization for Data Representation [55.72494900138061]
  非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。 そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。 提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
  論文  参考訳（メタデータ） (2022-04-22T11:38:10Z)
• Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
  シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。 より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。 SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
  論文  参考訳（メタデータ） (2021-03-02T12:47:40Z)
• Column $\ell_{2,0}$-norm regularized factorization model of low-rank matrix recovery and its computation [0.9281671380673306]
  本稿では低ランク計算問題の列 $ell_2,0$regularized factorization モデルについて述べる。 数値実験は、合成および実データ例を用いて行われる。
  論文  参考訳（メタデータ） (2020-08-24T14:15:36Z)
• Robust Low-rank Matrix Completion via an Alternating Manifold Proximal Gradient Continuation Method [47.80060761046752]
  ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。 この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。 RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。 本稿では、近年のローワークの動機付けについて述べる。
  論文  参考訳（メタデータ） (2020-08-18T04:46:22Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Information-Theoretic Limits for the Matrix Tensor Product [8.206394018475708]
  本稿では,ランダム行列の行列テンソル積を含む高次元推論問題について検討する。 本稿では,高次元行列保存信号の解析のための新しい手法を紹介する。
  論文  参考訳（メタデータ） (2020-05-22T17:03:48Z)
• Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
  双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める 近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。 両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
  論文  参考訳（メタデータ） (2020-03-30T08:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。