論文の概要: Algorithms for Nonnegative Matrix Factorization with the
Kullback-Leibler Divergence
- arxiv url: http://arxiv.org/abs/2010.01935v2
- Date: Sat, 17 Apr 2021 07:27:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-10 21:15:25.743376
- Title: Algorithms for Nonnegative Matrix Factorization with the
Kullback-Leibler Divergence
- Title（参考訳）: Kullback-Leibler分散を用いた非負行列分解アルゴリズム
- Authors: Le Thi Khanh Hien, Nicolas Gillis
- Abstract要約: Kullback-Leibler (KL) の発散は、非負行列分解(NMF)の最も広く使われている目的関数の1つである。
目的関数の非増加を保証する3つの新しいアルゴリズムを提案する。
我々は、KL NMFアルゴリズムの性能に関する総合的な画像を提供するために、広範な数値実験を行う。
- 参考スコア（独自算出の注目度）: 20.671178429005973
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nonnegative matrix factorization (NMF) is a standard linear dimensionality
reduction technique for nonnegative data sets. In order to measure the
discrepancy between the input data and the low-rank approximation, the
Kullback-Leibler (KL) divergence is one of the most widely used objective
function for NMF. It corresponds to the maximum likehood estimator when the
underlying statistics of the observed data sample follows a Poisson
distribution, and KL NMF is particularly meaningful for count data sets, such
as documents or images. In this paper, we first collect important properties of
the KL objective function that are essential to study the convergence of KL NMF
algorithms. Second, together with reviewing existing algorithms for solving KL
NMF, we propose three new algorithms that guarantee the non-increasingness of
the objective function. We also provide a global convergence guarantee for one
of our proposed algorithms. Finally, we conduct extensive numerical experiments
to provide a comprehensive picture of the performances of the KL NMF
algorithms.
- Abstract（参考訳）: 非負行列分解 (non negative matrix factorization, nmf) は、非負データ集合に対する標準的な線形次元減少手法である。
入力データと低ランク近似との差を測定するために、KL(Kullback-Leibler)の発散はNMFの最も広く使われている目的関数の1つである。
観測データサンプルの基盤となる統計値がポアソン分布に従っている場合、最大同値推定器に対応し、KL NMFは文書や画像などのデータセットをカウントするのに特に意味がある。
本稿では,KL NMFアルゴリズムの収束性を研究する上で不可欠なKL目的関数の重要な特性を最初に収集する。
第二に、既存のKL NMF解決アルゴリズムの見直しとともに、目的関数の非増加を保証する3つの新しいアルゴリズムを提案する。
また,提案アルゴリズムの1つに対して,グローバル収束保証を提供する。
最後に,KL NMFアルゴリズムの性能を包括的に把握するために,広範な数値実験を行った。
関連論文リスト
- Exponentially Convergent Algorithms for Supervised Matrix Factorization [2.1485350418225244]
Supervised Factorization (SMF) は、抽出タスクと分類タスクを集約する機械学習手法である。
本稿では,組合わせ係数空間推定における低ランク推定問題としてSMFを'リフト'する新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2023-11-18T23:24:02Z) - Stratified-NMF for Heterogeneous Data [8.174199227297514]
本研究では,階層依存統計量と共有トピック行列を同時に学習する改良NMF目標であるStratified-NMFを提案する。
本手法を実世界の3つのデータセットに適用し,その特徴を実証的に検討する。
論文 参考訳（メタデータ） (2023-11-17T00:34:41Z) - Contaminated Images Recovery by Implementing Non-negative Matrix
Factorisation [0.0]
我々は,従来のNMF,HCNMF,L2,1-NMFアルゴリズムのロバスト性を理論的に検討し,ORLおよび拡張YaleBデータセットのロバスト性を示す実験セットを実行する。
これらの手法の計算コストのため、HCNMFやL2,1-NMFモデルのような最終モデルは、この研究のパラメータに収束しない。
論文 参考訳（メタデータ） (2022-11-08T13:50:27Z) - Supervised Class-pairwise NMF for Data Representation and Classification [2.7320863258816512]
非負行列分解(NMF)に基づく手法は、特定のタスクにモデルを適応させるためにコスト関数に新しい用語を追加する。
NMF法は、因子化行列を推定するための教師なしアプローチを採用する。
論文 参考訳（メタデータ） (2022-09-28T04:33:03Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳（メタデータ） (2022-04-22T11:38:10Z) - Feature Weighted Non-negative Matrix Factorization [92.45013716097753]
本稿では,FNMF(Feature weighted Non- negative Matrix Factorization)を提案する。
FNMFはその重要性に応じて特徴の重みを適応的に学習する。
提案する最適化アルゴリズムを用いて効率的に解くことができる。
論文 参考訳（メタデータ） (2021-03-24T21:17:17Z) - Entropy Minimizing Matrix Factorization [102.26446204624885]
NMF(Nonnegative Matrix Factorization)は、広く使用されているデータ分析技術であり、多くの実際のタスクで印象的な結果をもたらしました。
本研究では,上述の問題に対処するために,EMMF (Entropy Minimizing Matrix Factorization framework) を開発した。
通常、外れ値が通常のサンプルよりもはるかに小さいことを考えると、行列分解のために新しいエントロピー損失関数が確立される。
論文 参考訳（メタデータ） (2021-03-24T21:08:43Z) - Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。
より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。
SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
論文 参考訳（メタデータ） (2021-03-02T12:47:40Z) - Positive Semidefinite Matrix Factorization: A Connection with Phase
Retrieval and Affine Rank Minimization [71.57324258813674]
位相探索(PR)とアフィンランク最小化(ARM)アルゴリズムに基づいてPSDMFアルゴリズムを設計可能であることを示す。
このアイデアに触発され、反復的ハードしきい値(IHT)に基づくPSDMFアルゴリズムの新たなファミリーを導入する。
論文 参考訳（メタデータ） (2020-07-24T06:10:19Z) - Model Fusion with Kullback--Leibler Divergence [58.20269014662046]
異種データセットから学習した後続分布を融合する手法を提案する。
我々のアルゴリズムは、融合モデルと個々のデータセット後部の両方に対する平均場仮定に依存している。
論文 参考訳（メタデータ） (2020-07-13T03:27:45Z) - A Neural Network for Determination of Latent Dimensionality in
Nonnegative Matrix Factorization [0.0]
非負行列因子化(NMF)は、複雑でノイズの多いデータセットに隠れた特徴を明らかにするための強力な教師なし学習手法であることが証明されている。
教師付き機械学習手法と,NMFkと呼ばれるモデル決定手法を組み合わせることで,隠れた特徴の数を自動で決定する。
論文 参考訳（メタデータ） (2020-06-22T16:32:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。