論文の概要: An Efficient Newton Algorithm for Nonnegative Matrix Factorization with the Kullback-Leibler Divergence

• arxiv url: http://arxiv.org/abs/2607.13919v1
• Date: Wed, 15 Jul 2026 14:59:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-16 16:39:12.815557
• Title: An Efficient Newton Algorithm for Nonnegative Matrix Factorization with the Kullback-Leibler Divergence
• Title（参考訳）: Kullback-Leibler分散を用いた非負行列分解のための効率的なニュートンアルゴリズム
• Abstract要約: 非負行列因子分解(NMF)は、2つの低ランク非負因子の積によって非負行列を近似する。 ほとんどのKL-NMFアルゴリズムは、損失の分離可能な主要成分を最小化し、次の分解物を見つける。 この手法は限界に達しており、代わりに2階のテイラーによる損失の展開を提案する。 これにより効率の良いKL-NMFアルゴリズムが実現でき、様々なデータセット上で最先端のアルゴリズムと競合する。
• 参考スコア（独自算出の注目度）: 1.1470070927586018
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Nonnegative Matrix Factorization (NMF) is a fundamental tool in unsupervised learning, which approximates a nonnegative matrix by the product of two low-rank nonnegative factors. The Kullback-Leibler (KL) divergence is best suited to measure the data to model discrepancy when the decomposed data sample follows a Poisson distribution, which is the case for count datasets such as term-document matrices or images. Most KL-NMF algorithms in the literature minimize a separable majorant of the loss to find their next iterate. We argue that this method has reached its limits and propose to use instead the second-order Taylor expansion of the loss, leading to a Newton-type method. We minimize this non-separable surrogate by proposing a generalization of the well-known HALS algorithm. This yields an efficient KL-NMF algorithm which provably converges and which competes favorably with state-of-the-art algorithms on a large variety of datasets.
• Abstract（参考訳）: 非負行列因子化 (NMF) は教師なし学習の基本的なツールであり、2つの低ランク非負因子の積によって非負行列を近似する。 Kullback-Leibler (KL) の発散は、分解したデータサンプルがPoisson分布に従えば、差分をモデル化するために最も適している。 文献中のほとんどのKL-NMFアルゴリズムは、損失の分離可能な主要成分を最小化し、次の繰り返しを見つける。 我々はこの手法が限界に達し、代わりに2階テイラーによる損失の拡大を提案し、ニュートン型手法を導いた。 我々は、よく知られたHALSアルゴリズムの一般化を提案することにより、この分離不能なサロゲートを最小化する。 これにより効率の良いKL-NMFアルゴリズムが実現でき、様々なデータセット上で最先端のアルゴリズムと競合する。

関連論文リスト

• Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement Learning [53.445068584013896]
  低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。 低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。 簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
  論文  参考訳（メタデータ） (2023-10-10T17:06:41Z)
• A Second-Order Majorant Algorithm for Nonnegative Matrix Factorization [2.646309221150203]
  我々はNMFの2次最適化フレームワークを2次および$beta$-divergence損失関数の両方で導入する。 第二次行列 (SOM) は、ロス関数の局所的な二次的二次化をヘッセン行列の二次化によって構成する。 我々はmSOMが複数の損失関数にまたがる最先端のアルゴリズムより一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2023-03-31T12:09:36Z)
• Contaminated Images Recovery by Implementing Non-negative Matrix Factorisation [0.0]
  我々は,従来のNMF,HCNMF,L2,1-NMFアルゴリズムのロバスト性を理論的に検討し,ORLおよび拡張YaleBデータセットのロバスト性を示す実験セットを実行する。 これらの手法の計算コストのため、HCNMFやL2,1-NMFモデルのような最終モデルは、この研究のパラメータに収束しない。
  論文  参考訳（メタデータ） (2022-11-08T13:50:27Z)
• Orthogonal Nonnegative Matrix Factorization with Sparsity Constraints [0.0]
  本稿では,空間制約付き直交非負行列因子分解(SCONMF)問題に対する新しいアプローチを提案する。 容量制約のある施設配置問題としてSCONMFを再構成することにより, 提案手法は非負性, 直交性, 疎性制約を自然に統合する。 具体的には,動的最適制御設計問題に使用される制御バリア関数(CBF)に基づくフレームワークと,施設配置問題に使用される最大エントロピー原理に基づくフレームワークを統合し,ロバストな因子化を確保しつつ,これらの制約を強制する。
  論文  参考訳（メタデータ） (2022-10-06T04:30:59Z)
• Log-based Sparse Nonnegative Matrix Factorization for Data Representation [55.72494900138061]
  非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。 そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。 提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
  論文  参考訳（メタデータ） (2022-04-22T11:38:10Z)
• Solving weakly supervised regression problem using low-rank manifold regularization [77.34726150561087]
  我々は弱い教師付き回帰問題を解く。 weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。 数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
  論文  参考訳（メタデータ） (2021-04-13T23:21:01Z)
• Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
  シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。 より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。 SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
  論文  参考訳（メタデータ） (2021-03-02T12:47:40Z)
• Nonnegative Matrix Factorization with Toeplitz Penalty [0.0]
  NMF(Nonnegative Matrix Factorization)は、データマトリックスの線形、部分ベースの近似を生成する教師なし学習アルゴリズムである。 非データ依存の補助制約を利用した新しいNMFアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-12-07T13:49:23Z)
• Algorithms for Nonnegative Matrix Factorization with the Kullback-Leibler Divergence [20.671178429005973]
  Kullback-Leibler (KL) の発散は、非負行列分解(NMF)の最も広く使われている目的関数の1つである。 目的関数の非増加を保証する3つの新しいアルゴリズムを提案する。 我々は、KL NMFアルゴリズムの性能に関する総合的な画像を提供するために、広範な数値実験を行う。
  論文  参考訳（メタデータ） (2020-10-05T11:51:39Z)
• Robust Low-rank Matrix Completion via an Alternating Manifold Proximal Gradient Continuation Method [47.80060761046752]
  ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。 この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。 RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。 本稿では、近年のローワークの動機付けについて述べる。
  論文  参考訳（メタデータ） (2020-08-18T04:46:22Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• A Block Coordinate Descent-based Projected Gradient Algorithm for Orthogonal Non-negative Matrix Factorization [0.0]
  本稿では非負行列分解問題(NMF)に対する投影勾配法(PG)を用いる。 正則性制約をペナライズし,ブロック座標降下法を用いてPG法を適用した。
  論文  参考訳（メタデータ） (2020-03-23T13:24:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。