論文の概要: A Nonmonotone Gradient-Based Algorithm for Symmetric Nonnegative Matrix Factorization and Graph Clustering

• arxiv url: http://arxiv.org/abs/2606.02887v1
• Date: Mon, 01 Jun 2026 20:59:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.607068
• Title: A Nonmonotone Gradient-Based Algorithm for Symmetric Nonnegative Matrix Factorization and Graph Clustering
• Title（参考訳）: 対称非負行列分解とグラフクラスタリングのための非単調勾配アルゴリズム
• Authors: Ryan Swart, Johannes Brust,
• Abstract要約: シンメトリーNMFへの非単トン射影バルジライ・ボルワイン法の最初の適応について述べる。 またグラフラプラシア正規化(Graph-SNMPBB)を用いたグラフクラスタリングや低ランク近似(LAI-SNMPBB)による大問題への拡張も行う。 すべての変種に対して、一階定常点への大域収束を証明し、バルジライ=ボルワイン曲率情報はランダム化近似で保存される。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Symmetric nonnegative matrix factorization (Symmetric NMF) approximates a matrix as $WW^T$ with nonnegative rectangular factor $W$. It has broad applications in graph clustering and machine learning. In contrast to the NMF, projected gradient methods for the symmetric problem had been associated with slow convergence. To address this, we introduce SNMPBB, the first adaptation of nonmonotone projected Barzilai-Borwein methods to Symmetric NMF, demonstrating that gradient algorithms are significantly more effective than previously understood. We further extend SNMPBB to graph clustering using the graph Laplacian regularization (Graph-SNMPBB) and to large problems with low-rank approximations (LAI-SNMPBB). For all variants we prove global convergence to first-order stationary points and also that Barzilai-Borwein curvature information is preserved with randomized approximations. On synthetic data, SNMPBB achieves 6 times speedup over the alternative SymANLS for similar residuals, with advantages growing at higher ranks. Across six real-world clustering benchmarks, Graph-SNMPBB matches or exceeds SymANLS accuracy. Lastly, LAI-SNMPBB outperforms state-of-the-art LAI-SymPGNCG on 34 SuiteSparse matrices in both runtime and residual quality.
• Abstract（参考訳）: 対称非負行列分解 (Symmetric NMF) は行列を非負長方係数$W$で$WW^T$と近似する。 グラフクラスタリングと機械学習に幅広い応用がある。 NMFとは対照的に、対称問題に対する射影勾配法は緩やかな収束と関連していた。 SNMPBBは,非単調射影バルジライ・ボルワイン法をSymmetric NMFに初めて適用し,勾配アルゴリズムが従来よりはるかに効果的であることを実証した。 さらに、グラフラプラシア正規化(Graph-SNMPBB)を用いたグラフクラスタリングや、低ランク近似(LAI-SNMPBB)による大きな問題にも拡張する。 すべての変種に対して、一階定常点への大域収束を証明し、バルジライ=ボルワイン曲率情報はランダム化近似で保存される。 合成データでは、SNMPBBはSymANLSよりも6倍のスピードアップを達成し、高いランクで優位性を得る。 6つの実世界のクラスタリングベンチマークで、Graph-SNMPBBはSymanLSの精度に一致または超える。 最後に、LAI-SNMPBBは、34 SuiteSparse行列と残留品質の両方において、最先端のLAI-SymPGNCGより優れている。

関連論文リスト

• Accelerating Natural Gradient Descent for PINNs with Randomized Nyström Preconditioning [0.0]
  Natural Descent Gradient (NGD) は、ニューラルネットワークに基づく偏微分方程式(PDE)の学習アルゴリズムである。 NGDはしばしば、グラミアン行列を含む線形系を解くのに高い計算コストによって制限される。 我々は,行列フリーNGDを従来考えられていたよりも幅広い問題のクラスに拡張し,内部CGソルバの収束を加速するために,Nystr"omプレコンディショニングの利用を提案する。
  論文  参考訳（メタデータ） (2025-05-16T19:00:40Z)
• A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
  Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。 現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。 本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-29T07:24:11Z)
• Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization [59.87663954467815]
  アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。 本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。 実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
  論文  参考訳（メタデータ） (2021-09-10T07:01:15Z)
• Unified Convergence Analysis for Adaptive Optimization with Moving Average Estimator [75.05106948314956]
  1次モーメントに対する大きな運動量パラメータの増大は適応的スケーリングに十分であることを示す。 また,段階的に減少するステップサイズに応じて,段階的に運動量を増加させるための洞察を与える。
  論文  参考訳（メタデータ） (2021-04-30T08:50:24Z)
• Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
  シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。 より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。 SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
  論文  参考訳（メタデータ） (2021-03-02T12:47:40Z)
• Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
  双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める 近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。 両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
  論文  参考訳（メタデータ） (2020-03-30T08:40:35Z)
• Convergence to Second-Order Stationarity for Non-negative Matrix Factorization: Provably and Concurrently [18.89597524771988]
  非負行列分解(NMF)は、機械学習における多くの応用において、基本的な非修飾最適化問題である。 本稿では,サドル点を同時にかつ確実に回避する乗法的重み更新型力学(Seung algorithm)を定義する。 重要な利点は、並列コンピューティング環境で並列実装を使用することである。
  論文  参考訳（メタデータ） (2020-02-26T06:40:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。