論文の概要: Graph Regularized NMF with L20-norm for Unsupervised Feature Learning
- arxiv url: http://arxiv.org/abs/2403.10910v1
- Date: Sat, 16 Mar 2024 12:10:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-19 21:06:03.169493
- Title: Graph Regularized NMF with L20-norm for Unsupervised Feature Learning
- Title(参考訳): 教師なし特徴学習のためのL20ノルムグラフ正規化NMF
- Authors: Zhen Wang, Wenwen Min,
- Abstract要約: グラフ正規化非負行列因子化(GNMF)は、グラフ正規化制約を組み込んだNMFの拡張である。
本稿では,GNMFに基づく教師なし機能学習フレームワークを提案し,PALMに基づくアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 6.894518335015327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Nonnegative Matrix Factorization (NMF) is a widely applied technique in the fields of machine learning and data mining. Graph Regularized Non-negative Matrix Factorization (GNMF) is an extension of NMF that incorporates graph regularization constraints. GNMF has demonstrated exceptional performance in clustering and dimensionality reduction, effectively discovering inherent low-dimensional structures embedded within high-dimensional spaces. However, the sensitivity of GNMF to noise limits its stability and robustness in practical applications. In order to enhance feature sparsity and mitigate the impact of noise while mining row sparsity patterns in the data for effective feature selection, we introduce the $\ell_{2,0}$-norm constraint as the sparsity constraints for GNMF. We propose an unsupervised feature learning framework based on GNMF\_$\ell_{20}$ and devise an algorithm based on PALM and its accelerated version to address this problem. Additionally, we establish the convergence of the proposed algorithms and validate the efficacy and superiority of our approach through experiments conducted on both simulated and real image data.
- Abstract(参考訳): 非負行列因子化(Non negative Matrix Factorization, NMF)は、機械学習とデータマイニングの分野で広く応用されている技術である。
グラフ正規化非負行列因子化(GNMF)は、グラフ正規化制約を組み込んだNMFの拡張である。
GNMFはクラスタリングと次元還元において例外的な性能を示し、高次元空間に埋め込まれた固有の低次元構造を効果的に発見している。
しかし、GNMFの雑音に対する感度は、実用上の安定性と堅牢性を制限する。
効率的な特徴選択のために,データ中の行間隔パターンをマイニングしながら,特徴空間の分散性を高め,ノイズの影響を軽減するために,GNMFの疎度制約として$\ell_{2,0}$-norm制約を導入する。
本稿では,GNMF\_$\ell_{20}$に基づく教師なし機能学習フレームワークを提案する。
さらに,提案アルゴリズムの収束性を確立し,シミュレーションおよび実画像データを用いた実験により,提案手法の有効性と優位性を検証した。
関連論文リスト
- A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。
現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。
本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T07:24:11Z) - Achieving Constraints in Neural Networks: A Stochastic Augmented
Lagrangian Approach [49.1574468325115]
DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。
制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。
我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
論文 参考訳(メタデータ) (2023-10-25T13:55:35Z) - Adaptive Weighted Nonnegative Matrix Factorization for Robust Feature
Representation [9.844796520630522]
非負行列分解(NMF)は、機械学習における次元の減少に広く用いられている。
従来のNMFは、ノイズに敏感であるように、アウトリーチを適切に扱わない。
本稿では,各データポイントの異なる重要性を強調するため,重み付き適応重み付きNMFを提案する。
論文 参考訳(メタデータ) (2022-06-07T05:27:08Z) - SymNMF-Net for The Symmetric NMF Problem [62.44067422984995]
我々は,Symmetric NMF問題に対するSymNMF-Netと呼ばれるニューラルネットワークを提案する。
各ブロックの推測は最適化の単一イテレーションに対応することを示す。
実世界のデータセットに関する実証的な結果は、我々のSymNMF-Netの優位性を示している。
論文 参考訳(メタデータ) (2022-05-26T08:17:39Z) - On Feature Learning in Neural Networks with Global Convergence
Guarantees [49.870593940818715]
勾配流(GF)を用いた広帯域ニューラルネットワーク(NN)の最適化について検討する。
入力次元がトレーニングセットのサイズ以下である場合、トレーニング損失はGFの下での線形速度で0に収束することを示す。
また、ニューラル・タンジェント・カーネル(NTK)システムとは異なり、我々の多層モデルは特徴学習を示し、NTKモデルよりも優れた一般化性能が得られることを実証的に示す。
論文 参考訳(メタデータ) (2022-04-22T15:56:43Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳(メタデータ) (2022-04-22T11:38:10Z) - Robust Matrix Factorization with Grouping Effect [28.35582493230616]
グループ化効果を用いた行列分解法(GRMF)を提案する。
提案した GRMF は、事前の知識なしに、MF におけるグループ構造と疎性を学ぶことができる。
外れ値と汚染ノイズを持つ実世界のデータセットを用いて実験を行った。
論文 参考訳(メタデータ) (2021-06-25T15:03:52Z) - Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。
より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。
SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
論文 参考訳(メタデータ) (2021-03-02T12:47:40Z) - Hyperspectral Unmixing via Nonnegative Matrix Factorization with
Handcrafted and Learnt Priors [14.032039261229853]
ハンドクラフト・レギュレータと学習用レギュレータをデータから併用したNMFベースのアンミックス・フレームワークを提案する。
我々は,様々な画像デノイザを用いて,関連するサブプロブレムに対処可能なアブリダンスの学習先行をプラグインする。
論文 参考訳(メタデータ) (2020-10-09T14:40:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。