論文の概要: Self-supervised Symmetric Nonnegative Matrix Factorization
- arxiv url: http://arxiv.org/abs/2103.01689v1
- Date: Tue, 2 Mar 2021 12:47:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 16:14:14.993831
- Title: Self-supervised Symmetric Nonnegative Matrix Factorization
- Title(参考訳): 自己監督対称非負行列ファクタリゼーション
- Authors: Yuheng Jia, Hui Liu, Junhui Hou, Sam Kwong, Qingfu Zhang
- Abstract要約: シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。
より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。
SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
- 参考スコア(独自算出の注目度): 82.59905231819685
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Symmetric nonnegative matrix factorization (SNMF) has demonstrated to be a
powerful method for data clustering. However, SNMF is mathematically formulated
as a non-convex optimization problem, making it sensitive to the initialization
of variables. Inspired by ensemble clustering that aims to seek a better
clustering result from a set of clustering results, we propose self-supervised
SNMF (S$^3$NMF), which is capable of boosting clustering performance
progressively by taking advantage of the sensitivity to initialization
characteristic of SNMF, without relying on any additional information.
Specifically, we first perform SNMF repeatedly with a random nonnegative matrix
for initialization each time, leading to multiple decomposed matrices. Then, we
rank the quality of the resulting matrices with adaptively learned weights,
from which a new similarity matrix that is expected to be more discriminative
is reconstructed for SNMF again. These two steps are iterated until the
stopping criterion/maximum number of iterations is achieved. We mathematically
formulate S$^3$NMF as a constraint optimization problem, and provide an
alternative optimization algorithm to solve it with the theoretical convergence
guaranteed. Extensive experimental results on $10$ commonly used benchmark
datasets demonstrate the significant advantage of our S$^3$NMF over $12$
state-of-the-art methods in terms of $5$ quantitative metrics. The source code
is publicly available at https://github.com/jyh-learning/SSSNMF.
- Abstract(参考訳): 対称非負行列ファクタリゼーション(SNMF)は、データクラスタリングの強力な方法であることが実証されている。
しかし、SNMFは非凸最適化問題として数学的に定式化されており、変数の初期化に敏感である。
クラスタリング結果の集合からより優れたクラスタリング結果を求めるアンサンブルクラスタリングに着想を得て,SNMFの初期化特性に対する感度を利用して,追加情報に頼ることなく,クラスタリング性能を段階的に向上させることができる自己教師型SNMF(S$^3$NMF)を提案する。
具体的には、まずランダムな非負行列でSNMFを繰り返し実行し、毎回初期化を行い、複数の分解行列を作ります。
次に、得られた行列の質を適応的に学習した重みでランク付けし、SNMFに対してさらに識別性が期待される新しい類似性行列を再構成する。
これら2つのステップは、停止基準/最大イテレーション数を達成するまで繰り返します。
S$^3$NMFを制約最適化問題として数学的に定式化し、理論的収束が保証された代替最適化アルゴリズムを提供する。
一般的に使用される10$のベンチマークデータセットに関する広範な実験結果は、$ 5$の量的指標の観点から、$ 12$の最先端の方法よりもS$^3$NMFの重大な利点を示しています。
ソースコードはhttps://github.com/jyh-learning/SSSNMFで公開されている。
関連論文リスト
- A Fresh Look at Generalized Category Discovery through Non-negative Matrix Factorization [83.12938977698988]
Generalized Category Discovery (GCD) は、ラベル付きベースデータを用いて、ベース画像と新規画像の両方を分類することを目的としている。
現在のアプローチでは、コサイン類似性に基づく共起行列 $barA$ の固有の最適化に不適切に対処している。
本稿では,これらの欠陥に対処するNon-Negative Generalized Category Discovery (NN-GCD) フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T07:24:11Z) - Rethinking Symmetric Matrix Factorization: A More General and Better
Clustering Perspective [5.174012156390378]
非負行列分解(NMF)は強い解釈性を持つクラスタリングに広く用いられている。
本稿では,非負でなくてもよい対称行列の分解について検討する。
本稿では,クラスタリング性能を高めるために,正規化項を持つ効率的な分解アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-09-06T14:32:11Z) - Log-based Sparse Nonnegative Matrix Factorization for Data
Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。
そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。
提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文 参考訳(メタデータ) (2022-04-22T11:38:10Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Feature Weighted Non-negative Matrix Factorization [92.45013716097753]
本稿では,FNMF(Feature weighted Non- negative Matrix Factorization)を提案する。
FNMFはその重要性に応じて特徴の重みを適応的に学習する。
提案する最適化アルゴリズムを用いて効率的に解くことができる。
論文 参考訳(メタデータ) (2021-03-24T21:17:17Z) - Sparse Separable Nonnegative Matrix Factorization [22.679160149512377]
非負行列分解(NMF)の新しい変種を提案する。
分離性は、第1NMF因子の列が入力行列の列に等しいのに対して、スパース性は第2NMF因子の列がスパースであることが要求される。
雑音のない環境では、軽微な仮定の下で、我々のアルゴリズムが真に根底にある情報源を復元することを証明する。
論文 参考訳(メタデータ) (2020-06-13T03:52:29Z) - Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める
近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。
両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
論文 参考訳(メタデータ) (2020-03-30T08:40:35Z) - Convergence to Second-Order Stationarity for Non-negative Matrix
Factorization: Provably and Concurrently [18.89597524771988]
非負行列分解(NMF)は、機械学習における多くの応用において、基本的な非修飾最適化問題である。
本稿では,サドル点を同時にかつ確実に回避する乗法的重み更新型力学(Seung algorithm)を定義する。
重要な利点は、並列コンピューティング環境で並列実装を使用することである。
論文 参考訳(メタデータ) (2020-02-26T06:40:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。