論文の概要: A Neural Network for Determination of Latent Dimensionality in
Nonnegative Matrix Factorization
- arxiv url: http://arxiv.org/abs/2006.12402v1
- Date: Mon, 22 Jun 2020 16:32:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 05:13:46.873821
- Title: A Neural Network for Determination of Latent Dimensionality in
Nonnegative Matrix Factorization
- Title(参考訳): 非負行列分解における潜時次元の決定のためのニューラルネットワーク
- Authors: Benjamin T. Nebgen, Raviteja Vangara, Miguel A. Hombrados-Herrera,
Svetlana Kuksova, Boian S. Alexandrov
- Abstract要約: 非負行列因子化(NMF)は、複雑でノイズの多いデータセットに隠れた特徴を明らかにするための強力な教師なし学習手法であることが証明されている。
教師付き機械学習手法と,NMFkと呼ばれるモデル決定手法を組み合わせることで,隠れた特徴の数を自動で決定する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Non-negative Matrix Factorization (NMF) has proven to be a powerful
unsupervised learning method for uncovering hidden features in complex and
noisy data sets with applications in data mining, text recognition, dimension
reduction, face recognition, anomaly detection, blind source separation, and
many other fields. An important input for NMF is the latent dimensionality of
the data, that is, the number of hidden features, K, present in the explored
data set. Unfortunately, this quantity is rarely known a priori. We utilize a
supervised machine learning approach in combination with a recent method for
model determination, called NMFk, to determine the number of hidden features
automatically. NMFk performs a set of NMF simulations on an ensemble of
matrices, obtained by bootstrapping the initial data set, and determines which
K produces stable groups of latent features that reconstruct the initial data
set well. We then train a Multi-Layer Perceptron (MLP) classifier network to
determine the correct number of latent features utilizing the statistics and
characteristics of the NMF solutions, obtained from NMFk. In order to train the
MLP classifier, a training set of 58,660 matrices with predetermined latent
features were factorized with NMFk. The MLP classifier in conjunction with NMFk
maintains a greater than 95% success rate when applied to a held out test set.
Additionally, when applied to two well-known benchmark data sets, the swimmer
and MIT face data, NMFk/MLP correctly recovered the established number of
hidden features. Finally, we compared the accuracy of our method to the ARD,
AIC and Stability-based methods.
- Abstract(参考訳): 非負行列因子化(NMF)は、データマイニング、テキスト認識、次元減少、顔認識、異常検出、ブラインドソース分離、その他多くの分野で応用された、複雑でノイズの多いデータセットの隠れた特徴を明らかにする強力な教師なし学習手法であることが証明されている。
NMF の重要な入力は、探索データセットに存在するデータ、すなわち隠れた特徴数 K の潜在次元である。
残念なことに、この量は前兆として滅多に知られていない。
本研究では,最新のモデル決定法であるnmfkと組み合わせた教師付き機械学習手法を用いて,隠れた特徴の個数を自動的に決定する。
NMFkは、初期データセットをブートストラップして得られる行列のアンサンブル上で一連のNMFシミュレーションを行い、どのKが初期データセットをよく再構成する安定な特徴群を生成するかを決定する。
次に,多層パーセプトロン (mlp) 分類器ネットワークを訓練し,nmfk から得られた nmf 溶液の統計と特性を用いて,潜伏特性の正確な数を決定する。
MLP分類器を訓練するために, 所定の潜伏特性を有する58,660個の行列をNMFkで分解した。
NMFkと組み合わせたMLP分類器は、保持されたテストセットに適用した場合、95%以上の成功率を維持する。
さらに、よく知られた2つのベンチマークデータセット、スイマーとMITの顔データに適用すると、NMFk/MLPは確立された多数の隠れた特徴を正しく回復した。
最後に,本手法の精度をARD,AIC,安定性に基づく手法と比較した。
関連論文リスト
- Coseparable Nonnegative Tensor Factorization With T-CUR Decomposition [2.013220890731494]
非負行列因子化(NMF)は、データから意味のある特徴を抽出する重要な教師なし学習手法である。
本研究では,コセプタブルコアを選択するための交互選択法を提案する。
その結果, 分離可能なNMFと比較して, 分離可能なNTFの有効性が示された。
論文 参考訳(メタデータ) (2024-01-30T09:22:37Z) - Minimally Supervised Learning using Topological Projections in
Self-Organizing Maps [55.31182147885694]
自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。
提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。
提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
論文 参考訳(メタデータ) (2024-01-12T22:51:48Z) - Large-scale gradient-based training of Mixtures of Factor Analyzers [67.21722742907981]
本稿では,勾配降下による高次元学習を効果的に行うための理論解析と新しい手法の両立に寄与する。
MFAトレーニングと推論/サンプリングは,学習終了後の行列逆変換を必要としない精度行列に基づいて行うことができることを示す。
理論解析と行列の他に,SVHNやMNISTなどの画像データセットにMFAを適用し,サンプル生成と外乱検出を行う能力を示す。
論文 参考訳(メタデータ) (2023-08-26T06:12:33Z) - Neural FIM for learning Fisher Information Metrics from point cloud data [71.07939200676199]
我々は、ポイントクラウドデータからフィッシャー情報量(FIM)を計算するためのニューラルFIMを提案する。
本稿では,PHATE可視化手法のパラメータの選択と,IPSCリプログラミングとPBMC(免疫細胞)の2つの単一セルデータセットと,おもちゃデータセットの分岐点とクラスタセンターの埋め込みに関する情報を得る能力について述べる。
論文 参考訳(メタデータ) (2023-06-01T17:36:13Z) - Contaminated Images Recovery by Implementing Non-negative Matrix
Factorisation [0.0]
我々は,従来のNMF,HCNMF,L2,1-NMFアルゴリズムのロバスト性を理論的に検討し,ORLおよび拡張YaleBデータセットのロバスト性を示す実験セットを実行する。
これらの手法の計算コストのため、HCNMFやL2,1-NMFモデルのような最終モデルは、この研究のパラメータに収束しない。
論文 参考訳(メタデータ) (2022-11-08T13:50:27Z) - Transformers Can Do Bayesian Inference [56.99390658880008]
我々はPFN(Presideed Data Fitted Networks)を提案する。
PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。
我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
論文 参考訳(メタデータ) (2021-12-20T13:07:39Z) - Feature Weighted Non-negative Matrix Factorization [92.45013716097753]
本稿では,FNMF(Feature weighted Non- negative Matrix Factorization)を提案する。
FNMFはその重要性に応じて特徴の重みを適応的に学習する。
提案する最適化アルゴリズムを用いて効率的に解くことができる。
論文 参考訳(メタデータ) (2021-03-24T21:17:17Z) - Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。
より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。
SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
論文 参考訳(メタデータ) (2021-03-02T12:47:40Z) - Algorithms for Nonnegative Matrix Factorization with the
Kullback-Leibler Divergence [20.671178429005973]
Kullback-Leibler (KL) の発散は、非負行列分解(NMF)の最も広く使われている目的関数の1つである。
目的関数の非増加を保証する3つの新しいアルゴリズムを提案する。
我々は、KL NMFアルゴリズムの性能に関する総合的な画像を提供するために、広範な数値実験を行う。
論文 参考訳(メタデータ) (2020-10-05T11:51:39Z) - Fast and Secure Distributed Nonnegative Matrix Factorization [13.672004396034856]
非負行列分解(NMF)は、いくつかのデータマイニングタスクでうまく適用されている。
分散NMFの高速化とセキュリティ問題について検討する。
論文 参考訳(メタデータ) (2020-09-07T01:12:20Z) - Sparse Separable Nonnegative Matrix Factorization [22.679160149512377]
非負行列分解(NMF)の新しい変種を提案する。
分離性は、第1NMF因子の列が入力行列の列に等しいのに対して、スパース性は第2NMF因子の列がスパースであることが要求される。
雑音のない環境では、軽微な仮定の下で、我々のアルゴリズムが真に根底にある情報源を復元することを証明する。
論文 参考訳(メタデータ) (2020-06-13T03:52:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。