論文の概要: Quadratic Matrix Factorization with Applications to Manifold Learning
- arxiv url: http://arxiv.org/abs/2301.12965v1
- Date: Mon, 30 Jan 2023 15:09:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2023-01-31 14:14:19.330274
- Title: Quadratic Matrix Factorization with Applications to Manifold Learning
- Title(参考訳): 二次行列分解とマニフォールド学習への応用
- Authors: Zheng Zhai, Hengchao Chen, and Qiang Sun
- Abstract要約: 本稿では,データセットの配置する曲線多様体を学習するための2次行列分解(QMF)フレームワークを提案する。
アルゴリズムでは,QMFを最適化し,その理論的収束特性を確立するための交代最小化アルゴリズムを提案する。
合成多様体学習データセットとMNIST手書きデータセットと低温電子顕微鏡データセットを含む2つの実データセットの実験は、提案手法が競合相手よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 1.6795461001108094
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Matrix factorization is a popular framework for modeling low-rank data
matrices. Motivated by manifold learning problems, this paper proposes a
quadratic matrix factorization (QMF) framework to learn the curved manifold on
which the dataset lies. Unlike local linear methods such as the local principal
component analysis, QMF can better exploit the curved structure of the
underlying manifold. Algorithmically, we propose an alternating minimization
algorithm to optimize QMF and establish its theoretical convergence properties.
Moreover, to avoid possible over-fitting, we then propose a regularized QMF
algorithm and discuss how to tune its regularization parameter. Finally, we
elaborate how to apply the regularized QMF to manifold learning problems.
Experiments on a synthetic manifold learning dataset and two real datasets,
including the MNIST handwritten dataset and a cryogenic electron microscopy
dataset, demonstrate the superiority of the proposed method over its
competitors.
- Abstract(参考訳): 行列分解は低ランクデータ行列をモデル化するための一般的なフレームワークである。
本稿では,多様体学習問題に動機づけられた二次行列分解(qmf)フレームワークを提案する。
局所主成分解析のような局所線型手法とは異なり、QMFは基礎多様体の曲線構造をよりうまく活用することができる。
アルゴリズムでは,QMFを最適化し,その理論的収束特性を確立するための交代最小化アルゴリズムを提案する。
さらに,過剰適合を避けるため,正規化QMFアルゴリズムを提案し,正規化パラメータの調整方法について検討する。
最後に、正規化QMFを多様体学習問題に適用する方法を詳述する。
合成多様体学習データセットとMNIST手書きデータセットと低温電子顕微鏡データセットを含む2つの実データセットの実験は、提案手法が競合相手よりも優れていることを示す。
関連論文リスト
- Exponentially Convergent Algorithms for Supervised Matrix Factorization [2.1485350418225244]
Supervised Factorization (SMF) は、抽出タスクと分類タスクを集約する機械学習手法である。
本稿では,組合わせ係数空間推定における低ランク推定問題としてSMFを'リフト'する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-11-18T23:24:02Z) - Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。
大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
論文 参考訳(メタデータ) (2023-10-09T14:30:06Z) - Large-scale gradient-based training of Mixtures of Factor Analyzers [67.21722742907981]
本稿では,勾配降下による高次元学習を効果的に行うための理論解析と新しい手法の両立に寄与する。
MFAトレーニングと推論/サンプリングは,学習終了後の行列逆変換を必要としない精度行列に基づいて行うことができることを示す。
理論解析と行列の他に,SVHNやMNISTなどの画像データセットにMFAを適用し,サンプル生成と外乱検出を行う能力を示す。
論文 参考訳(メタデータ) (2023-08-26T06:12:33Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - A Novel Maximum-Entropy-Driven Technique for Low-Rank Orthogonal
Nonnegative Matrix Factorization with $\ell_0$-Norm sparsity Constraint [0.0]
データ駆動制御と機械学習では、大きな行列を小さく、低ランクな要素に分解する、という一般的な要件がある。
本稿では,直交非負行列分解(ONMF)問題に対する革新的な解を提案する。
提案手法は,文献と同等あるいは改善された復元誤差を実現する。
論文 参考訳(メタデータ) (2022-10-06T04:30:59Z) - Non-Negative Matrix Factorization with Scale Data Structure Preservation [23.31865419578237]
本稿では,データ表現と次元縮小のために設計された非負行列分解法に属するモデルについて述べる。
この考え方は、NMFコスト関数に、元のデータポイントと変換されたデータポイントのペアの類似度行列のスケール関係を課すペナルティ項を追加することである。
提案したクラスタリングアルゴリズムは,既存のNMFベースのアルゴリズムや,実際のデータセットに適用した場合の多様体学習ベースのアルゴリズムと比較される。
論文 参考訳(メタデータ) (2022-09-22T09:32:18Z) - Unitary Approximate Message Passing for Matrix Factorization [90.84906091118084]
行列分解 (MF) を一定の制約で考慮し, 様々な分野の応用を見いだす。
我々は,効率の良いメッセージパッシング実装であるUAMPMFを用いて,MFに対するベイズ的アプローチを開発する。
UAMPMFは、回復精度、ロバスト性、計算複雑性の観点から、最先端のアルゴリズムを著しく上回ることを示す。
論文 参考訳(メタデータ) (2022-07-31T12:09:32Z) - Learning Multiresolution Matrix Factorization and its Wavelet Networks
on Graphs [11.256959274636724]
多分解能行列分解法(MMF)は高速行列分解法では珍しい。
本稿では、強化学習とスティーフェル多様体の最適化を組み合わせることで、因子化を巧みに最適化するMMFの学習可能なバージョンを提案する。
得られたウェーブレット基底は、従来のMMFアルゴリズムよりも優れており、標準学習タスクに頑健に展開可能な、この種の分解の最初のバージョンを提供する。
論文 参考訳(メタデータ) (2021-11-02T23:14:17Z) - Learning a Compressive Sensing Matrix with Structural Constraints via
Maximum Mean Discrepancy Optimization [17.104994036477308]
本稿では,圧縮センシング関連回復問題に対する測定行列を得るための学習に基づくアルゴリズムを提案する。
ニューラルネットワーク関連のトピックにおけるこのようなメトリクスの最近の成功は、機械学習に基づく問題の解決策を動機付けている。
論文 参考訳(メタデータ) (2021-10-14T08:35:54Z) - Feature Weighted Non-negative Matrix Factorization [92.45013716097753]
本稿では,FNMF(Feature weighted Non- negative Matrix Factorization)を提案する。
FNMFはその重要性に応じて特徴の重みを適応的に学習する。
提案する最適化アルゴリズムを用いて効率的に解くことができる。
論文 参考訳(メタデータ) (2021-03-24T21:17:17Z) - Self-supervised Symmetric Nonnegative Matrix Factorization [82.59905231819685]
シンメトリー非負係数行列(SNMF)は、データクラスタリングの強力な方法であることを示した。
より良いクラスタリング結果を求めるアンサンブルクラスタリングにインスパイアされた,自己監視型SNMF(S$3$NMF)を提案する。
SNMFのコード特性に対する感度を、追加情報に頼らずに活用しています。
論文 参考訳(メタデータ) (2021-03-02T12:47:40Z) - Hyperspectral Unmixing via Nonnegative Matrix Factorization with
Handcrafted and Learnt Priors [14.032039261229853]
ハンドクラフト・レギュレータと学習用レギュレータをデータから併用したNMFベースのアンミックス・フレームワークを提案する。
我々は,様々な画像デノイザを用いて,関連するサブプロブレムに対処可能なアブリダンスの学習先行をプラグインする。
論文 参考訳(メタデータ) (2020-10-09T14:40:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。