論文の概要: Deep matrix factorizations
- arxiv url: http://arxiv.org/abs/2010.00380v2
- Date: Sat, 3 Oct 2020 07:31:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 07:26:44.974543
- Title: Deep matrix factorizations
- Title(参考訳): 深い行列分解
- Authors: Pierre De Handschutter, Nicolas Gillis, Xavier Siebert
- Abstract要約: 深度行列分解 (deep matrix factorization, ディープMF) は, いくつかの特徴層を抽出するために導入された。
本稿では,総合的な文献レビューを通じて,深部MFの主なモデル,アルゴリズム,応用について述べる。
- 参考スコア(独自算出の注目度): 16.33338100088249
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Constrained low-rank matrix approximations have been known for decades as
powerful linear dimensionality reduction techniques to be able to extract the
information contained in large data sets in a relevant way. However, such
low-rank approaches are unable to mine complex, interleaved features that
underlie hierarchical semantics. Recently, deep matrix factorization (deep MF)
was introduced to deal with the extraction of several layers of features and
has been shown to reach outstanding performances on unsupervised tasks. Deep MF
was motivated by the success of deep learning, as it is conceptually close to
some neural networks paradigms. In this paper, we present the main models,
algorithms, and applications of deep MF through a comprehensive literature
review. We also discuss theoretical questions and perspectives of research.
- Abstract(参考訳): 制約付き低ランク行列近似は何十年もの間、大規模データセットに含まれる情報を関連する方法で抽出できる強力な線形次元減少技術として知られていた。
しかし、そのような低ランクなアプローチは階層的意味論の根底にある複雑なインターリーブされた特徴をマイニングすることはできない。
近年,いくつかの特徴の抽出にdeep matrix factorization (deep mf)が導入された。
deep mfは、概念的にはいくつかのニューラルネットワークパラダイムに近いため、ディープラーニングの成功に動機付けられたものだ。
本稿では,総合的な文献レビューを通じて,深部MFの主なモデル,アルゴリズム,応用について述べる。
また,研究の理論的疑問と展望についても論じる。
関連論文リスト
- Coding for Intelligence from the Perspective of Category [66.14012258680992]
符号化の対象はデータの圧縮と再構成、インテリジェンスである。
最近の傾向は、これらの2つの分野の潜在的均一性を示している。
本稿では,カテゴリ理論の観点から,インテリジェンスのためのコーディングの新たな問題を提案する。
論文 参考訳(メタデータ) (2024-07-01T07:05:44Z) - Exploring Concept Depth: How Large Language Models Acquire Knowledge at Different Layers? [57.04803703952721]
大規模言語モデル(LLM)は、幅広いタスクで顕著なパフォーマンスを示している。
しかし、これらのモデルが様々な複雑さのタスクを符号化するメカニズムは、いまだに理解されていない。
我々は、より複雑な概念が一般的により深い層で取得されることを示すために、概念深さの概念を紹介します。
論文 参考訳(メタデータ) (2024-04-10T14:56:40Z) - Exponentially Convergent Algorithms for Supervised Matrix Factorization [2.1485350418225244]
Supervised Factorization (SMF) は、抽出タスクと分類タスクを集約する機械学習手法である。
本稿では,組合わせ係数空間推定における低ランク推定問題としてSMFを'リフト'する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-11-18T23:24:02Z) - Deep Nonnegative Matrix Factorization with Beta Divergences [14.639457874288412]
我々は,いくつかの$beta$-divergencesを用いて深部NMFの新しいモデルとアルゴリズムを開発した。
本稿では,これらの手法を,顔の特徴抽出,文書コレクション内の話題の同定,ハイパースペクトル画像内の資料の同定に適用する。
論文 参考訳(メタデータ) (2023-09-15T08:46:53Z) - Understanding Masked Autoencoders via Hierarchical Latent Variable
Models [109.35382136147349]
Masked Autoencoder (MAE) は近年,様々な視覚タスクにおいて顕著な成功を収めている。
MAEに関する興味深い経験的観察の出現にもかかわらず、理論的に原理化された理解はいまだに欠如している。
論文 参考訳(メタデータ) (2023-06-08T03:00:10Z) - Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。
同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。
我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文 参考訳(メタデータ) (2023-01-30T12:38:31Z) - Unitary Approximate Message Passing for Matrix Factorization [90.84906091118084]
行列分解 (MF) を一定の制約で考慮し, 様々な分野の応用を見いだす。
我々は,効率の良いメッセージパッシング実装であるUAMPMFを用いて,MFに対するベイズ的アプローチを開発する。
UAMPMFは、回復精度、ロバスト性、計算複雑性の観点から、最先端のアルゴリズムを著しく上回ることを示す。
論文 参考訳(メタデータ) (2022-07-31T12:09:32Z) - A consistent and flexible framework for deep matrix factorizations [17.49766938060264]
本稿では,深部MFに対して有意義な2つの損失関数を導入し,対応する最適化問題を解くための汎用フレームワークを提案する。
これらのモデルは、合成データと実データの両方、すなわちハイパースペクトルアンミックスと顔の特徴抽出にうまく適用されている。
論文 参考訳(メタデータ) (2022-06-21T19:20:35Z) - NN2Poly: A polynomial representation for deep feed-forward artificial
neural networks [0.6502001911298337]
NN2Polyは、すでに訓練済みの完全接続フィードフォワード人工ニューラルネットワークの明示的なモデルを得るための理論的アプローチである。
このアプローチは、単一の隠蔽層ネットワークに限定された文献で提案された以前の考え方を拡張している。
論文 参考訳(メタデータ) (2021-12-21T17:55:22Z) - Partially Shared Semi-supervised Deep Matrix Factorization with
Multi-view Data [3.198381558122369]
部分共有半教師付き深層行列分解モデル(PSDMF)を提案する。
部分共有深部分解構造、グラフ正規化、半教師付き回帰モデルを統合することにより、PSDMFはコンパクトで効率的な識別表現を学習できる。
5つのベンチマークデータセットの実験により、PSDMFは最先端のマルチビュー学習アプローチよりも優れたパフォーマンスを達成できることが示された。
論文 参考訳(メタデータ) (2020-12-02T06:59:41Z) - Solving Sparse Linear Inverse Problems in Communication Systems: A Deep
Learning Approach With Adaptive Depth [51.40441097625201]
疎信号回復問題に対するエンドツーエンドの訓練可能なディープラーニングアーキテクチャを提案する。
提案手法は,出力するレイヤ数を学習し,各タスクのネットワーク深さを推論フェーズで動的に調整する。
論文 参考訳(メタデータ) (2020-10-29T06:32:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。