論文の概要: Learning Mixtures of Low-Rank Models
- arxiv url: http://arxiv.org/abs/2009.11282v2
- Date: Fri, 5 Mar 2021 21:36:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-15 16:03:05.676822
- Title: Learning Mixtures of Low-Rank Models
- Title(参考訳): 低ランクモデルの学習混合
- Authors: Yanxi Chen, Cong Ma, H. Vincent Poor, Yuxin Chen
- Abstract要約: 低ランクモデルの計算混合を学習する問題について検討する。
ほぼ最適サンプルを用いて未知の行列を復元することが保証されるアルゴリズムを開発する。
さらに,提案アルゴリズムはランダムノイズに対して確実に安定である。
- 参考スコア(独自算出の注目度): 89.39877968115833
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the problem of learning mixtures of low-rank models, i.e.
reconstructing multiple low-rank matrices from unlabelled linear measurements
of each. This problem enriches two widely studied settings -- low-rank matrix
sensing and mixed linear regression -- by bringing latent variables (i.e.
unknown labels) and structural priors (i.e. low-rank structures) into
consideration. To cope with the non-convexity issues arising from unlabelled
heterogeneous data and low-complexity structure, we develop a three-stage
meta-algorithm that is guaranteed to recover the unknown matrices with
near-optimal sample and computational complexities under Gaussian designs. In
addition, the proposed algorithm is provably stable against random noise. We
complement the theoretical studies with empirical evidence that confirms the
efficacy of our algorithm.
- Abstract(参考訳): 本研究では,低ランクモデルの混合学習の問題点,すなわち,複数の低ランク行列の再構成について検討する。
この問題は、潜在変数(未知ラベル)と構造前置値(すなわち低ランク構造)を考慮に入れることで、広く研究された2つの設定、すなわち低ランク行列センシングと混合線形回帰を豊かにする。
異種不均質データと低複素構造から生じる非凸性問題に対処するため,ガウス設計の下で,未知の行列をほぼ最適サンプルと計算複雑性で復元することが保証された3段階のメタアルゴリズムを開発した。
さらに,提案アルゴリズムはランダムノイズに対して確実に安定である。
アルゴリズムの有効性を確認する実証的証拠を用いて理論的研究を補完する。
関連論文リスト
- Mixed Matrix Completion in Complex Survey Sampling under Heterogeneous
Missingness [6.278498348219109]
サブ線形収束を実現する高速でスケーラブルな推定アルゴリズムを提案する。
本手法は,全国保健栄養検査調査データの分析に応用される。
論文 参考訳(メタデータ) (2024-02-06T12:26:58Z) - Structured Matrix Learning under Arbitrary Entrywise Dependence and
Estimation of Markov Transition Kernel [4.360281374698232]
本稿では、ノイズの多い低ランク+スパース行列回復の一般的な枠組みについて考察する。
本稿では,不整合制約最小二乗推定器を提案し,その厳密性を決定論的下界とミニマックスリスクの整合性の両方で証明する。
次に、我々のフレームワークのいくつかの重要な統計機械学習問題への適用について紹介する。
論文 参考訳(メタデータ) (2024-01-04T20:13:23Z) - Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement
Learning [53.445068584013896]
低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。
低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。
簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
論文 参考訳(メタデータ) (2023-10-10T17:06:41Z) - Recovering Simultaneously Structured Data via Non-Convex Iteratively
Reweighted Least Squares [0.8702432681310401]
線形観測から多種多様低次元構造に固執するデータを復元する新しいアルゴリズムを提案する。
IRLS法は,低/複合状態の計測に好適であることを示す。
論文 参考訳(メタデータ) (2023-06-08T06:35:47Z) - Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。
この問題は楕円分布のペナルティ化された最大推定値として表される。
楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
論文 参考訳(メタデータ) (2022-10-21T13:19:45Z) - On Learning Mixture Models with Sparse Parameters [44.3425205248937]
本研究では, 高次元スパルス潜時パラメータベクトルの混合について検討し, これらのベクトルの回復支援問題について考察する。
潜伏空間の次元に対数的サンプル複雑性が依存する回復支援のための効率的なアルゴリズムを提供する。
論文 参考訳(メタデータ) (2022-02-24T07:44:23Z) - Nonlinear matrix recovery using optimization on the Grassmann manifold [18.655422834567577]
本研究では,列が部分空間の結合などの非線形構造に従う部分観測された高階クラスタリング行列の復元問題について検討する。
交代極限はクルディカ・ロジャシ性質を用いて一意点に収束することを示す。
論文 参考訳(メタデータ) (2021-09-13T16:13:13Z) - Learning Gaussian Mixtures with Generalised Linear Models: Precise
Asymptotics in High-dimensions [79.35722941720734]
多クラス分類問題に対する一般化線形モデルは、現代の機械学習タスクの基本的な構成要素の1つである。
実験的リスク最小化による高次元推定器の精度を実証する。
合成データの範囲を超えて我々の理論をどのように適用できるかを論じる。
論文 参考訳(メタデータ) (2021-06-07T16:53:56Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。