論文の概要: Nonasymptotic Guarantees for Spiked Matrix Recovery with Generative
Priors
- arxiv url: http://arxiv.org/abs/2006.07953v2
- Date: Mon, 9 Nov 2020 05:08:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-21 12:56:12.337973
- Title: Nonasymptotic Guarantees for Spiked Matrix Recovery with Generative
Priors
- Title(参考訳): 生成前駆によるスパイクマトリックス回復の非漸近的保証
- Authors: Jorio Cocola, Paul Hand, Vladislav Voroninski
- Abstract要約: そこで本研究では,低ランク成分が訓練された生成ネットワークの範囲内にある場合について検討する。
非線形最小二乗の目的に対して好適な大域的最適化の展望を確立する。
この結果から、生成前兆は構造化されたランク1行列回復のための計算と統計のギャップを持たないことが示唆された。
- 参考スコア(独自算出の注目度): 12.798687476698063
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many problems in statistics and machine learning require the reconstruction
of a rank-one signal matrix from noisy data. Enforcing additional prior
information on the rank-one component is often key to guaranteeing good
recovery performance. One such prior on the low-rank component is sparsity,
giving rise to the sparse principal component analysis problem. Unfortunately,
there is strong evidence that this problem suffers from a
computational-to-statistical gap, which may be fundamental. In this work, we
study an alternative prior where the low-rank component is in the range of a
trained generative network. We provide a non-asymptotic analysis with optimal
sample complexity, up to logarithmic factors, for rank-one matrix recovery
under an expansive-Gaussian network prior. Specifically, we establish a
favorable global optimization landscape for a nonlinear least squares
objective, provided the number of samples is on the order of the dimensionality
of the input to the generative model. This result suggests that generative
priors have no computational-to-statistical gap for structured rank-one matrix
recovery in the finite data, nonasymptotic regime. We present this analysis in
the case of both the Wishart and Wigner spiked matrix models.
- Abstract(参考訳): 統計学や機械学習における多くの問題は、ノイズデータからランク1信号行列を再構築する必要がある。
ランク1コンポーネントの事前情報の追加を強制することが、回復性能の保証の鍵となることが多い。
低ランク成分に先行する1つは、疎度であり、スパース主成分分析問題を引き起こす。
残念ながら、この問題が基本的な計算と統計のギャップに悩まされているという強い証拠がある。
本研究では,低ランク成分が訓練された生成ネットワークの範囲内にある代替品について検討する。
本研究では, 対数的因子まで, 対数的因子まで, 拡張ガウスネットワーク下でのランクワン行列回復のための最適なサンプル複雑性を持つ非漸近解析を行う。
具体的には、生成モデルへの入力の寸法の順にサンプルの個数がある場合、非線形最小二乗目的に対して好適なグローバルな最適化環境を確立する。
この結果から, 生成前駆体は有限データ, 非漸近的状態において, 構造化ランク1行列回復のための計算と統計のギャップを持たないことが示唆された。
本稿では,wishart と wigner のスパイク行列モデルを用いて解析を行う。
関連論文リスト
- Exact Recovery Guarantees for Parameterized Non-linear System Identification Problem under Adversarial Attacks [16.705631360131886]
逆攻撃下での基底関数を用いたパラメータ化非線形システムのシステム同定問題について検討する。
LASSO型推定器をモチベーションとして,非滑らかな推定器の正確な回復特性を解析した。
非線形システム同定問題に対する非滑らかな推定器のサンプル複雑性解析に関する最初の研究である。
論文 参考訳(メタデータ) (2024-08-30T22:12:57Z) - Leave-One-Out Analysis for Nonconvex Robust Matrix Completion with General Thresholding Functions [7.697455644733554]
我々は、ロバスト完備行列(RMC)の問題をランク付けする。
解析には単純だが効率的なアルゴリズムを考える。
最高のサンプリング結果を得るためには、これが最初のランクアウト分析法である。
論文 参考訳(メタデータ) (2024-07-28T09:47:36Z) - Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement
Learning [53.445068584013896]
低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。
低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。
簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
論文 参考訳(メタデータ) (2023-10-10T17:06:41Z) - The Decimation Scheme for Symmetric Matrix Factorization [0.0]
行列分解(Matrix factorization)は、その広範囲な応用により重要になった推論問題である。
我々はこの広範囲なランク問題について研究し、最近導入した代替の「決定」手順を拡張した。
本稿では,デシメーションを実装し,行列分解を行う基底状態探索に基づく簡単なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-31T10:53:45Z) - Deep Unrolling for Nonconvex Robust Principal Component Analysis [75.32013242448151]
我々はロバスト成分分析のためのアルゴリズムを設計する(A)
行列を低主行列とスパース主行列の和に分解する。
論文 参考訳(メタデータ) (2023-07-12T03:48:26Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - Sparse PCA via $l_{2,p}$-Norm Regularization for Unsupervised Feature
Selection [138.97647716793333]
再構成誤差を$l_2,p$ノルム正規化と組み合わせることで,単純かつ効率的な特徴選択手法を提案する。
提案する非教師付きモデルを解くための効率的な最適化アルゴリズムを提案し,アルゴリズムの収束と計算の複雑さを理論的に解析する。
論文 参考訳(メタデータ) (2020-12-29T04:08:38Z) - Robust Low-rank Matrix Completion via an Alternating Manifold Proximal
Gradient Continuation Method [47.80060761046752]
ロバスト低ランク行列補完(RMC)は、コンピュータビジョン、信号処理、機械学習アプリケーションのために広く研究されている。
この問題は、部分的に観察された行列を低ランク行列とスパース行列の重ね合わせに分解することを目的とした。
RMCに取り組むために広く用いられるアプローチは、低ランク行列の核ノルム(低ランク性を促進するために)とスパース行列のl1ノルム(空間性を促進するために)を最小化する凸定式化を考えることである。
本稿では、近年のローワークの動機付けについて述べる。
論文 参考訳(メタデータ) (2020-08-18T04:46:22Z) - A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix
Completion [60.52730146391456]
そこで我々は,適応的かつ音質の高い"核フロベニウスノルム"と呼ばれる新しい非スケーラブルな低ランク正規化器を提案する。
特異値の計算をバイパスし、アルゴリズムによる高速な最適化を可能にする。
既存の行列学習手法では最速でありながら、最先端の回復性能が得られる。
論文 参考訳(メタデータ) (2020-08-14T18:47:58Z) - Robust Matrix Completion with Mixed Data Types [0.0]
我々は,データ型が混在する部分的なエントリを持つ構造的低ランク行列を復元する問題を考察する。
ほとんどのアプローチは、基礎となる分布は1つしかないと仮定し、低階の制約は、行列 Satten Norm によって正則化される。
本稿では, 並列化に適したアルゴリズムフレームワークとともに, 高い回復保証を有する計算可能な統計手法を提案し, 混合データ型に対する部分的に観測されたエントリを持つ低階行列を1ステップで復元する。
論文 参考訳(メタデータ) (2020-05-25T21:35:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。