論文の概要: Optimal vintage factor analysis with deflation varimax

• arxiv url: http://arxiv.org/abs/2310.10545v1
• Date: Mon, 16 Oct 2023 16:14:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-17 12:57:39.438531
• Title: Optimal vintage factor analysis with deflation varimax
• Title（参考訳）: deflation varimaxを用いた最適ビンテージ因子分析
• Authors: Xin Bing, Dian Jin and Yuqian Zhang
• Abstract要約: Vintage Factor分析は、最初に元のデータの低次元表現を見つけ、次に回転した低次元表現が科学的に意味のあるものを探すことを目的としている。 おそらく最も広く使われているヴィンテージ因子分析は、主成分分析(PCA)であり、次にヴァリマックス表現である。 本稿では,各行行列を逐次的に解くデフレ最適化手法を提案する。
• 参考スコア（独自算出の注目度）: 18.50195604586597
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vintage factor analysis is one important type of factor analysis that aims to first find a low-dimensional representation of the original data, and then to seek a rotation such that the rotated low-dimensional representation is scientifically meaningful. Perhaps the most widely used vintage factor analysis is the Principal Component Analysis (PCA) followed by the varimax rotation. Despite its popularity, little theoretical guarantee can be provided mainly because varimax rotation requires to solve a non-convex optimization over the set of orthogonal matrices. In this paper, we propose a deflation varimax procedure that solves each row of an orthogonal matrix sequentially. In addition to its net computational gain and flexibility, we are able to fully establish theoretical guarantees for the proposed procedure in a broad context. Adopting this new varimax approach as the second step after PCA, we further analyze this two step procedure under a general class of factor models. Our results show that it estimates the factor loading matrix in the optimal rate when the signal-to-noise-ratio (SNR) is moderate or large. In the low SNR regime, we offer possible improvement over using PCA and the deflation procedure when the additive noise under the factor model is structured. The modified procedure is shown to be optimal in all SNR regimes. Our theory is valid for finite sample and allows the number of the latent factors to grow with the sample size as well as the ambient dimension to grow with, or even exceed, the sample size. Extensive simulation and real data analysis further corroborate our theoretical findings.
• Abstract（参考訳）: 視覚因子分析は、まず原データの低次元表現を見つけ、次に回転した低次元表現が科学的に意味のある回転を求めることを目的とした重要な因子分析の1つである。 おそらく最も広く使われているヴィンテージ因子分析は、主成分分析(PCA)であり、次にバリマックス回転が続く。 その人気にもかかわらず、主にヴァリマックス回転は直交行列の集合上の非凸最適化を解く必要があるため、理論上の保証はほとんど得られない。 本稿では,直交行列の各行を逐次的に解くデフレ化バリマックス手順を提案する。 計算能力の純向上と柔軟性に加えて,提案手法に対する理論的保証を広い文脈で完全に確立することができる。 PCA の後の第2段階としてこの新しい varimax アプローチを採用することで,この2段階の手順を因子モデルの一般クラスで解析する。 その結果,信号対雑音比 (SNR) が中等度あるいは大きい場合, 最適速度で因子負荷行列を推定できることが示唆された。 低SNR方式では,因子モデルに基づく付加雑音が構成された場合,PCAとデフレ処理による改善が可能となる。 修正された手順は、すべてのSNRレギュレーションで最適であることが示されている。 本理論は, 有限標本について有効であり, 潜在因子の数を試料サイズとともに増加させるとともに, 試料サイズを増加または超過させる。 大規模なシミュレーションと実データ分析は、我々の理論的な結果をさらに裏付ける。

関連論文リスト

• On the Asymptotic Mean Square Error Optimality of Diffusion Models [10.72484143420088]
  生成前駆体としての拡散モデル(DM)は近年,タスクを認知する大きな可能性を示している。 本稿では, MSE-Optimal Conditional mean (CME) の構造から着想を得た新しい認知戦略を提案する。 結果のDMベースのデノイザは、トレーニング済みのDMを用いて便利に使用することができ、特に逆拡散ステップをトラッピングすることで高速である。
  論文  参考訳（メタデータ） (2024-03-05T13:25:44Z)
• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• Regularization and Variance-Weighted Regression Achieves Minimax Optimality in Linear MDPs: Theory and Practice [79.48432795639403]
  ミラー降下値反復(MDVI)は、KL(Kulback-Leibler)とRL(Entropy-regularized reinforcement learning)の抽象化である。 MDVIを線形関数近似を用いて研究し,$varepsilon$-optimal policyを同定するために必要なサンプル複雑性について検討した。 我々は,無限水平線形MDPに対して,最小限のサンプル複雑性を実現する最初の理論的アルゴリズムである分散重み付き最小二乗法MDVIを提案する。
  論文  参考訳（メタデータ） (2023-05-22T16:13:05Z)
• On High dimensional Poisson models with measurement error: hypothesis testing for nonlinear nonconvex optimization [13.369004892264146]
  我々は高次元の回帰モデルの推定と検証を行い、データ解析に広く応用する。 ペナル化された一貫性を最小化することで回帰パラメータを推定する。 提案手法はアルツハイマー病イニシアチブに適用される。
  論文  参考訳（メタデータ） (2022-12-31T06:58:42Z)
• Structured Optimal Variational Inference for Dynamic Latent Space Models [16.531262817315696]
  動的ネットワークの潜在空間モデルについて検討し、その目的は、ペアの内積と潜在位置のインターセプトを推定することである。 後部推論と計算スケーラビリティのバランスをとるために、構造的平均場変動推論フレームワークを検討する。
  論文  参考訳（メタデータ） (2022-09-29T22:10:42Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Inverting brain grey matter models with likelihood-free inference: a tool for trustable cytoarchitecture measurements [62.997667081978825]
  脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。 我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。 次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
  論文  参考訳（メタデータ） (2021-11-15T09:08:27Z)
• Generalized Matrix Factorization: efficient algorithms for fitting generalized linear latent variable models to large data arrays [62.997667081978825]
  一般化線形潜在変数モデル(GLLVM)は、そのような因子モデルを非ガウス応答に一般化する。 GLLVMのモデルパラメータを推定する現在のアルゴリズムは、集約的な計算を必要とし、大規模なデータセットにスケールしない。 本稿では,GLLVMを高次元データセットに適用するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-06T04:28:19Z)
• On the minmax regret for statistical manifolds: the role of curvature [68.8204255655161]
  2つの部分のコードと最小記述長は、最高のモデルを選別するための手順を提供するのに成功している。 我々は、フィッシャー情報計量のスカラー曲率が支配的な役割を果たす複雑さによって与えられる標準表現よりも、よりシャープな表現を導出する。
  論文  参考訳（メタデータ） (2020-07-06T17:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。