論文の概要: Optimal vintage factor analysis with deflation varimax

• arxiv url: http://arxiv.org/abs/2310.10545v3
• Date: Wed, 13 Nov 2024 16:42:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-14 19:25:10.437921
• Title: Optimal vintage factor analysis with deflation varimax
• Title（参考訳）: deflation varimax を用いた至適ビンテージ因子解析
• Authors: Xin Bing, Dian Jin, Yuqian Zhang,
• Abstract要約: 回転行列の各行を逐次解決するデフレ・ヴァリマックス法を提案する。 計算のゲインと柔軟性に加えて,提案手法をより広い文脈で完全に保証することができる。
• 参考スコア（独自算出の注目度）: 16.462282750354408
• License:
• Abstract: Vintage factor analysis is one important type of factor analysis that aims to first find a low-dimensional representation of the original data, and then to seek a rotation such that the rotated low-dimensional representation is scientifically meaningful. The most widely used vintage factor analysis is the Principal Component Analysis (PCA) followed by the varimax rotation. Despite its popularity, little theoretical guarantee can be provided to date mainly because varimax rotation requires to solve a non-convex optimization over the set of orthogonal matrices. In this paper, we propose a deflation varimax procedure that solves each row of an orthogonal matrix sequentially. In addition to its net computational gain and flexibility, we are able to fully establish theoretical guarantees for the proposed procedure in a broader context. Adopting this new deflation varimax as the second step after PCA, we further analyze this two step procedure under a general class of factor models. Our results show that it estimates the factor loading matrix in the minimax optimal rate when the signal-to-noise-ratio (SNR) is moderate or large. In the low SNR regime, we offer possible improvement over using PCA and the deflation varimax when the additive noise under the factor model is structured. The modified procedure is shown to be minimax optimal in all SNR regimes. Our theory is valid for finite sample and allows the number of the latent factors to grow with the sample size as well as the ambient dimension to grow with, or even exceed, the sample size. Extensive simulation and real data analysis further corroborate our theoretical findings.
• Abstract（参考訳）: 視覚因子分析は、まず原データの低次元表現を見つけ、次に回転した低次元表現が科学的に意味のある回転を求めることを目的とした重要な因子分析の1つである。 最も広く使われているビンテージ因子分析は主成分分析(PCA)であり、その後にバリマックス回転が続く。 その人気にもかかわらず、偏極回転は直交行列の集合上の非凸最適化を解く必要があるため、今日まで理論上の保証はほとんど得られない。 本稿では,直交行列の各行を逐次的に解くデフレ・ヴァリマックス法を提案する。 計算のゲインと柔軟性に加えて、提案手法の理論的保証をより広い文脈で完全に確立することができる。 PCAの後の第2段階としてこの新たなデフレ・ヴァリマックスを導入し、この2段階の手順を因子モデルの一般クラスで解析する。 その結果,信号対雑音比 (SNR) が中等度または大大である場合, 最小最大速度における因子負荷行列を推定した。 低SNR方式では,因子モデルに基づく付加雑音が構成された場合,PCAとデフレ値よりも改善が期待できる。 修正された手順は、すべてのSNRレギュレーションで最小限最適であることが示されている。 我々の理論は有限標本に対して有効であり、潜伏因子の数はサンプルサイズとともに増大し、周辺次元はサンプルサイズと共に成長する、あるいは超える。 大規模なシミュレーションと実データ分析は、我々の理論的な結果をさらに裏付ける。

関連論文リスト

• On the Asymptotic Mean Square Error Optimality of Diffusion Models [10.72484143420088]
  生成前駆体としての拡散モデル(DM)は近年,タスクを認知する大きな可能性を示している。 本稿では, MSE-Optimal Conditional mean (CME) の構造から着想を得た新しい認知戦略を提案する。 結果のDMベースのデノイザは、トレーニング済みのDMを用いて便利に使用することができ、特に逆拡散ステップをトラッピングすることで高速である。
  論文  参考訳（メタデータ） (2024-03-05T13:25:44Z)
• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• Regularization and Variance-Weighted Regression Achieves Minimax Optimality in Linear MDPs: Theory and Practice [79.48432795639403]
  ミラー降下値反復(MDVI)は、KL(Kulback-Leibler)とRL(Entropy-regularized reinforcement learning)の抽象化である。 MDVIを線形関数近似を用いて研究し,$varepsilon$-optimal policyを同定するために必要なサンプル複雑性について検討した。 我々は,無限水平線形MDPに対して,最小限のサンプル複雑性を実現する最初の理論的アルゴリズムである分散重み付き最小二乗法MDVIを提案する。
  論文  参考訳（メタデータ） (2023-05-22T16:13:05Z)
• On High dimensional Poisson models with measurement error: hypothesis testing for nonlinear nonconvex optimization [13.369004892264146]
  我々は高次元の回帰モデルの推定と検証を行い、データ解析に広く応用する。 ペナル化された一貫性を最小化することで回帰パラメータを推定する。 提案手法はアルツハイマー病イニシアチブに適用される。
  論文  参考訳（メタデータ） (2022-12-31T06:58:42Z)
• Structured Optimal Variational Inference for Dynamic Latent Space Models [16.531262817315696]
  動的ネットワークの潜在空間モデルについて検討し、その目的は、ペアの内積と潜在位置のインターセプトを推定することである。 後部推論と計算スケーラビリティのバランスをとるために、構造的平均場変動推論フレームワークを検討する。
  論文  参考訳（メタデータ） (2022-09-29T22:10:42Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Inverting brain grey matter models with likelihood-free inference: a tool for trustable cytoarchitecture measurements [62.997667081978825]
  脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。 我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。 次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
  論文  参考訳（メタデータ） (2021-11-15T09:08:27Z)
• Generalized Matrix Factorization: efficient algorithms for fitting generalized linear latent variable models to large data arrays [62.997667081978825]
  一般化線形潜在変数モデル(GLLVM)は、そのような因子モデルを非ガウス応答に一般化する。 GLLVMのモデルパラメータを推定する現在のアルゴリズムは、集約的な計算を必要とし、大規模なデータセットにスケールしない。 本稿では,GLLVMを高次元データセットに適用するための新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-10-06T04:28:19Z)
• On the minmax regret for statistical manifolds: the role of curvature [68.8204255655161]
  2つの部分のコードと最小記述長は、最高のモデルを選別するための手順を提供するのに成功している。 我々は、フィッシャー情報計量のスカラー曲率が支配的な役割を果たす複雑さによって与えられる標準表現よりも、よりシャープな表現を導出する。
  論文  参考訳（メタデータ） (2020-07-06T17:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。