論文の概要: An Interpretable and Stable Framework for Sparse Principal Component Analysis
- arxiv url: http://arxiv.org/abs/2603.13806v1
- Date: Sat, 14 Mar 2026 07:27:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-17 16:19:35.420432
- Title: An Interpretable and Stable Framework for Sparse Principal Component Analysis
- Title(参考訳): スパース主成分分析のための解釈可能で安定なフレームワーク
- Authors: Ying Hu, Hu Yang,
- Abstract要約: スパース主成分分析(SPCA)は、高次元データにおける解釈容易性と可変冗長性に対処する。
本研究では,規則化フレームワークに単一平衡パラメータを導入し,可変ペナルティを適応的に調整するSP-SPCAを提案する。
- 参考スコア(独自算出の注目度): 7.338284747998038
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sparse principal component analysis (SPCA) addresses the poor interpretability and variable redundancy often encountered by principal component analysis (PCA) in high-dimensional data. However, SPCA typically imposes uniform penalties on variables and does not account for differences in variable importance, which may lead to unstable performance in highly noisy or structurally complex settings. We propose SP-SPCA, a method that introduces a single equilibrium parameter into the regularization framework to adaptively adjust variable penalties. This modification of the L2 penalty provides flexible control over the trade-off between sparsity and explained variance while maintaining computational efficiency. Simulation studies show that the proposed method consistently outperforms standard sparse principal component methods in identifying sparse loading patterns, filtering noise variables, and preserving cumulative variance, especially in high-dimensional and noisy settings. Empirical applications to crime and financial market data further demonstrate its practical utility. In real data analyses, the method selects fewer but more relevant variables, thereby reducing model complexity while maintaining explanatory power. Overall, the proposed approach offers a robust and efficient alternative for sparse modeling in complex high-dimensional data, with clear advantages in stability, feature selection, and interpretability
- Abstract(参考訳): スパース主成分分析(SPCA)は、高次元データにおいて主成分分析(PCA)によってしばしば発生する、弱い解釈可能性と可変冗長性に対処する。
しかし、SPCAは変数に対して一様に罰則を課し、変数の重要性の違いを考慮しない。
本研究では,規則化フレームワークに単一平衡パラメータを導入し,可変ペナルティを適応的に調整するSP-SPCAを提案する。
このL2ペナルティの修正は、計算効率を維持しながら、スパーシティと説明分散の間のトレードオフを柔軟に制御する。
シミュレーション研究により, 提案手法は, 高次元および雑音条件下で, スパース負荷パターンの同定, ノイズ変数のフィルタリング, 累積分散の保存において, 標準スパース主成分法よりも一貫して優れていた。
犯罪および金融市場データに対する実証的な応用は、その実用性をさらに証明している。
実データ解析では、より少ないがより関連する変数を選択し、説明力を維持しながらモデルの複雑さを低減させる。
全体として、提案手法は、安定性、特徴選択、解釈可能性を明確にした、複雑な高次元データにおけるスパースモデリングの堅牢で効率的な代替手段を提供する。
関連論文リスト
- SPPCSO: Adaptive Penalized Estimation Method for High-Dimensional Correlated Data [7.338284747998038]
本研究では, 単パラメータ主成分選択演算子 (SPPCSO) を提案する。
単パラメトリックの主成分回帰と$L_1$正規化を統合し、主成分情報を組み込むことで収縮率を適応的に調整する。
可変選択と係数推定のバランスを保ち、高次元高雑音環境においてもモデル安定性とロバスト推定を確実にする。
論文 参考訳(メタデータ) (2026-03-06T13:10:05Z) - Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。
SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。
複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-01T12:56:10Z) - Stochastic Optimization with Optimal Importance Sampling [49.484190237840714]
本稿では,両者の時間的分離を必要とせずに,意思決定とIS分布を共同で更新する反復型アルゴリズムを提案する。
本手法は,IS分布系に対する目的的,軽度な仮定の凸性の下で,最小の変数分散を達成し,大域収束を保証する。
論文 参考訳(メタデータ) (2025-04-04T16:10:18Z) - Principal Component Analysis When n < p: Challenges and Solutions [0.0]
主成分分析は高次元データの複雑さを軽減するための重要な手法である。
標準主成分分析は高次元シナリオにおける次元還元手法として不十分に機能する。
本稿では,ペア差分共分散推定と呼ばれる新しい推定法を提案する。
論文 参考訳(メタデータ) (2025-03-21T22:33:52Z) - Optimizing Singular Spectrum for Large Language Model Compression [95.7621116637755]
SVDの分解したコンポーネントをデータ駆動で再スケールする新しい圧縮フレームワークであるSoCoを紹介する。
学習可能な特異スペクトルのおかげで、SoCoは重要度スコアに応じて成分を適応的にプーンする。
複数のLLMおよびベンチマークでの実験的な評価は、SoCoがモデル圧縮における最先端の手法を超越していることを示している。
論文 参考訳(メタデータ) (2025-02-20T23:18:39Z) - Rule-Based Modeling of Low-Dimensional Data with PCA and Binary Particle Swarm Optimization (BPSO) in ANFIS [0.29465623430708915]
ファジィルールに基づくシステムは、低次元領域でデータを解釈し、透明性と解釈可能性を提供する。
ディープラーニングは複雑なタスクでは優れているが、スパース、非構造化、低次元のデータでは過度に適合する傾向がある。
この解釈可能性は、医療や金融といった分野において重要である。
論文 参考訳(メタデータ) (2025-02-06T09:13:55Z) - Robust PCA Based on Adaptive Weighted Least Squares and Low-Rank Matrix Factorization [2.983818075226378]
本稿では,初期コンポーネント不安定時の適応重み係数更新を統合する新しいRPCAモデルを提案する。
提案手法は既存の非インスパイアされた正規化手法よりも優れた性能と効率を提供する。
論文 参考訳(メタデータ) (2024-12-19T08:31:42Z) - Variable Importance in High-Dimensional Settings Requires Grouping [19.095605415846187]
Conditional Permutation Importance (CPI)は、そのような場合のPIの制限をバイパスする。
クラスタリングまたはいくつかの事前知識を介して統計的に変数をグループ化すると、ある程度のパワーバックが得られる。
重み付けにより拡張された手法は,高相関なグループであっても,型Iエラーを制御可能であることを示す。
論文 参考訳(メタデータ) (2023-12-18T00:21:47Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - Repulsive Mixture Models of Exponential Family PCA for Clustering [127.90219303669006]
指数関数型家族主成分分析(EPCA)の混合拡張は、従来のEPCAよりもデータ分布に関する構造情報を符号化するように設計された。
従来のEPCAの混合は、モデルの冗長性、すなわち混合成分間の重なりが問題であり、データクラスタリングの曖昧さを引き起こす可能性がある。
本稿では, 混合成分間での反発性増感前処理を導入し, ベイズ式に分散EPCA混合(DEPCAM)モデルを開発した。
論文 参考訳(メタデータ) (2020-04-07T04:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。