論文の概要: From explained variance of correlated components to PCA without
orthogonality constraints
- arxiv url: http://arxiv.org/abs/2402.04692v1
- Date: Wed, 7 Feb 2024 09:32:32 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-08 16:04:59.544954
- Title: From explained variance of correlated components to PCA without
orthogonality constraints
- Title(参考訳): 直交性制約を伴わない相関成分の分散からpcaへ
- Authors: Marie Chavent (IMB), Guy Chavent
- Abstract要約: データマトリックスAのブロック主成分分析(Block PCA)は1正規化によるスパースPCAの設計には難しい。
相関成分 Y = AZ で説明されるデータ行列 A の分散部分を測定する新しい目的行列関数 expvar(Y) を導入する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Block Principal Component Analysis (Block PCA) of a data matrix A, where
loadings Z are determined by maximization of AZ 2 over unit norm orthogonal
loadings, is difficult to use for the design of sparse PCA by 1 regularization,
due to the difficulty of taking care of both the orthogonality constraint on
loadings and the non differentiable 1 penalty. Our objective in this paper is
to relax the orthogonality constraint on loadings by introducing new objective
functions expvar(Y) which measure the part of the variance of the data matrix A
explained by correlated components Y = AZ. So we propose first a comprehensive
study of mathematical and numerical properties of expvar(Y) for two existing
definitions Zou et al. [2006], Shen and Huang [2008] and four new definitions.
Then we show that only two of these explained variance are fit to use as
objective function in block PCA formulations for A rid of orthogonality
constraints.
- Abstract(参考訳): データマトリックスAのブロック主成分分析(Block PCA)において、単位ノルム直交荷重に対するAZ2の最大化により負荷Zが決定されるが、負荷の直交制約と微分不可能な1ペナルティの両方の処理が困難であるため、1正規化によるスパースPCAの設計には使用が困難である。
本稿では, 相関成分Y = AZ で説明されるデータ行列 A の分散部分を測定する新たな目的関数 expvar(Y) を導入することにより, 負荷の直交制約を緩和することを目的とする。
そこで我々は,2つの既存定義に対するexpvar(y)の数学的および数値的性質の包括的研究を最初に提案する。
2006年],shen and huang [2008年],および4つの新しい定義。
次に, 直交制約を除去するブロックPCAの定式化において, 目的関数として用いるには, これら2つの変分しか適していないことを示す。
関連論文リスト
- $σ$-PCA: a building block for neural learning of identifiable linear transformations [0.0]
$sigma$-PCAは線形および非線形PCAの統一モデルを定式化する手法である。
非線形PCAは、ばらつきと統計的独立性の両方を最大化する方法と見なすことができる。
論文 参考訳(メタデータ) (2023-11-22T18:34:49Z) - Two derivations of Principal Component Analysis on datasets of
distributions [15.635370717421017]
我々は、点ではなく分布からなるデータセットに対して主成分分析(PCA)を定式化する。
点上の通常のPCAと同様、分散最大化原理と再構成誤差の最小化により等価に導出することができ、分布PCAに対する閉形式解を導出する。
論文 参考訳(メタデータ) (2023-06-23T14:00:14Z) - Sparse PCA With Multiple Components [2.5382095320488673]
スパース主成分分析(SPCA)は、高次元データセットの分散を解釈可能な方法で説明する特徴の組み合わせを得る技術である。
既存のPCA手法の多くは、複数のスパースPCを求めるときの最適性だけでなく、結果の最適性も保証していない。
本稿では,実世界のデータセットに対して,0%-15%の精度で解を得るための厳密な手法と丸め機構を提案する。
論文 参考訳(メタデータ) (2022-09-29T13:57:18Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳(メタデータ) (2022-08-03T12:31:31Z) - Derivation of Learning Rules for Coupled Principal Component Analysis in
a Lagrange-Newton Framework [0.0]
所望の収束特性を持つ学習規則の導出のためのラグランジュ・ニュートンフレームワークについて述べる。
ニュートン降下は、制約が導入されたラグランジュ乗算器を含む拡張変数ベクトルに適用される。
このフレームワークは、相互結合微分方程式における固有ベクトルと対応する固有値を同時に推定する「結合」PCA学習ルールを生成する。
論文 参考訳(メタデータ) (2022-04-28T12:50:11Z) - AgFlow: Fast Model Selection of Penalized PCA via Implicit
Regularization Effects of Gradient Flow [64.81110234990888]
主成分分析(PCA)は特徴抽出と次元減少の有効な手法として広く用いられている。
High Dimension Low Sample Size (HDLSS) 設定では、ペナル化ロードを備えた修正主成分が好まれる。
ペナル化PCAの高速モデル選択法として近似勾配流(AgFlow)を提案する。
論文 参考訳(メタデータ) (2021-10-07T08:57:46Z) - GroupifyVAE: from Group-based Definition to VAE-based Unsupervised
Representation Disentanglement [91.9003001845855]
他の誘導バイアスを導入しないと、VAEベースの非監視的非絡み合いは実現できない。
グループ理論に基づく定義から導かれる制約を非確率的帰納的バイアスとして活用し,vaeに基づく教師なし不連続に対処する。
提案手法の有効性を検証するために,5つのデータセット上で,vaeベースモデルが最も目立つ1800モデルをトレーニングした。
論文 参考訳(メタデータ) (2021-02-20T09:49:51Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳(メタデータ) (2020-07-16T13:27:47Z) - Exponentially Weighted l_2 Regularization Strategy in Constructing
Reinforced Second-order Fuzzy Rule-based Model [72.57056258027336]
従来の高木スゲノカン(TSK)型ファジィモデルでは、定数あるいは線形関数がファジィ規則の連続部分として使用されるのが普通である。
調和解析で遭遇する重み関数理論にインスパイアされた指数重みアプローチを導入する。
論文 参考訳(メタデータ) (2020-07-02T15:42:15Z) - Repulsive Mixture Models of Exponential Family PCA for Clustering [127.90219303669006]
指数関数型家族主成分分析(EPCA)の混合拡張は、従来のEPCAよりもデータ分布に関する構造情報を符号化するように設計された。
従来のEPCAの混合は、モデルの冗長性、すなわち混合成分間の重なりが問題であり、データクラスタリングの曖昧さを引き起こす可能性がある。
本稿では, 混合成分間での反発性増感前処理を導入し, ベイズ式に分散EPCA混合(DEPCAM)モデルを開発した。
論文 参考訳(メタデータ) (2020-04-07T04:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。