論文の概要: Derivation of Learning Rules for Coupled Principal Component Analysis in a Lagrange-Newton Framework

• arxiv url: http://arxiv.org/abs/2204.13460v1
• Date: Thu, 28 Apr 2022 12:50:11 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-15 06:41:26.305856
• Title: Derivation of Learning Rules for Coupled Principal Component Analysis in a Lagrange-Newton Framework
• Title（参考訳）: lagrange-newtonフレームワークにおける主成分分析のための学習規則の導出
• Authors: Ralf M\"oller
• Abstract要約: 所望の収束特性を持つ学習規則の導出のためのラグランジュ・ニュートンフレームワークについて述べる。 ニュートン降下は、制約が導入されたラグランジュ乗算器を含む拡張変数ベクトルに適用される。 このフレームワークは、相互結合微分方程式における固有ベクトルと対応する固有値を同時に推定する「結合」PCA学習ルールを生成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We describe a Lagrange-Newton framework for the derivation of learning rules with desirable convergence properties and apply it to the case of principal component analysis (PCA). In this framework, a Newton descent is applied to an extended variable vector which also includes Lagrange multipliers introduced with constraints. The Newton descent guarantees equal convergence speed from all directions, but is also required to produce stable fixed points in the system with the extended state vector. The framework produces "coupled" PCA learning rules which simultaneously estimate an eigenvector and the corresponding eigenvalue in cross-coupled differential equations. We demonstrate the feasibility of this approach for two PCA learning rules, one for the estimation of the principal, the other for the estimate of an arbitrary eigenvector-eigenvalue pair (eigenpair).
• Abstract（参考訳）: 本稿では,学習ルールを望ましい収束特性で導出するためのLagrange-Newtonフレームワークについて解説し,主成分分析(PCA)の場合に適用する。 この枠組みでは、ニュートン降下を拡張変数ベクトルに適用し、制約付きラグランジュ乗算器も含む。 ニュートン降下は全ての方向から等収束速度を保証するが、拡張状態ベクトルを持つ系の安定な固定点を生成する必要もある。 このフレームワークは、相互結合微分方程式における固有ベクトルと対応する固有値を同時に推定する「結合」PCA学習ルールを生成する。 そこで本稿では,PCA学習ルールを2つ,主元推定法を1つ,任意の固有ベクトル-固有値対(固有ペア)を推定する手法を提案する。

関連論文リスト

• From explained variance of correlated components to PCA without orthogonality constraints [0.0]
  データマトリックスAのブロック主成分分析(Block PCA)は1正規化によるスパースPCAの設計には難しい。 相関成分 Y = AZ で説明されるデータ行列 A の分散部分を測定する新しい目的行列関数 expvar(Y) を導入する。
  論文  参考訳（メタデータ） (2024-02-07T09:32:32Z)
• General Solution and Canonical Quantization of the Conic Path Constrained Second-Class System [0.0]
  我々は、与えられた外部ポテンシャル関数の下で円錐経路に沿っての制約運動の問題を考察する。 我々は、対応するディラックブラケットの観点から、一貫した方法で正準量子化を行う。 位相空間における完備ディラック・ブラケット代数とその微分作用素の観点からの物理的実現が明示的に得られる。
  論文  参考訳（メタデータ） (2022-02-15T13:46:56Z)
• Controlling the Complexity and Lipschitz Constant improves polynomial nets [55.121200972539114]
  多項式ネットの結合CP分解(CCP)モデルとNested Coupled CP分解(NCP)モデルに対する新しい複雑性境界を導出する。 本研究では、6つのデータセットで実験的に評価し、モデルが逆摂動に対して頑健であるとともに精度も向上することを示す。
  論文  参考訳（メタデータ） (2022-02-10T14:54:29Z)
• Deep Learning Approximation of Diffeomorphisms via Linear-Control Systems [91.3755431537592]
  我々は、制御に線形に依存する$dot x = sum_i=1lF_i(x)u_i$という形の制御系を考える。 対応するフローを用いて、コンパクトな点のアンサンブル上の微分同相写像の作用を近似する。
  論文  参考訳（メタデータ） (2021-10-24T08:57:46Z)
• Eigen Analysis of Self-Attention and its Reconstruction from Partial Computation [58.80806716024701]
  ドット積に基づく自己注意を用いて計算した注意点のグローバルな構造について検討する。 注意点の変動の大部分は低次元固有空間にあることがわかった。 トークンペアの部分的な部分集合に対してのみスコアを計算し、それを用いて残りのペアのスコアを推定する。
  論文  参考訳（メタデータ） (2021-06-16T14:38:42Z)
• Signatures of Chaos in Non-integrable Models of Quantum Field Theory [0.0]
  1+1)D量子場理論(QFT)モデルにおける量子カオスのシグネチャについて検討する。 我々は、二重正弦ガードンに焦点をあて、巨大な正弦ガードンと$phi4$モデルの研究も行っている。
  論文  参考訳（メタデータ） (2020-12-15T18:56:20Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Exponentially Weighted l_2 Regularization Strategy in Constructing Reinforced Second-order Fuzzy Rule-based Model [72.57056258027336]
  従来の高木スゲノカン(TSK)型ファジィモデルでは、定数あるいは線形関数がファジィ規則の連続部分として使用されるのが普通である。 調和解析で遭遇する重み関数理論にインスパイアされた指数重みアプローチを導入する。
  論文  参考訳（メタデータ） (2020-07-02T15:42:15Z)
• Derivation of Symmetric PCA Learning Rules from a Novel Objective Function [0.0]
  主成分/部分空間解析のためのニューラルラーニングルールは、目的関数を最大化することによって導出することができる。 単一の軸を持つ部分空間に対して、最適化はデータ共分散行列の主固有ベクトルを生成する。 複数の軸を持つ部分空間に対して、最適化は、主部分空間にまたがる軸のみに収束するが、主固有ベクトルに収束しないPSA学習規則につながる。
  論文  参考訳（メタデータ） (2020-05-24T08:57:54Z)
• Derivation of Coupled PCA and SVD Learning Rules from a Newton Zero-Finding Framework [0.0]
  ニュートン最適化による情報基準から複合学習規則を導出する方法が知られている。 ここでは、Newton 0-findingフレームワークから、PCAとSVDを結合した学習ルールを体系的に導き出す方法について述べる。 この枠組みを実証するために、ベクトル推定の定数ユークリッド長または定数和でPCAおよびSVD学習規則を導出する。
  論文  参考訳（メタデータ） (2020-03-25T15:49:55Z)
• Semiparametric Nonlinear Bipartite Graph Representation Learning with Provable Guarantees [106.91654068632882]
  半パラメトリック指数族分布におけるパラメータの統計的推定問題として、両部グラフを考察し、その表現学習問題を定式化する。 提案手法は, 地中真理付近で強い凸性を示すため, 勾配降下法が線形収束率を達成できることを示す。 我々の推定器は指数族内の任意のモデル誤特定に対して頑健であり、広範な実験で検証されている。
  論文  参考訳（メタデータ） (2020-03-02T16:40:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。