論文の概要: Rethinking PCA Through Duality
- arxiv url: http://arxiv.org/abs/2510.18130v1
- Date: Mon, 20 Oct 2025 21:56:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 03:08:12.644873
- Title: Rethinking PCA Through Duality
- Title(参考訳): 双対性を通してPCAを再考する
- Authors: Jan Quan, Johan Suykens, Panagiotis Patrinos,
- Abstract要約: 自己注意と主成分分析の基礎を再考する。
いくつかの新しい定式化を提示し、新しい理論的洞察を提供する。
誤りの復元と復元のための新しいアルゴリズムについて述べる。
- 参考スコア(独自算出の注目度): 5.692250278586933
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Motivated by the recently shown connection between self-attention and (kernel) principal component analysis (PCA), we revisit the fundamentals of PCA. Using the difference-of-convex (DC) framework, we present several novel formulations and provide new theoretical insights. In particular, we show the kernelizability and out-of-sample applicability for a PCA-like family of problems. Moreover, we uncover that simultaneous iteration, which is connected to the classical QR algorithm, is an instance of the difference-of-convex algorithm (DCA), offering an optimization perspective on this longstanding method. Further, we describe new algorithms for PCA and empirically compare them with state-of-the-art methods. Lastly, we introduce a kernelizable dual formulation for a robust variant of PCA that minimizes the $l_1$ deviation of the reconstruction errors.
- Abstract(参考訳): 近年、自己注意と(カーネル)主成分分析(PCA)の関連性が指摘され、PCAの基礎を再考する。
差分凸(DC)フレームワークを用いて,いくつかの新しい定式化と新たな理論的洞察を提供する。
特に,PCAライクな問題群に対するカーネル化可能性とアウト・オブ・サンプル適用性を示す。
さらに,従来のQRアルゴリズムに接続する同時反復は,この長寿命手法を最適化した差分凸アルゴリズム(DCA)の例であることも明らかにした。
さらに,PCAのための新しいアルゴリズムを記述し,それらを最先端の手法と実証的に比較する。
最後に,PCAの頑健な変種に対するカーネル化可能な二重定式化を導入し,再設計誤差の$l_1$ずれを最小限に抑える。
関連論文リスト
- Solve sparse PCA problem by employing Hamiltonian system and leapfrog method [0.0]
そこで本研究では,スムーズなL1ペナルティを通したスパースPCAアルゴリズムを提案する。
k-アネレスト近傍とカーネルリッジ回帰の両方を用いた顔認識データセットの実験的評価-提案したスパースPCA法は従来のPCA法よりも高い分類精度を一貫して達成している。
論文 参考訳(メタデータ) (2025-03-30T06:39:11Z) - Tight Stability, Convergence, and Robustness Bounds for Predictive Coding Networks [60.3634789164648]
予測符号化(PC)のようなエネルギーベースの学習アルゴリズムは、機械学習コミュニティにおいて大きな注目を集めている。
動的システム理論のレンズを用いて,PCの安定性,堅牢性,収束性を厳密に解析する。
論文 参考訳(メタデータ) (2024-10-07T02:57:26Z) - Black-Box $k$-to-$1$-PCA Reductions: Theory and Applications [19.714951004096996]
ブラックボックスデフレ法を$k$-PCAアルゴリズムを設計するためのフレームワークとして分析する。
我々の主な貢献は、$k$-PCAのデフレ法における近似パラメータの劣化に対する、よりシャープな境界である。
我々は,最先端の$k$-PCAアルゴリズムをデータセット汚染に頑健にするために,我々のフレームワークを適用した。
論文 参考訳(メタデータ) (2024-03-06T18:07:20Z) - Provably Efficient UCB-type Algorithms For Learning Predictive State
Representations [55.00359893021461]
逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である
本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。
PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
論文 参考訳(メタデータ) (2023-07-01T18:35:21Z) - Fair principal component analysis (PCA): minorization-maximization
algorithms for Fair PCA, Fair Robust PCA and Fair Sparse PCA [6.974999794070285]
公平なPCA(FPCA)問題を解決するために,新しい反復アルゴリズムを提案する。
提案アルゴリズムはアルゴリズムの反復ごとに厳密であることが証明された半直交制約の緩和に依存する。
本稿では,提案手法の性能を,合成データセットと実生活データセットの2つの最先端手法と比較する。
論文 参考訳(メタデータ) (2023-05-10T08:14:32Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳(メタデータ) (2022-10-08T08:26:22Z) - A novel approach for Fair Principal Component Analysis based on
eigendecomposition [10.203602318836444]
1次元探索からなる簡単な戦略を用いて,公平性問題に対処する新しいPCAアルゴリズムを提案する。
私たちの発見は、いくつかの現実の状況と、バランスの取れていないデータセットとバランスの取れていないデータセットの両方のシナリオで一致しています。
論文 参考訳(メタデータ) (2022-08-24T08:20:16Z) - Doubly Robust Off-Policy Actor-Critic: Convergence and Optimality [131.45028999325797]
ディスカウント型MDPのための2倍堅牢なオフポリチックAC(DR-Off-PAC)を開発した。
DR-Off-PACは、俳優と批評家の両方が一定のステップで同時に更新される単一のタイムスケール構造を採用しています。
有限時間収束速度を研究し, dr-off-pac のサンプル複雑性を特徴とし, $epsilon$-accurate optimal policy を得る。
論文 参考訳(メタデータ) (2021-02-23T18:56:13Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。