論文の概要: Diagonal Attenuation: A Finite-Sample Correction for PCA
- arxiv url: http://arxiv.org/abs/2609.05796v1
- Date: Sat, 05 Sep 2026 01:16:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.137481
- Title: Diagonal Attenuation: A Finite-Sample Correction for PCA
- Title(参考訳): 対角線減衰 : PCAの有限サンプル補正
- Abstract要約: 主成分分析は、限られたデータから共分散行列が推定されるとき、その集団目標から遠ざかることができる。
対角線減衰は, 試料の相互共分散を保ちながら, 座標的に試料の分散を減少させる。
局所的な画像パッチ、音声スペクトル、およびスマートフォンの加速度によって、マスク由来および直接減衰は2つの適合サンプル予算の下でPCAを改善する。
- 参考スコア(独自算出の注目度): 4.568037304404448
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Principal component analysis (PCA) can rotate away from its population target when a covariance matrix is estimated from limited data. We introduce diagonal attenuation, which preserves sample cross-covariances while reducing coordinatewise sample variances. The method is revealed exactly by averaging a linear full-output reconstruction loss over random input masks; studying the correction directly extends it beyond the range attainable by masking. We isolate the part of the random coupling between retained and omitted population directions that is contributed by sample-variance errors, and show how attenuation can reduce the resulting rotation. Under balanced marginal variances, we derive an explicit expected-risk theorem, uniform over the attenuation path for all sufficiently large finite samples, and obtain the asymptotically risk-minimizing strength. For general covariances, we characterize when attenuation leaves the population PCA subspace unchanged and give a risk theorem that also accounts for changing eigengaps and the population cost when the target moves. Simulations track this tradeoff from exact preservation back to PCA. Across local image patches, speech spectra, and smartphone acceleration, both mask-derived and direct attenuation improve PCA under two fitting-sample budgets, and one of them has the largest mean gain among seven methods in every data--budget cell. The full path selects strengths beyond the mask-derived boundary on $63\%$--$95\%$ of the subsamples.
- Abstract(参考訳): 主成分分析(PCA)は、限られたデータから共分散行列を推定した場合、その集団目標から遠ざかることができる。
対角線減衰は, 試料の相互共分散を保ちながら, 座標的に試料の分散を減少させる。
本手法は,ランダムな入力マスク上での線形全出力復元損失を平均化し,マスクにより達成可能な範囲を超えて直接的に補正を行う。
サンプル分散誤差によって寄与される個体群方向と省略された個体群方向のランダム結合の一部を分離し、減衰が結果として生じる回転をいかに減少させるかを示す。
バランスの取れた限界分散の下では、十分に大きな有限標本の減衰経路を均一に保ち、漸近的にリスク最小化の強度を得る明示的な予測リスク定理を導出する。
一般的な共分散の場合、減衰がPCA部分空間を不変にしておくと特徴付け、標的が移動する際の固有ギャップの変化と人口コストを考慮に入れたリスク定理を与える。
シミュレーションはこのトレードオフを正確な保存からPCAまで追跡する。
局所的な画像パッチ、音声スペクトル、スマートフォンの加速度により、マスク由来および直接減衰は2つの適合サンプル予算の下でPCAを改善し、そのうちの1つは、各データ予算セルにおける7つの方法の中で最大の平均ゲインを持つ。
完全なパスは、サブサンプルの63 %$--95 %$でマスク由来の境界を超える強度を選択する。
関連論文リスト
- Shape Operator PCA: Curvature-Aware Projections for Geometric Machine Learning [52.452902154360565]
SHOPCA (Shape Operator-based principal Component Analysis) は、教師なしメトリック学習と次元減少のための新しい手法である。
我々は、50以上の実世界のベンチマークデータセット上でSHOPCAを評価する。
論文 参考訳(メタデータ) (2026-08-15T16:37:47Z) - Convex-Hull-Neighborhood Smooth Dual Generalization: Controlling Local Correction Propagation in Offline RL [7.803284875836737]
ブートストラップは オフライン強化学習における 推定誤差を増幅する
本稿では,ベルマンのバックアップをサンプル値のターゲットとして表現し,CHN局所補正を行うConvex Hull Neborhood Smooth Dual Generalizationを提案する。
Gym-MuJoCoとAntMazeの実験は、強力な集約性能と安定した値推定を示す。
論文 参考訳(メタデータ) (2026-08-04T04:30:02Z) - Mean-Shift PCA by Knockoff Mean [1.867072656545946]
平均シフトノイズ成分をPCAから除去する方法を示す。
標準PCAは試料平均のシフトに非常に敏感である。
平均シフト成分を識別・除去する平均を追加することで,2段階PCAアルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-05-25T06:10:22Z) - The Value of Covariance Matching in Gaussian DDPMs and the Lanczos Sampler [4.538165276831438]
ガウスのDDPMにおける中心誤差測度は、正確な逆鎖と学習されたガウスの逆過程の間の経路空間 KL のばらつきである。
完全後続共分散のマッチングはこの障壁を破り、KLを$O(1/T2)$に下げるオーダーワイズの改善をもたらすことを示す。
我々はLGS近似誤差がランツォスステップの数で指数関数的に減衰することを証明し、各ランツォスステップは1つのヤコビアンベクトル積を必要とする。
論文 参考訳(メタデータ) (2026-05-21T16:57:27Z) - Closing the Approximation Gap of Partial AUC Optimization: A Tale of Two Formulations [121.39938773554523]
ROC曲線の下の領域(AUC)は、クラス不均衡と決定制約の両方を持つ実世界のシナリオにおける重要な評価指標である。
PAUC最適化の近似ギャップを埋めるために,2つの簡単なインスタンス単位のミニマックス修正を提案する。
得られたアルゴリズムは、サンプルサイズと典型的な一方方向と双方向のPAUCに対して$O(-2/3)$の収束率の線形パーイテレーション計算複雑性を享受する。
論文 参考訳(メタデータ) (2025-12-01T02:52:33Z) - Wasserstein-regularized Conformal Prediction under General Distribution Shift [21.29977879431466]
等式予測は、i.d.仮定の下で真のターゲットの1-alpha$カバレッジが保証された予測セットを生成する。
本稿では、ワッサーシュタイン距離に基づくカバレッジギャップの上界を提案し、確率測度をプッシュフォワードで解析する。
本稿では,重要重み付けと正規化表現学習(WR-CP)に基づくアルゴリズム設計のための分離を利用して,有限サンプル誤差境界のワッサーシュタイン境界を低減する。
論文 参考訳(メタデータ) (2025-01-23T07:29:44Z) - Sparse PCA with Oracle Property [115.72363972222622]
新規な正規化を伴うスパースPCAの半定緩和に基づく推定器群を提案する。
我々は、家族内の別の推定器が、スパースPCAの標準半定緩和よりも、より急激な収束率を達成することを証明した。
論文 参考訳(メタデータ) (2023-12-28T02:52:54Z) - Empirical Bayes Covariance Decomposition, and a solution to the Multiple
Tuning Problem in Sparse PCA [2.5382095320488673]
スパース主成分分析(PCA)は,PCAの解釈可能性と信頼性を両立させる手法として提案されている。
経験ベイズ法による「複数チューニング問題」の解法を提案する。
論文 参考訳(メタデータ) (2023-12-06T04:00:42Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - LSDAT: Low-Rank and Sparse Decomposition for Decision-based Adversarial
Attack [74.5144793386864]
LSDATは、入力サンプルのスパース成分と対向サンプルのスパース成分によって形成される低次元部分空間における摂動を加工する。
LSDは画像ピクセル領域で直接動作し、スパース性などの非$ell$制約が満たされることを保証します。
論文 参考訳(メタデータ) (2021-03-19T13:10:47Z) - Private Stochastic Non-Convex Optimization: Adaptive Algorithms and
Tighter Generalization Bounds [72.63031036770425]
有界非次元最適化のための差分プライベート(DP)アルゴリズムを提案する。
標準勾配法に対する経験的優位性について,2つの一般的なディープラーニング手法を実証する。
論文 参考訳(メタデータ) (2020-06-24T06:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。