論文の概要: Stochastic and Private Nonconvex Outlier-Robust PCA
- arxiv url: http://arxiv.org/abs/2203.09276v1
- Date: Thu, 17 Mar 2022 12:00:47 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-18 22:48:53.918440
- Title: Stochastic and Private Nonconvex Outlier-Robust PCA
- Title(参考訳): 確率・プライベート非凸外乱PCA
- Authors: Tyler Maunu, Chenyu Yu, Gilad Lerman
- Abstract要約: 外乱PCAは、外乱で破損したデータセットから下層の低次元線形部分空間を求める。
提案手法は,測地線降下と新しい収束解析を含む手法を含むことを示す。
メインの応用法は、アウトリアロバストPCAのための効果的にプライベートなアルゴリズムである。
- 参考スコア(独自算出の注目度): 11.688030627514532
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We develop theoretically guaranteed stochastic methods for outlier-robust
PCA. Outlier-robust PCA seeks an underlying low-dimensional linear subspace
from a dataset that is corrupted with outliers. We are able to show that our
methods, which involve stochastic geodesic gradient descent over the
Grassmannian manifold, converge and recover an underlying subspace in various
regimes through the development of a novel convergence analysis. The main
application of this method is an effective differentially private algorithm for
outlier-robust PCA that uses a Gaussian noise mechanism within the stochastic
gradient method. Our results emphasize the advantages of the nonconvex methods
over another convex approach to solving this problem in the differentially
private setting. Experiments on synthetic and stylized data verify these
results.
- Abstract(参考訳): 理論的に保証されたPCAの確率的手法を開発した。
外乱PCAは、外乱で破損したデータセットから下層の低次元線型部分空間を求める。
グラスマン多様体上の確率的測地線勾配降下を含む我々の手法が、新しい収束解析法の開発を通じて、様々な方法で基礎となる部分空間を収束させ、回復することを示すことができる。
本手法の主な応用は, 確率勾配法においてガウス雑音機構を用いた外乱pcaに対する効果的な微分プライベートアルゴリズムである。
本結果は, 差分的にプライベートな条件下でこの問題を解決するために, 非凸法と他の凸法との利点を強調した。
合成およびスタイリゼーションデータに関する実験は、これらの結果を検証する。
関連論文リスト
- Assumption-Lean Post-Integrated Inference with Negative Control Outcomes [0.0]
負の制御結果を用いて遅延不均一性を調整する頑健なポストインテグレート推論(PII)手法を提案する。
提案手法は,予測された直接効果推定値,隠された仲介者,共同設立者,モデレーターまで拡張する。
提案された二重頑健な推定器は、最小の仮定と潜在的な不特定性の下で一貫性があり、効率的である。
論文 参考訳(メタデータ) (2024-10-07T12:52:38Z) - Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。
非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
論文 参考訳(メタデータ) (2024-08-20T19:06:02Z) - Study of Robust Direction Finding Based on Joint Sparse Representation [2.3333781137726137]
スパース信号回復(SSR)に基づく新しいDOA推定法を提案する。
グリッドミスマッチの問題に対処するために、交互最適化アプローチを用いる。
シミュレーションの結果,提案手法は大きな外れ値に対してロバスト性を示すことがわかった。
論文 参考訳(メタデータ) (2024-05-27T02:26:37Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Robust Stochastic Optimization via Gradient Quantile Clipping [6.2844649973308835]
グラディエントDescent(SGD)のための量子クリッピング戦略を導入する。
通常のクリッピングチェーンとして、グラデーション・ニュー・アウトリージを使用します。
本稿では,Huberiles を用いたアルゴリズムの実装を提案する。
論文 参考訳(メタデータ) (2023-09-29T15:24:48Z) - ALPCAH: Sample-wise Heteroscedastic PCA with Tail Singular Value
Regularization [17.771454131646312]
主成分分析はデータ次元削減の分野で重要なツールである。
そこで本研究では,サンプル単位の雑音分散を推定できるPCA法を開発した。
これは低ランク成分の分布的な仮定なしで、ノイズの分散が知られていると仮定せずに行われる。
論文 参考訳(メタデータ) (2023-07-06T03:11:11Z) - CoMadOut -- A Robust Outlier Detection Algorithm based on CoMAD [0.3749861135832073]
データセット上の機械学習アルゴリズムの予測を歪める可能性があるため、アウトレーヤは重要な役割を果たす。
この問題に対処するために,ロバストな外乱検出アルゴリズムCoMadOutを提案する。
われわれの手法は、外乱検出タスクの堅牢な代替手段と見なすことができる。
論文 参考訳(メタデータ) (2022-11-23T21:33:34Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳(メタデータ) (2022-05-30T22:16:25Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。