論文の概要: Inference and Uncertainty Quantification for Streaming $r$-PCA
- arxiv url: http://arxiv.org/abs/2608.18374v1
- Date: Tue, 18 Aug 2026 23:02:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.231601
- Title: Inference and Uncertainty Quantification for Streaming $r$-PCA
- Title(参考訳): $r$-PCAのストリーミングにおける推論と不確かさの定量化
- Abstract要約: Ojaのアルゴリズムを用いてPCAをストリーミングする際の2つのオープンな問題に対処する。
両大口径スパーステール系において, 対数的因子まで, 一致した下界を証明した。
- 参考スコア(独自算出の注目度): 0.40105987447353786
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We address two open questions in streaming PCA via Oja's algorithm: sharp operator-norm convergence for general rank under sub-Gaussian data, and distributional inference for the resulting subspace estimator. Existing convergence analyses, even in the rank-one case, either assume bounded data or leave non-vanishing remainder terms that prevent adaptation to a polynomially vanishing tail spectrum, while existing distributional results are confined to the rank-one case. Our convergence theory removes these remainder terms and yields a sharp rate. In the dense-tail spiked covariance regime, this rate matches the minimax rate up to logarithmic factors. More generally, we prove a matching lower bound, up to logarithmic factors, across both dense-tail and sparse-tail regimes under a mild nondegeneracy condition. The analysis yields a linearization of Oja's iterates, which in turn enables a high-dimensional Gaussian approximation for the general-rank subspace estimation error with an explicit limiting covariance. We also establish a row-wise Gaussian approximation over convex sets for the aligned difference, recovering prior rank-one results as special cases. For practical inference, we develop an online multiplier bootstrap algorithm and prove its consistency. Beyond streaming PCA, our techniques contribute to Gaussian approximation and bootstrap inference for nonconvex stochastic approximation.
- Abstract(参考訳): 我々はOjaのアルゴリズムによるストリーミングPCAにおける2つのオープンな疑問に対処する: ガウス以下のデータの下での一般ランクに対するシャープな作用素-ノルム収束と、結果として生じる部分空間推定器の分布推定である。
既存の収束解析は、ランク1の場合でさえ、有界データを仮定するか、多項式的に消滅する尾スペクトルへの適応を阻止する非消滅余項を残し、既存の分布結果はランク1の場合に限定される。
我々の収束理論は、これらの残りの項を取り除き、鋭い速度をもたらす。
高密度テールスパイク共分散系では、この速度は対数因子までのミニマックス速度と一致する。
より一般的には、緩やかな非退化条件下で、高密度の尾とスパーステールの配座にまたがる対数的要因まで、一致した下界を証明している。
この解析により Oja のイテレートの線形化が得られ、これにより一般ランク部分空間推定誤差に対する高次元ガウス近似が明示的な制限共分散で可能である。
また、整合差分に対する凸集合上の行ワイドガウス近似を確立し、特殊ケースとして先行ランク1の結果を復元する。
実際の推論のために,オンライン乗算器ブートストラップアルゴリズムを開発し,その一貫性を証明した。
本手法は,ストリーミングPCA以外にも,非凸確率近似に対するガウス近似とブートストラップ推定に寄与する。
関連論文リスト
- Gaussian Approximation and Multiplier Bootstrap for Federated Linear Stochastic Approximation [25.919837824259474]
我々は、連合線形近似(LSA)のためのベリー-エッセイン型境界を確立する。
結果は、通信計算のトレードオフと不均一性を考慮したエラー項を明示的にキャプチャする LSA に対する最初の連合ガウス近似を提供する。
その結果, (i) ステップサイズが一定であること, (ii) ステップサイズが小さくなったこと, (ii) 局所的な反復が増加し, ボナージーら(2025) の最近の速度が回復した。
論文 参考訳(メタデータ) (2026-05-19T10:08:01Z) - Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
基本的で長期にわたる課題は、その効率的な近似である。
一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。
本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
論文 参考訳(メタデータ) (2026-04-09T16:38:14Z) - Variational Approximated Restricted Maximum Likelihood Estimation for Spatial Data [0.0]
本研究では,ガウス固有条件付き自己回帰(ICAR)構造を用いてモデル化した空間データに対するスケーラブルな推論について考察する。
本稿では,ガウス変分分布を用いて抽出可能な限界確率を近似する変動制限最大度(VREML)フレームワークを提案する。
制限された可能性に基づいてエビデンスローバウンド(ELBO)を構築することにより、空間ランダム効果と分散成分を共同で推定する計算効率の良い座標平均アルゴリズムを導出する。
論文 参考訳(メタデータ) (2026-04-08T22:31:30Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Laplace Matching for fast Approximate Inference in Generalized Linear
Models [27.70274403550477]
本論文では,高い近似品質を実現しつつ,計算的に安価に設計した近似推論フレームワークを提案する。
我々が emphLaplace Matching と呼ぶこの概念は、指数群のパラメータ空間間の閉形式、近似、双方向変換を含む。
これにより、GLMにおける推論を(小さな近似誤差で)共役推論に変換する。
論文 参考訳(メタデータ) (2021-05-07T08:25:17Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z) - Spectral convergence of diffusion maps: improved error bounds and an
alternative normalisation [0.6091702876917281]
本稿では,分布がハイパートーラス上でサポートされているモデルの場合の誤差境界を改善するために,新しい手法を用いる。
我々は、スペクトルデータと演算子離散化のノルム収束の両方に対して、長年のポイントワイズ誤差境界と一致する。
また、シンクホーン重みに基づく拡散写像の別の正規化も導入する。
論文 参考訳(メタデータ) (2020-06-03T04:23:43Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳(メタデータ) (2020-04-09T17:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。