論文の概要: Online Covariance Estimation for Averaged Stochastic Gradient Descent on Riemannian Manifolds
- arxiv url: http://arxiv.org/abs/2610.33419v1
- Date: Sat, 24 Oct 2026 03:28:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.32448
- Title: Online Covariance Estimation for Averaged Stochastic Gradient Descent on Riemannian Manifolds
- Title(参考訳): リーマン多様体上の平均確率勾配のオンライン共分散推定
- Abstract要約: 多様体上の平均リーマン勾配勾配(RSGD)に対するオンライン推論について検討する。
逐次バッチからの情報を適応的に結合する重なり合いと非重なり合いの共分散推定器を構築する。
正規性とともに、これらの推定子は多様体上のRSGDのオンライン統計的推測を可能にする。
- 参考スコア(独自算出の注目度): 16.18054202896434
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study online inference for averaged Riemannian stochastic gradient descent (RSGD) when the unknown parameter lies on a manifold. Although the averaged RSGD iterate is asymptotically normal, practical inference requires estimating the unknown covariance operator in its limiting distribution. Existing online batch-means methods cannot be applied directly because a general Riemannian manifold lacks an addition operation, and the tangent space containing the Riemannian gradient varies across iterations. Through vector transport, we construct overlapping and non-overlapping covariance estimators that adaptively combine information from successive batches while accounting for the changing tangent spaces. The proposed estimators are online, require neither Riemannian Hessian computations nor a prespecified terminal sample size, and attain the same convergence rates as their Euclidean counterparts (Zhu et al., 2023). Together with asymptotic normality, these estimators enable online statistical inference for RSGD on manifolds. We illustrate the proposed framework through a detailed study of streaming principal component analysis on Grassmann manifolds.
- Abstract(参考訳): 未知パラメータが多様体上にある場合、平均リーマン確率勾配勾配(RSGD)に対するオンライン推論について検討する。
平均化されたRSGDイテレートは漸近的に正規であるが、実際的な推論では、その極限分布において未知の共分散作用素を推定する必要がある。
既存のオンラインバッチ平均法は、一般リーマン多様体が加法演算を欠いているため、直接適用できない。
ベクトル輸送により、変化する接空間を考慮しつつ、連続するバッチからの情報を適応的に結合する重なり合いと非重なり合う共分散推定器を構築する。
提案された推定子はオンラインであり、リーマン・ヘッセンの計算も端末のサンプルサイズも必要とせず、ユークリッドの計算値と同じ収束率(Zhu et al , 2023)が得られる。
漸近正規性と共に、これらの推定子は多様体上のRSGDのオンライン統計的推測を可能にする。
提案手法はグラスマン多様体上のストリーミング主成分分析の詳細な研究を通して説明する。
関連論文リスト
- Riemannian Simultaneous Inference for Tangent Vector Field Regression [4.439342266417551]
リーマン多様体上の非パラメトリック接ベクトル場回帰を考える。
異なる点の応答は異なる空間にあるため、提案されたカーネル推定器はまず、近くの応答をターゲット接空間へ輸送する。
まず、その一様二階偏差、有限帯域共分散、体積補正率を導出する。
地球風データの再構築は、チューブの断面が空間的に異なる不確実性をどのように表現しているかを示している。
論文 参考訳(メタデータ) (2026-09-18T15:34:52Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Stochastic Modified Flows for Riemannian Stochastic Gradient Descent [0.5735035463793009]
RSGD は無限次元ウィナー過程によって駆動される RSMF の解によって近似できることを示す。
RSGDはリトラクションマップの概念、すなわち指数写像のコスト効率の良い近似を用いて構築されている。
リトラクション写像、多様体の幾何、勾配のランダムな推定子の仮定の下で拡散近似の弱い誤差について定量的な境界を証明した。
論文 参考訳(メタデータ) (2024-02-02T14:29:38Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。