論文の概要: Stochastic Modified Flows for Riemannian Stochastic Gradient Descent

• arxiv url: http://arxiv.org/abs/2402.03467v1
• Date: Fri, 2 Feb 2024 14:29:38 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-07 18:12:13.415430
• Title: Stochastic Modified Flows for Riemannian Stochastic Gradient Descent
• Title（参考訳）: リーマン確率勾配の時効に対する確率修正流
• Authors: Benjamin Gess, Sebastian Kassing, Nimit Rana
• Abstract要約: RSGD は無限次元ウィナー過程によって駆動される RSMF の解によって近似できることを示す。 RSGDはリトラクションマップの概念、すなわち指数写像のコスト効率の良い近似を用いて構築されている。 リトラクション写像、多様体の幾何、勾配のランダムな推定子の仮定の下で拡散近似の弱い誤差について定量的な境界を証明した。
• 参考スコア（独自算出の注目度）: 0.6445605125467574
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We give quantitative estimates for the rate of convergence of Riemannian stochastic gradient descent (RSGD) to Riemannian gradient flow and to a diffusion process, the so-called Riemannian stochastic modified flow (RSMF). Using tools from stochastic differential geometry we show that, in the small learning rate regime, RSGD can be approximated by the solution to the RSMF driven by an infinite-dimensional Wiener process. The RSMF accounts for the random fluctuations of RSGD and, thereby, increases the order of approximation compared to the deterministic Riemannian gradient flow. The RSGD is build using the concept of a retraction map, that is, a cost efficient approximation of the exponential map, and we prove quantitative bounds for the weak error of the diffusion approximation under assumptions on the retraction map, the geometry of the manifold, and the random estimators of the gradient.
• Abstract（参考訳）: リーマン確率勾配流(RSGD)のリーマン勾配流への収束率と拡散過程、いわゆるリーマン確率勾配流(RSMF)の収束率を定量的に推定する。 確率微分幾何学のツールを用いて、RSGD は無限次元ウィナー過程によって駆動される RSMF の解によって近似できることを示す。 RSMFはRSGDのランダムなゆらぎを考慮し、したがって決定論的リーマン勾配流と比較して近似の順序を増大させる。 rsgd は指数写像のコスト効率のよい近似であるretraction map の概念を用いて構築されており、retraction map 上の仮定、多様体の幾何学、勾配のランダムな推定子に対する拡散近似の弱い誤差の量的境界を証明している。

関連論文リスト

• On the Computation of the Gaussian Rate-Distortion-Perception Function [10.564071872770146]
  平均二乗誤差(MSE)歪み下における多変量ガウス音源に対するレート歪み知覚関数(RDPF)の計算について検討した。 我々は、関連するアルゴリズムの実現、および収束と収束のキャラクタリゼーションの速度を提供する。 計算結果を数値シミュレーションで相関させ,既存の結果に関連付ける。
  論文  参考訳（メタデータ） (2023-11-15T18:34:03Z)
• Moreau Envelope ADMM for Decentralized Weakly Convex Optimization [55.2289666758254]
  本稿では,分散最適化のための乗算器の交互方向法(ADMM)の近位変種を提案する。 数値実験の結果,本手法は広く用いられている手法よりも高速かつ堅牢であることが示された。
  論文  参考訳（メタデータ） (2023-08-31T14:16:30Z)
• Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
  本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。 我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Riemannian Laplace approximations for Bayesian neural networks [3.6990978741464904]
  本稿では, 後円部形状に適応する簡易なパラメトリック近似後円板を提案する。 提案手法は従来のタスク間のラプラス近似よりも一貫して改善されていることを示す。
  論文  参考訳（メタデータ） (2023-06-12T14:44:22Z)
• Stochastic Modified Flows, Mean-Field Limits and Dynamics of Stochastic Gradient Descent [1.2031796234206138]
  そこで我々は,修正フローと呼ばれる小学習率体系における勾配降下に対する新しい制限ダイナミクスを提案する。 これらのSDEは円筒状ブラウン運動によって駆動され、正規拡散係数を持ち、多点統計値に一致することによって、いわゆる修正方程式を改善する。
  論文  参考訳（メタデータ） (2023-02-14T15:33:59Z)
• Mean-field Variational Inference via Wasserstein Gradient Flow [8.05603983337769]
  平均場(MF)近似のような変分推論は、効率的な計算のためにある種の共役構造を必要とする。 We introduced a general computer framework to implement MFal inference for Bayesian model with or without latent variables, using the Wasserstein gradient flow (WGF)。 本稿では,ニューラルネットワークを用いた制約のない関数近似手法を提案する。
  論文  参考訳（メタデータ） (2022-07-17T04:05:32Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Moment evolution equations and moment matching for stochastic image EPDiff [68.97335984455059]
  画像変形モデルにより、画像領域を変形させることにより、時間連続的な画像変換の研究が可能になる。 応用例としては、人口傾向とランダムな被写体特定変異の両方を用いた医療画像分析がある。 パラメータフルモデルにおける統計的推測のための推定器を構築するために、対応する伊藤拡散のモーメント近似を用いる。
  論文  参考訳（メタデータ） (2021-10-07T11:08:11Z)
• A diffusion-map-based algorithm for gradient computation on manifolds and applications [0.0]
  ユークリッド空間におけるリーマン部分多様体の内部点上で定義される与えられた函数の勾配を回復する。 このアプローチは拡散写像理論において提案されたラプラス・ベルトラミ作用素の推定に基づいている。
  論文  参考訳（メタデータ） (2021-08-16T09:35:22Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。