論文の概要: From the Greene--Wu Convolution to Gradient Estimation over Riemannian
Manifolds
- arxiv url: http://arxiv.org/abs/2108.07406v1
- Date: Tue, 17 Aug 2021 02:16:15 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-18 13:05:30.502284
- Title: From the Greene--Wu Convolution to Gradient Estimation over Riemannian
Manifolds
- Title(参考訳): Greene-Wu畳み込みからリーマン多様体上の勾配推定へ
- Authors: Tianyu Wang, Yifeng Huang and Didong Li
- Abstract要約: グリーンとウーは、GW(Greene-Wu)畳み込みと呼ばれる畳み込みを導入した。
本稿では,GWコンボリューションの再構築について紹介する。
また, 新たな改定法により, 勾配推定法の改善ももたらした。
- 参考スコア(独自算出の注目度): 9.173528450234906
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Over a complete Riemannian manifold of finite dimension, Greene and Wu
introduced a convolution, known as Greene-Wu (GW) convolution. In this paper,
we introduce a reformulation of the GW convolution. Using our reformulation,
many properties of the GW convolution can be easily derived, including a new
formula for how the curvature of the space would affect the curvature of the
function through the GW convolution. Also enabled by our new reformulation, an
improved method for gradient estimation over Riemannian manifolds is
introduced. Theoretically, our gradient estimation method improves the order of
estimation error from $O \left( \left( n + 3 \right)^{3/2} \right)$ to $O
\left( n^{3/2} \right)$, where $n$ is the dimension of the manifold.
Empirically, our method outperforms the best existing method for gradient
estimation over Riemannian manifolds, as evidenced by thorough experimental
evaluations.
- Abstract(参考訳): 有限次元の完備リーマン多様体上で、グリーンとウーはGW畳み込みと呼ばれる畳み込みを導入した。
本稿では,GWコンボリューションの再構築について紹介する。
我々の再構成を用いて、空間の曲率がGW畳み込みによる関数の曲率にどのように影響するかの新しい公式を含む、GW畳み込みの多くの特性を容易に導き出すことができる。
また, 新たな再構成法により, リーマン多様体上の勾配推定法を改良した。
理論的には、勾配推定法は、推定誤差の順序を$o \left( \left(n + 3 \right)^{3/2} \right)$から$o \left(n^{3/2} \right)$に改善し、ここで$n$は多様体の次元である。
実験的に、この手法はリーマン多様体上での勾配推定の最良の方法よりも優れており、徹底的な実験的評価によって証明されている。
関連論文リスト
- Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。
本稿では,直感的に設計を記述し,設計選択について説明する。
本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文 参考訳(メタデータ) (2023-10-31T16:15:13Z) - Extragradient Type Methods for Riemannian Variational Inequality Problems [25.574847201669144]
我々は、REG と RPEG の両者の平均収束度が、2020 年の場合と一致する$Oleft(frac1Tright)$であることを示す。
結果はホロノミー効果の偏見に対処することで可能となり、さらなる観測を減らせることができる。
論文 参考訳(メタデータ) (2023-09-25T14:08:02Z) - Decentralized Riemannian Conjugate Gradient Method on the Stiefel
Manifold [59.73080197971106]
本稿では,最急降下法よりも高速に収束する一階共役最適化法を提案する。
これはスティーフェル多様体上の大域収束を達成することを目的としている。
論文 参考訳(メタデータ) (2023-08-21T08:02:16Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Riemannian accelerated gradient methods via extrapolation [40.23168342389821]
本稿では,勾配降下法から反復が生成された場合,加速されたスキームが最適収束率を比例的に達成することを示す。
本実験は, 新規加速戦略の実用的メリットを検証した。
論文 参考訳(メタデータ) (2022-08-13T10:31:09Z) - A Riemannian Accelerated Proximal Extragradient Framework and its
Implications [52.31775617527208]
高速ユークリッド法を得るための強力なフレームワークである citetmonteiro2013accelerated の EmphAccelerated Hybrid Proximal Extragradient (A-HPE) 法を再検討する。
論文 参考訳(メタデータ) (2021-11-04T11:32:20Z) - Projective Manifold Gradient Layer for Deep Rotation Regression [49.85464297105456]
ディープニューラルネットワークを用いたSO(3)多様体上の回帰回転は重要な問題であるが未解決である。
ネットワーク重みに直接逆伝搬する多様体対応勾配を提案する。
論文 参考訳(メタデータ) (2021-10-22T08:34:15Z) - A diffusion-map-based algorithm for gradient computation on manifolds
and applications [0.0]
ユークリッド空間におけるリーマン部分多様体の内部点上で定義される与えられた函数の勾配を回復する。
このアプローチは拡散写像理論において提案されたラプラス・ベルトラミ作用素の推定に基づいている。
論文 参考訳(メタデータ) (2021-08-16T09:35:22Z) - On the Convergence of Gradient Descent in GANs: MMD GAN As a Gradient
Flow [26.725412498545385]
パラメトリックカーネル化勾配流は、勾配正規化$mathrmMMD$GANにおけるmin-maxゲームに類似していることを示す。
次に、正規化$mathrmMMD$GANにおける生成元の空間上の勾配降下が、対象分布に大域的に収束することを保証する明示的な条件を導出する。
論文 参考訳(メタデータ) (2020-11-04T16:55:00Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。