論文の概要: Mirrorless Mirror Descent: A Natural Derivation of Mirror Descent
- arxiv url: http://arxiv.org/abs/2004.01025v3
- Date: Fri, 2 Jul 2021 00:33:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-17 09:54:20.568275
- Title: Mirrorless Mirror Descent: A Natural Derivation of Mirror Descent
- Title(参考訳): 鏡のない鏡の輝き:鏡の輝きの自然な派生
- Authors: Suriya Gunasekar, Blake Woodworth, Nathan Srebro
- Abstract要約: ここでは、計量テンソルがミラー Descent ポテンシャルのヘシアンであるミラー Descent の原始的のみを導出する。
我々は、この離散化を「完全な」前方離散化によって得られる自然グラディエントDescentと対比する。
- 参考スコア(独自算出の注目度): 29.502762393574702
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: We present a primal only derivation of Mirror Descent as a "partial"
discretization of gradient flow on a Riemannian manifold where the metric
tensor is the Hessian of the Mirror Descent potential. We contrast this
discretization to Natural Gradient Descent, which is obtained by a "full"
forward Euler discretization. This view helps shed light on the relationship
between the methods and allows generalizing Mirror Descent to general
Riemannian geometries, even when the metric tensor is {\em not} a Hessian, and
thus there is no "dual."
- Abstract(参考訳): 我々は、ミラー降下ポテンシャルの原始的唯一の導出を、計量テンソルがミラー降下ポテンシャルのヘッシアンであるリーマン多様体上の勾配流れの「部分的」離散化として示す。
我々は、この離散化を「完全な」前方オイラー離散化によって得られる自然グラディエント Descent と対比する。
この見解は、この方法の関係性に光を当て、計量テンソルがヘッシアンであるにもかかわらず、一般リーマン幾何学へのミラー降下を一般化することを可能にし、従って「双対」は存在しない。
関連論文リスト
- MirrorGaussian: Reflecting 3D Gaussians for Reconstructing Mirror Reflections [58.003014868772254]
MirrorGaussian は 3D Gaussian Splatting に基づくリアルタイムレンダリングによるミラーシーン再構築手法である。
本稿では,現実の3Dガウスと鏡面の両面の微分を可能にする直感的なデュアルレンダリング戦略を提案する。
我々の手法は既存の手法よりも優れており、最先端の結果が得られている。
論文 参考訳(メタデータ) (2024-05-20T09:58:03Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Implicit Bias of Gradient Descent on Reparametrized Models: On
Equivalence to Mirror Descent [64.26008239544085]
通勤パラメトリゼーションのある勾配流は、関連するレジェンド関数を持つ連続ミラー降下と等価である。
ルジャンドル関数を持つ連続ミラー降下は、関連する通勤パラメトリゼーションを伴う勾配流と見なすことができる。
論文 参考訳(メタデータ) (2022-07-08T17:47:11Z) - Mirror Descent with Relative Smoothness in Measure Spaces, with
application to Sinkhorn and EM [11.007661197604065]
本稿では,無限次元環境下でのミラー降下アルゴリズムの収束性について検討する。
結果が結合分布とクルバック-リーブラー分岐に適用され、シンクホーンの最適輸送に対する原始的な反復がミラー降下に対応することを示す。
論文 参考訳(メタデータ) (2022-06-17T16:19:47Z) - Implicit Regularization in Matrix Sensing via Mirror Descent [29.206451882562867]
本研究では,行列検出における非正規化経験的リスクに対する離散時間ミラー降下法について検討した。
フルランク分解パラメトリゼーションによる勾配降下はミラー降下の1次近似であることを示す。
論文 参考訳(メタデータ) (2021-05-28T13:46:47Z) - Nearly Minimax-Optimal Rates for Noisy Sparse Phase Retrieval via
Early-Stopped Mirror Descent [29.206451882562867]
本稿では,雑音の位相探索に応用した早期停止ミラー降下法について検討する。
単純なアルゴリズムは、スパーシティを促進するために明示的な正規化やしきい値ステップに依存しない。
論文 参考訳(メタデータ) (2021-05-08T11:22:19Z) - A Continuous-Time Mirror Descent Approach to Sparse Phase Retrieval [24.17778927729799]
スパース位相探索に適用した連続時間ミラーを解析する。
これは、測定のみの集合からスパース信号を復元する問題である。
この問題に対して収束解析アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-10-20T10:03:44Z) - Disentangling by Subspace Diffusion [72.1895236605335]
データ多様体の完全教師なし分解は、多様体の真の計量が知られている場合、可能であることを示す。
我々の研究は、教師なしメートル法学習が可能であるかどうかという問題を減らし、表現学習の幾何学的性質に関する統一的な洞察を提供する。
論文 参考訳(メタデータ) (2020-06-23T13:33:19Z) - Quantum Geometric Confinement and Dynamical Transmission in Grushin
Cylinder [68.8204255655161]
無限円筒上で最小に定義されたラプラス・ベルトラミ作用素の自己随伴実現を分類する。
我々は、最近文献で確認された、最も精細で最も透過性の高い拡張を検索する。
論文 参考訳(メタデータ) (2020-03-16T11:37:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。