論文の概要: A Continuous-Time Mirror Descent Approach to Sparse Phase Retrieval
- arxiv url: http://arxiv.org/abs/2010.10168v1
- Date: Tue, 20 Oct 2020 10:03:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-05 06:20:04.947207
- Title: A Continuous-Time Mirror Descent Approach to Sparse Phase Retrieval
- Title(参考訳): スパース位相検索に対する連続時間ミラー降下法
- Authors: Fan Wu and Patrick Rebeschini
- Abstract要約: スパース位相探索に適用した連続時間ミラーを解析する。
これは、測定のみの集合からスパース信号を復元する問題である。
この問題に対して収束解析アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 24.17778927729799
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze continuous-time mirror descent applied to sparse phase retrieval,
which is the problem of recovering sparse signals from a set of magnitude-only
measurements. We apply mirror descent to the unconstrained empirical risk
minimization problem (batch setting), using the square loss and square
measurements. We provide a convergence analysis of the algorithm in this
non-convex setting and prove that, with the hypentropy mirror map, mirror
descent recovers any $k$-sparse vector $\mathbf{x}^\star\in\mathbb{R}^n$ with
minimum (in modulus) non-zero entry on the order of $\| \mathbf{x}^\star
\|_2/\sqrt{k}$ from $k^2$ Gaussian measurements, modulo logarithmic terms. This
yields a simple algorithm which, unlike most existing approaches to sparse
phase retrieval, adapts to the sparsity level, without including thresholding
steps or adding regularization terms. Our results also provide a principled
theoretical understanding for Hadamard Wirtinger flow [58], as Euclidean
gradient descent applied to the empirical risk problem with Hadamard
parametrization can be recovered as a first-order approximation to mirror
descent in discrete time.
- Abstract(参考訳): 本研究では, スパース位相探索に適用した連続時間ミラー降下の解析を行い, 粒度のみの測定値からスパース信号を復元する問題である。
非拘束経験的リスク最小化問題(バッチ設定)にミラー降下を適用し,正方形損失と正方形測定を用いた。
この非凸設定におけるアルゴリズムの収束解析を行い、ハイプントロピーミラーマップを用いて、ミラー降下は$k^2$ガウス測定値から$\| \mathbf{x}^\star\in\mathbb{r}^n$ の順に最小(モジュラス内)非零エントリで任意の$k$-スパースベクトル$\mathbf{x}^\star\in\mathbb{r}^n$を回復することを証明する。
このアルゴリズムは、スパース位相検索の既存のアプローチとは異なり、しきい値のステップや正規化項を追加することなく、スパースレベルに適応する単純なアルゴリズムである。
また,アダマールのパラメトリゼーションによる経験的リスク問題に適用されたユークリッド勾配勾配は,離散時間でミラー降下の1次近似として回収できるため,ハダマール・ワイルティンガー流 [58] の理論的理解も可能である。
関連論文リスト
- A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Stable Phase Retrieval with Mirror Descent [0.5312303275762104]
ミラー降下は位相探索問題の臨界点に収束することを示す。
我々は、高い確率でミラー降下が真のベクトルに近い大域最小化器に収束することを保証する大域収束保証を提供する。
論文 参考訳(メタデータ) (2024-05-17T13:07:14Z) - A Mean-Field Analysis of Neural Stochastic Gradient Descent-Ascent for Functional Minimax Optimization [90.87444114491116]
本稿では,超パラメトリック化された2層ニューラルネットワークの無限次元関数クラス上で定義される最小最適化問題について検討する。
i) 勾配降下指数アルゴリズムの収束と, (ii) ニューラルネットワークの表現学習に対処する。
その結果、ニューラルネットワークによって誘導される特徴表現は、ワッサーシュタイン距離で測定された$O(alpha-1)$で初期表現から逸脱することが許された。
論文 参考訳(メタデータ) (2024-04-18T16:46:08Z) - Provably Accelerating Ill-Conditioned Low-rank Estimation via Scaled
Gradient Descent, Even with Overparameterization [48.65416821017865]
この章では、スケールドグラデーション(ScaledGD)と呼ばれる新しいアルゴリズムアプローチを紹介します。
低ランク物体の条件数に依存しない定数速度で直線的に収束する。
様々なタスクに対して、勾配降下の低い摂動コストを維持できる。
論文 参考訳(メタデータ) (2023-10-09T21:16:57Z) - Provable Phase Retrieval with Mirror Descent [1.1662472705038338]
我々は,その挙動の程度から$n$-mの実ベクトルを復元する位相探索の問題を考察する。
2つの測定値について、n$の値が十分であれば、ほとんどすべての初期化子に対して高い確率で元のベクトルが符号まで回復することを示す。
論文 参考訳(メタデータ) (2022-10-17T16:40:02Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Towards Sample-Optimal Compressive Phase Retrieval with Sparse and
Generative Priors [59.33977545294148]
O(k log L)$サンプルは振幅に基づく経験損失関数を最小化する任意のベクトルに信号が近いことを保証するのに十分であることを示す。
この結果はスパース位相検索に適応し、基底信号が$s$-sparseおよび$n$-dimensionalである場合、$O(s log n)$サンプルは同様の保証に十分であることを示す。
論文 参考訳(メタデータ) (2021-06-29T12:49:54Z) - Nearly Minimax-Optimal Rates for Noisy Sparse Phase Retrieval via
Early-Stopped Mirror Descent [29.206451882562867]
本稿では,雑音の位相探索に応用した早期停止ミラー降下法について検討する。
単純なアルゴリズムは、スパーシティを促進するために明示的な正規化やしきい値ステップに依存しない。
論文 参考訳(メタデータ) (2021-05-08T11:22:19Z) - Learning Minimax Estimators via Online Learning [55.92459567732491]
確率分布のパラメータを推定するミニマックス推定器を設計する際の問題点を考察する。
混合ケースナッシュ平衡を求めるアルゴリズムを構築した。
論文 参考訳(メタデータ) (2020-06-19T22:49:42Z) - The Statistical Complexity of Early-Stopped Mirror Descent [27.393821783237186]
早期停止ミラー降下アルゴリズムにより達成される過剰リスクの統計的保証について検討する。
正方形損失の凸性を特徴づける不等式を完遂することにより、オフセットラデマッハ複素数とミラー降下法のポテンシャルベース収束解析との内在的リンクを同定する。
論文 参考訳(メタデータ) (2020-02-01T11:05:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。