論文の概要: Compressive Phase Retrieval: Optimal Sample Complexity with Deep
Generative Priors
- arxiv url: http://arxiv.org/abs/2008.10579v1
- Date: Mon, 24 Aug 2020 17:40:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-25 12:53:58.588519
- Title: Compressive Phase Retrieval: Optimal Sample Complexity with Deep
Generative Priors
- Title(参考訳): 圧縮相検索:深部生成前処理を用いた最適サンプル複雑性
- Authors: Paul Hand, Oscar Leong, Vladislav Voroninski
- Abstract要約: 提案手法は, 抽出可能なアルゴリズムにより, 難解な逆問題において, 最適なサンプルの複雑性を許容することで, 基本的進歩につながることを示す。
これらの結果は、様々な状況下での信号回復のための新しいパラダイムとして、生成前処理のサポートを提供する。
- 参考スコア(独自算出の注目度): 12.989855325491163
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Advances in compressive sensing provided reconstruction algorithms of sparse
signals from linear measurements with optimal sample complexity, but natural
extensions of this methodology to nonlinear inverse problems have been met with
potentially fundamental sample complexity bottlenecks. In particular, tractable
algorithms for compressive phase retrieval with sparsity priors have not been
able to achieve optimal sample complexity. This has created an open problem in
compressive phase retrieval: under generic, phaseless linear measurements, are
there tractable reconstruction algorithms that succeed with optimal sample
complexity? Meanwhile, progress in machine learning has led to the development
of new data-driven signal priors in the form of generative models, which can
outperform sparsity priors with significantly fewer measurements. In this work,
we resolve the open problem in compressive phase retrieval and demonstrate that
generative priors can lead to a fundamental advance by permitting optimal
sample complexity by a tractable algorithm in this challenging nonlinear
inverse problem. We additionally provide empirics showing that exploiting
generative priors in phase retrieval can significantly outperform sparsity
priors. These results provide support for generative priors as a new paradigm
for signal recovery in a variety of contexts, both empirically and
theoretically. The strengths of this paradigm are that (1) generative priors
can represent some classes of natural signals more concisely than sparsity
priors, (2) generative priors allow for direct optimization over the natural
signal manifold, which is intractable under sparsity priors, and (3) the
resulting non-convex optimization problems with generative priors can admit
benign optimization landscapes at optimal sample complexity, perhaps
surprisingly, even in cases of nonlinear measurements.
- Abstract(参考訳): 圧縮センシングの進歩は、最適なサンプル複雑性を持つ線形測定からスパース信号の再構成アルゴリズムを提供したが、この手法の非線形逆問題への自然な拡張は、潜在的に基本的なサンプル複雑性ボトルネックで満たされている。
特にsparsity priorsを用いた圧縮位相検索のための扱いやすいアルゴリズムは,最適なサンプル複雑性を達成することができなかった。
これは圧縮位相検索においてオープンな問題を生み出した: 汎用的で位相のない線形測定の下で、最適なサンプル複雑性で成功する抽出可能な再構成アルゴリズムはあるか?
一方、機械学習の進歩により、生成モデルという形で新しいデータ駆動信号の先行が開発された。
本研究では, 圧縮位相探索における開問題を解き, この難解な非線形逆問題において, トラクタブルアルゴリズムによる最適なサンプル複雑性を許容することにより, 生成先行が根本的な進歩をもたらすことを示す。
さらに, 相検索における生成前処理の活用がスパーシティ前処理を著しく上回ることを示す経験例も提供する。
これらの結果は、経験的および理論的に、様々な文脈における信号回復の新しいパラダイムとして生成前処理をサポートする。
このパラダイムの強みは、(1)生成前駆体はスパーシティ前駆体よりも簡潔に自然信号のクラスを表現できる、(2)生成前駆体はスパーシティ前駆体では難解な自然信号多様体上で直接最適化できる、(3)生成前駆体を持つ非凸最適化問題は最適なサンプル複雑性において良質な最適化ランドスケープを許容できる、というものである。
関連論文リスト
- Unrolled denoising networks provably learn optimal Bayesian inference [54.79172096306631]
我々は、近似メッセージパッシング(AMP)のアンロールに基づくニューラルネットワークの最初の厳密な学習保証を証明した。
圧縮センシングでは、製品から引き出されたデータに基づいてトレーニングを行うと、ネットワークの層がベイズAMPで使用されるのと同じデノイザーに収束することを示す。
論文 参考訳(メタデータ) (2024-09-19T17:56:16Z) - A Sample Efficient Alternating Minimization-based Algorithm For Robust Phase Retrieval [56.67706781191521]
そこで本研究では,未知の信号の復元を課題とする,ロバストな位相探索問題を提案する。
提案するオラクルは、単純な勾配ステップと外れ値を用いて、計算学的スペクトル降下を回避している。
論文 参考訳(メタデータ) (2024-09-07T06:37:23Z) - Accelerating evolutionary exploration through language model-based transfer learning [7.4439048149751095]
本稿では,伝達学習と遺伝子発現プログラミングを統合する手法を提案する。
このフレームワークは自然言語処理技術を統合し、過去の最適化で探索された方程式から相関や繰り返しパターンを識別する。
本結果は,移動学習機構によって導出された初期解が,改良された解に対するアルゴリズムの収束率を高めることを裏付けるものである。
論文 参考訳(メタデータ) (2024-06-07T08:05:52Z) - Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。
特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文 参考訳(メタデータ) (2023-02-13T19:57:17Z) - Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。
これらの問題に対する新規で簡単な最適化法を開発した。
結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-09-23T17:38:24Z) - Towards Sample-Optimal Compressive Phase Retrieval with Sparse and
Generative Priors [59.33977545294148]
O(k log L)$サンプルは振幅に基づく経験損失関数を最小化する任意のベクトルに信号が近いことを保証するのに十分であることを示す。
この結果はスパース位相検索に適応し、基底信号が$s$-sparseおよび$n$-dimensionalである場合、$O(s log n)$サンプルは同様の保証に十分であることを示す。
論文 参考訳(メタデータ) (2021-06-29T12:49:54Z) - Investigating the Scalability and Biological Plausibility of the
Activation Relaxation Algorithm [62.997667081978825]
アクティベーション・リラクシエーション(AR)アルゴリズムは、誤りアルゴリズムのバックプロパゲーションを近似するためのシンプルでロバストなアプローチを提供する。
このアルゴリズムは、学習可能な後方重みセットを導入することにより、さらに単純化され、生物学的に検証可能であることを示す。
また、元のARアルゴリズム(凍結フィードフォワードパス)の別の生物学的に信じられない仮定が、パフォーマンスを損なうことなく緩和できるかどうかについても検討する。
論文 参考訳(メタデータ) (2020-10-13T08:02:38Z) - DeepInit Phase Retrieval [10.385009647156407]
本稿では,データ深層生成モデルを用いて位相探索問題の解法を提案する。
我々のハイブリッドアプローチは,低サンプリングレートで非常に高い再構成結果が得られることを示す。
論文 参考訳(メタデータ) (2020-07-16T09:39:28Z) - Nonasymptotic Guarantees for Spiked Matrix Recovery with Generative
Priors [12.798687476698063]
そこで本研究では,低ランク成分が訓練された生成ネットワークの範囲内にある場合について検討する。
非線形最小二乗の目的に対して好適な大域的最適化の展望を確立する。
この結果から、生成前兆は構造化されたランク1行列回復のための計算と統計のギャップを持たないことが示唆された。
論文 参考訳(メタデータ) (2020-06-14T16:46:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。