論文の概要: Scalable Plug-and-Play ADMM with Convergence Guarantees
- arxiv url: http://arxiv.org/abs/2006.03224v2
- Date: Fri, 22 Jan 2021 14:42:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-25 03:27:05.392544
- Title: Scalable Plug-and-Play ADMM with Convergence Guarantees
- Title(参考訳): 収束保証付きスケーラブルなプラグイン・アンド・プレイADMM
- Authors: Yu Sun, Zihui Wu, Xiaojian Xu, Brendt Wohlberg, and Ulugbek S. Kamilov
- Abstract要約: 広範に使われている変種を漸進的に提案する。
ADMMアルゴリズムにより、大規模データセットにスケーラブルになる。
理論的には,集合的明示的な仮定の下で収束アルゴリズムを解析する。
- 参考スコア(独自算出の注目度): 24.957046830965822
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Plug-and-play priors (PnP) is a broadly applicable methodology for solving
inverse problems by exploiting statistical priors specified as denoisers.
Recent work has reported the state-of-the-art performance of PnP algorithms
using pre-trained deep neural nets as denoisers in a number of imaging
applications. However, current PnP algorithms are impractical in large-scale
settings due to their heavy computational and memory requirements. This work
addresses this issue by proposing an incremental variant of the widely used
PnP-ADMM algorithm, making it scalable to large-scale datasets. We
theoretically analyze the convergence of the algorithm under a set of explicit
assumptions, extending recent theoretical results in the area. Additionally, we
show the effectiveness of our algorithm with nonsmooth data-fidelity terms and
deep neural net priors, its fast convergence compared to existing PnP
algorithms, and its scalability in terms of speed and memory.
- Abstract(参考訳): プラグ・アンド・プレイ・プリエント(pnp)は、デノイザーとして指定された統計的プリエントを活用し、逆問題を解くための広く適用可能な手法である。
最近の研究は、プリトレーニングされたディープニューラルネットワークをデノイザとして、多くのイメージングアプリケーションでpnpアルゴリズムの最先端のパフォーマンスを報告している。
しかし、現在のPnPアルゴリズムは計算とメモリの重い要求のため、大規模な設定では実用的ではない。
この研究は、広く使われているPnP-ADMMアルゴリズムの漸進的な変形を提案し、大規模データセットにスケーラブルにすることでこの問題に対処する。
本研究では,アルゴリズムの収束を明示的な仮定の下で理論的に解析し,その領域における最近の理論結果を拡張した。
さらに,本手法の有効性を示すために,データ忠実性に乏しい用語とディープニューラルネットワークの優先度,既存のpnpアルゴリズムと比較して高速収束性,速度とメモリのスケーラビリティについて述べる。
関連論文リスト
- Fast, Scalable, Warm-Start Semidefinite Programming with Spectral
Bundling and Sketching [53.91395791840179]
我々は、大規模なSDPを解くための、証明可能な正確で高速でスケーラブルなアルゴリズムであるUnified Spectral Bundling with Sketching (USBS)を提案する。
USBSは、20億以上の決定変数を持つインスタンス上で、最先端のスケーラブルなSDP解決器よりも500倍のスピードアップを提供する。
論文 参考訳(メタデータ) (2023-12-19T02:27:22Z) - PNN: From proximal algorithms to robust unfolded image denoising
networks and Plug-and-Play methods [7.317910352447519]
本稿では,二元FBと二元Chambolle-Pockアルゴリズムの両方に基づいて,ガウス分母タスクのためのPNNを統一的に構築するフレームワークを提案する。
また、これらのアルゴリズムの高速化により、関連するNN層におけるスキップ接続が可能であることを示す。
論文 参考訳(メタデータ) (2023-08-06T15:32:16Z) - A relaxed proximal gradient descent algorithm for convergent
plug-and-play with proximal denoiser [6.2484576862659065]
本稿では,新しいコンバーゼントなPlug-and-fidelity Descent (Play)アルゴリズムを提案する。
このアルゴリズムは、より広い範囲の通常の凸化パラメータに収束し、画像のより正確な復元を可能にする。
論文 参考訳(メタデータ) (2023-01-31T16:11:47Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Regret Bounds for Expected Improvement Algorithms in Gaussian Process
Bandit Optimization [63.8557841188626]
期待されている改善(EI)アルゴリズムは、不確実性の下で最適化するための最も一般的な戦略の1つである。
本稿では,GP予測平均を通した標準既存値を持つEIの変種を提案する。
我々のアルゴリズムは収束し、$mathcal O(gamma_TsqrtT)$の累積後悔境界を達成することを示す。
論文 参考訳(メタデータ) (2022-03-15T13:17:53Z) - On Maximum-a-Posteriori estimation with Plug & Play priors and
stochastic gradient descent [13.168923974530307]
画像問題の解法は、通常、明示的なデータ可能性関数と、その解の明確な期待特性とを結合する。
明示的なモデリングから離れて、画像復調アルゴリズムによって定義された暗黙の先行値の使用について、いくつかの最近の研究が提案され、研究されている。
論文 参考訳(メタデータ) (2022-01-16T20:50:08Z) - Recovery Analysis for Plug-and-Play Priors using the Restricted
Eigenvalue Condition [48.08511796234349]
本稿では, プラグアンドプレイ先行(ノイズ)の理論的回復保証の確立方法と, RED法による正規化について述べる。
以上の結果から,事前学習したアーティファクト除去ネットワークを用いたモデルの方が,既存の最先端手法と比較して有意に優れた結果が得られることが示唆された。
論文 参考訳(メタデータ) (2021-06-07T14:45:38Z) - Bayesian imaging using Plug & Play priors: when Langevin meets Tweedie [13.476505672245603]
本稿では,ベイズ推定を事前に行うための理論,方法,および証明可能な収束アルゴリズムを開発する。
モンテカルロサンプリングとMMSEに対する-ULA(Unadjusted Langevin)アルゴリズム推論と、推論のための定量的SGD(Stochastic Gradient Descent)の2つのアルゴリズムを紹介します。
このアルゴリズムは、点推定や不確実性の可視化や規則性に使用される画像のノイズ除去、インペインティング、ノイズ除去などのいくつかの問題で実証されています。
論文 参考訳(メタデータ) (2021-03-08T12:46:53Z) - TFPnP: Tuning-free Plug-and-Play Proximal Algorithm with Applications to
Inverse Imaging Problems [22.239477171296056]
Plug-and-Play (MM) は非最適化フレームワークであり、例えば、数値アルゴリズムと高度なデノゲーション前処理を組み合わせたものである。
我々は、学習戦略とともに最先端の成果である、より難解な問題に対するいくつかの実践的考察について論じる。
論文 参考訳(メタデータ) (2020-11-18T14:19:30Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。