論文の概要: Proximal denoiser for convergent plug-and-play optimization with
nonconvex regularization
- arxiv url: http://arxiv.org/abs/2201.13256v1
- Date: Mon, 31 Jan 2022 14:05:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-01 21:38:28.704322
- Title: Proximal denoiser for convergent plug-and-play optimization with
nonconvex regularization
- Title（参考訳）: 非凸正則化による収束プラグ・アンド・プレイ最適化のための近位デノイザー
- Authors: Samuel Hurault, Arthur Leclaire, Nicolas Papadakis
- Abstract要約: Plug-and-Play ()メソッドは、ニューラルネットワーク演算子をデノナイジング演算子に置き換えることで、アルゴリズムによって、近位姿勢の逆問題を解決する。
このデノイザが実際に勾配関数に対応していることが示される。
- 参考スコア（独自算出の注目度）: 7.0226402509856225
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Plug-and-Play (PnP) methods solve ill-posed inverse problems through
iterative proximal algorithms by replacing a proximal operator by a denoising
operation. When applied with deep neural network denoisers, these methods have
shown state-of-the-art visual performance for image restoration problems.
However, their theoretical convergence analysis is still incomplete. Most of
the existing convergence results consider nonexpansive denoisers, which is
non-realistic, or limit their analysis to strongly convex data-fidelity terms
in the inverse problem to solve. Recently, it was proposed to train the
denoiser as a gradient descent step on a functional parameterized by a deep
neural network. Using such a denoiser guarantees the convergence of the PnP
version of the Half-Quadratic-Splitting (PnP-HQS) iterative algorithm. In this
paper, we show that this gradient denoiser can actually correspond to the
proximal operator of another scalar function. Given this new result, we exploit
the convergence theory of proximal algorithms in the nonconvex setting to
obtain convergence results for PnP-PGD (Proximal Gradient Descent) and PnP-ADMM
(Alternating Direction Method of Multipliers). When built on top of a smooth
gradient denoiser, we show that PnP-PGD and PnP-ADMM are convergent and target
stationary points of an explicit functional. These convergence results are
confirmed with numerical experiments on deblurring, super-resolution and
inpainting.
- Abstract（参考訳）: プラグ・アンド・プレイ(pnp)法は、近位演算子を分母演算に置き換えることで、反復的近位アルゴリズムによって逆問題を解く。
深層ニューラルネットワークデノイザを用いた場合、これらの手法は画像復元問題に対する最先端の視覚性能を示す。
しかし、理論収束解析はまだ不完全である。
既存の収束結果の多くは非拡張的デノイザー(非実数的)を考慮し、その解析を逆問題におけるデータ忠実性項の強い凸化に限定する。
近年、ディープニューラルネットワークによってパラメータ化される機能上の勾配降下ステップとしてデノイザを訓練する手法が提案されている。
このようなデノイザを用いることで、半量子分割(PnP-HQS)反復アルゴリズムのPnPバージョンが収束することを保証する。
本稿では,この勾配分解器が別のスカラー関数の近位作用素と実際に対応可能であることを示す。
この結果から, PnP-PGD (Proximal Gradient Descent) と PnP-ADMM (Alternating Direction Method of Multipliers) の収束結果を得るために, 非凸設定における近位アルゴリズムの収束理論を利用する。
PnP-PGD と PnP-ADMM が収束し, 目標定常点が明示的関数であることを示す。
これらの収束結果はデブラリング, 超解像, インパインティングの数値実験により確認される。
関連論文リスト
- Adaptive Federated Learning Over the Air [108.62635460744109]
オーバー・ザ・エア・モデル・トレーニングの枠組みの中で,適応勾配法,特にAdaGradとAdamの連合バージョンを提案する。
解析の結果,AdaGrad に基づくトレーニングアルゴリズムは $mathcalO(ln(T) / T 1 - frac1alpha の速度で定常点に収束することがわかった。
論文 参考訳（メタデータ） (2024-03-11T09:10:37Z) - Convergent plug-and-play with proximal denoiser and unconstrained
regularization parameter [12.006511319607473]
本稿では,Plug-Play(PGD)アルゴリズムの収束性について述べる。
最近の研究は、証明(DRS)による収束を探求している。
まず、新しい収束証明を提供する。
正規化にいかなる制限も課さないDSS。
第2に、画像復元の精度を高めるPGDの緩和版について検討する。
論文 参考訳（メタデータ） (2023-11-02T13:18:39Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳（メタデータ） (2023-10-18T10:29:58Z) - Convergent Bregman Plug-and-Play Image Restoration for Poisson Inverse
Problems [8.673558396669806]
Plug-noise-and-Play (Play) 法は画像逆問題に対する効率的な反復アルゴリズムである。
2つ提案する。
Bregman Score gradient Denoise 逆問題に基づくアルゴリズム。
論文 参考訳（メタデータ） (2023-06-06T07:36:47Z) - A relaxed proximal gradient descent algorithm for convergent
plug-and-play with proximal denoiser [6.2484576862659065]
本稿では,新しいコンバーゼントなPlug-and-fidelity Descent (Play)アルゴリズムを提案する。
このアルゴリズムは、より広い範囲の通常の凸化パラメータに収束し、画像のより正確な復元を可能にする。
論文 参考訳（メタデータ） (2023-01-31T16:11:47Z) - Gradient Step Denoiser for convergent Plug-and-Play [5.629161809575015]
プラグイン・アンド・プレイの手法は、様々な画像問題に対して大きな視覚的パフォーマンスをもたらす可能性がある。
半四進法に基づく新しいタイプのPlug-and-Play法を提案する。
実験により、パフォーマンスを損なうことなく、そのような深い嫌悪者を学ぶことが可能であることが示されている。
論文 参考訳（メタデータ） (2021-10-07T07:11:48Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳（メタデータ） (2021-07-21T17:10:14Z) - Plug-and-play ISTA converges with kernel denoisers [21.361571421723262]
プラグアンドプレイ(ブルー)法は画像正規化の最近のパラダイムである。
この点における根本的な問題は、核の理論的収束である。
論文 参考訳（メタデータ） (2020-04-07T06:25:34Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳（メタデータ） (2020-03-05T14:33:20Z) - Towards Better Understanding of Adaptive Gradient Algorithms in
Generative Adversarial Nets [71.05306664267832]
適応アルゴリズムは勾配の歴史を用いて勾配を更新し、深層ニューラルネットワークのトレーニングにおいてユビキタスである。
本稿では,非コンケーブ最小値問題に対するOptimisticOAアルゴリズムの変種を解析する。
実験の結果,適応型GAN非適応勾配アルゴリズムは経験的に観測可能であることがわかった。
論文 参考訳（メタデータ） (2019-12-26T22:10:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。