Fugu-MT 論文翻訳(概要): Gradient Step Denoiser for convergent Plug-and-Play

論文の概要: Gradient Step Denoiser for convergent Plug-and-Play

arxiv url: http://arxiv.org/abs/2110.03220v1
Date: Thu, 7 Oct 2021 07:11:48 GMT
ステータス: 処理完了
システム内更新日: 2021-10-08 15:22:43.416461
Title: Gradient Step Denoiser for convergent Plug-and-Play
Title（参考訳）: 収束プラグアンドプレイ用勾配ステップデノイザー
Authors: Samuel Hurault, Arthur Leclaire, Nicolas Papadakis
Abstract要約: プラグイン・アンド・プレイの手法は、様々な画像問題に対して大きな視覚的パフォーマンスをもたらす可能性がある。半四進法に基づく新しいタイプのPlug-and-Play法を提案する。実験により、パフォーマンスを損なうことなく、そのような深い嫌悪者を学ぶことが可能であることが示されている。
参考スコア（独自算出の注目度）: 5.629161809575015
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Plug-and-Play methods constitute a class of iterative algorithms for imaging problems where regularization is performed by an off-the-shelf denoiser. Although Plug-and-Play methods can lead to tremendous visual performance for various image problems, the few existing convergence guarantees are based on unrealistic (or suboptimal) hypotheses on the denoiser, or limited to strongly convex data terms. In this work, we propose a new type of Plug-and-Play methods, based on half-quadratic splitting, for which the denoiser is realized as a gradient descent step on a functional parameterized by a deep neural network. Exploiting convergence results for proximal gradient descent algorithms in the non-convex setting, we show that the proposed Plug-and-Play algorithm is a convergent iterative scheme that targets stationary points of an explicit global functional. Besides, experiments show that it is possible to learn such a deep denoiser while not compromising the performance in comparison to other state-of-the-art deep denoisers used in Plug-and-Play schemes. We apply our proximal gradient algorithm to various ill-posed inverse problems, e.g. deblurring, super-resolution and inpainting. For all these applications, numerical results empirically confirm the convergence results. Experiments also show that this new algorithm reaches state-of-the-art performance, both quantitatively and qualitatively.
Abstract（参考訳）: プラグ・アンド・プレイ法は、オフ・ザ・シェルフデノイザによって正規化が行われる問題の画像化のための反復アルゴリズムのクラスを構成する。 Plug-and-Play法は様々な画像問題に対して膨大な視覚的パフォーマンスをもたらすが、既存のコンバージェンス保証はデノイザ上の非現実的(あるいは準最適)仮説に基づいているか、あるいは強い凸データ項に限定されている。本研究では,深いニューラルネットワークによってパラメータ化される関数上の勾配降下ステップとして,半四分法分割に基づく新しいタイプのPlug-and-Play法を提案する。非凸条件下での近位勾配降下アルゴリズムの出力収束結果から,提案したPlug-and-Playアルゴリズムは,グローバル関数の定常点を対象とする収束反復スキームであることを示す。さらに,Plug-and-Play方式で使用する他の最先端のDeep Denoiserと比較して,性能を損なうことなく,このようなDeep Denoiserを学習することが可能であることを示す。近位勾配アルゴリズムを,デブラリング,超解像,インパインティングなど,様々な不適切な逆問題に適用する。これら全ての応用において、数値結果は収束結果を実証的に確認する。実験により、この新しいアルゴリズムは定量的にも定性的にも最先端のパフォーマンスに達することが示された。

関連論文リスト

Stochastic Zeroth-Order Optimization under Strongly Convexity and Lipschitz Hessian: Minimax Sample Complexity [59.75300530380427]
本稿では,アルゴリズムが検索対象関数の雑音評価にのみアクセス可能な2次スムーズかつ強い凸関数を最適化する問題を考察する。本研究は, ミニマックス単純後悔率について, 一致した上界と下界を発達させることにより, 初めて厳密な評価を行ったものである。
論文参考訳（メタデータ） (2024-06-28T02:56:22Z)
Adaptive Federated Learning Over the Air [108.62635460744109]
オーバー・ザ・エア・モデル・トレーニングの枠組みの中で,適応勾配法,特にAdaGradとAdamの連合バージョンを提案する。解析の結果,AdaGrad に基づくトレーニングアルゴリズムは $mathcalO(ln(T) / T 1 - frac1alpha の速度で定常点に収束することがわかった。
論文参考訳（メタデータ） (2024-03-11T09:10:37Z)
Plug-and-Play image restoration with Stochastic deNOising REgularization [8.678250057211368]
SNORE(Denoising Regularization)と呼ばれる新しいフレームワークを提案する。 SNOREは、適切なレベルのノイズのある画像のみにデノイザを適用する。これは明示的な正則化に基づいており、逆問題を解決するための降下につながる。
論文参考訳（メタデータ） (2024-02-01T18:05:47Z)
Ordering for Non-Replacement SGD [7.11967773739707]
我々は,アルゴリズムの非置換形式に対する収束率を改善する順序付けを求める。我々は,強い凸関数と凸関数のステップサイズを一定かつ小さくするための最適順序付けを開発する。さらに、注文とミニバッチを組み合わせることで、より複雑なニューラルネットワークにも適用できます。
論文参考訳（メタデータ） (2023-06-28T00:46:58Z)
A relaxed proximal gradient descent algorithm for convergent plug-and-play with proximal denoiser [6.2484576862659065]
本稿では,新しいコンバーゼントなPlug-and-fidelity Descent (Play)アルゴリズムを提案する。このアルゴリズムは、より広い範囲の通常の凸化パラメータに収束し、画像のより正確な復元を可能にする。
論文参考訳（メタデータ） (2023-01-31T16:11:47Z)
Learned Gradient of a Regularizer for Plug-and-Play Gradient Descent [37.41458921829744]
Plug-and-Playフレームワークは、事前の高度なイメージをアルゴリズムに統合することを可能にする。 Denoising (RED)アルゴリズムによる正規化は、画像復元において画期的な方法の2つの例である。正規化器の勾配に対応するネットワークとともにデノイザを訓練することが可能であることを示す。
論文参考訳（メタデータ） (2022-04-29T08:33:33Z)
Proximal denoiser for convergent plug-and-play optimization with nonconvex regularization [7.0226402509856225]
Plug-and-Play ()メソッドは、ニューラルネットワーク演算子をデノナイジング演算子に置き換えることで、アルゴリズムによって、近位姿勢の逆問題を解決する。このデノイザが実際に勾配関数に対応していることが示される。
論文参考訳（メタデータ） (2022-01-31T14:05:20Z)
Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文参考訳（メタデータ） (2021-07-21T17:10:14Z)
Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文参考訳（メタデータ） (2020-12-21T17:29:58Z)
Exploiting Higher Order Smoothness in Derivative-free Optimization and Continuous Bandits [99.70167985955352]
強凸関数のゼロ次最適化問題について検討する。予測勾配降下アルゴリズムのランダム化近似を考察する。その結果,0次アルゴリズムはサンプルの複雑性や問題パラメータの点でほぼ最適であることが示唆された。
論文参考訳（メタデータ） (2020-06-14T10:42:23Z)
Towards Better Understanding of Adaptive Gradient Algorithms in Generative Adversarial Nets [71.05306664267832]
適応アルゴリズムは勾配の歴史を用いて勾配を更新し、深層ニューラルネットワークのトレーニングにおいてユビキタスである。本稿では,非コンケーブ最小値問題に対するOptimisticOAアルゴリズムの変種を解析する。実験の結果,適応型GAN非適応勾配アルゴリズムは経験的に観測可能であることがわかった。
論文参考訳（メタデータ） (2019-12-26T22:10:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。