論文の概要: Learned Gradient of a Regularizer for Plug-and-Play Gradient Descent
- arxiv url: http://arxiv.org/abs/2204.13940v1
- Date: Fri, 29 Apr 2022 08:33:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-02 15:08:54.345227
- Title: Learned Gradient of a Regularizer for Plug-and-Play Gradient Descent
- Title(参考訳): プラグアンドプレイ用正規化器のグラディエント学習
- Authors: Rita Fermanian and Mikael Le Pendu and Christine Guillemot
- Abstract要約: Plug-and-Playフレームワークは、事前の高度なイメージをアルゴリズムに統合することを可能にする。
Denoising (RED)アルゴリズムによる正規化は、画像復元において画期的な方法の2つの例である。
正規化器の勾配に対応するネットワークとともにデノイザを訓練することが可能であることを示す。
- 参考スコア(独自算出の注目度): 37.41458921829744
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Plug-and-Play (PnP) framework allows integrating advanced image denoising
priors into optimization algorithms, to efficiently solve a variety of image
restoration tasks. The Plug-and-Play alternating direction method of
multipliers (ADMM) and the Regularization by Denoising (RED) algorithms are two
examples of such methods that made a breakthrough in image restoration.
However, while the former method only applies to proximal algorithms, it has
recently been shown that there exists no regularization that explains the RED
algorithm when the denoisers lack Jacobian symmetry, which happen to be the
case of most practical denoisers. To the best of our knowledge, there exists no
method for training a network that directly represents the gradient of a
regularizer, which can be directly used in Plug-and-Play gradient-based
algorithms. We show that it is possible to train a denoiser along with a
network that corresponds to the gradient of its regularizer. We use this
gradient of the regularizer in gradient-based optimization methods and obtain
better results comparing to other generic Plug-and-Play approaches. We also
show that the regularizer can be used as a pre-trained network for unrolled
gradient descent. Lastly, we show that the resulting denoiser allows for a
quick convergence of the Plug-and-Play ADMM.
- Abstract(参考訳): Plug-and-Play(PnP)フレームワークは、先進的な画像復号化を最適化アルゴリズムに統合し、様々な画像復元タスクを効率的に解決する。
乗算器のプラグ・アンド・プレイ交互方向法 (ADMM) とデノナイジング法 (RED) による正規化法 (Regularization by Denoising) は,画像復元において画期的な手法である。
しかし、前者の手法は近位アルゴリズムにしか適用されないが、近年では、ほとんどの実演者の場合のようにジャコビアン対称性が欠如しているときにREDアルゴリズムを説明する正規化が存在しないことが示されている。
我々の知る限りでは、正規化子の勾配を直接表現するネットワークを訓練する方法は存在せず、プラグ・アンド・プレイの勾配に基づくアルゴリズムで直接使用できる。
正規化器の勾配に対応するネットワークとともにデノイザを訓練することが可能であることを示す。
グラデーションに基づく最適化手法では,このレギュラライザの勾配を用い,他の一般的なプラグ・アンド・プレイ法と比較してより良い結果を得る。
また, 正規化器を未学習勾配降下のための事前学習ネットワークとして利用できることを示す。
最後に、結果のデノイザにより、プラグインとプレイのADMMを素早く収束させることができることを示す。
関連論文リスト
- Plug-and-Play image restoration with Stochastic deNOising REgularization [8.678250057211368]
SNORE(Denoising Regularization)と呼ばれる新しいフレームワークを提案する。
SNOREは、適切なレベルのノイズのある画像のみにデノイザを適用する。
これは明示的な正則化に基づいており、逆問題を解決するための降下につながる。
論文 参考訳(メタデータ) (2024-02-01T18:05:47Z) - End-to-End Diffusion Latent Optimization Improves Classifier Guidance [81.27364542975235]
拡散潜水剤(DOODL)の直接最適化は,新しいガイダンス手法である。
拡散潜伏剤の最適化によるプラグアンドプレイ誘導を可能にする。
計算と人的評価の指標において、一段階の分類器ガイダンスよりも優れている。
論文 参考訳(メタデータ) (2023-03-23T22:43:52Z) - A Scalable Finite Difference Method for Deep Reinforcement Learning [0.0]
深層強化学習領域における分散労働者の活用に関する問題点を考察する。
我々は、典型的な条件下での全ての接続CPUの100%使用を実現する、安定で低帯域幅の学習アルゴリズムを作成する。
論文 参考訳(メタデータ) (2022-10-14T03:33:53Z) - Scaling Forward Gradient With Local Losses [117.22685584919756]
フォワード学習は、ディープニューラルネットワークを学ぶためのバックプロップに代わる生物学的に妥当な代替手段である。
重みよりも活性化に摂動を適用することにより、前方勾配のばらつきを著しく低減できることを示す。
提案手法はMNIST と CIFAR-10 のバックプロップと一致し,ImageNet 上で提案したバックプロップフリーアルゴリズムよりも大幅に優れていた。
論文 参考訳(メタデータ) (2022-10-07T03:52:27Z) - Learning Sparsity-Promoting Regularizers using Bilevel Optimization [9.18465987536469]
本稿では,信号や画像の識別のための疎結合型正規化器の教師あり学習法を提案する。
構造化された1D信号と自然画像を用いて実験したところ,提案手法はよく知られた正規化器よりも優れた演算子を学習できることがわかった。
論文 参考訳(メタデータ) (2022-07-18T20:50:02Z) - Gradient Step Denoiser for convergent Plug-and-Play [5.629161809575015]
プラグイン・アンド・プレイの手法は、様々な画像問題に対して大きな視覚的パフォーマンスをもたらす可能性がある。
半四進法に基づく新しいタイプのPlug-and-Play法を提案する。
実験により、パフォーマンスを損なうことなく、そのような深い嫌悪者を学ぶことが可能であることが示されている。
論文 参考訳(メタデータ) (2021-10-07T07:11:48Z) - Preconditioned Plug-and-Play ADMM with Locally Adjustable Denoiser for
Image Restoration [54.23646128082018]
非定常雑音分散のパラメータ化が可能なデノイザを使用するために、プラグアンドプレイの最適化の概念を拡張した。
画素調整可能なデノイザは,適切なプレコンディショニング戦略とともに,いくつかのアプリケーションに対して,プラグアンドプレイADMMアプローチをさらに改善できることを示す。
論文 参考訳(メタデータ) (2021-10-01T15:46:35Z) - Plug-And-Play Learned Gaussian-mixture Approximate Message Passing [71.74028918819046]
そこで本研究では,従来のi.i.d.ソースに適した圧縮圧縮センシング(CS)リカバリアルゴリズムを提案する。
我々のアルゴリズムは、Borgerdingの学習AMP(LAMP)に基づいて構築されるが、アルゴリズムに普遍的な復調関数を採用することにより、それを大幅に改善する。
数値評価により,L-GM-AMPアルゴリズムは事前の知識を必要とせず,最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-11-18T16:40:45Z) - Channel-Directed Gradients for Optimization of Convolutional Neural
Networks [50.34913837546743]
本稿では,畳み込みニューラルネットワークの最適化手法を提案する。
出力チャネル方向に沿って勾配を定義することで性能が向上し,他の方向が有害となることを示す。
論文 参考訳(メタデータ) (2020-08-25T00:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。