論文の概要: Fixed-Point and Objective Convergence of Plug-and-Play Algorithms
- arxiv url: http://arxiv.org/abs/2104.10348v1
- Date: Wed, 21 Apr 2021 04:25:17 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-22 14:12:46.075049
- Title: Fixed-Point and Objective Convergence of Plug-and-Play Algorithms
- Title（参考訳）: プラグ・アンド・プレイアルゴリズムの固定点および客観的収束
- Authors: Pravin Nair and Ruturaj G. Gavaskar and Kunal N. Chaudhury
- Abstract要約: 画像再構築の標準モデルは、正規化と共にデータ忠実性ノベルティ項の再構築を含む。
本稿では, 特殊近位線形デノイザに対する収束の両形態を定式化する。
我々は、線型 denoiser から派生した特別な内積(およびノルム)を扱う。
- 参考スコア（独自算出の注目度）: 25.65350839936094
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A standard model for image reconstruction involves the minimization of a
data-fidelity term along with a regularizer, where the optimization is
performed using proximal algorithms such as ISTA and ADMM. In plug-and-play
(PnP) regularization, the proximal operator (associated with the regularizer)
in ISTA and ADMM is replaced by a powerful image denoiser. Although PnP
regularization works surprisingly well in practice, its theoretical convergence
-- whether convergence of the PnP iterates is guaranteed and if they minimize
some objective function -- is not completely understood even for simple linear
denoisers such as nonlocal means. In particular, while there are works where
either iterate or objective convergence is established separately, a
simultaneous guarantee on iterate and objective convergence is not available
for any denoiser to our knowledge. In this paper, we establish both forms of
convergence for a special class of linear denoisers. Notably, unlike existing
works where the focus is on symmetric denoisers, our analysis covers
non-symmetric denoisers such as nonlocal means and almost any convex
data-fidelity. The novelty in this regard is that we make use of the
convergence theory of averaged operators and we work with a special inner
product (and norm) derived from the linear denoiser; the latter requires us to
appropriately define the gradient and proximal operators associated with the
data-fidelity term. We validate our convergence results using image
reconstruction experiments.
- Abstract（参考訳）: 画像再構成の標準モデルは、ISTAやADMMといった近似アルゴリズムを用いて最適化を行う正規化器とともに、データ忠実度項の最小化を伴う。
プラグ・アンド・プレイ正則化(PnP)では、ISTAおよびADMMにおける近位演算子(正規化子に関連する)を強力な画像デノイザに置き換える。
PnP正則化は実際は驚くほどうまく機能するが、その理論収束(PnPの収束が保証されるか、目的関数を最小化するか)は、非局所的手段のような単純な線型微分器に対しても完全には理解されない。
特に、反復的または客観的収束を別々に確立する作業があるが、反復的および客観的収束の同時保証は、我々の知識に対するいかなるデノイザーに対しても利用できない。
本稿では,線形デノイザの特殊クラスに対して,両形式の収束性を確立する。
特に,非局所平均や凸データ忠実性といった非対称デノイザを対象とする既存の著作物とは異なり,本解析は非対称デノイザを対象とする。
この点での新規性は、平均作用素の収束理論を利用し、線型デノイザーから導かれる特別な内積(およびノルム)を扱うことである。
画像再構成実験を用いて収束結果を検証する。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。
提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
論文 参考訳（メタデータ） (2024-10-22T10:19:27Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Robust Low-Rank Matrix Completion via a New Sparsity-Inducing
Regularizer [30.920908325825668]
本稿では,ハイブリッド常連Welsch (HOW) に新たな損失関数を提案する。
論文 参考訳（メタデータ） (2023-10-07T09:47:55Z) - Convergent regularization in inverse problems and linear plug-and-play
denoisers [3.759634359597638]
Plug-and-play () denoisingは、逆画像復号器を用いて画像の問題を解くための一般的なフレームワークである。
可算収束正則化スキームが証明収束正則化スキームであるかどうかというような測定におけるノイズレベルがゼロになるので、収束解の性質についてはあまり分かっていない。
線形デノイザでは、明らかに正則化関数に対するデノイザの暗黙的な正則化が収束正則化スキームにつながることを示す。
論文 参考訳（メタデータ） (2023-07-18T17:16:08Z) - Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。
よりスムーズな関数との補間により、より一般化できることを示す。
論文 参考訳（メタデータ） (2023-05-30T19:37:44Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳（メタデータ） (2022-07-02T16:59:37Z) - Proximal denoiser for convergent plug-and-play optimization with
nonconvex regularization [7.0226402509856225]
Plug-and-Play ()メソッドは、ニューラルネットワーク演算子をデノナイジング演算子に置き換えることで、アルゴリズムによって、近位姿勢の逆問題を解決する。
このデノイザが実際に勾配関数に対応していることが示される。
論文 参考訳（メタデータ） (2022-01-31T14:05:20Z) - Efficient Methods for Structured Nonconvex-Nonconcave Min-Max
Optimization [98.0595480384208]
定常点に収束する一般化外空間を提案する。
このアルゴリズムは一般の$p$ノルド空間だけでなく、一般の$p$次元ベクトル空間にも適用される。
論文 参考訳（メタデータ） (2020-10-31T21:35:42Z) - Plug-and-play ISTA converges with kernel denoisers [21.361571421723262]
プラグアンドプレイ(ブルー)法は画像正規化の最近のパラダイムである。
この点における根本的な問題は、核の理論的収束である。
論文 参考訳（メタデータ） (2020-04-07T06:25:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。