論文の概要: Solving Inverse Problems by Joint Posterior Maximization with
Autoencoding Prior
- arxiv url: http://arxiv.org/abs/2103.01648v1
- Date: Tue, 2 Mar 2021 11:18:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 17:29:15.277779
- Title: Solving Inverse Problems by Joint Posterior Maximization with
Autoencoding Prior
- Title(参考訳): 自動符号化による関節後部最大化による逆問題の解法
- Authors: Mario Gonz\'alez, Andr\'es Almansa, Pauline Tan
- Abstract要約: JPal Autoencoder (VAE) が先行する画像における不適切な逆問題解決の問題に対処する。
本手法は,提案した目的関数を満たすのに十分であることを示す。
結果は、より堅牢な見積もりを提供するアプローチの堅牢性も示しています。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work we address the problem of solving ill-posed inverse problems in
imaging where the prior is a variational autoencoder (VAE). Specifically we
consider the decoupled case where the prior is trained once and can be reused
for many different log-concave degradation models without retraining. Whereas
previous MAP-based approaches to this problem lead to highly non-convex
optimization algorithms, our approach computes the joint (space-latent) MAP
that naturally leads to alternate optimization algorithms and to the use of a
stochastic encoder to accelerate computations. The resulting technique (JPMAP)
performs Joint Posterior Maximization using an Autoencoding Prior. We show
theoretical and experimental evidence that the proposed objective function is
quite close to bi-convex. Indeed it satisfies a weak bi-convexity property
which is sufficient to guarantee that our optimization scheme converges to a
stationary point. We also highlight the importance of correctly training the
VAE using a denoising criterion, in order to ensure that the encoder
generalizes well to out-of-distribution images, without affecting the quality
of the generative model. This simple modification is key to providing
robustness to the whole procedure. Finally we show how our joint MAP
methodology relates to more common MAP approaches, and we propose a
continuation scheme that makes use of our JPMAP algorithm to provide more
robust MAP estimates. Experimental results also show the higher quality of the
solutions obtained by our JPMAP approach with respect to other non-convex MAP
approaches which more often get stuck in spurious local optima.
- Abstract(参考訳): 本研究では,前者が変分オートエンコーダ(VAE)である画像の逆問題に対する問題に対処する。
具体的には、プリエントが一度トレーニングされ、再トレーニングせずに多くの異なるログコンケーブ劣化モデルで再利用できるデカップリングケースを考える。
この問題に対する従来のMAPベースのアプローチは、非凸最適化アルゴリズムをもたらすが、我々のアプローチは、自然に代替最適化アルゴリズムに導かれるジョイント(空間遅延)MAPを計算し、確率エンコーダを用いて計算を高速化する。
得られた技術(JPMAP)は、オートエンコーディングプリミティブを使用して関節後部最大化を行う。
提案する対象関数が bi-convex に非常に近いという理論的および実験的証拠を示す。
実際、我々の最適化スキームが定常点に収束することを保証するのに十分である弱い双凸性特性を満たす。
また, 生成モデルの品質に影響を与えることなく, エンコーダが分布外画像によく一般化することを保証するため, 発声基準を用いてvaeを正しくトレーニングすることの重要性を強調する。
この単純な変更は、手順全体に堅牢性を提供するための鍵です。
最後に、共同MAP手法がより一般的なMAPアプローチとどのように関連しているかを示し、JPMAPアルゴリズムを使用してより堅牢なMAP推定を提供する継続スキームを提案します。
実験結果はまた、JPMAPアプローチで得られたソリューションの高品質を他の非凸MAPアプローチと比較して示し、より頻繁にスプリアスローカルオプティマで立ち往生します。
関連論文リスト
- Flow Priors for Linear Inverse Problems via Iterative Corrupted Trajectory Matching [35.77769905072651]
本稿では,MAP推定器を効率的に近似する反復アルゴリズムを提案し,様々な線形逆問題の解法を提案する。
本アルゴリズムは,MAPの目的を局所MAP'の目的の和で近似できるという観測によって数学的に正当化される。
我々は,超解法,デブロアリング,インペイント,圧縮センシングなど,様々な線形逆問題に対するアプローチを検証する。
論文 参考訳(メタデータ) (2024-05-29T06:56:12Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳(メタデータ) (2023-07-17T20:11:56Z) - META-SMGO-$\Delta$: similarity as a prior in black-box optimization [1.282675419968047]
本稿では,近年提案されているグローバル最適化手法SMGO-$Delta$にMETA学習理論を組み入れることを提案する。
本稿では,ベースラインアルゴリズムのMETA拡張の実用的メリットを示すとともに,その性能に理論的制約を与える。
論文 参考訳(メタデータ) (2023-04-30T09:41:04Z) - Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。
これらの問題に対する新規で簡単な最適化法を開発した。
結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-09-23T17:38:24Z) - COCO Denoiser: Using Co-Coercivity for Variance Reduction in Stochastic
Convex Optimization [4.970364068620608]
我々は,勾配オラクルによって出力される雑音の推定値を改善するために,凸性およびL平滑性を利用する。
問合せ点の数と近さの増加は、より良い勾配推定に繋がることを示す。
また、SGD、Adam、STRSAGAといった既存のアルゴリズムにCOCOをプラグインすることで、バニラ設定にもCOCOを適用します。
論文 参考訳(メタデータ) (2021-09-07T17:21:09Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳(メタデータ) (2020-12-04T15:36:29Z) - Adaptive Sampling for Best Policy Identification in Markov Decision
Processes [79.4957965474334]
本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。
最先端アルゴリズムの利点を論じ、解説する。
論文 参考訳(メタデータ) (2020-09-28T15:22:24Z) - Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。
この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。
古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文 参考訳(メタデータ) (2020-07-01T18:43:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。