論文の概要: Solving Inverse Problems with Hybrid Deep Image Priors: the challenge of
preventing overfitting
- arxiv url: http://arxiv.org/abs/2011.01748v2
- Date: Sun, 21 Feb 2021 17:15:25 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 05:56:37.509887
- Title: Solving Inverse Problems with Hybrid Deep Image Priors: the challenge of
preventing overfitting
- Title(参考訳): ハイブリッド・ディープ・イメージ・プリエントによる逆問題解法:過剰フィッティング防止への挑戦
- Authors: Zhaodong Sun
- Abstract要約: 深部画像先行処理(DIP)の過適合問題の解析と解法
ニューラルネットワークのパラメータとノイズの多いデータが多いため、DIPはイテレーションの数が増えるにつれて画像のノイズに適応する。
論文では、オーバーフィッティングを避けるために、ハイブリッドなディープイメージを使用する。
- 参考スコア(独自算出の注目度): 1.52292571922932
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We mainly analyze and solve the overfitting problem of deep image prior
(DIP). Deep image prior can solve inverse problems such as super-resolution,
inpainting and denoising. The main advantage of DIP over other deep learning
approaches is that it does not need access to a large dataset. However, due to
the large number of parameters of the neural network and noisy data, DIP
overfits to the noise in the image as the number of iterations grows. In the
thesis, we use hybrid deep image priors to avoid overfitting. The hybrid priors
are to combine DIP with an explicit prior such as total variation or with an
implicit prior such as a denoising algorithm. We use the alternating direction
method-of-multipliers (ADMM) to incorporate the new prior and try different
forms of ADMM to avoid extra computation caused by the inner loop of ADMM
steps. We also study the relation between the dynamics of gradient descent, and
the overfitting phenomenon. The numerical results show the hybrid priors play
an important role in preventing overfitting. Besides, we try to fit the image
along some directions and find this method can reduce overfitting when the
noise level is large. When the noise level is small, it does not considerably
reduce the overfitting problem.
- Abstract(参考訳): 我々は,dip(deep image prior)のオーバーフィッティング問題を主に解析し,解決する。
ディープ・イメージ・プリエント(deep image prior)はスーパーレゾリューション、インペインティング、デノージングなどの逆問題を解くことができる。
他のディープラーニングアプローチに対するディップの主な利点は、大規模なデータセットへのアクセスを必要としないことである。
しかし、ニューラルネットワークのパラメータとノイズの多いデータが多いため、DIPはイテレーションの数が増えるにつれて画像内のノイズに適応する。
論文では,重ね合わせを避けるために,ハイブリッド深部画像プリエントを用いる。
ハイブリッドプリエントは、DIPと総変分のような明示的なプリエント、あるいはデノナイジングアルゴリズムのような暗黙的なプリエントとを組み合わせる。
我々は、ADMMステップの内ループに起因する余分な計算を避けるために、ADMM(交互方向乗算器)法を用いて、新しい事前形式を取り入れ、ADMMの異なる形式を試す。
また,勾配降下のダイナミクスと過フィッティング現象との関係についても検討した。
その結果, ハイブリッドプライオリティが過剰フィット防止に重要な役割を担っていることがわかった。
また,ある方向に沿って画像に収まるように試み,ノイズレベルが大きい場合に過度な収差を低減できることを示す。
ノイズレベルが小さい場合、オーバーフィッティング問題を大幅に削減することはない。
関連論文リスト
- Chasing Better Deep Image Priors between Over- and Under-parameterization [63.8954152220162]
そこで本研究では,DNN固有の空間性を利用して,LIP(lottery image prior)を新たに検討する。
LIPworksは、コンパクトなモデルサイズでディープデコーダを著しく上回っている。
また、LIPを圧縮センシング画像再構成に拡張し、事前学習したGANジェネレータを前者として使用する。
論文 参考訳(メタデータ) (2024-10-31T17:49:44Z) - Score Priors Guided Deep Variational Inference for Unsupervised
Real-World Single Image Denoising [14.486289176696438]
本稿では,実世界の実演のためのスコア先行誘導深部変分推論,すなわちScoreDVIを提案する。
我々は、実世界の雑音をモデル化するために、非i.i.d$ガウス混合モデルと変分ノイズ後部モデルを利用する。
提案手法は,他の単一画像ベースの実世界のデノベーション手法よりも優れ,データセットベースの教師なし手法に匹敵する性能を実現する。
論文 参考訳(メタデータ) (2023-08-09T03:26:58Z) - DDGM: Solving inverse problems by Diffusive Denoising of Gradient-based
Minimization [4.209801809583906]
最近のトレンドは、畳み込みネットを訓練して画像をデノマイズし、このネットを逆問題解決の先駆けとして利用することである。
本稿では,従来の勾配に基づく復調誤差最小化と復調を併用した簡易な手法を提案する。
最大50段のデノナイジングステップで高い精度を達成できることが示される。
論文 参考訳(メタデータ) (2023-07-11T00:21:38Z) - Poisson-Gaussian Holographic Phase Retrieval with Score-based Image
Prior [19.231581775644617]
本稿では,スコア関数を先行生成関数とする高速化されたWirtinger Flow (AWF) を用いた新しいアルゴリズム"AWFS"を提案する。
PRの対数様関数の勾配を計算し、リプシッツ定数を決定する。
本稿では,提案アルゴリズムの臨界点収束保証を確立する理論的解析を行う。
論文 参考訳(メタデータ) (2023-05-12T18:08:47Z) - Tuning-free Plug-and-Play Hyperspectral Image Deconvolution with Deep
Priors [6.0622962428871885]
HSIデコンボリューションのためのチューニング不要なPlug-and-Playアルゴリズムを提案する。
具体的には、交互方向乗算器(ADMM)を用いて問題を2つの反復的部分確率に分解する。
フレキシブルブラインド3Dデノナイジングネットワーク(B3DDN)は、より深い事前学習と、異なるノイズレベルを持つデノナイジングサブプロブレムの解決を目的として設計されている。
論文 参考訳(メタデータ) (2022-11-28T13:41:14Z) - Preconditioned Plug-and-Play ADMM with Locally Adjustable Denoiser for
Image Restoration [54.23646128082018]
非定常雑音分散のパラメータ化が可能なデノイザを使用するために、プラグアンドプレイの最適化の概念を拡張した。
画素調整可能なデノイザは,適切なプレコンディショニング戦略とともに,いくつかのアプリケーションに対して,プラグアンドプレイADMMアプローチをさらに改善できることを示す。
論文 参考訳(メタデータ) (2021-10-01T15:46:35Z) - Rethinking Deep Image Prior for Denoising [23.140599133203292]
我々は、最適化の進捗を監視するために、実効性自由度(DF)の概念を用いてDIPを分析した。
本稿では,ガウス雑音に対する2対の真実像をアクセスすることなく,雑音に適応する前に停止基準を提案する。
提案手法は,7つのデータセットにおいて,PSNRとSSIMに匹敵する大差でLPIPSの先行技術より優れていた。
論文 参考訳(メタデータ) (2021-08-29T13:34:31Z) - On Measuring and Controlling the Spectral Bias of the Deep Image Prior [63.88575598930554]
深層画像は、未学習のネットワークが逆画像問題に対処できることを実証している。
ピークに達するとパフォーマンスが低下するので、いつ最適化を止めるかを決めるにはオラクルが必要です。
これらの問題に対処するために、スペクトルバイアスの観点から先行した深部画像について検討する。
論文 参考訳(メタデータ) (2021-07-02T15:10:42Z) - A Contrastive Learning Approach for Training Variational Autoencoder
Priors [137.62674958536712]
変分オートエンコーダ(VAE)は、多くの領域で応用される強力な可能性に基づく生成モデルの一つである。
VAEsが生成性に乏しいことの1つの説明は、事前の分布が集合の近似的な後部と一致しないという、事前の穴の問題である。
本研究では, 基底分布の積と再重み付け係数によって定義されるエネルギーベースの事前定義を行い, 基底を集合体後部へ近づけるようにした。
論文 参考訳(メタデータ) (2020-10-06T17:59:02Z) - The Power of Triply Complementary Priors for Image Compressive Sensing [89.14144796591685]
本稿では,一対の相補的な旅先を含むLRD画像モデルを提案する。
次に、画像CSのためのRDモデルに基づく新しいハイブリッド・プラグイン・アンド・プレイ・フレームワークを提案する。
そこで,提案したH-based image CS問題の解法として,単純で効果的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-05-16T08:17:44Z) - Data Augmentation for Histopathological Images Based on
Gaussian-Laplacian Pyramid Blending [59.91656519028334]
データ不均衡は、機械学習(ML)アルゴリズムに影響を及ぼす主要な問題である。
本稿では、HIデータセットを増大させるだけでなく、患者間の変動を分散させる新しいアプローチを提案する。
BreakHisデータセットの実験結果から、文献で示されたDA手法の大多数は、有望な利得を示している。
論文 参考訳(メタデータ) (2020-01-31T22:02:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。