論文の概要: Unsupervised Training of Convex Regularizers using Maximum Likelihood Estimation
- arxiv url: http://arxiv.org/abs/2404.05445v3
- Date: Mon, 06 Jan 2025 14:28:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-07 17:01:58.180589
- Title: Unsupervised Training of Convex Regularizers using Maximum Likelihood Estimation
- Title(参考訳): 最大近似推定を用いた凸正規化器の教師なし訓練
- Authors: Hong Ye Tan, Ziruo Cai, Marcelo Pereyra, Subhadip Mukherjee, Junqi Tang, Carola-Bibiane Schönlieb,
- Abstract要約: 本稿では,雑音測定に基づいて,凸型ニューラルネットワークに基づく画像正規化項をトレーニングするために,最大限界推定を用いた教師なし手法を提案する。
実験により,提案手法は,様々な画像汚職操作者を対象とした類似の教師付きトレーニング手法と比較して,ほぼ競合する先行手法を生成することを示した。
- 参考スコア(独自算出の注目度): 12.625383613718636
- License:
- Abstract: Imaging is a standard example of an inverse problem, where the task of reconstructing a ground truth from a noisy measurement is ill-posed. Recent state-of-the-art approaches for imaging use deep learning, spearheaded by unrolled and end-to-end models and trained on various image datasets. However, many such methods require the availability of ground truth data, which may be unavailable or expensive, leading to a fundamental barrier that can not be bypassed by choice of architecture. Unsupervised learning presents an alternative paradigm that bypasses this requirement, as they can be learned directly on noisy data and do not require any ground truths. A principled Bayesian approach to unsupervised learning is to maximize the marginal likelihood with respect to the given noisy measurements, which is intrinsically linked to classical variational regularization. We propose an unsupervised approach using maximum marginal likelihood estimation to train a convex neural network-based image regularization term directly on noisy measurements, improving upon previous work in both model expressiveness and dataset size. Experiments demonstrate that the proposed method produces priors that are near competitive when compared to the analogous supervised training method for various image corruption operators, maintaining significantly better generalization properties when compared to end-to-end methods. Moreover, we provide a detailed theoretical analysis of the convergence properties of our proposed algorithm.
- Abstract(参考訳): イメージングは逆問題の標準的な例であり、ノイズ測定から基底真理を再構築するタスクが悪用される。
近年のイメージングにおける最先端のアプローチは、非ローリングモデルとエンドツーエンドモデルによって先導され、さまざまな画像データセットでトレーニングされたディープラーニングを使用する。
しかし、そのような方法の多くは、利用できない、あるいは高価であるかもしれない地上の真理データの可用性を必要としており、アーキテクチャの選択によって回避できない根本的な障壁につながっている。
教師なし学習は、ノイズの多いデータに基づいて直接学習することができ、基礎的な真実を必要としないため、この要件を回避できる代替パラダイムを提示している。
教師なし学習に対するベイズ的アプローチの原則は、古典的変分正規化と本質的に結びついている与えられた雑音の測定に関して、限界的確率を最大化することである。
本稿では,モデル表現性およびデータセットサイズの両方において,従来よりも改善された,凸型ニューラルネットワークに基づく画像正規化項をノイズ測定に基づいてトレーニングするための,最大限界推定を用いた教師なしアプローチを提案する。
実験により, 提案手法は, 様々な画像汚濁演算子に対する類似の教師付き訓練法と比較して, ほぼ競争力のある先行性を生成し, エンドツーエンド法と比較して, より優れた一般化特性を保っていることが示された。
さらに,提案アルゴリズムの収束特性の詳細な理論的解析を行う。
関連論文リスト
- Learning Diffusion Model from Noisy Measurement using Principled Expectation-Maximization Method [9.173055778539641]
本稿では,任意の破損型を持つ雑音データから拡散モデルを反復的に学習する,原則的予測最大化(EM)フレームワークを提案する。
筆者らはモンテカルロ法を用いて,ノイズ測定からクリーンな画像を正確に推定し,次いで再構成画像を用いて拡散モデルを訓練した。
論文 参考訳(メタデータ) (2024-10-15T03:54:59Z) - Generative Edge Detection with Stable Diffusion [52.870631376660924]
エッジ検出は一般的に、主に識別法によって対処されるピクセルレベルの分類問題と見なされる。
本稿では、事前学習した安定拡散モデルのポテンシャルを十分に活用して、GED(Generative Edge Detector)という新しい手法を提案する。
複数のデータセットに対して広範な実験を行い、競争性能を達成する。
論文 参考訳(メタデータ) (2024-10-04T01:52:23Z) - Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。
データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
論文 参考訳(メタデータ) (2024-07-26T10:49:14Z) - Consistency Regularisation for Unsupervised Domain Adaptation in Monocular Depth Estimation [15.285720572043678]
整合性に基づく半教師付き学習問題として,単眼深度推定のための教師なし領域適応を定式化する。
複数の拡張ビューにまたがって一貫性を保ちながら、ソースドメイン上の予測を規則化するペアワイズ損失関数を導入する。
実験では, KITTI と NYUv2 の標準深度推定ベンチマークを用いて,最先端の結果を示す。
論文 参考訳(メタデータ) (2024-05-27T23:32:06Z) - Model-based Offline Imitation Learning with Non-expert Data [7.615595533111191]
本稿では,最適条件と最適条件の両方で収集されたデータセットを活用する,スケーラブルなモデルベースオフライン模倣学習アルゴリズムフレームワークを提案する。
提案手法は, シミュレーションされた連続制御領域上での低データ構造における振舞いクローンよりも優れることを示す。
論文 参考訳(メタデータ) (2022-06-11T13:08:08Z) - PatchNR: Learning from Small Data by Patch Normalizing Flow
Regularization [57.37911115888587]
正規化フローに基づく画像の逆問題に対する変分モデリングのための正規化器を提案する。
patchNRと呼ばれる我々の正規化器は、ごく少数の画像のパッチで学習したフローを正規化します。
論文 参考訳(メタデータ) (2022-05-24T12:14:26Z) - Deblurring via Stochastic Refinement [85.42730934561101]
条件付き拡散モデルに基づくブラインドデブロアリングのための代替フレームワークを提案する。
提案手法は,PSNRなどの歪み指標の点で競合する。
論文 参考訳(メタデータ) (2021-12-05T04:36:09Z) - Unsupervised Source Separation via Bayesian Inference in the Latent
Domain [4.583433328833251]
最先端のオーディオソース分離モデルは、教師付きデータ駆動アプローチに依存している。
本稿では,時間領域信号の潜在表現を直接操作する,単純で効果的な非教師付き分離アルゴリズムを提案する。
Slakh データセット arXiv:1909.08494 に対する我々のアプローチを検証する。
論文 参考訳(メタデータ) (2021-10-11T14:32:55Z) - PDC-Net+: Enhanced Probabilistic Dense Correspondence Network [161.76275845530964]
高度確率密度対応ネットワーク(PDC-Net+)は、精度の高い高密度対応を推定できる。
我々は、堅牢で一般化可能な不確実性予測に適したアーキテクチャと強化されたトレーニング戦略を開発する。
提案手法は,複数の挑戦的幾何マッチングと光学的フローデータセットに対して,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-09-28T17:56:41Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z) - Learning regularization and intensity-gradient-based fidelity for single
image super resolution [0.0]
画像劣化の進行について検討し、強度と勾配空間の両方で劣化モデルを確立する。
復元には包括的データ一貫性制約が設定される。
提案した忠実度項と設計された正規化項は正規化フレームワークに組み込まれる。
論文 参考訳(メタデータ) (2020-03-24T07:03:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。