論文の概要: Adversarial score matching and improved sampling for image generation
- arxiv url: http://arxiv.org/abs/2009.05475v2
- Date: Sat, 10 Oct 2020 19:47:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-19 20:38:55.792069
- Title: Adversarial score matching and improved sampling for image generation
- Title（参考訳）: 画像生成のための逆スコアマッチングとサンプリングの改善
- Authors: Alexia Jolicoeur-Martineau, R\'emi Pich\'e-Taillefer, R\'emi Tachet
des Combes, Ioannis Mitliagkas
- Abstract要約: Denoising Score Matching with Annealed Langevin Smpling (DSM-ALS)は、最近、生成モデリングで成功している。
本稿では,Freche の Inception Distance において,GAN (Generative Adversarial Networks) よりも高い性能を示すことを示す。
DSM-ALSの2つの改良点を提案する: 1) 一貫性のあるアンナーレサンプリングは, より安定なアンナーレランジェヴィンサンプリングの代替品として, 2) ハイブリットトレーニングの定式化である。
- 参考スコア（独自算出の注目度）: 29.27890359191544
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Denoising Score Matching with Annealed Langevin Sampling (DSM-ALS) has
recently found success in generative modeling. The approach works by first
training a neural network to estimate the score of a distribution, and then
using Langevin dynamics to sample from the data distribution assumed by the
score network. Despite the convincing visual quality of samples, this method
appears to perform worse than Generative Adversarial Networks (GANs) under the
Fr\'echet Inception Distance, a standard metric for generative models.
We show that this apparent gap vanishes when denoising the final Langevin
samples using the score network. In addition, we propose two improvements to
DSM-ALS: 1) Consistent Annealed Sampling as a more stable alternative to
Annealed Langevin Sampling, and 2) a hybrid training formulation, composed of
both Denoising Score Matching and adversarial objectives. By combining these
two techniques and exploring different network architectures, we elevate score
matching methods and obtain results competitive with state-of-the-art image
generation on CIFAR-10.
- Abstract（参考訳）: Denoising Score Matching with Annealed Langevin Smpling (DSM-ALS)は、最近、生成モデリングで成功している。
このアプローチは、まずニューラルネットワークをトレーニングして分布のスコアを推定し、次にlangevin dynamicsを使用してスコアネットワークが仮定したデータ分布からサンプルを生成する。
サンプルの説得力のある視覚的品質にもかかわらず、この手法は生成モデルのための標準的な指標であるFr'echet Inception Distanceの下でGAN(Generative Adversarial Networks)よりも優れているように見える。
この明らかなギャップは、スコアネットワークを用いて最終ランゲヴィンサンプルを復調する際に消失することを示す。
さらに,DSM-ALSの2つの改良点を提案する。
1)Annealed Langevin Smplingのより安定した代替品としてのConsistent Annealed Smpling,及び
2) スコアマッチングと対戦目標の両方からなるハイブリッドトレーニングの定式化。
これら2つの手法を組み合わせて異なるネットワークアーキテクチャを探索することにより、スコアマッチング手法を向上し、CIFAR-10の最先端画像生成と競合する結果を得る。
関連論文リスト
- A Simple Early Exiting Framework for Accelerated Sampling in Diffusion Models [14.859580045688487]
拡散モデルの現実的なボトルネックはサンプリング速度である。
スコア推定に必要な計算を適応的に割り当てる新しいフレームワークを提案する。
本研究では,画像品質を損なうことなく,拡散モデルのサンプリングスループットを大幅に向上できることを示す。
論文 参考訳（メタデータ） (2024-08-12T05:33:45Z) - Score-based Generative Models with Adaptive Momentum [40.84399531998246]
変換過程を高速化する適応運動量サンプリング法を提案する。
提案手法は,2倍から5倍の速度で,より忠実な画像/グラフを小さなサンプリングステップで作成できることを示す。
論文 参考訳（メタデータ） (2024-05-22T15:20:27Z) - SeNM-VAE: Semi-Supervised Noise Modeling with Hierarchical Variational Autoencoder [13.453138169497903]
SeNM-VAEは、ペアとアンペアの両方のデータセットを利用して、現実的な劣化データを生成する半教師付きノイズモデリング手法である。
実世界の画像認識と超分解能タスクのためのペアトレーニングサンプルを生成するために,本手法を用いた。
提案手法は, 合成劣化画像の品質を, 他の不対とペアのノイズモデリング法と比較して向上させる。
論文 参考訳（メタデータ） (2024-03-26T09:03:40Z) - Evaluating Similitude and Robustness of Deep Image Denoising Models via
Adversarial Attack [60.40356882897116]
ディープニューラルネットワーク(DNN)は、従来の画像復調アルゴリズムよりも優れたパフォーマンスを示している。
本稿では,現在のディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディープ・ディナイジング・PGD(Denoising-PGD)と名づけられた敵攻撃手法を提案する。
論文 参考訳（メタデータ） (2023-06-28T09:30:59Z) - DuDGAN: Improving Class-Conditional GANs via Dual-Diffusion [2.458437232470188]
GAN(Generative Adversarial Network)を用いたクラス条件画像生成について,様々な手法を用いて検討した。
本稿では,DuDGANと呼ばれる2次元拡散型ノイズ注入法を取り入れたGANを用いたクラス条件画像生成手法を提案する。
提案手法は,画像生成のための現状条件付きGANモデルよりも性能的に優れている。
論文 参考訳（メタデータ） (2023-05-24T07:59:44Z) - Solving Inverse Problems with Score-Based Generative Priors learned from
Noisy Data [1.7969777786551424]
SURE-Scoreは、加法ガウス雑音で劣化したトレーニングサンプルを用いてスコアベースの生成モデルを学習するためのアプローチである。
2つの実践的応用において,SURE-Scoreの事前学習と逆問題に対する後続サンプリングの適用による一般化を実証する。
論文 参考訳（メタデータ） (2023-05-02T02:51:01Z) - ScoreMix: A Scalable Augmentation Strategy for Training GANs with
Limited Data [93.06336507035486]
GAN(Generative Adversarial Networks)は通常、限られたトレーニングデータが利用できる場合、過度に適合する。
ScoreMixは、様々な画像合成タスクのための、新しくスケーラブルなデータ拡張手法である。
論文 参考訳（メタデータ） (2022-10-27T02:55:15Z) - Decoupled Mixup for Generalized Visual Recognition [71.13734761715472]
視覚認識のためのCNNモデルを学習するための新しい「デカップリング・ミクスアップ」手法を提案する。
本手法は,各画像を識別領域と雑音発生領域に分離し,これらの領域を均一に組み合わせてCNNモデルを訓練する。
実験結果から,未知のコンテキストからなるデータに対する本手法の高一般化性能を示す。
論文 参考訳（メタデータ） (2022-10-26T15:21:39Z) - Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。
具体的には、対照的な学習方法でネットワークをトレーニングする。
各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
論文 参考訳（メタデータ） (2021-03-24T07:26:07Z) - Neighbor2Neighbor: Self-Supervised Denoising from Single Noisy Images [98.82804259905478]
Neighbor2Neighborを提示し、ノイズの多い画像のみで効果的な画像消音モデルをトレーニングします。
ネットワークのトレーニングに使用される入力とターゲットは、同じノイズ画像からサブサンプリングされた画像である。
デノイジングネットワークは、第1段階で生成されたサブサンプルトレーニングペアで訓練され、提案された正規化器は、より良いパフォーマンスのための追加の損失として訓練される。
論文 参考訳（メタデータ） (2021-01-08T02:03:25Z) - Generative Modeling with Denoising Auto-Encoders and Langevin Sampling [88.83704353627554]
DAEとDSMの両方がスムーズな人口密度のスコアを推定することを示した。
次に、この結果をarXiv:1907.05600のホモトピー法に適用し、その経験的成功を理論的に正当化する。
論文 参考訳（メタデータ） (2020-01-31T23:50:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。