論文の概要: Rejection Sampling IMLE: Designing Priors for Better Few-Shot Image
Synthesis
- arxiv url: http://arxiv.org/abs/2409.17439v1
- Date: Thu, 26 Sep 2024 00:19:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-28 23:40:01.152994
- Title: Rejection Sampling IMLE: Designing Priors for Better Few-Shot Image
Synthesis
- Title(参考訳): リジェクションサンプリングIMLE:より優れたFew-Shot画像のための事前設計
合成
- Authors: Chirag Vashist, Shichong Peng, Ke Li
- Abstract要約: 新たな研究分野は、限られたトレーニングデータで深層生成モデルを学ぶことを目的としている。
トレーニングに使用する事前分布を変更する新しいアプローチであるRS-IMLEを提案する。
これにより、既存のGANやIMLEベースの手法に比べて画質が大幅に向上する。
- 参考スコア(独自算出の注目度): 7.234618871984921
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: An emerging area of research aims to learn deep generative models with
limited training data. Prior generative models like GANs and diffusion models
require a lot of data to perform well, and their performance degrades when they
are trained on only a small amount of data. A recent technique called Implicit
Maximum Likelihood Estimation (IMLE) has been adapted to the few-shot setting,
achieving state-of-the-art performance. However, current IMLE-based approaches
encounter challenges due to inadequate correspondence between the latent codes
selected for training and those drawn during inference. This results in
suboptimal test-time performance. We theoretically show a way to address this
issue and propose RS-IMLE, a novel approach that changes the prior distribution
used for training. This leads to substantially higher quality image generation
compared to existing GAN and IMLE-based methods, as validated by comprehensive
experiments conducted on nine few-shot image datasets.
- Abstract(参考訳): 新たな研究分野は、限られたトレーニングデータで深層生成モデルを学ぶことを目的としている。
GANや拡散モデルのような以前の生成モデルでは、パフォーマンス向上のために大量のデータが必要であり、そのパフォーマンスは、少量のデータでのみトレーニングされた時に低下する。
Implicit Maximum Likelihood Estimation (IMLE)と呼ばれる最近の技術は、数ショット設定に適応し、最先端のパフォーマンスを実現している。
しかし、現在のIMLEベースのアプローチは、トレーニング用に選択された潜時符号と推論中に描画された符号との不適切な対応により、課題に直面する。
これにより、最適なテスト時間性能が得られる。
理論的には、この問題に対処する方法を示し、トレーニングに使用する事前分布を変更する新しいアプローチであるRS-IMLEを提案する。
これは既存のGANやIMLEベースの手法と比較して、9つの数枚の画像データセットで実施された包括的な実験によって検証され、かなり高品質な画像生成につながる。
関連論文リスト
- Reward Incremental Learning in Text-to-Image Generation [26.64026346266299]
本稿では,計算オーバーヘッドを最小限に抑える方法であるReward Incremental Distillation(RID)を提案する。
実験結果から,RILシナリオにおける一貫した高次勾配生成の実現におけるRIDの有効性が示された。
論文 参考訳(メタデータ) (2024-11-26T10:54:33Z) - Pruning then Reweighting: Towards Data-Efficient Training of Diffusion Models [33.09663675904689]
データセットプルーニングの観点から,効率的な拡散訓練について検討する。
GAN(Generative Adversarial Network)のような生成モデルに対するデータ効率トレーニングの原則に着想を得て、まず、GANで使用されるデータ選択スキームをDMトレーニングに拡張する。
生成性能をさらに向上するため,クラスワイド・リウェイト方式を採用する。
論文 参考訳(メタデータ) (2024-09-27T20:21:19Z) - Degradation-Guided One-Step Image Super-Resolution with Diffusion Priors [75.24313405671433]
拡散に基づく画像超解像法 (SR) は、事前訓練された大規模なテキスト・画像拡散モデルを先行として活用することにより、顕著な成功を収めた。
本稿では,拡散型SR手法の効率問題に対処する新しい一段階SRモデルを提案する。
既存の微調整戦略とは異なり、SR専用の劣化誘導低ランク適応 (LoRA) モジュールを設計した。
論文 参考訳(メタデータ) (2024-09-25T16:15:21Z) - Unleashing the Power of Generic Segmentation Models: A Simple Baseline for Infrared Small Target Detection [57.666055329221194]
本稿では,Segment Anything Model (SAM) などのジェネリックセグメンテーションモデルの赤外線小物体検出タスクへの適応について検討する。
提案モデルでは,既存の手法と比較して,精度とスループットの両方で性能が大幅に向上した。
論文 参考訳(メタデータ) (2024-09-07T05:31:24Z) - Data Adaptive Traceback for Vision-Language Foundation Models in Image Classification [34.37262622415682]
我々はData Adaptive Tracebackと呼ばれる新しい適応フレームワークを提案する。
具体的には、ゼロショット法を用いて、事前学習データの最もダウンストリームなタスク関連サブセットを抽出する。
我々は、擬似ラベルに基づく半教師付き手法を採用し、事前学習画像の再利用と、半教師付き学習における確証バイアス問題に対処するための視覚言語コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2024-07-11T18:01:58Z) - Self-Play Fine-Tuning of Diffusion Models for Text-to-Image Generation [59.184980778643464]
ファインチューニング拡散モデル : 生成人工知能(GenAI)の最前線
本稿では,拡散モデル(SPIN-Diffusion)のための自己演奏ファインチューニングという革新的な手法を紹介する。
提案手法は従来の教師付き微調整とRL戦略の代替として,モデル性能とアライメントの両方を大幅に改善する。
論文 参考訳(メタデータ) (2024-02-15T18:59:18Z) - BOOT: Data-free Distillation of Denoising Diffusion Models with
Bootstrapping [64.54271680071373]
拡散モデルは多様な画像を生成する優れた可能性を示している。
知識蒸留は、推論ステップの数を1つか数に減らすための治療法として最近提案されている。
本稿では,効率的なデータフリー蒸留アルゴリズムにより限界を克服するBOOTと呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2023-06-08T20:30:55Z) - GSURE-Based Diffusion Model Training with Corrupted Data [35.56267114494076]
本稿では, 劣化データのみに基づく生成拡散モデルのための新しいトレーニング手法を提案する。
顔画像と磁気共鳴画像(MRI)の撮影技術について紹介する。
論文 参考訳(メタデータ) (2023-05-22T15:27:20Z) - Regularizing Generative Adversarial Networks under Limited Data [88.57330330305535]
本研究は、限られたデータ上で堅牢なGANモデルをトレーニングするための正規化手法を提案する。
正規化損失とLeCam-divergenceと呼ばれるf-divergenceの関連性を示す。
論文 参考訳(メタデータ) (2021-04-07T17:59:06Z) - Instance Selection for GANs [25.196177369030146]
GAN(Generative Adversarial Networks)は、高品質な合成画像を生成するために広く採用されている。
GANはしばしばデータ多様体の外にある非現実的なサンプルを生成する。
本稿では,サンプルの品質向上のための新しいアプローチを提案する。モデルトレーニングが行われる前に,インスタンス選択によるトレーニングデータセットの変更を行う。
論文 参考訳(メタデータ) (2020-07-30T06:33:51Z) - Improving Maximum Likelihood Training for Text Generation with Density
Ratio Estimation [51.091890311312085]
本稿では,テキスト生成で遭遇する大規模なサンプル空間において,効率よく安定な自動回帰シーケンス生成モデルのトレーニング手法を提案する。
本手法は,品質と多様性の両面で,最大類似度推定や他の最先端シーケンス生成モデルよりも安定に優れている。
論文 参考訳(メタデータ) (2020-07-12T15:31:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。