論文の概要: Score Augmentation for Diffusion Models
- arxiv url: http://arxiv.org/abs/2508.07926v1
- Date: Mon, 11 Aug 2025 12:39:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-12 21:23:29.093853
- Title: Score Augmentation for Diffusion Models
- Title(参考訳): 拡散モデルのためのスコア強化
- Authors: Liang Hou, Yuan Gao, Boyuan Jiang, Xin Tao, Qi Yan, Renjie Liao, Pengfei Wan, Di Zhang, Kun Gai,
- Abstract要約: 拡散モデルに特化して設計された新しいデータ拡張フレームワークであるScore Augmentation(ScoreAug)を提案する。
ScoreAugはノイズの多いデータに変換を適用する。
実験では、CIFAR-10、FFHQ、AFHQv2、ImageNetなどの複数のベンチマークでScoreAugを広範囲に検証した。
- 参考スコア(独自算出の注目度): 36.66701387426494
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models have achieved remarkable success in generative modeling. However, this study confirms the existence of overfitting in diffusion model training, particularly in data-limited regimes. To address this challenge, we propose Score Augmentation (ScoreAug), a novel data augmentation framework specifically designed for diffusion models. Unlike conventional augmentation approaches that operate on clean data, ScoreAug applies transformations to noisy data, aligning with the inherent denoising mechanism of diffusion. Crucially, ScoreAug further requires the denoiser to predict the augmentation of the original target. This design establishes an equivariant learning objective, enabling the denoiser to learn scores across varied denoising spaces, thereby realizing what we term score augmentation. We also theoretically analyze the relationship between scores in different spaces under general transformations. In experiments, we extensively validate ScoreAug on multiple benchmarks including CIFAR-10, FFHQ, AFHQv2, and ImageNet, with results demonstrating significant performance improvements over baselines. Notably, ScoreAug effectively mitigates overfitting across diverse scenarios, such as varying data scales and model capacities, while exhibiting stable convergence properties. Another advantage of ScoreAug over standard data augmentation lies in its ability to circumvent data leakage issues under certain conditions. Furthermore, we show that ScoreAug can be synergistically combined with traditional data augmentation techniques to achieve additional performance gains.
- Abstract(参考訳): 拡散モデルは生成的モデリングにおいて顕著な成功を収めた。
しかし,本研究は拡散モデルトレーニング,特にデータ限定型制度における過度適合の存在を裏付けるものである。
この課題に対処するために,拡散モデルに特化して設計された新しいデータ拡張フレームワークであるScore Augmentation(ScoreAug)を提案する。
クリーンなデータを扱う従来の拡張アプローチとは異なり、ScoreAugはノイズの多いデータに変換を適用する。
重要なことは、ScoreAugはデノイザーに元のターゲットの増大を予測することを要求する。
この設計は同変学習の目的を確立し、デノイザーは様々なデノイジング空間のスコアを学習し、それによって私たちがスコア拡張と呼ぶものを実現する。
また、一般変換の下で異なる空間におけるスコア間の関係を理論的に解析する。
実験では, CIFAR-10, FFHQ, AFHQv2, ImageNetなどの複数のベンチマークでScoreAugを広範囲に検証し, その結果, ベースラインよりも大幅な性能改善が見られた。
特に、ScoreAugは、安定した収束特性を示しながら、さまざまなデータスケールやモデルキャパシティなど、さまざまなシナリオにおけるオーバーフィッティングを効果的に軽減します。
標準データ拡張に対するScoreAugのもうひとつのメリットは、特定の条件下でデータ漏洩問題を回避できることにある。
さらに,ScoreAugを従来のデータ拡張技術と相乗的に組み合わせることで,さらなるパフォーマンス向上を実現することを示す。
関連論文リスト
- Fourier-basis Functions to Bridge Augmentation Gap: Rethinking Frequency
Augmentation in Image Classification [3.129187821625805]
AFA(Auxiliary Fourier-Basis Augmentation)は、周波数領域の増大を狙った技法であり、視覚的な拡張によって残された拡張ギャップを埋めるものである。
以上の結果から,AFAは,一般的な汚職に対するモデルの堅牢性,OODの一般化,モデルの性能の整合性,摂動の増大に対するモデルの性能の整合性,モデルの標準性能に対する無視的欠陥に寄与することが示唆された。
論文 参考訳(メタデータ) (2024-03-04T11:30:02Z) - Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution [67.9215891673174]
離散空間に対するスコアマッチングを自然に拡張する新たな損失として,スコアエントロピーを提案する。
標準言語モデリングタスク上で,Score Entropy Discrete Diffusionモデルをテストする。
論文 参考訳(メタデータ) (2023-10-25T17:59:12Z) - DualAug: Exploiting Additional Heavy Augmentation with OOD Data
Rejection [77.6648187359111]
そこで本稿では,textbfDualAug という新しいデータ拡張手法を提案する。
教師付き画像分類ベンチマークの実験では、DualAugは様々な自動データ拡張法を改善している。
論文 参考訳(メタデータ) (2023-10-12T08:55:10Z) - ScoreMix: A Scalable Augmentation Strategy for Training GANs with
Limited Data [93.06336507035486]
GAN(Generative Adversarial Networks)は通常、限られたトレーニングデータが利用できる場合、過度に適合する。
ScoreMixは、様々な画像合成タスクのための、新しくスケーラブルなデータ拡張手法である。
論文 参考訳(メタデータ) (2022-10-27T02:55:15Z) - Augmentation-induced Consistency Regularization for Classification [25.388324221293203]
我々はCR-Augと呼ばれるデータ拡張に基づく一貫性の規則化フレームワークを提案する。
CR-Augは、データ拡張によって生成された異なるサブモデルの出力分布を互いに整合するように強制する。
画像と音声の分類タスクにCR-Augを実装し、その有効性を検証するために広範な実験を行う。
論文 参考訳(メタデータ) (2022-05-25T03:15:36Z) - Revisiting Consistency Regularization for Semi-Supervised Learning [80.28461584135967]
そこで我々は,FeatDistLossというシンプルな手法により,一貫性の規則化を改良したフレームワークを提案する。
実験結果から,本モデルは様々なデータセットや設定のための新しい技術状態を定義する。
論文 参考訳(メタデータ) (2021-12-10T20:46:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。