論文の概要: NoiseRater: Meta-Learned Noise Valuation for Diffusion Model Training
- arxiv url: http://arxiv.org/abs/2605.08144v1
- Date: Sat, 02 May 2026 19:43:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.392379
- Title: NoiseRater: Meta-Learned Noise Valuation for Diffusion Model Training
- Title(参考訳): NoiseRater:拡散モデルトレーニングのためのメタラーニングノイズ評価
- Abstract要約: NoiseRaterは、拡散モデルトレーニングにおけるインスタンスレベルのノイズ評価のためのメタラーニングフレームワークである。
NoiseRaterは、重要度スコアをデータとタイムステップで条件付けられた個々のノイズ実現に割り当てる。
FFHQとImageNetの実験では、すべてのノイズサンプルが等しく寄与するわけではない。
- 参考スコア(独自算出の注目度): 81.58321000203712
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have achieved remarkable success across a wide range of generative tasks, yet their training paradigm largely treats injected noise as uniformly informative. In this work, we challenge this assumption and introduce NoiseRater, a meta-learning framework for instance-level noise valuation in diffusion model training. We propose a parametric noise rater that assigns importance scores to individual noise realizations conditioned on data and timestep, enabling adaptive reweighting of the training objective. The rater is trained via bilevel optimization to improve downstream validation performance after inner-loop diffusion updates. To enable efficient deployment, we further design a decoupled two-stage pipeline that transitions from soft weighting during meta-training to hard noise selection during standard training. Extensive experiments on FFHQ and ImageNet demonstrate that not all noise samples contribute equally, and that prioritizing informative noise improves both training efficiency and generation quality. Our results establish noise valuation as a complementary and previously underexplored axis for improving diffusion model training. Our code is available at: https://anonymous.4open.science/r/NoiseRater-DEB116.
- Abstract(参考訳): 拡散モデルは様々な生成タスクにおいて顕著な成功を収めてきたが、その訓練パラダイムは射出ノイズを一様情報として扱う。
本研究では、この仮定に挑戦し、拡散モデルトレーニングにおけるインスタンスレベルのノイズ評価のためのメタラーニングフレームワークであるNossRaterを導入する。
本稿では,重要度をデータとタイムステップに設定した個別ノイズ実現に割り当てるパラメトリックノイズレーダを提案し,トレーニング対象の適応的再重み付けを実現する。
ラッシャーは、インナーループ拡散更新後の下流検証性能を改善するために、バイレベル最適化によって訓練される。
効率的な展開を実現するため,メタトレーニング中にソフトウェイディングから標準トレーニング時にハードノイズ選択へ移行する分離された2段パイプラインを設計する。
FFHQとImageNetの大規模な実験では、全てのノイズサンプルが等しく寄与するわけではなく、情報ノイズの優先順位付けによってトレーニング効率と生成品質が向上することを示した。
本研究は,拡散モデルトレーニングを改善するための補足的かつ未探索の軸として,雑音評価を確立した。
私たちのコードは、https://anonymous.4open.science/r/NoiseRater-DEB116で利用可能です。
関連論文リスト
- Transformers Learn the Optimal DDPM Denoiser for Multi-Token GMMs [13.741630476895773]
本稿では,変圧器を用いた拡散モデルのトレーニングのための最初の収束解析を行う。
人口の拡散確率モデル (DDPM) の目的を, 人口の分散確率モデル (DDPM) とみなす。
より深い調査により、トレーニングされた平均偏極モジュールは、拡散ステップにおける注入音の最小値平均正方形誤差(MMSE)を近似することができることが明らかになった。
論文 参考訳(メタデータ) (2026-04-11T07:46:15Z) - Machine Unlearning for Robust DNNs: Attribution-Guided Partitioning and Neuron Pruning in Noisy Environments [5.8166742412657895]
ディープニューラルネットワーク(DNN)は、さまざまなドメインで顕著な成功を収めているが、ノイズやトレーニングデータによってそのパフォーマンスが著しく低下する可能性がある。
本稿では,帰属誘導型データパーティショニング,識別的ニューロンプルーニング,およびノイズのあるサンプルの影響を軽減するための微調整を目的とした新しいフレームワークを提案する。
CIFAR-10の標準リトレーニングよりも約10%の絶対精度向上を実現し,ラベルノイズを注入した。
論文 参考訳(メタデータ) (2025-06-13T09:37:11Z) - Improved Noise Schedule for Diffusion Training [51.849746576387375]
本稿では,拡散モデルのトレーニングを強化するため,ノイズスケジュールを設計するための新しい手法を提案する。
我々は,標準のコサインスケジュールよりもノイズスケジュールの方が優れていることを実証的に示す。
論文 参考訳(メタデータ) (2024-07-03T17:34:55Z) - Impact of Noisy Supervision in Foundation Model Learning [91.56591923244943]
本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。
雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2024-03-11T16:22:41Z) - Blue noise for diffusion models [50.99852321110366]
本稿では,画像内および画像間の相関雑音を考慮した拡散モデルを提案する。
我々のフレームワークは、勾配流を改善するために、1つのミニバッチ内に画像間の相関を導入することができる。
本手法を用いて,各種データセットの質的,定量的な評価を行う。
論文 参考訳(メタデータ) (2024-02-07T14:59:25Z) - Understanding and Mitigating the Label Noise in Pre-training on
Downstream Tasks [91.15120211190519]
本稿では、事前学習データセットにおけるノイズの性質を理解し、下流タスクへの影響を軽減することを目的とする。
雑音の悪影響を軽減するために特徴空間に適応する軽量ブラックボックスチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2023-09-29T06:18:15Z) - DiffSED: Sound Event Detection with Denoising Diffusion [70.18051526555512]
生成学習の観点からSED問題を再構築する。
具体的には,騒音拡散過程において,雑音のある提案から音の時間境界を生成することを目的としている。
トレーニング中は,ノイズの多い遅延クエリを基本バージョンに変換することで,ノイズ発生過程の逆転を学習する。
論文 参考訳(メタデータ) (2023-08-14T17:29:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。