論文の概要: NoiseRater: Meta-Learned Noise Valuation for Diffusion Model Training
- arxiv url: http://arxiv.org/abs/2605.08144v1
- Date: Sat, 02 May 2026 19:43:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.392379
- Title: NoiseRater: Meta-Learned Noise Valuation for Diffusion Model Training
- Title(参考訳): NoiseRater:拡散モデルトレーニングのためのメタラーニングノイズ評価
- Authors: Fang Wu, Haokai Zhao, Da Xing, Hanqun Cao, Tinson Xu, Yanchao Li, Xiangru Tang, Zehong Wang, Aaron Tu, Kuan Pang, Hanchen Wang, Hongbin Lin, Zeqi Zhou, Yinxi Li, Peng Xia, Li Erran Li, Molei Tao, Jure Leskovec, Aditya Joshi, Yejin Choi,
- Abstract要約: NoiseRaterは、拡散モデルトレーニングにおけるインスタンスレベルのノイズ評価のためのメタラーニングフレームワークである。
NoiseRaterは、重要度スコアをデータとタイムステップで条件付けられた個々のノイズ実現に割り当てる。
FFHQとImageNetの実験では、すべてのノイズサンプルが等しく寄与するわけではない。
- 参考スコア(独自算出の注目度): 81.58321000203712
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have achieved remarkable success across a wide range of generative tasks, yet their training paradigm largely treats injected noise as uniformly informative. In this work, we challenge this assumption and introduce NoiseRater, a meta-learning framework for instance-level noise valuation in diffusion model training. We propose a parametric noise rater that assigns importance scores to individual noise realizations conditioned on data and timestep, enabling adaptive reweighting of the training objective. The rater is trained via bilevel optimization to improve downstream validation performance after inner-loop diffusion updates. To enable efficient deployment, we further design a decoupled two-stage pipeline that transitions from soft weighting during meta-training to hard noise selection during standard training. Extensive experiments on FFHQ and ImageNet demonstrate that not all noise samples contribute equally, and that prioritizing informative noise improves both training efficiency and generation quality. Our results establish noise valuation as a complementary and previously underexplored axis for improving diffusion model training. Our code is available at: https://anonymous.4open.science/r/NoiseRater-DEB116.
- Abstract(参考訳): 拡散モデルは様々な生成タスクにおいて顕著な成功を収めてきたが、その訓練パラダイムは射出ノイズを一様情報として扱う。
本研究では、この仮定に挑戦し、拡散モデルトレーニングにおけるインスタンスレベルのノイズ評価のためのメタラーニングフレームワークであるNossRaterを導入する。
本稿では,重要度をデータとタイムステップに設定した個別ノイズ実現に割り当てるパラメトリックノイズレーダを提案し,トレーニング対象の適応的再重み付けを実現する。
ラッシャーは、インナーループ拡散更新後の下流検証性能を改善するために、バイレベル最適化によって訓練される。
効率的な展開を実現するため,メタトレーニング中にソフトウェイディングから標準トレーニング時にハードノイズ選択へ移行する分離された2段パイプラインを設計する。
FFHQとImageNetの大規模な実験では、全てのノイズサンプルが等しく寄与するわけではなく、情報ノイズの優先順位付けによってトレーニング効率と生成品質が向上することを示した。
本研究は,拡散モデルトレーニングを改善するための補足的かつ未探索の軸として,雑音評価を確立した。
私たちのコードは、https://anonymous.4open.science/r/NoiseRater-DEB116で利用可能です。
関連論文リスト
- Impact of Noisy Supervision in Foundation Model Learning [91.56591923244943]
本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。
雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2024-03-11T16:22:41Z) - Blue noise for diffusion models [50.99852321110366]
本稿では,画像内および画像間の相関雑音を考慮した拡散モデルを提案する。
我々のフレームワークは、勾配流を改善するために、1つのミニバッチ内に画像間の相関を導入することができる。
本手法を用いて,各種データセットの質的,定量的な評価を行う。
論文 参考訳(メタデータ) (2024-02-07T14:59:25Z) - Understanding and Mitigating the Label Noise in Pre-training on
Downstream Tasks [91.15120211190519]
本稿では、事前学習データセットにおけるノイズの性質を理解し、下流タスクへの影響を軽減することを目的とする。
雑音の悪影響を軽減するために特徴空間に適応する軽量ブラックボックスチューニング法(NMTune)を提案する。
論文 参考訳(メタデータ) (2023-09-29T06:18:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。