論文の概要: Noise Schedule Design for Diffusion Models: An Optimal Control Perspective
- arxiv url: http://arxiv.org/abs/2605.21911v1
- Date: Thu, 21 May 2026 02:32:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.059453
- Title: Noise Schedule Design for Diffusion Models: An Optimal Control Perspective
- Title（参考訳）: 拡散モデルのための騒音スケジュール設計:最適制御の観点から
- Authors: Seo Taek Kong, Weina Wang, R. Srikant,
- Abstract要約: 拡散モデルにおけるノイズスケジュールを解析・設計するための基本的枠組みを開発する。
この設計問題を最適制御問題として再検討できることが示される。
最適制御問題の目的は、フィッシャー情報を含む機能である。
- 参考スコア（独自算出の注目度）: 8.71282366592985
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We develop a principled framework for analyzing and designing noise schedules in diffusion models. We show that one can recast this design problem as an optimal control problem, whose state is the Fisher information of the diffusion process which evolves according to an ODE and the control input is the noise schedule. The objective of the optimal control problem is a functional involving the Fisher information, which is shown to be an upper bound on the Kullback-Leibler sampling error. By solving this optimal control problem, we obtain sufficient conditions on noise schedules under which state-of-the-art $\tilde{\mathcal{O}} (d/n)$ sampling error is achievable, where $d$ is the data dimension and $n$ is the number of discretization steps. While existing theoretical work also prove that $\tilde{\mathcal{O}}(d/n)$ sampling error bounds are achievable, these results hold for specific noise schedules, which do not include the schedules used in practice. Under a further parametric assumption on the data distribution, we show that one can obtain closed-form expressions for the noise schedules. These noise schedules generalize standard empirical schedules such as exponential and sigmoid schedules by allowing additional parameters that can be tuned. Systematically tuning the parameters of these schedules yields new schedules that achieve superior FID scores on image generation benchmarks.
- Abstract（参考訳）: 拡散モデルにおけるノイズスケジュールを解析・設計するための基本的枠組みを開発する。
我々は,この設計問題を,ODEに従って進化する拡散過程のフィッシャー情報であり,制御入力がノイズスケジュールである最適制御問題として再キャスト可能であることを示す。
最適制御問題の目的は、Kulback-Leiblerサンプリングエラーの上限であるFisher情報を含む関数である。
この最適制御問題を解くことで、最先端の$\tilde{\mathcal{O}} (d/n)$サンプリングエラーが達成可能なノイズスケジュールに関する十分な条件を得ることができ、$d$はデータ次元、$n$は離散化ステップの数である。
既存の理論的研究は、$\tilde{\mathcal{O}}(d/n)$ sample error bounds が達成可能であることを証明している。
データ分布に関するさらにパラメトリックな仮定の下で、ノイズスケジュールに対する閉形式表現が得られることを示す。
これらのノイズスケジュールは、指数関数やシグモノイドスケジュールのような標準的な経験的スケジュールを一般化し、調整可能な追加パラメータを許容する。
これらのスケジュールのパラメータを体系的に調整すると、画像生成ベンチマークにおいて優れたFIDスコアを達成する新しいスケジュールが得られる。
関連論文リスト
- Information-Guided Noise Allocation for Efficient Diffusion Training [50.49440376762109]
InfoNoiseはデータ適応型トレーニングノイズスケジュールであり、スケジュール設計を情報誘導型ノイズサンプリング分布に置き換える。
自然画像のベンチマーク全体において、InfoNoiseはEDMスタイルのスケジュールにマッチするか、あるいは超えている。
全体としてInfoNoiseは、ノイズスケジューリングをデータ適応化し、拡散モデルがドメイン全体に広がるにつれて、データセットごとのスケジュール設計の必要性を減らす。
論文 参考訳（メタデータ） (2026-02-20T22:45:01Z) - Diffusion Models for Solving Inverse Problems via Posterior Sampling with Piecewise Guidance [52.705112811734566]
断片的なガイダンススキームを用いて,逆問題を解決するための新しい拡散型フレームワークが導入された。
提案手法は問題に依存しず,様々な逆問題に容易に適応できる。
このフレームワークは, (4時間), (8時間) の超分解能タスクに対して, (23%), (24%) および (24%) の無作為マスクを塗布する場合の (25%) の推論時間を短縮する。
論文 参考訳（メタデータ） (2025-07-22T19:35:14Z) - Optimizing Noise Schedules of Generative Models in High Dimensionss [18.19470017419402]
分散(VP)と分散爆発(VE)の保存に特有なノイズスケジュールは,高次特徴と低次特徴の両方の回復を可能にすることを示す。
また、これらのスケジュールは、確率フローODEを識別可能なGMとCurie-Weiss(CW)モデルの生成モデルが得られることを示す。
論文 参考訳（メタデータ） (2025-01-02T00:39:00Z) - DAWN-FM: Data-Aware and Noise-Informed Flow Matching for Solving Inverse Problems [4.212663349859165]
不完全またはノイズの観測からパラメータを推定する逆問題(逆問題)は、医療画像などの様々な分野で発生する。
簡単な参照分布をマップするために決定論的プロセスを統合する生成フレームワークであるフローマッチング(FM)を採用している。
我々の手法DAWN-FM: Data-AWare and Noise-informed Flow Matchingは,データとノイズの埋め込みを組み込んで,測定データに関する表現へのアクセスを可能にする。
論文 参考訳（メタデータ） (2024-12-06T04:18:49Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - Improved Noise Schedule for Diffusion Training [51.849746576387375]
本稿では,拡散モデルのトレーニングを強化するため,ノイズスケジュールを設計するための新しい手法を提案する。
我々は,標準のコサインスケジュールよりもノイズスケジュールの方が優れていることを実証的に示す。
論文 参考訳（メタデータ） (2024-07-03T17:34:55Z) - Score-based Diffusion Models in Function Space [137.70916238028306]
拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。
この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。
データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
論文 参考訳（メタデータ） (2023-02-14T23:50:53Z) - Adaptive Noisy Data Augmentation for Regularized Estimation and
Inference in Generalized Linear Models [15.817569026827451]
一般化線形モデル(GLM)の推定と推定を規則化するAdaPtive Noise Augmentation (PANDA) 手法を提案する。
シミュレーションおよび実生活データにおいて,同一タイプの正則化器の既存手法に対して,PANDAが優れているか類似した性能を示す。
論文 参考訳（メタデータ） (2022-04-18T22:02:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。