論文の概要: Discrete State Diffusion Models: A Sample Complexity Perspective
- arxiv url: http://arxiv.org/abs/2510.10854v1
- Date: Sun, 12 Oct 2025 23:33:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 18:06:30.131749
- Title: Discrete State Diffusion Models: A Sample Complexity Perspective
- Title(参考訳): 離散状態拡散モデル:サンプル複雑性の観点から
- Authors: Aadithya Srikanth, Mudit Gaur, Vaneet Aggarwal,
- Abstract要約: 離散状態拡散の原理的な理論的枠組みを提示し、最初のサンプル複雑性を$widetildemathcalO(epsilon-2)$とする。
スコア推定誤差を統計的,近似,最適化,クリッピングに分解することで,離散状態モデルを効率的に学習する方法に関する重要な知見が得られる。
- 参考スコア(独自算出の注目度): 43.61958734990224
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models have demonstrated remarkable performance in generating high-dimensional samples across domains such as vision, language, and the sciences. Although continuous-state diffusion models have been extensively studied both empirically and theoretically, discrete-state diffusion models, essential for applications involving text, sequences, and combinatorial structures, remain significantly less understood from a theoretical standpoint. In particular, all existing analyses of discrete-state models assume score estimation error bounds without studying sample complexity results. In this work, we present a principled theoretical framework for discrete-state diffusion, providing the first sample complexity bound of $\widetilde{\mathcal{O}}(\epsilon^{-2})$. Our structured decomposition of the score estimation error into statistical, approximation, optimization, and clipping components offers critical insights into how discrete-state models can be trained efficiently. This analysis addresses a fundamental gap in the literature and establishes the theoretical tractability and practical relevance of discrete-state diffusion models.
- Abstract(参考訳): 拡散モデルは、視覚、言語、科学などの領域にまたがる高次元サンプルを生成する際、顕著な性能を示した。
連続状態拡散モデルは実験的にも理論的にも広く研究されているが、テキスト、シーケンス、組合せ構造を含む応用に不可欠な離散状態拡散モデルは、理論的な観点からはかなり理解されていない。
特に、既存の離散状態モデルの解析では、サンプルの複雑さを研究せずにスコア推定誤差境界を仮定している。
本研究では、離散状態拡散の原理的理論的枠組みを示し、最初のサンプル複雑性を$\widetilde{\mathcal{O}}(\epsilon^{-2})$とする。
スコア推定誤差を統計的,近似,最適化,クリッピングに分解することで,離散状態モデルを効率的に学習する方法に関する重要な知見が得られる。
この分析は、文献の基本的なギャップに対処し、離散状態拡散モデルの理論的トラクタビリティと実践的妥当性を確立する。
関連論文リスト
- Improved Sample Complexity For Diffusion Model Training Without Empirical Risk Minimizer Access [47.96419637803502]
拡散モデルを解析し、$widetildemathcalO(epsilon-4)$に束縛された最先端のサンプル複雑性を提供する。
スコア推定誤差の統計的および最適化成分への構造化分解は、拡散モデルを効率的に訓練する方法に関する重要な洞察を与える。
論文 参考訳(メタデータ) (2025-05-23T20:02:15Z) - How Discrete and Continuous Diffusion Meet: Comprehensive Analysis of Discrete Diffusion Models via a Stochastic Integral Framework [11.71206628091551]
L'evy型積分に基づく離散拡散モデルの誤差解析のための包括的フレームワークを提案する。
我々のフレームワークは、離散拡散モデルにおける現在の理論結果を統一し、強化する。
論文 参考訳(メタデータ) (2024-10-04T16:59:29Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。
経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。
本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
論文 参考訳(メタデータ) (2024-03-18T17:08:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。