論文の概要: Score Approximation for Diffusion Models on Arbitrary Low-Dimensional Structures
- arxiv url: http://arxiv.org/abs/2606.19894v1
- Date: Thu, 18 Jun 2026 07:51:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.712041
- Title: Score Approximation for Diffusion Models on Arbitrary Low-Dimensional Structures
- Title(参考訳): 任意低次元構造上の拡散モデルのスコア近似
- Authors: Xinhe Mu, Zaijiu Shang, Zhaoqi Zhou, Chuan Zhou, Qi Meng, Guiying Yan, Zhiming Ma,
- Abstract要約: この研究は、ミンコフスキー上次元$d$の任意のコンパクト集合上で支持される任意の分布に対して作用する普遍的なスコア近似定理を確立する。
離散混合の新たな定式化を用いて、このスコア関数が、複雑性が指数関数的に$d$でしか増加しないReLUネットワークで近似できることを証明した。
- 参考スコア(独自算出の注目度): 23.118804869806898
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The remarkable success of score-based diffusion models has spurred significant efforts to establish their theoretical foundations. However, existing complexity bounds for score approximation rely heavily on restrictive assumptions like Lipschitz continuous densities or smooth manifold supports, which are routinely violated by the singularities, sharp boundaries, and disjoint clusters inherent to real-world perceptual data. This work establishes a universal score approximation theorem that works for any distribution supported on any compact set of upper Minkowski dimension $d$. Using a novel discrete-mixture formulation, we prove that the score function can be approximated with a ReLU network whose complexity grows exponentially only with $d$, thus breaking the exponential curse of ambient dimensionality. Combined with existing theories on accurately solving the backward diffusion SDE for arbitrary compact distributions, our work shows that diffusion models readily adapt to irregular, non-smooth data structures, explaining their competence in real-world generative tasks.
- Abstract(参考訳): スコアベース拡散モデルの顕著な成功は、その理論基盤を確立するための大きな努力を刺激した。
しかし、スコア近似の既存の複雑性境界は、リプシッツ連続密度や滑らかな多様体のサポートのような制限的な仮定に大きく依存しており、これは実世界の知覚データに固有の特異性、鋭い境界、および不随伴クラスタによって規則的に破られる。
この研究は、ミンコフスキー上次元$d$の任意のコンパクト集合上で支持される任意の分布に対して作用する普遍的なスコア近似定理を確立する。
離散混合の新たな定式化を用いて、スコア関数は、複雑さが指数関数的に$d$でしか増加しないReLUネットワークと近似できることを証明し、それによって周囲次元の指数論的呪いを破る。
任意のコンパクト分布に対する後方拡散SDEを正確に解くための既存の理論と組み合わせて、拡散モデルは不規則な非滑らかなデータ構造に容易に適応し、実世界の生成タスクにおけるそれらの能力を説明する。
関連論文リスト
- Diffusion Models Are Statistically Optimal for Learning Low-Dimensional Multi-Modal Distributions [11.621528352410502]
低次元部分空間の和集合に支持された学習分布に対する拡散モデルのサンプル複雑性について検討する。
拡散モデルは1-ワッサーシュタイン距離において$varepsilon$誤差を達成するために、少なくとも$widetildeO(varepsilon-k vee 2)$サンプルを必要とする。
論文 参考訳(メタデータ) (2026-05-28T16:13:44Z) - From Scores to Gibbs Correctors: Accelerating Uniform-Rate Discrete Diffusion Models [58.02657021435213]
我々は、Gibs-Accelerated Discrete Diffusion (GADD)と呼ばれる離散拡散モデルのための新しいGibsベースの修正器を提案する。
我々はGADDが$mathcalO(mathrmpolylog (varepsilon-1)$の総合的なサンプリング複雑性を達成し、均一レートの離散拡散モデルに対する拡散に基づくサンプリング者にとって最初のレートとなることを示す。
論文 参考訳(メタデータ) (2026-05-26T17:52:28Z) - GRIFDIR: Graph Resolution-Invariant FEM Diffusion Models in Function Spaces over Irregular Domains [56.121725064621295]
関数空間におけるスコアベース拡散モデル(英語版)は関数値データをモデル化するための原則的なフレームワークを提供する。
しかし、実践的な実装はこれらの利点を完全に実現するのに苦労しています。
一般化された畳み込みカーネルを有限グラフカーネルとして表現する新しいアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-05-05T08:33:52Z) - Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳(メタデータ) (2026-02-16T18:48:17Z) - Non-asymptotic error bounds for probability flow ODEs under weak log-concavity [6.661419982187023]
この研究は、確率フローODEの一般クラスに対して、2-ワッサーシュタイン距離における非漸近収束境界を確立する。
この結果は収束理論を、より現実的なデータ分布と実用的なODEソルバに拡張する。
論文 参考訳(メタデータ) (2025-10-20T14:54:38Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Convergence Analysis of Discrete Diffusion Model: Exact Implementation
through Uniformization [17.535229185525353]
連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。
我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
論文 参考訳(メタデータ) (2024-02-12T22:26:52Z) - Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。
実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:31:55Z) - Score Approximation, Estimation and Distribution Recovery of Diffusion
Models on Low-Dimensional Data [68.62134204367668]
本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。
適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。
推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
論文 参考訳(メタデータ) (2023-02-14T17:02:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。