論文の概要: A PDE Perspective on Generative Diffusion Models

• arxiv url: http://arxiv.org/abs/2511.05940v1
• Date: Sat, 08 Nov 2025 09:19:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-11 21:18:44.668945
• Title: A PDE Perspective on Generative Diffusion Models
• Title（参考訳）: 生成拡散モデルに関するPDEの展望
• Authors: Kang Liu, Enrique Zuazua,
• Abstract要約: 我々は、スコアベース拡散プロセスのための厳密な偏微分方程式(PDE)フレームワークを開発する。 我々は、関連するスコアベースのFokker-Planckダイナミクスに対して、急激な$Lp$-stability推定を導出する。 その結果、正確な誘導の下で拡散軌道がデータ多様体に戻るという理論的保証が得られる。
• 参考スコア（独自算出の注目度）: 8.328108675535562
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Score-based diffusion models have emerged as a powerful class of generative methods, achieving state-of-the-art performance across diverse domains. Despite their empirical success, the mathematical foundations of those models remain only partially understood, particularly regarding the stability and consistency of the underlying stochastic and partial differential equations governing their dynamics. In this work, we develop a rigorous partial differential equation (PDE) framework for score-based diffusion processes. Building on the Li--Yau differential inequality for the heat flow, we prove well-posedness and derive sharp $L^p$-stability estimates for the associated score-based Fokker--Planck dynamics, providing a mathematically consistent description of their temporal evolution. Through entropy stability methods, we further show that the reverse-time dynamics of diffusion models concentrate on the data manifold for compactly supported data distributions and a broad class of initialization schemes, with a concentration rate of order $\sqrt{t}$ as $t \to 0$. These results yield a theoretical guarantee that, under exact score guidance, diffusion trajectories return to the data manifold while preserving imitation fidelity. Our findings also provide practical insights for designing diffusion models, including principled criteria for score-function construction, loss formulation, and stopping-time selection. Altogether, this framework provides a quantitative understanding of the trade-off between generative capacity and imitation fidelity, bridging rigorous analysis and model design within a unified mathematical perspective.
• Abstract（参考訳）: スコアベース拡散モデルは、様々な領域で最先端のパフォーマンスを達成するために、強力な生成手法のクラスとして登場した。 その経験的成功にもかかわらず、これらのモデルの数学的基礎は、特に基礎となる確率方程式と偏微分方程式の安定性と一貫性について、部分的にしか理解されていない。 本研究では、スコアベース拡散プロセスのための厳密な偏微分方程式(PDE)フレームワークを開発する。 熱流のLi-Yau差分不等式に基づいて、その時間的進化を数学的に一貫した記述を提供し、関連するスコアベースFokker-Planckダイナミクスの鋭い$L^p$-stability推定を導出する。 エントロピー安定性法により、拡散モデルの逆時間ダイナミクスは、コンパクトに支持されたデータ分布と幅広い初期化スキームのクラスに焦点を合わせ、次数$\sqrt{t}$ as $t \to 0$ の集中率を持つことを示す。 これらの結果は、正確なスコアガイダンスの下では、拡散軌跡が模倣忠実性を保持しながらデータ多様体に戻るという理論的保証を与える。 また, スコア関数の構成, 損失定式化, 停止時間選択の原理的基準など, 拡散モデルを設計するための実用的な知見も提供する。 さらに、この枠組みは、生成能力と模倣の忠実さの間のトレードオフを定量的に理解し、厳密な分析と統一された数学的観点でのモデル設計をブリッジする。

関連論文リスト

• Stochastic Deep Learning: A Probabilistic Framework for Modeling Uncertainty in Structured Temporal Data [0.0]
  構造化データと時間的データを含む機械学習アプリケーションにおける不確実性を改善するために、微分方程式(SDE)を深層生成モデルと統合する新しいフレームワークを提案する。 このアプローチはLatent Differential Inference (SLDI)と呼ばれ、変分オートエンコーダの潜時空間にIt SDEを埋め込む。 SDEのドリフトと拡散の項はニューラルネットワークによってパラメータ化され、データ駆動推論と古典的時系列モデルにより不規則なサンプリングと複雑な動的構造を扱うことができる。
  論文  参考訳（メタデータ） (2026-01-08T18:53:59Z)
• Generative Latent Neural PDE Solver using Flow Matching [8.397730500554047]
  低次元の潜伏空間にPDE状態を埋め込んだPDEシミュレーションのための潜伏拡散モデルを提案する。 我々のフレームワークは、オートエンコーダを使用して、異なるタイプのメッシュを統一された構造化潜在グリッドにマッピングし、複雑なジオメトリをキャプチャします。 数値実験により,提案モデルは,精度と長期安定性の両方において,決定論的ベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2025-03-28T16:44:28Z)
• Continuous Diffusion Model for Language Modeling [64.7425225935854]
  離散的データに対する既存の連続拡散モデルは離散的手法と比較して性能が劣る。 本稿では,下層の分類分布の幾何学を組み込んだ言語モデリングのための連続拡散モデルを提案する。 本手法は,既存の離散拡散モデルより優れ,自己回帰モデルの性能にアプローチする。
  論文  参考訳（メタデータ） (2025-02-17T08:54:29Z)
• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Convergence Analysis of Discrete Diffusion Model: Exact Implementation through Uniformization [17.535229185525353]
  連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。 我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-12T22:26:52Z)
• Closing the ODE-SDE gap in score-based diffusion models through the Fokker-Planck equation [0.562479170374811]
  スコアベース拡散モデルのトレーニング時に生じる力学と近似の範囲を厳密に記述する。 従来のスコアベース拡散モデルでは, ODE-とSDE-誘導分布に有意な差が認められることを示す。
  論文  参考訳（メタデータ） (2023-11-27T16:44:50Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Score-based Generative Modeling Through Backward Stochastic Differential Equations: Inversion and Generation [6.2255027793924285]
  提案したBSDEベースの拡散モデルは、機械学習における微分方程式(SDE)の適用を拡大する拡散モデリングの新しいアプローチを示す。 モデルの理論的保証、スコアマッチングにリプシッツネットワークを用いることの利点、および拡散反転、条件拡散、不確実性定量化など様々な分野への応用の可能性を示す。
  論文  参考訳（メタデータ） (2023-04-26T01:15:35Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。