論文の概要: A Malliavin calculus approach to score functions in diffusion generative models

• arxiv url: http://arxiv.org/abs/2507.05550v1
• Date: Tue, 08 Jul 2025 00:20:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-09 16:34:37.457287
• Title: A Malliavin calculus approach to score functions in diffusion generative models
• Title（参考訳）: 拡散生成モデルにおけるスコア関数に対するMalliavin計算法
• Authors: Ehsan Mirafzali, Frank Proske, Utkarsh Gupta, Daniele Venturi, Razvan Marinescu,
• Abstract要約: 我々は、幅広い非線形拡散生成モデルに対するスコア関数の正確な閉形式、式を導出する。 我々の結果は微分方程式のより広範なクラスに拡張することができ、スコアベース拡散生成モデルの開発のための新しい方向を開拓することができる。
• 参考スコア（独自算出の注目度）: 5.124031464211652
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Score-based diffusion generative models have recently emerged as a powerful tool for modelling complex data distributions. These models aim at learning the score function, which defines a map from a known probability distribution to the target data distribution via deterministic or stochastic differential equations (SDEs). The score function is typically estimated from data using a variety of approximation techniques, such as denoising or sliced score matching, Hyv\"arien's method, or Schr\"odinger bridges. In this paper, we derive an exact, closed form, expression for the score function for a broad class of nonlinear diffusion generative models. Our approach combines modern stochastic analysis tools such as Malliavin derivatives and their adjoint operators (Skorokhod integrals or Malliavin Divergence) with a new Bismut-type formula. The resulting expression for the score function can be written entirely in terms of the first and second variation processes, with all Malliavin derivatives systematically eliminated, thereby enhancing its practical applicability. The theoretical framework presented in this work offers a principled foundation for advancing score estimation methods in generative modelling, enabling the design of new sampling algorithms for complex probability distributions. Our results can be extended to broader classes of stochastic differential equations, opening new directions for the development of score-based diffusion generative models.
• Abstract（参考訳）: スコアベース拡散生成モデルは最近、複雑なデータ分布をモデル化するための強力なツールとして登場した。 これらのモデルは、既知の確率分布から、決定的あるいは確率微分方程式(SDE)を介して対象データ分布への写像を定義するスコア関数の学習を目的としている。 スコア関数は一般に、 denoising や sliced score matching、Hyv\"arien's method、Schr\"odinger bridges といった様々な近似手法を用いてデータから推定される。 本稿では,幅広い非線形拡散生成モデルに対するスコア関数の正確な閉形式を導出する。 我々のアプローチは、マリアビン微分やそれらの随伴作用素(スコロホート積分やマリアビン微分)のような現代の確率解析ツールと、新しいビスムート型公式を組み合わせる。 結果のスコア関数の式は第1および第2の変分過程の項で完全に記述することができ、全てのマリアビン微分は体系的に排除され、実用的な適用性を高めることができる。 この研究で提示された理論的枠組みは、生成的モデリングにおけるスコア推定法を前進させるための原理的な基礎を提供し、複雑な確率分布のための新しいサンプリングアルゴリズムの設計を可能にする。 我々の結果はより広範な確率微分方程式のクラスに拡張することができ、スコアベース拡散生成モデルの開発に向けた新たな方向性が開かれる。

関連論文リスト

• Malliavin Calculus for Score-based Diffusion Models [4.8357445794151594]
  スコア関数 $nabla log p_t(x)$ の正確な解析式を導出する。 提案手法は複数の生成タスクにまたがって評価され,その性能は最先端の手法に匹敵することがわかった。
  論文  参考訳（メタデータ） (2025-03-21T07:27:10Z)
• Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
  事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。 本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-03-04T17:46:51Z)
• Reward-Directed Score-Based Diffusion Models via q-Learning [8.725446812770791]
  生成AIのための連続時間スコアベース拡散モデルのトレーニングのための新しい強化学習(RL)法を提案する。 我々の定式化は、ノイズ摂動データ分布の未知のスコア関数に対する事前学習モデルを含まない。
  論文  参考訳（メタデータ） (2024-09-07T13:55:45Z)
• Operator-Informed Score Matching for Markov Diffusion Models [9.680266522150495]
  拡散モデルは一般にスコアマッチングを用いて訓練される。 この論文は、マルコフノゲティング過程は、ノゲティング過程を支配するマルコフ作用素がよく理解されているため、代替よりも有利であると主張している。
  論文  参考訳（メタデータ） (2024-06-13T13:07:52Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
  まず確率分布をモデル化し,そのモデルからサンプリングする。 これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
  論文  参考訳（メタデータ） (2021-10-20T12:25:22Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。