論文の概要: Understanding Diffusion Models by Feynman's Path Integral

• arxiv url: http://arxiv.org/abs/2403.11262v1
• Date: Sun, 17 Mar 2024 16:24:29 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-19 17:46:37.419139
• Title: Understanding Diffusion Models by Feynman's Path Integral
• Title（参考訳）: ファインマン経路積分による拡散モデルの理解
• Authors: Yuji Hirono, Akinori Tanaka, Kenji Fukushima,
• Abstract要約: ファインマン積分経路を用いた拡散モデルの新しい定式化を導入する。 この定式化はスコアベース生成モデルの包括的記述を提供する。 また、後方微分方程式と損失関数の導出を示す。
• 参考スコア（独自算出の注目度）: 2.4373900721120285
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Score-based diffusion models have proven effective in image generation and have gained widespread usage; however, the underlying factors contributing to the performance disparity between stochastic and deterministic (i.e., the probability flow ODEs) sampling schemes remain unclear. We introduce a novel formulation of diffusion models using Feynman's path integral, which is a formulation originally developed for quantum physics. We find this formulation providing comprehensive descriptions of score-based generative models, and demonstrate the derivation of backward stochastic differential equations and loss functions.The formulation accommodates an interpolating parameter connecting stochastic and deterministic sampling schemes, and we identify this parameter as a counterpart of Planck's constant in quantum physics. This analogy enables us to apply the Wentzel-Kramers-Brillouin (WKB) expansion, a well-established technique in quantum physics, for evaluating the negative log-likelihood to assess the performance disparity between stochastic and deterministic sampling schemes.
• Abstract（参考訳）: スコアベース拡散モデルは画像生成に有効であることが証明され、広く利用されているが、確率的および決定論的(すなわち確率フローODE)サンプリングスキームのパフォーマンス格差に寄与する基礎的要因はいまだ不明である。 量子物理学で最初に開発された定式化であるファインマン経路積分を用いた拡散モデルの新規な定式化を導入する。 この定式化は、スコアベース生成モデルの包括的記述を提供し、後方確率微分方程式と損失関数の導出を示し、その定式化は確率的および決定論的サンプリングスキームを連結する補間パラメータに対応し、このパラメータを量子物理学におけるプランク定数の対数として同定する。 この類似により、量子物理学において確立された手法である Wentzel-Kramers-Brillouin (WKB) 拡張を適用し、負の対数類似度を評価し、確率的および決定論的サンプリングスキームのパフォーマンス格差を評価することができる。

関連論文リスト

• Stochastic Sampling from Deterministic Flow Models [8.849981177332594]
  そこで本論文では,フローモデルを同じ境界分布を持つ微分方程式の族(SDE)に変換する手法を提案する。 我々は,おもちゃのガウスセットアップと大規模イメージネット生成タスクにおいて,提案手法の利点を実証的に実証した。
  論文  参考訳（メタデータ） (2024-10-03T05:18:28Z)
• Weak Generative Sampler to Efficiently Sample Invariant Distribution of Stochastic Differential Equation [8.67581853745823]
  現在のディープラーニングに基づく手法は、定常フォッカー-プランク方程式を解き、ディープニューラルネットワークの形で不変確率密度関数を決定する。 本稿では, 弱い生成サンプル(WGS)を用いて, 独立かつ同一に分布したサンプルを直接生成するフレームワークを提案する。 提案した損失関数はFokker-Planck方程式の弱い形式に基づいており、正規化フローを統合して不変分布を特徴づける。
  論文  参考訳（メタデータ） (2024-05-29T16:41:42Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian Mixture Models [59.331993845831946]
  拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。 本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
  論文  参考訳（メタデータ） (2024-03-03T23:15:48Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Stochastic Interpolants: A Unifying Framework for Flows and Diffusions [16.95541777254722]
  フローベースおよび拡散ベースを統一する生成モデルのクラスを紹介する。 これらのモデルは、Albergo & VandenEijnden (2023) で提案されたフレームワークを拡張し、確率補間子と呼ばれる広範囲の連続時間プロセスの使用を可能にする。 これらの補間材は、2つの所定の密度のデータと、橋を柔軟に形作る追加の潜伏変数を組み合わせることで構築される。
  論文  参考訳（メタデータ） (2023-03-15T17:43:42Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Probability flow solution of the Fokker-Planck equation [10.484851004093919]
  確率の流れを記述した常微分方程式の統合に基づく代替スキームを導入する。 力学とは異なり、この方程式は決定論的に初期密度からのサンプルを後から溶液のサンプルにプッシュする。 我々のアプローチは、生成モデルのためのスコアベース拡散の最近の進歩に基づいている。
  論文  参考訳（メタデータ） (2022-06-09T17:37:09Z)
• A blob method method for inhomogeneous diffusion with applications to multi-agent control and sampling [0.6562256987706128]
  重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。 提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
  論文  参考訳（メタデータ） (2022-02-25T19:49:05Z)
• Moment evolution equations and moment matching for stochastic image EPDiff [68.97335984455059]
  画像変形モデルにより、画像領域を変形させることにより、時間連続的な画像変換の研究が可能になる。 応用例としては、人口傾向とランダムな被写体特定変異の両方を用いた医療画像分析がある。 パラメータフルモデルにおける統計的推測のための推定器を構築するために、対応する伊藤拡散のモーメント近似を用いる。
  論文  参考訳（メタデータ） (2021-10-07T11:08:11Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。