論文の概要: Introduction to Stochastic Differential Equations for Generative Machine Learning: A Variational Perspective
- arxiv url: http://arxiv.org/abs/2606.31576v1
- Date: Tue, 30 Jun 2026 12:34:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.211933
- Title: Introduction to Stochastic Differential Equations for Generative Machine Learning: A Variational Perspective
- Title(参考訳): 生成機械学習のための確率微分方程式入門:変分的視点
- Abstract要約: 常微分方程式と確率微分方程式の使用は、生成機械学習においてかなりの進歩をもたらした。
本稿では、微分方程式を自己完結的かつ非公式に導入し、それらを生成モデリングに利用する枠組みを提供する。
- 参考スコア(独自算出の注目度): 17.754079500838436
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The use of ordinary and stochastic differential equations has led to substantial progress in generative machine learning with applications to, for example, image, video and biomolecule generation. This paper provides a self-contained and informal introduction to the differential equations, the probabilistic framework for using them in generative modeling and the Fokker--Planck equation that governs the temporal evolution of the marginal distribution of the stochastic variables of the differential equations. The variational lower bound on the log-likelihood (the evidence lower bound, ELBO) is derived and used as a general starting point for a discussion of diffusion models, score matching, and flow matching. All of these approaches may be viewed as specific parameterizations of the most general variational approach. A one-dimensional density modeling problem is used as a simple example to compare different parameterizations.
- Abstract(参考訳): 常微分方程式と確率微分方程式の使用は、画像、ビデオ、生体分子生成などの応用で、生成機械学習の大幅な進歩をもたらした。
本稿では、微分方程式を自己完結的かつ非公式に導入し、それらを生成モデリングに使用する確率的枠組みと、微分方程式の確率変数の限界分布の時間的発展を規定するフォッカー・プランク方程式を提供する。
対数的下界(エビデンス的下界、ELBO)上の変分的下界は導出され、拡散モデル、スコアマッチング、フローマッチングに関する一般的な出発点として使用される。
これらのアプローチはすべて、最も一般的な変分的アプローチの特定のパラメータ化と見なすことができる。
一次元密度モデリング問題は、異なるパラメータ化を比較するための単純な例として用いられる。
関連論文リスト
- A Tutorial on Diffusion Theory: From Differential Equations to Diffusion Models [15.927114890047035]
拡散モデルは、生成モデリングの主流のフレームワークとして現れてきた。
このチュートリアルは微分方程式の観点からこれらの視点を統一的で自己完結した説明を提供する。
このチュートリアルは、拡散過程の解析的基礎とそれらの上に構築された現代的な生成アルゴリズムの間の橋渡しとして意図されている。
論文 参考訳(メタデータ) (2026-05-21T14:59:12Z) - Unifying and extending Diffusion Models through PDEs for solving Inverse Problems [3.1225172236361165]
拡散モデルは、コンピュータビジョンと科学機械学習(SciML)に応用された強力な生成ツールとして登場した。
伝統的に、これらのモデルは変分推論、復調、統計信号処理、微分方程式の原理を用いて導出されてきた。
本研究では,線形偏微分方程式からアイデアを用いた拡散モデルを導出し,このアプローチにはいくつかの利点があることを示す。
論文 参考訳(メタデータ) (2025-04-10T04:07:36Z) - Principled model selection for stochastic dynamics [0.0]
オーバーフィッティングは、個々のモデルの複雑さだけでなく、可能なモデルの成長からも生じることを示す。
PASTIS(Parsimonious Inference, Parsimonious Inference)は、超流動パラメータを抑えるために、極値理論と確率推定を組み合わせた原理的手法である。
論文 参考訳(メタデータ) (2025-01-17T18:23:16Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Causal Modeling with Stationary Diffusions [89.94899196106223]
定常密度が干渉下でのシステムの挙動をモデル化する微分方程式を学習する。
古典的アプローチよりもよく、変数に対する見当たらない介入を一般化することを示します。
提案手法は,再生カーネルヒルベルト空間における拡散発生器の定常状態を表す新しい理論結果に基づく。
論文 参考訳(メタデータ) (2023-10-26T14:01:17Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Stochastic Differential Equations with Variational Wishart Diffusions [18.590352916158093]
回帰タスクと連続時間力学モデリングの両方に対して微分方程式を推論する非パラメトリックな方法を提案する。
この研究は微分方程式の一部(拡散とも呼ばれる)に重点を置いており、ウィッシュアート過程を用いてモデル化している。
論文 参考訳(メタデータ) (2020-06-26T10:21:35Z) - Neural Controlled Differential Equations for Irregular Time Series [17.338923885534197]
通常の微分方程式はその初期条件によって決定され、その後の観測に基づいて軌道を調整するメカニズムは存在しない。
ここでは、Emph制御微分方程式のよく理解された数学を通して、これをどのように解決するかを示す。
実験により,本モデルが類似モデル (ODE や RNN をベースとした) に対して, 種々のデータセットに対する実験的検討において, 最先端の性能を実現することを示す。
論文 参考訳(メタデータ) (2020-05-18T17:52:21Z) - Stochastic Normalizing Flows [52.92110730286403]
微分方程式(SDE)を用いた最大推定と変分推論のための正規化フロー(VI)を導入する。
粗い経路の理論を用いて、基礎となるブラウン運動は潜在変数として扱われ、近似され、神経SDEの効率的な訓練を可能にする。
これらのSDEは、与えられたデータセットの基盤となる分布からサンプリングする効率的なチェーンを構築するために使用することができる。
論文 参考訳(メタデータ) (2020-02-21T20:47:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。