論文の概要: Stochastic Normalizing Flows
- arxiv url: http://arxiv.org/abs/2002.09547v2
- Date: Tue, 25 Feb 2020 19:17:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 00:53:00.009959
- Title: Stochastic Normalizing Flows
- Title(参考訳): 確率正規化流れ
- Authors: Liam Hodgkinson, Chris van der Heide, Fred Roosta, Michael W. Mahoney
- Abstract要約: 微分方程式(SDE)を用いた最大推定と変分推論のための正規化フロー(VI)を導入する。
粗い経路の理論を用いて、基礎となるブラウン運動は潜在変数として扱われ、近似され、神経SDEの効率的な訓練を可能にする。
これらのSDEは、与えられたデータセットの基盤となる分布からサンプリングする効率的なチェーンを構築するために使用することができる。
- 参考スコア(独自算出の注目度): 52.92110730286403
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce stochastic normalizing flows, an extension of continuous
normalizing flows for maximum likelihood estimation and variational inference
(VI) using stochastic differential equations (SDEs). Using the theory of rough
paths, the underlying Brownian motion is treated as a latent variable and
approximated, enabling efficient training of neural SDEs as random neural
ordinary differential equations. These SDEs can be used for constructing
efficient Markov chains to sample from the underlying distribution of a given
dataset. Furthermore, by considering families of targeted SDEs with prescribed
stationary distribution, we can apply VI to the optimization of hyperparameters
in stochastic MCMC.
- Abstract(参考訳): 確率微分方程式 (sdes) を用いた最大確率推定と変分推論 (vi) のための連続正規化フローの拡張である確率正規化フローを導入する。
粗路の理論を用いて、基礎となるブラウン運動は潜在変数として扱われ、ニューラルネットワークSDEをランダムなニューラル常微分方程式として効率的に訓練することができる。
これらのsdesは、与えられたデータセットの基盤となる分布からサンプリングするための効率的なマルコフ連鎖の構築に使用できる。
さらに、所定の定常分布を持つSDEの族を考えることにより、確率MCMCにおけるハイパーパラメータの最適化にVIを適用することができる。
関連論文リスト
- Identifying Drift, Diffusion, and Causal Structure from Temporal Snapshots [10.018568337210876]
本稿では,SDEの時空間からのドリフトと拡散を共同で推定する,最初の包括的アプローチを提案する。
これらのステップのそれぞれが、Kullback-Leiblerデータセットに関して常に最適であることを示す。
論文 参考訳(メタデータ) (2024-10-30T06:28:21Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Variational Inference for SDEs Driven by Fractional Noise [16.434973057669676]
マルコフ近似分数的ブラウン運動(fBM)によって駆動される(神経)微分方程式(SDE)の推論を行うための新しい変分フレームワークを提案する。
本稿では, ニューラルネットワークを用いて, 変動後部におけるドリフト, 拡散, 制御条件を学習し, ニューラルSDEの変分学習を実現することを提案する。
論文 参考訳(メタデータ) (2023-10-19T17:59:21Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳(メタデータ) (2022-09-27T07:58:25Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Continuous-time stochastic gradient descent for optimizing over the
stationary distribution of stochastic differential equations [7.65995376636176]
定常分布の微分方程式(SDE)モデルを最適化するための新しい連続時間勾配降下法を開発した。
線形SDEモデルに対するオンライン前方伝播アルゴリズムの収束性を厳密に証明し、非線形例に対する数値結果を示す。
論文 参考訳(メタデータ) (2022-02-14T11:45:22Z) - Scalable Inference in SDEs by Direct Matching of the
Fokker-Planck-Kolmogorov Equation [14.951655356042949]
Runge-Kuttaの変種のようなシミュレーションに基づく手法は、機械学習における微分方程式(SDE)による推論のデファクトアプローチである。
このワークフローが高速で、高次元の潜伏空間にスケールし、少ないデータアプリケーションに適用可能であることを示す。
論文 参考訳(メタデータ) (2021-10-29T12:22:55Z) - Stochastic Normalizing Flows [2.323220706791067]
単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。
サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。
いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
論文 参考訳(メタデータ) (2020-02-16T23:29:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。