論文の概要: Variational Inference for SDEs Driven by Fractional Noise
- arxiv url: http://arxiv.org/abs/2310.12975v1
- Date: Thu, 19 Oct 2023 17:59:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-20 13:33:41.310755
- Title: Variational Inference for SDEs Driven by Fractional Noise
- Title（参考訳）: フラクショナルノイズによるSDEの変分推定
- Authors: Rembert Daems and Manfred Opper and Guillaume Crevecoeur and Tolga
Birdal
- Abstract要約: マルコフ近似分数的ブラウン運動(fBM)によって駆動される(神経)微分方程式(SDE)の推論を行うための新しい変分フレームワークを提案する。
本稿では, ニューラルネットワークを用いて, 変動後部におけるドリフト, 拡散, 制御条件を学習し, ニューラルSDEの変分学習を実現することを提案する。
- 参考スコア（独自算出の注目度）: 16.434973057669676
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a novel variational framework for performing inference in (neural)
stochastic differential equations (SDEs) driven by Markov-approximate
fractional Brownian motion (fBM). SDEs offer a versatile tool for modeling
real-world continuous-time dynamic systems with inherent noise and randomness.
Combining SDEs with the powerful inference capabilities of variational methods,
enables the learning of representative function distributions through
stochastic gradient descent. However, conventional SDEs typically assume the
underlying noise to follow a Brownian motion (BM), which hinders their ability
to capture long-term dependencies. In contrast, fractional Brownian motion
(fBM) extends BM to encompass non-Markovian dynamics, but existing methods for
inferring fBM parameters are either computationally demanding or statistically
inefficient. In this paper, building upon the Markov approximation of fBM, we
derive the evidence lower bound essential for efficient variational inference
of posterior path measures, drawing from the well-established field of
stochastic analysis. Additionally, we provide a closed-form expression to
determine optimal approximation coefficients. Furthermore, we propose the use
of neural networks to learn the drift, diffusion and control terms within our
variational posterior, leading to the variational training of neural-SDEs. In
this framework, we also optimize the Hurst index, governing the nature of our
fractional noise. Beyond validation on synthetic data, we contribute a novel
architecture for variational latent video prediction,-an approach that, to the
best of our knowledge, enables the first variational neural-SDE application to
video perception.
- Abstract（参考訳）: 本稿ではマルコフ近似分数的ブラウン運動(fBM)によって駆動される(神経)確率微分方程式(SDE)の推論を行う新しい変分フレームワークを提案する。
SDEは、固有のノイズとランダム性を持つ実世界の連続時間力学システムをモデリングするための汎用的なツールを提供する。
SDEと変分法の強力な推論能力を組み合わせることで、確率勾配降下による代表関数分布の学習が可能になる。
しかし、従来のSDEでは、基礎となるノイズはブラウン運動(BM)に従うと仮定しており、これは長期依存を捉える能力を妨げている。
対照的に、分数的ブラウン運動(fBM)はBMを拡張して非マルコフ力学を包含するが、fBMパラメータを推定する既存の手法は計算的に要求されるか統計的に非効率である。
本稿では,fbmのマルコフ近似に基づいて,確率解析の確立された分野から得られた後路測度の効率的な変分推論に必須なエビデンスを導出する。
さらに,最適近似係数を決定するための閉形式式を提案する。
さらに, ニューラルネットワークを用いて変動後部におけるドリフト, 拡散, 制御条件を学習し, ニューラルSDEの変分訓練を実現することを提案する。
このフレームワークでは、ハースト指数を最適化し、分数ノイズの性質を制御します。
合成データに対する検証以外にも,可変潜在性ビデオ予測のための新しいアーキテクチャを提案し,その手法を最大限に活用することで,映像知覚に対する最初の変動型ニューラルsde応用を可能にした。
関連論文リスト
- Fully Bayesian Differential Gaussian Processes through Stochastic Differential Equations [7.439555720106548]
本稿では、カーネルハイパーパラメータを確率変数として扱い、結合微分方程式(SDE)を構築して、その後部分布と誘導点を学習する完全ベイズ的手法を提案する。
提案手法は,SDE法による結合変数による時間変化,包括的,現実的な後部近似を提供する。
我々の研究はベイズ的推論を推し進めるためのエキサイティングな研究の道を開き、継続的なガウス的プロセスのための強力なモデリングツールを提供する。
論文 参考訳（メタデータ） (2024-08-12T11:41:07Z) - Noise in the reverse process improves the approximation capabilities of
diffusion models [27.65800389807353]
生成モデリングにおける最先端技術であるスコアベース生成モデリング(SGM)では、リバースプロセスは決定論的手法よりも優れた性能を発揮することが知られている。
本稿では,ニューラル常微分方程式 (ODE) とニューラルディメンション方程式 (SDE) を逆過程として比較し,この現象の核となる。
我々は、Fokker-Planck方程式の軌跡を近似するニューラルSDEの能力を解析し、ニューラルティの利点を明らかにする。
論文 参考訳（メタデータ） (2023-12-13T02:39:10Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳（メタデータ） (2023-11-02T02:05:38Z) - Generative Fractional Diffusion Models [53.36835573822926]
我々は,その基礎となる力学に分数拡散過程を利用する,最初の連続時間スコアベース生成モデルを導入する。
実画像データを用いた評価では,GFDMはFIDが低い値で示されるように,画素幅の多様性と画質の向上を実現している。
論文 参考訳（メタデータ） (2023-10-26T17:53:24Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳（メタデータ） (2023-05-31T15:33:16Z) - Modiff: Action-Conditioned 3D Motion Generation with Denoising Diffusion
Probabilistic Models [58.357180353368896]
本稿では,現実的で多様な3D骨格に基づく運動生成問題に対処するために,拡散確率モデル(DDPM)の利点を生かした条件付きパラダイムを提案する。
我々はDDPMを用いてカテゴリ的動作で条件付けられた動作列の可変数を合成する先駆的な試みである。
論文 参考訳（メタデータ） (2023-01-10T13:15:42Z) - Continuous-time stochastic gradient descent for optimizing over the
stationary distribution of stochastic differential equations [7.65995376636176]
定常分布の微分方程式(SDE)モデルを最適化するための新しい連続時間勾配降下法を開発した。
線形SDEモデルに対するオンライン前方伝播アルゴリズムの収束性を厳密に証明し、非線形例に対する数値結果を示す。
論文 参考訳（メタデータ） (2022-02-14T11:45:22Z) - Variational Inference for Continuous-Time Switching Dynamical Systems [29.984955043675157]
従属拡散過程を変調したマルコフジャンプ過程に基づくモデルを提案する。
我々は,新しい連続時間変動推定アルゴリズムを開発した。
モデル仮定と実世界の実例に基づいて,我々のアルゴリズムを広範囲に評価する。
論文 参考訳（メタデータ） (2021-09-29T15:19:51Z) - Training Deep Energy-Based Models with f-Divergence Minimization [113.97274898282343]
深部エネルギーベースモデル(EBM)は分布パラメトリゼーションにおいて非常に柔軟であるが、計算的に困難である。
所望のf偏差を用いてEMMを訓練するための、f-EBMと呼ばれる一般的な変分フレームワークを提案する。
実験の結果,F-EBMは対照的なばらつきよりも優れており,KL以外のf-divergencesを用いたEBMの訓練の利点も示された。
論文 参考訳（メタデータ） (2020-03-06T23:11:13Z) - Stochastic Normalizing Flows [52.92110730286403]
微分方程式(SDE)を用いた最大推定と変分推論のための正規化フロー(VI)を導入する。
粗い経路の理論を用いて、基礎となるブラウン運動は潜在変数として扱われ、近似され、神経SDEの効率的な訓練を可能にする。
これらのSDEは、与えられたデータセットの基盤となる分布からサンプリングする効率的なチェーンを構築するために使用することができる。
論文 参考訳（メタデータ） (2020-02-21T20:47:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。