論文の概要: Scalable Inference in SDEs by Direct Matching of the Fokker-Planck-Kolmogorov Equation

• arxiv url: http://arxiv.org/abs/2110.15739v1
• Date: Fri, 29 Oct 2021 12:22:55 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-01 14:21:50.121439
• Title: Scalable Inference in SDEs by Direct Matching of the Fokker-Planck-Kolmogorov Equation
• Title（参考訳）: Fokker-Planck-Kolmogorov方程式の直接マッチングによるSDEのスケーラブル推論
• Authors: Arno Solin, Ella Tamir, Prakhar Verma
• Abstract要約: Runge-Kuttaの変種のようなシミュレーションに基づく手法は、機械学習における微分方程式(SDE)による推論のデファクトアプローチである。 このワークフローが高速で、高次元の潜伏空間にスケールし、少ないデータアプリケーションに適用可能であることを示す。
• 参考スコア（独自算出の注目度）: 14.951655356042949
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Simulation-based techniques such as variants of stochastic Runge-Kutta are the de facto approach for inference with stochastic differential equations (SDEs) in machine learning. These methods are general-purpose and used with parametric and non-parametric models, and neural SDEs. Stochastic Runge-Kutta relies on the use of sampling schemes that can be inefficient in high dimensions. We address this issue by revisiting the classical SDE literature and derive direct approximations to the (typically intractable) Fokker-Planck-Kolmogorov equation by matching moments. We show how this workflow is fast, scales to high-dimensional latent spaces, and is applicable to scarce-data applications, where a non-parametric SDE with a driving Gaussian process velocity field specifies the model.
• Abstract（参考訳）: 確率ルンゲ・クッタの変種のようなシミュレーションに基づく手法は、機械学習における確率微分方程式(SDE)を推論するデファクトアプローチである。 これらの方法は汎用的であり、パラメトリックおよび非パラメトリックモデルとニューラルSDEで使用される。 確率ルンゲ・クッタは、高次元において非効率なサンプリングスキームの使用に依存している。 古典的なSDE文献を再検討し、マッチングモーメントによる(典型的には難解な)フォッカー・プランク・コルモゴロフ方程式への直接近似を導出することでこの問題に対処する。 このワークフローがいかに高速で、高次元の潜在空間にスケールするかを示し、非パラメトリックなsdeと駆動ガウス過程の速度場がモデルを指定するロースデータアプリケーションに適用する。

関連論文リスト

• Solving Poisson Equations using Neural Walk-on-Spheres [80.1675792181381]
  高次元ポアソン方程式の効率的な解法としてニューラルウォーク・オン・スフェース(NWoS)を提案する。 我々は,NWoSの精度,速度,計算コストにおける優位性を実証した。
  論文  参考訳（メタデータ） (2024-06-05T17:59:22Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
  本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。 画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
  論文  参考訳（メタデータ） (2023-11-02T02:05:38Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Continuous-time stochastic gradient descent for optimizing over the stationary distribution of stochastic differential equations [7.65995376636176]
  定常分布の微分方程式(SDE)モデルを最適化するための新しい連続時間勾配降下法を開発した。 線形SDEモデルに対するオンライン前方伝播アルゴリズムの収束性を厳密に証明し、非線形例に対する数値結果を示す。
  論文  参考訳（メタデータ） (2022-02-14T11:45:22Z)
• Scalable Variational Gaussian Processes via Harmonic Kernel Decomposition [54.07797071198249]
  汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。 様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。 提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
  論文  参考訳（メタデータ） (2021-06-10T18:17:57Z)
• Learning effective stochastic differential equations from microscopic simulations: combining stochastic numerics and deep learning [0.46180371154032895]
  ニューラルネットワークを用いた実効SDEにおけるドリフトと拡散関数を近似した。 当社のアプローチでは、長いトラジェクトリを必要とせず、散在するスナップショットデータで動作し、スナップショット毎に異なるタイムステップを自然に処理するように設計されています。
  論文  参考訳（メタデータ） (2021-06-10T13:00:18Z)
• Learning stochastic dynamical systems with neural networks mimicking the Euler-Maruyama scheme [14.436723124352817]
  本稿では,SDEのパラメータを組み込みのSDE統合方式でニューラルネットワークで表現するデータ駆動手法を提案する。 このアルゴリズムは、幾何学的ブラウン運動とロレンツ-63モデルのバージョンに適用される。
  論文  参考訳（メタデータ） (2021-05-18T11:41:34Z)
• Identifying Latent Stochastic Differential Equations [29.103393300261587]
  本研究では,高次元時系列データから潜時微分方程式(SDE)を学習する手法を提案する。 提案手法は,自己教師付き学習手法を用いて,環境空間から潜時空間へのマッピングと,基礎となるSDE係数を学習する。 提案手法の検証には,SDEの基盤となる複数のビデオ処理タスク,および実世界のデータセットを用いて行う。
  論文  参考訳（メタデータ） (2020-07-12T19:46:31Z)
• Stochastic Normalizing Flows [52.92110730286403]
  微分方程式(SDE)を用いた最大推定と変分推論のための正規化フロー(VI)を導入する。 粗い経路の理論を用いて、基礎となるブラウン運動は潜在変数として扱われ、近似され、神経SDEの効率的な訓練を可能にする。 これらのSDEは、与えられたデータセットの基盤となる分布からサンプリングする効率的なチェーンを構築するために使用することができる。
  論文  参考訳（メタデータ） (2020-02-21T20:47:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。