論文の概要: SDE Matching: Scalable and Simulation-Free Training of Latent Stochastic Differential Equations
- arxiv url: http://arxiv.org/abs/2502.02472v1
- Date: Tue, 04 Feb 2025 16:47:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 15:03:51.210404
- Title: SDE Matching: Scalable and Simulation-Free Training of Latent Stochastic Differential Equations
- Title(参考訳): SDEマッチング: 遅延確率微分方程式のスケーラブルでシミュレーション不要な学習
- Authors: Grigory Bartosh, Dmitry Vetrov, Christian A. Naesseth,
- Abstract要約: SDEマッチング(SDE Matching)を提案する。
以上の結果から,SDEマッチングは随伴感度法に匹敵する性能を示す。
- 参考スコア(独自算出の注目度): 2.1779479916071067
- License:
- Abstract: The Latent Stochastic Differential Equation (SDE) is a powerful tool for time series and sequence modeling. However, training Latent SDEs typically relies on adjoint sensitivity methods, which depend on simulation and backpropagation through approximate SDE solutions, which limit scalability. In this work, we propose SDE Matching, a new simulation-free method for training Latent SDEs. Inspired by modern Score- and Flow Matching algorithms for learning generative dynamics, we extend these ideas to the domain of stochastic dynamics for time series and sequence modeling, eliminating the need for costly numerical simulations. Our results demonstrate that SDE Matching achieves performance comparable to adjoint sensitivity methods while drastically reducing computational complexity.
- Abstract(参考訳): The Latent Stochastic Differential Equation (SDE)は時系列とシーケンスモデリングのための強力なツールである。
しかし、遅延SDEのトレーニングは通常、拡張性を制限する近似SDEソリューションによるシミュレーションとバックプロパゲーションに依存する随伴感度法に依存している。
本研究では,新しいSDE学習手法であるSDE Matchingを提案する。
生成力学を学習するための現代のスコアとフローマッチングアルゴリズムに着想を得て、これらのアイデアを時系列とシーケンスモデリングのための確率力学の領域に拡張し、コストのかかる数値シミュレーションの必要性を排除した。
その結果, SDEマッチングは, 計算複雑性を大幅に低減しつつ, 随伴感度法に匹敵する性能が得られることを示した。
関連論文リスト
- Neural SDEs as a Unified Approach to Continuous-Domain Sequence Modeling [3.8980564330208662]
本稿では,連続シーケンスモデリングに対する新しい直感的なアプローチを提案する。
本手法は, 時系列データを, 基礎となる連続力学系からのtextitdiscrete サンプルとして解釈する。
我々は、ニューラルネットワークSDEモデルの効率的なトレーニングのための、最大原理的目的とテクスティシミュレーションなしスキームを導出する。
論文 参考訳(メタデータ) (2025-01-31T03:47:22Z) - MultiPDENet: PDE-embedded Learning with Multi-time-stepping for Accelerated Flow Simulation [48.41289705783405]
マルチスケールタイムステップ(MultiPDENet)を用いたPDE組み込みネットワークを提案する。
特に,有限差分構造に基づく畳み込みフィルタを少数のパラメータで設計し,最適化する。
4階ランゲ・クッタ積分器を微細な時間スケールで備えた物理ブロックが確立され、PDEの構造を埋め込んで予測を導出する。
論文 参考訳(メタデータ) (2025-01-27T12:15:51Z) - Advancing Generalization in PINNs through Latent-Space Representations [71.86401914779019]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)によって支配される力学系のモデリングにおいて大きな進歩を遂げた。
本稿では,多種多様なPDE構成を効果的に一般化する物理インフォームドニューラルPDE解法PIDOを提案する。
PIDOは1次元合成方程式と2次元ナビエ・ストークス方程式を含む様々なベンチマークで検証する。
論文 参考訳(メタデータ) (2024-11-28T13:16:20Z) - Trajectory Flow Matching with Applications to Clinical Time Series Modeling [77.58277281319253]
Trajectory Flow Matching (TFM) は、シミュレーションのない方法でニューラルSDEを訓練し、ダイナミックスを通してバックプロパゲーションをバイパスする。
絶対的性能と不確実性予測の観点から,3つの臨床時系列データセットの性能向上を実証した。
論文 参考訳(メタデータ) (2024-10-28T15:54:50Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Elucidating the solution space of extended reverse-time SDE for
diffusion models [54.23536653351234]
拡散モデル(DM)は、様々な生成的モデリングタスクにおいて強力な画像生成能力を示す。
その主な制限はサンプリング速度の遅いことであり、高品質な画像を生成するには数百から数千のシーケンシャルな機能評価が必要である。
サンプリングプロセスを拡張逆時間SDEとして定式化し、ODEやSDEへの事前探索を統一する。
我々は, 高速かつトレーニング不要なサンプル装置ER-SDE-rsを考案し, 全サンプル装置の最先端性能を実現した。
論文 参考訳(メタデータ) (2023-09-12T12:27:17Z) - Continuous-time stochastic gradient descent for optimizing over the
stationary distribution of stochastic differential equations [7.65995376636176]
定常分布の微分方程式(SDE)モデルを最適化するための新しい連続時間勾配降下法を開発した。
線形SDEモデルに対するオンライン前方伝播アルゴリズムの収束性を厳密に証明し、非線形例に対する数値結果を示す。
論文 参考訳(メタデータ) (2022-02-14T11:45:22Z) - Robust and Scalable SDE Learning: A Functional Perspective [5.642000444047032]
本稿では,SDE推定器の観測確率を学習目的で重要サンプリングする手法を提案する。
提案手法は,SDEに基づくアルゴリズムと比較して低分散推定を行う。
これにより、大規模並列ハードウェアを大幅な時間短縮に有効利用することができる。
論文 参考訳(メタデータ) (2021-10-11T11:36:50Z) - Learning stochastic dynamical systems with neural networks mimicking the
Euler-Maruyama scheme [14.436723124352817]
本稿では,SDEのパラメータを組み込みのSDE統合方式でニューラルネットワークで表現するデータ駆動手法を提案する。
このアルゴリズムは、幾何学的ブラウン運動とロレンツ-63モデルのバージョンに適用される。
論文 参考訳(メタデータ) (2021-05-18T11:41:34Z) - The Seven-League Scheme: Deep learning for large time step Monte Carlo
simulations of stochastic differential equations [0.0]
微分方程式(SDE)を解くための高精度なデータ駆動数値スキームを提案する。
SDE離散化は、正確に決定された(SC)点に基づいてカオス展開法により構築される。
圧縮圧縮とコロケーションという手法により、学習すべきニューラルネットワーク関数の数を劇的に減らすことができる。
論文 参考訳(メタデータ) (2020-09-07T16:06:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。