論文の概要: Embedded Variational Neural Stochastic Differential Equations for Learning Heterogeneous Dynamics
- arxiv url: http://arxiv.org/abs/2604.00669v1
- Date: Wed, 01 Apr 2026 09:15:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:31.91805
- Title: Embedded Variational Neural Stochastic Differential Equations for Learning Heterogeneous Dynamics
- Title(参考訳): 不均一ダイナミクス学習のための組込み変分ニューラルネットワーク確率微分方程式
- Authors: Sandeep Kumar Samota, Reema Gupta, Snehashish Chakraverty,
- Abstract要約: 本研究では、社会経済的要因に関連する複雑でノイズの多いデータを時間とともにモデル化することの課題について検討する。
伝統的な時系列モデルは、このタイプのデータの中でトレンドとバリエーションの両方を捉えるのに苦労する。
これを解決するために、変分微分方程式(V-NSDE)モデルが設計され、ニューラルSDEの表現力学と変分オートエンコーダ(VAE)の生成能力を組み合わせた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This study examines the challenges of modeling complex and noisy data related to socioeconomic factors over time, with a focus on data from various districts in Odisha, India. Traditional time-series models struggle to capture both trends and variations together in this type of data. To tackle this, a Variational Neural Stochastic Differential Equation (V-NSDE) model is designed that combines the expressive dynamics of Neural SDEs with the generative capabilities of Variational Autoencoders (VAEs). This model uses an encoder and a decoder. The encoder takes the initial observations and district embeddings and translates them into a Gaussian distribution, which determines the mean and log-variance of the first latent state. Then the obtained latent state initiates the Neural SDE, which utilize neural networks to determine the drift and diffusion functions that govern continuous-time latent dynamics. These governing functions depend on the time index, latent state, and district embedding, which help the model learn the unique characteristics specific to each district. After that, using a probabilistic decoder, the observations are reconstructed from the latent trajectory. The decoder outputs a mean and log-variance for each time step, which follows the Gaussian likelihood. The Evidence Lower Bound (ELBO) training loss improves by adding a KL-divergence regularization term to the negative log-likelihood (nll). The obtained results demonstrate the effective learning of V-NSDE in recognizing complex patterns over time, yielding realistic outcomes that include clear trends and random fluctuations across different areas.
- Abstract(参考訳): 本研究では,インド・オディシャの様々な地区のデータに着目し,社会経済的要因に関連する複雑でノイズの多いデータを時間とともにモデル化することの課題について検討した。
伝統的な時系列モデルは、このタイプのデータの中でトレンドとバリエーションの両方を捉えるのに苦労する。
これを解決するために、変分確率微分方程式(V-NSDE)モデルが設計され、ニューラルSDEの表現力学と変分オートエンコーダ(VAE)の生成能力を組み合わせた。
このモデルはエンコーダとデコーダを使用する。
エンコーダは初期観測と地区埋め込みをガウス分布に変換し、最初の潜伏状態の平均とログの分散を決定する。
得られた潜時状態はニューラルネットワークを用いて連続時間潜時ダイナミクスを管理するドリフトと拡散関数を決定するニューラルSDEを開始する。
これらの支配機能は、時間指数、潜伏状態、および地区埋め込みに依存し、モデルが各地区固有の特徴を学習するのに役立つ。
その後、確率的復号器を用いて、潜航軌道から観測を再構成する。
デコーダは、ガウス確率に従って各時間ステップの平均と対数分散を出力する。
エビデンスローバウンド(ELBO)のトレーニング損失は、負のログ類似度(nll)にKL分割正規化項を追加することにより改善される。
その結果、V-NSDEは時間とともに複雑なパターンを認識でき、異なる領域にわたる明確な傾向やランダムな変動を含む現実的な結果が得られることを示した。
関連論文リスト
- Fractional Spike Differential Equations Neural Network with Efficient Adjoint Parameters Training [63.3991315762955]
スパイキングニューラルネットワーク(SNN)は、生物学的ニューロンからインスピレーションを得て、脳に似た計算の現実的なモデルを作成する。
既存のほとんどのSNNは、マルコフ特性を持つ一階常微分方程式(ODE)によってモデル化された、神経細胞膜電圧ダイナミクスの単一時間定数を仮定している。
本研究では, 膜電圧およびスパイク列車の長期依存性を分数次力学により捉えるフラクタルSPIKE微分方程式ニューラルネットワーク (fspikeDE) を提案する。
論文 参考訳(メタデータ) (2025-07-22T18:20:56Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Modulated Neural ODEs [32.2290908839375]
変動の静的因子から動的状態を分離する新しいフレームワークであるModulated Neural ODEs (MoNODEs)を紹介する。
振動系,ビデオおよび人間の歩行軌跡でMoNODEを試験し,各軌跡に軌跡特異的な変調が認められた。
論文 参考訳(メタデータ) (2023-02-26T08:26:01Z) - Neural ODEs with Irregular and Noisy Data [8.349349605334316]
ノイズや不規則なサンプル測定を用いて微分方程式を学習する手法について議論する。
我々の方法論では、ディープニューラルネットワークとニューラル常微分方程式(ODE)アプローチの統合において、大きな革新が見られる。
ベクトル場を記述するモデルを学習するためのフレームワークは,雑音測定において非常に効果的である。
論文 参考訳(メタデータ) (2022-05-19T11:24:41Z) - Learning and Inference in Sparse Coding Models with Langevin Dynamics [3.0600309122672726]
本稿では確率的潜在変数モデルで推論と学習が可能なシステムについて述べる。
ランゲヴィン力学を用いて潜伏変数を推論する連続時間方程式を導出することにより、スパース符号化モデルのこのアイデアを実証する。
ランゲヴィン力学は、L1ノルムが小さいのに対して、潜伏変数をゼロにすることを推奨する'L0スパース'系において、後続分布からサンプリングする効率的な手順をもたらすことを示す。
論文 参考訳(メタデータ) (2022-04-23T23:16:47Z) - Capturing Actionable Dynamics with Structured Latent Ordinary
Differential Equations [68.62843292346813]
本稿では,その潜在表現内でのシステム入力の変動をキャプチャする構造付き潜在ODEモデルを提案する。
静的変数仕様に基づいて,本モデルではシステムへの入力毎の変動要因を学習し,潜在空間におけるシステム入力の影響を分離する。
論文 参考訳(メタデータ) (2022-02-25T20:00:56Z) - Neural ODE Processes [64.10282200111983]
NDP(Neural ODE Process)は、Neural ODEの分布によって決定される新しいプロセスクラスである。
我々のモデルは,少数のデータポイントから低次元システムのダイナミクスを捉えることができることを示す。
論文 参考訳(メタデータ) (2021-03-23T09:32:06Z) - Anomaly Detection of Time Series with Smoothness-Inducing Sequential
Variational Auto-Encoder [59.69303945834122]
Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。
我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。
合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
論文 参考訳(メタデータ) (2021-02-02T06:15:15Z) - Stochastic embeddings of dynamical phenomena through variational
autoencoders [1.7205106391379026]
位相空間の再構成において,観測空間の次元性を高めるために認識ネットワークを用いる。
我々の検証は、このアプローチが元の状態空間に類似した状態空間を復元するだけでなく、新しい時系列を合成できることを示している。
論文 参考訳(メタデータ) (2020-10-13T10:10:24Z) - Learning Continuous-Time Dynamics by Stochastic Differential Networks [32.63114111531396]
変動微分ネットワーク(VSDN)という,フレキシブルな連続時間リカレントニューラルネットワークを提案する。
VSDNは神経微分方程式(SDE)による散発時間系列の複雑なダイナミクスを埋め込む
VSDNは最先端の継続的ディープラーニングモデルより優れており、散発時系列の予測やタスクにおいて優れた性能を発揮する。
論文 参考訳(メタデータ) (2020-06-11T01:40:34Z) - Stochasticity in Neural ODEs: An Empirical Study [68.8204255655161]
ニューラルネットワークの正規化(ドロップアウトなど)は、より高度な一般化を可能にするディープラーニングの広範な技術である。
トレーニング中のデータ拡張は、同じモデルの決定論的およびバージョンの両方のパフォーマンスを向上させることを示す。
しかし、データ拡張によって得られる改善により、経験的正規化の利得は完全に排除され、ニューラルODEとニューラルSDEの性能は無視される。
論文 参考訳(メタデータ) (2020-02-22T22:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。