論文の概要: Structured Neural SDEs for Functional Calibration
- arxiv url: http://arxiv.org/abs/2609.34831v1
- Date: Mon, 28 Sep 2026 10:25:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 02:27:17.62515
- Title: Structured Neural SDEs for Functional Calibration
- Title(参考訳): 機能校正のための構造化ニューラルSDE
- Abstract要約: 構造化線形層から構築されたニューラルSDEモデルのファミリーであるSLiSDEを紹介する。
層レベルでパラレル・イン・タイム・シミュレーションを行い, ゲート・イン・フロー・スタックリングにより表現性を回復する。
機能キャリブレーションベンチマークの実験では、構造化されたモデルは完全な神経性SDEベースラインよりも優れていた。
- 参考スコア(独自算出の注目度): 1.2107297090229683
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural Stochastic Differential Equations (Neural SDEs) provide flexible continuous-time generative models, but generic neural drift and diffusion networks are costly to simulate on long horizons and can give unstable gradients when the training signal is a path functional rather than a pointwise observation. We introduce SLiSDE, a family of Neural SDE models built from structured linear stochastic layers. Parallel-in-time simulation is obtained at the layer level, while expressivity is recovered by gated in-flow stacking: previous-layer paths modulate the next layer's latent flow through learned gates. For functional calibration tasks in which rare paths dominate the loss, we add an optional Girsanov tilt that acts as a learned importance sampler with an exact likelihood-ratio correction. We prove well-posedness, a discretisation error bound, validity of the change of measure, and a universality result: the terminal laws of the gated stack are dense in the space of square-integrable laws. Experiments on functional calibration benchmarks show that the structured model outperforms fully neural SDE baselines while retaining parallel-time simulation and stable importance weights.
- Abstract(参考訳): ニューラル確率微分方程式(Neural Stochastic Differential Equations (Neural SDEs))はフレキシブルな連続時間生成モデルを提供するが、一般的なニューラルドリフトと拡散ネットワークは長い地平線をシミュレートするためにコストがかかり、トレーニング信号がポイントワイズではなくパス関数であるときに不安定な勾配を与える。
構造化線形確率層から構築されたニューラルSDEモデルのファミリーであるSLiSDEを紹介する。
層レベルでの並列・イン・タイム・シミュレーションが得られ、ゲート・イン・フロー・スタックリングにより表現性は回復される:前層パスは学習ゲートを介して次の層の潜伏流を変調する。
希少な経路が損失を支配している機能的校正タスクに対して、厳密な確率比補正を伴う学習重要サンプリング器として機能するオプションのジルサノフ傾きを追加する。
有向性、離散化誤差境界、測度の変化の妥当性、普遍性の結果を証明し、ゲートスタックの終点法則は二乗可積分法則の空間において密接である。
機能的キャリブレーションベンチマークの実験により、構造化されたモデルは、並列時間シミュレーションと安定した重み付けを維持しながら、完全にニューラルなSDEベースラインを上回っていることが示された。
関連論文リスト
- LC-GRPO: Bridging Train-Inference Gap for Flow-Based GRPO with Langevin Correction [59.32834240526981]
フローベース生成モデルは典型的には、決定論的常微分方程式(ODE)を解くことによってサンプリングされる
既存の流れモデルのためのGRPO法は、訓練中にオイラー時間ODEを非等方微分方程式(SDE)に置き換える。
本稿では,フローベースGRPOフレームワークであるLC-GRPOを紹介する。
論文 参考訳(メタデータ) (2026-08-06T04:47:57Z) - Variational Smoothing and Inference for SDEs from Sparse Data with Dynamic Neural Flows [2.9746075314244376]
本研究では, 部分的に観測された系における後方微分方程式(SDE)の平滑化手法を開発した。
我々は、支配的PDEと観察誘発ジャンプ条件の両方を満たすために訓練されたニューラルネットワークを用いて、この条件スコアを学習する。
得られたスコアは、同じ拡散係数を持つ後部SDEを誘導するが、修正されたドリフトを誘導し、効率的な後部軌道を可能にする。
論文 参考訳(メタデータ) (2026-05-07T02:47:06Z) - QB-LIF: Learnable-Scale Quantized Burst Neurons for Efficient SNNs [18.0608697536269]
量子化されたBurst-LIFニューロンは、学習可能なスケールで膜電位の飽和均一な量子化としてバーストスパイクを再構成する。
QB-LIFはバイナリと固定バーストSNNを一貫して上回り、超低レイテンシで高い精度を達成する。
論文 参考訳(メタデータ) (2026-04-28T14:18:53Z) - Stochastic Gradient Descent in the Saddle-to-Saddle Regime of Deep Linear Networks [74.46751089984072]
深い線形ネットワークにおける勾配降下(SGD)ノイズの理解は不十分である。
本研究では,サドル・アンド・サドル体制におけるDLNの訓練におけるSGDの動態について検討した。
以上の結果から,SGDノイズは特徴学習の進行に関する情報を符号化するが,サドル・アンド・サドル・ダイナミクスを根本的に変えるものではないことが判明した。
論文 参考訳(メタデータ) (2026-04-07T18:43:08Z) - Neural Stochastic Flows: Solver-Free Modelling and Inference for SDE Solutions [23.147474211347856]
我々はニューラルフロー(NSF)とその潜伏変種を導入し、SDE遷移則を直接学習する(最近)。
合成SDEシミュレーションと実世界の追跡とビデオデータを用いた実験により,NSFは数値的アプローチに匹敵する分布精度を維持していることが示された。
論文 参考訳(メタデータ) (2025-10-29T17:59:06Z) - Noise in the reverse process improves the approximation capabilities of
diffusion models [27.65800389807353]
生成モデリングにおける最先端技術であるスコアベース生成モデリング(SGM)では、リバースプロセスは決定論的手法よりも優れた性能を発揮することが知られている。
本稿では,ニューラル常微分方程式 (ODE) とニューラルディメンション方程式 (SDE) を逆過程として比較し,この現象の核となる。
我々は、Fokker-Planck方程式の軌跡を近似するニューラルSDEの能力を解析し、ニューラルティの利点を明らかにする。
論文 参考訳(メタデータ) (2023-12-13T02:39:10Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳(メタデータ) (2023-06-06T09:12:49Z) - Implicit Bias of Gradient Descent for Logistic Regression at the Edge of
Stability [69.01076284478151]
機械学習の最適化において、勾配降下(GD)はしばしば安定性の端(EoS)で動く
本稿では,EoS系における線形分離可能なデータに対するロジスティック回帰のための定数段差GDの収束と暗黙バイアスについて検討する。
論文 参考訳(メタデータ) (2023-05-19T16:24:47Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。