論文の概要: Unrolled gradients in disguise: bridging interpolation-based and Jacobian regularization for stable neural dynamics
- arxiv url: http://arxiv.org/abs/2611.03461v1
- Date: Mon, 02 Nov 2026 17:04:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 04:22:11.02629
- Title: Unrolled gradients in disguise: bridging interpolation-based and Jacobian regularization for stable neural dynamics
- Title(参考訳): 変装におけるアンロール勾配--ブリッジング補間法と安定神経力学に対するヤコビ正規化
- Abstract要約: 回転しない軌道の訓練は、発散を制限することが知られているが、反復過程の勾配を計算する必要があるため、すぐに計算コストが高すぎる。
学習力学の安定性を改善するための2つの一般的なパラダイムは、補間されたあるいはノイズの多いサンプルで訓練するか、学習された表現のジャコビアンを正規化することである。
本研究では,これらのパラダイムが共通のレンズの下で理解可能であること,また,学習戦略の学習戦略において得られる勾配の近似に対応することを実証する。
- 参考スコア(独自算出の注目度): 7.6344611819427035
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hybrid models and neural differential equations (NDEs) are becoming increasingly important for modelling physical systems; however, they often encounter stability and accuracy issues during long-term integration. Training on unrolled trajectories is known to limit these divergences but quickly becomes too computationally expensive due to the need to compute gradients over an iterative process, making this method impractical for large-scale physical systems (e.g. weather and climate forecasting). Two popular paradigms for improving the stability of learned dynamics are to train on interpolated or noisy samples or to regularize the Jacobian of the learned representation. In this work, we demonstrate that these paradigms can be understood under a common lens and that they both correspond to an approximation of the gradients obtained in an unrolled learning strategy. Building on this understanding, we derive a principled and complete approach to regularize training and demonstrate its impact on the stability of learned dynamical systems.
- Abstract(参考訳): ハイブリッドモデルとニューラル微分方程式(NDE)は、物理系のモデリングにおいてますます重要になっているが、長期的な統合において安定性と精度の問題にしばしば遭遇する。
回転しない軌道の訓練は、これらのばらつきを制限することが知られているが、反復的な過程の勾配を計算する必要があるため、すぐに計算コストが高くなり、この手法は大規模物理システム(例えば気象や気候予報)では実用的ではない。
学習力学の安定性を改善するための2つの一般的なパラダイムは、補間されたあるいはノイズの多いサンプルで訓練するか、学習された表現のジャコビアンを正規化することである。
本研究では,これらのパラダイムが共通のレンズの下で理解可能であること,また,学習戦略の学習戦略において得られる勾配の近似に対応することを実証する。
この理解に基づいて、トレーニングを規則化し、学習力学系の安定性に与える影響を実証するための、原則的で完全なアプローチを導出する。
関連論文リスト
- Certified Neural Approximations of Nonlinear Dynamics [51.01318247729693]
安全クリティカルな文脈では、神経近似の使用は、基礎となるシステムとの密接性に公式な境界を必要とする。
本稿では,認証された一階述語モデルに基づく新しい,適応的で並列化可能な検証手法を提案する。
論文 参考訳(メタデータ) (2025-05-21T13:22:20Z) - Implicit Neural Differential Model for Spatiotemporal Dynamics [5.1854032131971195]
In-PiNDiffは、安定時間力学のための新しい暗黙の物理積分型ニューラル微分可能解法である。
深い平衡モデルにインスパイアされたIm-PiNDiffは、暗黙の固定点層を用いて状態を前進させ、堅牢な長期シミュレーションを可能にする。
Im-PiNDiffは優れた予測性能、数値安定性の向上、メモリとコストの大幅な削減を実現している。
論文 参考訳(メタデータ) (2025-04-03T04:07:18Z) - Modeling Latent Neural Dynamics with Gaussian Process Switching Linear Dynamical Systems [2.170477444239546]
ガウス過程スイッチング線形力学系(gpSLDS)の2つの目的をバランスさせるアプローチを開発する。
我々の手法は、非線形力学をガウス過程(GP-SDE)で記述した微分方程式による潜在状態の進化をモデル化した以前の研究に基づいている。
本手法は, 離散状態境界近傍の力学における人工振動など, rSLDS の重要な限界を解消するとともに, 力学の後方不確かさを推定する。
論文 参考訳(メタデータ) (2024-07-19T15:32:15Z) - Latent Traversals in Generative Models as Potential Flows [113.4232528843775]
我々は,学習された動的ポテンシャルランドスケープを持つ潜在構造をモデル化することを提案する。
物理、最適輸送、神経科学にインスパイアされたこれらの潜在的景観は、物理的に現実的な偏微分方程式として学習される。
本手法は,最先端のベースラインよりも定性的かつ定量的に歪んだ軌跡を実現する。
論文 参考訳(メタデータ) (2023-04-25T15:53:45Z) - Guaranteed Conservation of Momentum for Learning Particle-based Fluid
Dynamics [96.9177297872723]
本稿では,学習物理シミュレーションにおける線形運動量を保証する新しい手法を提案する。
我々は、強い制約で運動量の保存を強制し、反対称的な連続的な畳み込み層を通して実現する。
提案手法により,学習シミュレータの物理的精度を大幅に向上させることができる。
論文 参考訳(メタデータ) (2022-10-12T09:12:59Z) - Structure-Preserving Learning Using Gaussian Processes and Variational
Integrators [62.31425348954686]
本稿では,機械系の古典力学に対する変分積分器と,ガウス過程の回帰による残留力学の学習の組み合わせを提案する。
我々は、既知のキネマティック制約を持つシステムへのアプローチを拡張し、予測の不確実性に関する公式な境界を提供する。
論文 参考訳(メタデータ) (2021-12-10T11:09:29Z) - Training Generative Adversarial Networks by Solving Ordinary
Differential Equations [54.23691425062034]
GANトレーニングによって引き起こされる連続時間ダイナミクスについて検討する。
この観点から、GANのトレーニングにおける不安定性は積分誤差から生じると仮定する。
本研究では,有名なODEソルバ(Runge-Kutta など)がトレーニングを安定化できるかどうかを実験的に検証する。
論文 参考訳(メタデータ) (2020-10-28T15:23:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。