論文の概要: Learning to evolve by matching velocities
- arxiv url: http://arxiv.org/abs/2611.00448v1
- Date: Fri, 30 Oct 2026 23:03:28 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:19:05.857727
- Title: Learning to evolve by matching velocities
- Title(参考訳): 速度の一致による進化の学習
- Abstract要約: 転がり地平線が増加するにつれて軌道に基づく目的が縮退し、勾配に基づく最適化が妨げられることを示す。
本研究では, サンプリング段階において, 速度集団のリスクを2次に近似するシミュレーション不要な手法であるVelocity Matching(VM)を紹介する。
VMは、トラジェクトリベースの目的よりも精度を向上し、シミュレーションコストと長期ロールアウトの不安定さの両方を避けます。
- 参考スコア(独自算出の注目度): 0.42970700836450487
- License:
- Abstract: Learning the continuous-time evolution of nonlinear dynamical systems relies on trajectory-based objectives, which require simulating the learned dynamics during training and backpropagating through the numerical scheme, at a cost that grows with the rollout horizon. We show that trajectory-based objectives degenerate as the rollout horizon increases, hindering gradient-based optimization, and that the numerical scheme biases the learned dynamics by constraining the spectrum of the learned Jacobian to its absolute stability region. To overcome these limitations, we introduce Velocity Matching (VM), a simulation-free objective that relies on piecewise-linear interpolation and stochastic collocation, and approximates the velocity population risk to second order in the sampling step. We develop a theoretical framework for velocity-based learning, introducing stability estimates that control trajectory errors in terms of velocity errors, which enable us to establish universal and continuous-time approximation results when the learned velocity field is parameterized by deep neural networks. Building on a bias-variance decomposition of the VM objective, we show that its higher-order approximation of the velocity population risk yields a consistent minimizer; that it relates to the residual of an A-stable continuous-stage Runge-Kutta scheme, thus connecting VM to implicit integration without requiring any implicit solve; and that it implicitly matches the action of the learned Jacobian to that of the true one along the observed trajectories, without requiring access to the underlying velocity field or its Jacobian. Numerical experiments on nonlinear ordinary differential equations and semi-discretized time-dependent partial differential equations show that VM improves accuracy over trajectory-based objectives, while avoiding both the cost of simulation and the instabilities of long rollouts.
- Abstract(参考訳): 非線形力学系の連続的時間進化の学習は、軌道に基づく目的に依存しており、これは、ロールアウト地平線とともに増大するコストで、訓練中に学習された力学をシミュレーションし、数値スキームを通してバックプロパゲーションする必要がある。
軌道に基づく目的は、ロールアウト地平線が増加するにつれて縮退し、勾配に基づく最適化を妨げることを示し、数値スキームは学習ヤコビアンスペクトルを絶対安定領域に制限することで学習力学をバイアスすることを示した。
これらの制限を克服するために,数次線形補間と確率的コロケーションに依存するシミュレーション不要な目的であるVelocity Matching(VM)を導入し,サンプリングステップにおいて,速度集団のリスクを2次に近似する。
本研究では, 学習速度場が深部ニューラルネットワークによってパラメータ化される場合, 速度誤差の観点から軌道誤差を制御する安定性推定を導入し, 学習速度場がパラメータ化される場合に, 普遍的かつ連続的な時間近似結果を確立することを可能とする。
VM目標のバイアス分散分解に基づいて、速度集団リスクの高次近似が一貫した最小値が得られること、A-stable連続ステージのルンゲ・クッタスキームの残差に関連すること、そして、暗黙の解決を必要としない暗黙の積分にVMを接続すること、そして、学習されたヤコビアンが観測された軌道に沿った真の軌道の行動と暗黙の一致を、基礎となる速度場やそのジャコビアンへのアクセスを必要としないことを示す。
非線形常微分方程式と半離散時間依存偏微分方程式の数値実験により、VMは軌道に基づく目的よりも精度を向上し、長いロールアウトのコストと不安定性の両方を避けた。
関連論文リスト
- Symbolic Neural ODEs: Learning interpretable models from time-series data [0.0]
時系列データから動的システムのスパースで解釈可能なモデルを特定するための機械学習フレームワークを提案する。
本稿では,ニューラルネットワークを用いて基礎となるベクトル場をパラメータ化し,有限地平線上の多段階予測損失を最小限に抑えて学習する。
多段階学習は, 長期統計特性において, 高精度な短期力学と強い一致を持つモデルが得られることを示す。
論文 参考訳(メタデータ) (2026-08-22T21:31:07Z) - A Quadratic Order Reduction -- Gaussian Process Ordinary Differential Equation framework for the inference of Large Continuous Dynamical Systems [0.0]
本稿では,カーネル自律型常微分方程式を用いた複雑な力学系の予測フレームワークを提案する。
安定性を保ちながら,2次次縮小次数モデリングと球面投影を併用し,潜在力学を効率的に学習する。
結果は、厳密な不確実性定量化を伴う複雑な力学系を予測するための頑健で安定したツールとしてのフレームワークの可能性を示す。
論文 参考訳(メタデータ) (2026-06-11T08:49:18Z) - Physics-integrated neural differentiable modeling for immersed boundary systems [33.49956187870957]
本研究では,入力境界流の予測のための物理積分微分可能なフレームワークを開発することにより,既存のニューラルPDE解法を拡張した。
フレームワークの重要な設計側面は、物理的原則をエンドツーエンドの差別化可能なアーキテクチャに構造的に統合することである。
提案手法は, 流動場忠実度および長水平安定性において, 純粋にデータ駆動, 物理ロスの制約, 粗いグリッドの数値ベースラインより一貫して優れる。
論文 参考訳(メタデータ) (2026-03-17T09:08:04Z) - JAWS: Enhancing Long-term Rollout of Neural Operators via Spatially-Adaptive Jacobian Regularization [0.0]
Jacobian-Adaptive Weighting for Stability (JAWS)は、これらの制限を軽減するために設計された確率的正規化戦略である。
空間的不確実性を伴う最大Aポストエリオーリ(MAP)推定として演算子学習をフレーミングすることにより、JAWSは局所的な物理的複雑さに基づいて正規化強度を動的に変調する。
実験により、この空間適応型プリコンディショナーが有効スペクトルプレコンディショナーとして機能し、高周波不安定性を扱う際のベースオペレータの負担を軽減することが示されている。
論文 参考訳(メタデータ) (2026-03-04T06:15:09Z) - ODELoRA: Training Low-Rank Adaptation by Solving Ordinary Differential Equations [54.886931928255564]
低ランク適応(LoRA)は、深層移動学習においてパラメータ効率の高い微調整法として広く採用されている。
常微分方程式(ODE)の形でLoRA因子行列に対する新しい連続時間最適化ダイナミクスを提案する。
ODELoRAは,問題次元の異なるスケールのディープニューラルネットワークのトレーニングに不可欠な特性である,安定した特徴学習を実現する。
論文 参考訳(メタデータ) (2026-02-07T10:19:36Z) - Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。
シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。
マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
論文 参考訳(メタデータ) (2025-10-09T04:48:49Z) - Generative System Dynamics in Recurrent Neural Networks [56.958984970518564]
リカレントニューラルネットワーク(RNN)の連続時間ダイナミクスについて検討する。
線形および非線形構成の両方において安定な極限サイクルを実現するためには,スキュー対称性の重み行列が基本であることを示す。
数値シミュレーションは、非線形活性化関数が極限周期を維持するだけでなく、システム統合プロセスの数値安定性を高めることを示す。
論文 参考訳(メタデータ) (2025-04-16T10:39:43Z) - Implicit Neural Differential Model for Spatiotemporal Dynamics [5.1854032131971195]
In-PiNDiffは、安定時間力学のための新しい暗黙の物理積分型ニューラル微分可能解法である。
深い平衡モデルにインスパイアされたIm-PiNDiffは、暗黙の固定点層を用いて状態を前進させ、堅牢な長期シミュレーションを可能にする。
Im-PiNDiffは優れた予測性能、数値安定性の向上、メモリとコストの大幅な削減を実現している。
論文 参考訳(メタデータ) (2025-04-03T04:07:18Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Losing momentum in continuous-time stochastic optimisation [42.617042045455506]
運動量に基づく最適化アルゴリズムは 特に広まりました
本研究では、運動量を伴う勾配降下の連続時間モデルを解析する。
また、画像分類問題において畳み込みニューラルネットワークを訓練する。
論文 参考訳(メタデータ) (2022-09-08T10:46:05Z) - On Fast Simulation of Dynamical System with Neural Vector Enhanced
Numerical Solver [59.13397937903832]
ニューラルベクトル(NeurVec)と呼ばれる深層学習に基づく補正手法を提案する。
NeurVecは、統合エラーを補償し、シミュレーションでより大きなタイムステップサイズを可能にする。
様々な複雑な力学系ベンチマークの実験により、NeurVecは顕著な一般化能力を示すことが示された。
論文 参考訳(メタデータ) (2022-08-07T09:02:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。