論文の概要: Dirac-Frenkel dynamics with inertia for nonlinearly parametrized solutions of evolution problems
- arxiv url: http://arxiv.org/abs/2606.24769v1
- Date: Tue, 23 Jun 2026 16:30:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-24 22:16:49.07216
- Title: Dirac-Frenkel dynamics with inertia for nonlinearly parametrized solutions of evolution problems
- Title(参考訳): 進化問題の非線形パラメトリケート解に対する慣性付きディラック・フランケル力学
- Authors: Matteo Raviola, Benjamin Peherstorfer,
- Abstract要約: ディラック・フランケル力学は、ニューラルネットワークや混合モデルのような冗長な非線形パラメトリゼーションに対して、非一様あるいは不等式でもよい。
我々はディラック・フランケル力学に慣性を加えることを提案し、これにより、過去の軌道から弱い情報を受ける方向に、有用なパラメータ速度情報が持続可能であることを示す。
慣性定式化が適切にパラメータのダイナミクスを導出し、後続誤差境界を与えることを証明した。
- 参考スコア(独自算出の注目度): 6.404680648480478
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Even when Dirac-Frenkel dynamics determine a well-defined evolution in function space, the corresponding parameter dynamics can be non-unique or ill-conditioned for redundant nonlinear parametrizations such as neural networks or mixture models. We propose to add inertia to the Dirac-Frenkel dynamics and show that this allows useful parameter velocity information to persist from the past trajectory in directions that are weakly informed, while well-informed parameter velocity directions continue to follow the Dirac-Frenkel dynamics. We prove that the inertial formulation yields well-posed parameter dynamics and provide a posteriori error bounds. After time discretization, the method requires the solution of the same type of regularized linear least-squares problem as standard Dirac-Frenkel dynamics, but with the previous velocity appearing as an anchor. Numerical experiments demonstrate the increased robustness obtained with inertia.
- Abstract(参考訳): ディラック=フランケル力学が関数空間のよく定義された進化を決定づけたとしても、対応するパラメータのダイナミクスは、ニューラルネットワークや混合モデルのような冗長な非線形パラメトリゼーションに対して非一様あるいは不等式にすることができる。
我々は,ディラック・フランケル力学に慣性を加えることを提案し,これによって過去の軌道から弱い情報を受ける方向に,有用なパラメータ速度情報を持続することができる一方で,十分なパラメータ速度方向はディラック・フランケル力学に追従し続けていることを示す。
慣性定式化が適切にパラメータのダイナミクスを導出し、後続誤差境界を与えることを証明した。
時間離散化の後、この方法は標準ディラック・フランケル力学と同じタイプの正則化線形最小二乗問題の解を必要とするが、以前の速度はアンカーとして現れる。
数値実験は慣性により得られるロバスト性の増加を実証する。
関連論文リスト
- Dynamics Are Learned, Not Told: Semi-Supervised Discovery of Latent Dynamics Geometries For Zero-Shot Policy Adaptation [25.853116977213833]
実世界のダイナミクスシフトは、ロボット工学における強化学習にとって重要な課題である。
既存のほとんどのメソッドは、明確に特定された物理的パラメータを潜在コンテキストにエンコードすることに依存している。
結果中心の観点から、動的適応を再考する。
論文 参考訳(メタデータ) (2026-06-01T14:05:23Z) - Navigating by Old Maps: The Pitfalls of Static Mechanistic Localization in LLM Post-Training [59.49057547517285]
教師付き微調整プロセスを通してトランスフォーマー回路の構造変化を系統的に追跡する。
実験結果から,回路はパラメータ更新時に本質的に「自由進化」を示すことが明らかとなった。
この研究は、機械的ローカライゼーションにおける「予見」の必要性を浮き彫りにし、将来の研究の枠組みを提案する。
論文 参考訳(メタデータ) (2026-05-07T11:59:52Z) - A Dirac-Frenkel-Onsager principle: Instantaneous residual minimization with gauge momentum for nonlinear parametrizations of PDE solutions [6.404680648480478]
ill-conditioning はパラメータのダイナミックスを非統一的にレンダリングすることができる。
運動量として解釈可能な履歴変数を導入し、ヌル空間方向のみに注入する。
結果として生じるディラック=フランケル=オンサーガー力学は、瞬時残留最小化を保存する。
論文 参考訳(メタデータ) (2026-04-30T22:47:59Z) - Stochastic Gradient Descent in the Saddle-to-Saddle Regime of Deep Linear Networks [74.46751089984072]
深い線形ネットワークにおける勾配降下(SGD)ノイズの理解は不十分である。
本研究では,サドル・アンド・サドル体制におけるDLNの訓練におけるSGDの動態について検討した。
以上の結果から,SGDノイズは特徴学習の進行に関する情報を符号化するが,サドル・アンド・サドル・ダイナミクスを根本的に変えるものではないことが判明した。
論文 参考訳(メタデータ) (2026-04-07T18:43:08Z) - KoopGen: Koopman Generator Networks for Representing and Predicting Dynamical Systems with Continuous Spectra [65.11254608352982]
生成元をベースとしたニューラル・クープマン・フレームワークを導入し,構造的かつ状態に依存したクープマン・ジェネレータの表現を通じて動的にモデル化する。
固有のカルテス分解をスキュー結合および自己結合成分に利用することにより、KoopGenは可逆的な散逸から保守的な輸送を分離する。
論文 参考訳(メタデータ) (2026-02-15T06:32:23Z) - Forecasting Continuous Non-Conservative Dynamical Systems in SO(3) [51.510040541600176]
コンピュータビジョンにおける移動物体の回転をモデル化するための新しい手法を提案する。
我々のアプローチは、入力ノイズに対して頑健でありながら、エネルギーと運動量保存に非依存である。
トレーニング中の雑音状態から物体のダイナミクスを近似させることで、シミュレーションや様々な現実世界の設定において頑健な外挿能力が得られる。
論文 参考訳(メタデータ) (2025-08-11T09:03:10Z) - Generative System Dynamics in Recurrent Neural Networks [56.958984970518564]
リカレントニューラルネットワーク(RNN)の連続時間ダイナミクスについて検討する。
線形および非線形構成の両方において安定な極限サイクルを実現するためには,スキュー対称性の重み行列が基本であることを示す。
数値シミュレーションは、非線形活性化関数が極限周期を維持するだけでなく、システム統合プロセスの数値安定性を高めることを示す。
論文 参考訳(メタデータ) (2025-04-16T10:39:43Z) - An optimization-based equilibrium measure describes non-equilibrium steady state dynamics: application to edge of chaos [2.5690340428649328]
神経力学を理解することは、機械学習、非線形物理学、神経科学において中心的なトピックである。
力学は非線形であり、特に非勾配、すなわち駆動力はポテンシャルの勾配として書けない。
論文 参考訳(メタデータ) (2024-01-18T14:25:32Z) - Time varying regression with hidden linear dynamics [74.9914602730208]
線形力学系に従って未知のパラメータが進化することを前提とした時間変化線形回帰モデルを再検討する。
反対に、基礎となる力学が安定である場合、このモデルのパラメータは2つの通常の最小二乗推定と組み合わせることで、データから推定できることが示される。
論文 参考訳(メタデータ) (2021-12-29T23:37:06Z) - The Limiting Dynamics of SGD: Modified Loss, Phase Space Oscillations,
and Anomalous Diffusion [29.489737359897312]
勾配降下法(SGD)を訓練した深部ニューラルネットワークの限界ダイナミクスについて検討する。
これらのダイナミクスを駆動する重要な要素は、本来のトレーニング損失ではなく、位相空間の振動を引き起こす速度と確率電流を暗黙的に規則化する修正損失の組み合わせであることを示す。
論文 参考訳(メタデータ) (2021-07-19T20:18:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。