論文の概要: Energy Manifold Natural Gradient Descent: Riemannian Optimization for Neural PDE Solvers
- arxiv url: http://arxiv.org/abs/2607.22004v1
- Date: Fri, 24 Jul 2026 06:07:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.056782
- Title: Energy Manifold Natural Gradient Descent: Riemannian Optimization for Neural PDE Solvers
- Title(参考訳): エネルギーマニフォールド自然勾配明度:ニューラルPDE解のリーマン最適化
- Abstract要約: エネルギー自然勾配降下(ENGD)は、パラメータ更新を基礎となる関数空間エネルギーの曲率と整合させる。
本稿では,物理インフォームドおよび変分型ニューラルPDEソルバのための多様体最適化フレームワークEMNGDfullを紹介する。
- 参考スコア(独自算出の注目度): 0.24554686192257416
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Energy natural gradient descent (ENGD) aligns parameter updates with the curvature of an underlying function-space energy, but existing formulations assume an unconstrained Euclidean parameter domain. We introduce \EMNGDfull{}, a manifold optimization framework for physics-informed and variational neural PDE solvers whose parameters lie on a Riemannian manifold. EMNGD restricts the energy-induced quadratic model to feasible tangent directions and uses retractions to preserve parameter constraints throughout optimization. Under coercivity, we prove that the push-forward of the undamped EMNGD direction is the best feasible approximation to the function-space Newton vector in the energy metric. We establish coordinate invariance, exact reduction to ENGD in Euclidean space, global first-order convergence with Armijo backtracking, and robustness to inexact tangent solves. For quadratic residual energies and generalized Gauss--Newton pullbacks, the Woodbury identity transfers the tangent system to sample space without changing the direction. Nyström approximation provides scalable sample-space solves with controlled direction error and recovers the exact direction after iterative convergence. On the evaluated neural PDE benchmarks, EMNGD achieves higher accuracy and faster convergence than the compared state-of-the-art baselines. Woodbury preserves the EMNGD direction, while scalable-solver diagnostics quantify the accuracy--cost trade-off of preconditioning and residual subsampling.
- Abstract(参考訳): エネルギー自然勾配降下(ENGD)は、基底となる関数空間エネルギーの曲率とパラメータの更新を一致させるが、既存の定式化は制約のないユークリッドパラメータ領域を仮定する。
我々は、リーマン多様体上のパラメータを持つ物理インフォームドおよび変分型ニューラルPDEソルバのための多様体最適化フレームワークである \EMNGDfull{} を紹介する。
EMNGDはエネルギー誘起二次モデルを実現可能な接順に制限し、最適化全体を通してパラメータ制約を保存するためにリトラクションを使用する。
保磁力の下では、損傷のないEMNGD方向のプッシュフォワードがエネルギーメートル法における関数空間ニュートンベクトルの最適近似であることを示す。
我々は、座標不変性、ユークリッド空間におけるENGDへの正確な還元、Armijoのバックトラックによる大域的一階収束、および不正確な接解に対するロバスト性を確立する。
二次残留エネルギーと一般化されたガウス-ニュートンの引き戻しに対して、ウッドベリー恒等式は方向を変えずに接系をサンプル空間に移す。
Nyström近似は、制御方向誤差によるスケーラブルなサンプル空間の解を提供し、反復収束後の正確な方向を復元する。
評価されたニューラルPDEベンチマークでは、EMNGDは比較された最先端のベースラインよりも高い精度と高速な収束を達成する。
WoodburyはEMNGDの方向を保ち、スケーラブルなソルバ診断はプリコンディショニングと残留サブサンプリングの精度とコストのトレードオフを定量化する。
関連論文リスト
- Equation Recast for Canonical Operator Learning Across Parametric PDEs [59.44573033543284]
本稿では,パラメトリック演算子学習を単一正規作用素の学習として再構成する方程式再キャストを提案する。
核融合のための高忠実トカマクシミュレーションにおいて、このフレームワークは4つのデバイス領域にまたがる電子-温度データを統一する。
論文 参考訳(メタデータ) (2026-09-02T13:15:50Z) - Higher-Order Geometric Updates for Levenberg-Marquardt Method via Riemann Normal Coordinates [1.7812378608633406]
最小二乗最適化は回帰、物理インフォームドニューラルネットワーク、その他の機械学習タスクの中心である。
RNC-LMは、湾曲した谷とランク不足問題における収束性と堅牢性を改善する。
大規模な機械学習のポテンシャル-エネルギー-表面フィッティングタスクにおいて、標準のLMよりも34倍のスピードアップを達成する。
論文 参考訳(メタデータ) (2026-07-08T16:39:03Z) - Parameterized Representations via Implicit Stochastic Modulation for High-Dimensional and High-Order Neural PDE Solvers [0.24554686192257416]
Implicit Modulation (PRISM) は、パラメータ化された高次元および高次ニューラルPDEソルバのためのプラグアンドプレイフレームワークである。
物理パラメータを高次自動微分で絡み合わせることで、余分なメモリ成長とパラメータ分散の増幅を引き起こすことを示す。
非線形パラメータ化PDEにおけるPRISM-STDEとPRISM-SDGDの実験は、安定なゼロショット一般化、メモリ使用量の削減、単一のGPU上での最大10万次元のスケーラビリティを示す。
論文 参考訳(メタデータ) (2026-06-20T17:02:30Z) - Adjoint Method versus Physics-Informed Neural Networks in PDE-Constrained Inverse Problems [48.470700002941136]
偏微分方程式(PDE)が支配する逆問題は計算力学の中心であり、随伴型最適化によってよく解かれる。
物理インフォームドニューラルネットワーク(PINN)がフレキシブルな代替手段として登場した。
PDE制約逆問題に対する随伴最適化とPINNの公正比較を示す。
論文 参考訳(メタデータ) (2026-06-10T17:07:09Z) - Riemannian gradient descent for Hartree-Fock theory [0.0]
本稿では、ソボレフ空間$H1$で直接定式化されたHartree-Fock理論の最適化フレームワークを提案する。
ユークリッド勾配、リーマン勾配、接空間射影、および簡約表現が導出される。
提案した定式化は、電子構造最適化における幾何学的に一貫性があり、離散化に依存しない視点を提供する。
論文 参考訳(メタデータ) (2026-03-16T19:58:42Z) - Slack More, Predict Better: Proximal Relaxation for Probabilistic Latent Variable Model-based Soft Sensors [12.346122868771118]
確率潜在変数モデル(英: Probabilistic Latent Variable Models, NPLVMs)は、ソフトセンサーモデリングの基盤である。
NPLVMは、ニューラルネットワークが変分後部をパラメータ化するアモータイズされた変分推論を用いて訓練される。
KProxNPLVMは、目的自体を緩和し、NPLVMのパフォーマンスを改善するためにピボットする、新しいNPLVMである。
論文 参考訳(メタデータ) (2026-03-12T02:53:39Z) - Parallel Diffusion Solver via Residual Dirichlet Policy Optimization [88.7827307535107]
拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。
既存のソルバベースの加速度法では、低次元の予算で画像品質が著しく低下することが多い。
本研究では,各ステップに複数の勾配並列評価を組み込んだ新しいODE解法であるEnsemble Parallel Directionsolvr(EPD-EPr)を提案する。
論文 参考訳(メタデータ) (2025-12-28T05:48:55Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Neural Optimal Transport Meets Multivariate Conformal Prediction [58.43397908730771]
条件付きベクトル回帰(CVQR)のためのフレームワークを提案する。
CVQRは、ニューラルネットワークの最適輸送と量子化された最適化を組み合わせて、予測に適用する。
論文 参考訳(メタデータ) (2025-09-29T19:50:19Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
線形化されたラプラス近似に下界を導入する。
これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
論文 参考訳(メタデータ) (2023-06-06T19:02:57Z) - Sparse Representations of Positive Functions via First and Second-Order
Pseudo-Mirror Descent [15.340540198612823]
推定器の範囲が非負である必要がある場合、予測されるリスク問題を考察する。
Emphpseudo-gradientsを用いた近似ミラーの1階および2階の変種を開発した。
実験は、実際に不均一なプロセス強度推定に好適な性能を示す。
論文 参考訳(メタデータ) (2020-11-13T21:54:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。