論文の概要: Higher-Order Geometric Updates for Levenberg-Marquardt Method via Riemann Normal Coordinates

• arxiv url: http://arxiv.org/abs/2607.07623v1
• Date: Wed, 08 Jul 2026 16:39:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.465211
• Title: Higher-Order Geometric Updates for Levenberg-Marquardt Method via Riemann Normal Coordinates
• Title（参考訳）: リーマン正規座標を用いたレバンス・マルカルト法の高次幾何更新
• Authors: Jianing Liu, Dong H. Zhang,
• Abstract要約: 最小二乗最適化は回帰、物理インフォームドニューラルネットワーク、その他の機械学習タスクの中心である。 RNC-LMは、湾曲した谷とランク不足問題における収束性と堅牢性を改善する。 大規模な機械学習のポテンシャル-エネルギー-表面フィッティングタスクにおいて、標準のLMよりも34倍のスピードアップを達成する。
• 参考スコア（独自算出の注目度）: 1.7812378608633406
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Nonlinear least-squares optimization is central to regression, physics-informed neural networks, and other machine-learning tasks. Such problems have a natural geometric interpretation, model predictions form a manifold in data space, while the chosen parameterization can introduce parameter-effects curvature that becomes a dominant source of nonlinearity. This exposes a limitation of the Levenberg-Marquardt (LM) method, its tangent-space step is applied as a straight update in parameter coordinates. Geodesic acceleration gives a second-order correction, but its removal of parameter-effect curvature is exact only in the infinitesimal-step limit. We propose a Riemann-normal-coordinate Levenberg-Marquardt method (RNC-LM) to improve this consistency for finite optimization steps. By reformulating the geodesic equation, RNC-LM extends geodesic acceleration to arbitrary-order corrections and constructs finite-step updates with progressively higher reparameterization consistency. A line search along the resulting RNC curve controls the traveled distance while keeping the cost close to standard LM. The method eliminates the tangential component of residual acceleration order by order in a moving tangent frame, making the actual objective reduction more consistent with the linear model prediction of LM. On classical nonlinear least-squares benchmarks, RNC-LM improves convergence and robustness in curved valleys and rank-deficient problems. On a reaction-diffusion PINN failure-mode benchmark, it reduces the relative L2 error to the order of 1e-3 and recovers a physically meaningful solution. On a large-scale machine-learning potential-energy-surface fitting task, it achieves a 34-fold speedup over standard LM.
• Abstract（参考訳）: 非線形最小二乗最適化は回帰、物理インフォームドニューラルネットワーク、その他の機械学習タスクの中心である。 このような問題には自然な幾何学的解釈があり、モデル予測はデータ空間の多様体を形成し、一方選択されたパラメータ化はパラメータ効果の曲率を導入し、非線型性の支配的な源となる。 これにより、レバンス・マルカルト法(LM)の限界が明らかになり、その接空間ステップはパラメータ座標の直線的な更新として適用される。 測地加速度は二階補正を与えるが、パラメータ効果の曲率の除去は無限小ステップの極限でのみ正確に行われる。 有限最適化ステップにおけるこの整合性を改善するために,リーマン正規座標レバンス・マルカルト法(RNC-LM)を提案する。 測地線方程式を再構成することにより、RCC-LMは測地線加速度を任意の順序の補正まで拡張し、漸進的に高いパラメータ化整合性を持つ有限ステップ更新を構築する。 RNC曲線に沿った線探索は、標準LMに近いコストを維持しながら走行距離を制御する。 本手法は,移動接フレームの順序による残留加速度オーダーの接点成分を除去し,実際の目標低減をLMの線形モデル予測とより一致させる。 古典的非線形最小二乗のベンチマークでは、RCC-LMは湾曲した谷とランク不足問題における収束と堅牢性を改善する。 反応拡散PINN失敗モードベンチマークでは、相対L2誤差を1e-3のオーダーに減少させ、物理的に意味のある解を回復する。 大規模な機械学習ポテンシャル表面のフィッティングタスクでは、標準のLMよりも34倍のスピードアップを達成する。

関連論文リスト

• A Convex Quasilinearization Method for Solving Nonlinear PDEs with Physics-Informed Neural Networks [0.0]
  非線形偏微分方程式(PDE)の前方解の数値解法を提案する。 この方法であるLiL-Qは、7つのベンチマークで評価され(平面ひずみ弾性と2次元および3次元の非圧縮性ナビエ・ストークス方程式)、不均一な透水性を持つ定常流を含む。
  論文  参考訳（メタデータ） (2026-06-16T17:09:59Z)
• Hybrid Iterative Neural Low-Regularity Integrator for Nonlinear Dispersive Equations [0.0]
  HIN-LRIは、古典的な数値解法をニューラルネットワークで拡張し、解法の構造化トランケーション誤差を補正するハイブリッドフレームワークである。 低次元の潜在多様体上で動作する軽量ニューラルネットワークは、分析手法が閉じられない残留欠陥を学習する。 実験により、HIN-LRIは解析的、分割的手法、神経的PDEサロゲートよりも精度を向上し、安定した空間的精細化、効果的なアウト・オブ・ディストリビューション転送、オンラインオーバーヘッドを緩和することが示された。
  論文  参考訳（メタデータ） (2026-05-06T12:50:36Z)
• Learning vertical coordinates via automatic differentiation of a dynamical core [39.817742239477255]
  本稿では,パラメトリックな垂直座標系を動的コア内の学習可能なコンポーネントとして定義する枠組みを提案する。 アラカワCグリッド上の2次元非静水性方程式に対するエンドツーエンドの微分可能な数値解法を開発した。 これらの学習座標は、非線形統計ベンチマークにおいて平均2乗誤差を1.4倍から2倍に減少させることを示した。
  論文  参考訳（メタデータ） (2025-12-19T18:31:07Z)
• SPARE: Symmetrized Point-to-Plane Distance for Robust Non-Rigid 3D Registration [77.13381026159111]
  本研究では,SPAREを提案する。SPAREは,非剛性登録のための対称化点-平面間距離を用いた新しい定式化である。 提案手法は, 厳密でない登録問題の精度を大幅に向上し, 比較的高い解効率を維持する。
  論文  参考訳（メタデータ） (2024-05-30T15:55:04Z)
• A Mean-Field Analysis of Neural Stochastic Gradient Descent-Ascent for Functional Minimax Optimization [90.87444114491116]
  本稿では,超パラメトリック化された2層ニューラルネットワークの無限次元関数クラス上で定義される最小最適化問題について検討する。 i) 勾配降下指数アルゴリズムの収束と, (ii) ニューラルネットワークの表現学習に対処する。 その結果、ニューラルネットワークによって誘導される特徴表現は、ワッサーシュタイン距離で測定された$O(alpha-1)$で初期表現から逸脱することが許された。
  論文  参考訳（メタデータ） (2024-04-18T16:46:08Z)
• Constrained Optimization via Exact Augmented Lagrangian and Randomized Iterative Sketching [55.28394191394675]
  等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。 ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-28T06:33:37Z)
• Gaussian process regression and conditional Karhunen-Lo\'{e}ve models for data assimilation in inverse problems [68.8204255655161]
  偏微分方程式モデルにおけるデータ同化とパラメータ推定のためのモデル逆アルゴリズムCKLEMAPを提案する。 CKLEMAP法は標準的なMAP法に比べてスケーラビリティがよい。
  論文  参考訳（メタデータ） (2023-01-26T18:14:12Z)
• Error-Correcting Neural Networks for Two-Dimensional Curvature Computation in the Level-Set Method [0.0]
  本稿では,2次元曲率をレベルセット法で近似するための誤差ニューラルモデルに基づく手法を提案する。 我々の主な貢献は、需要に応じて機械学習操作を可能にする数値スキームに依存する、再設計されたハイブリッド・ソルバである。
  論文  参考訳（メタデータ） (2022-01-22T05:14:40Z)
• Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
  視覚SLAMシステムのための新しい最適化バックボーンを提案する。 従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。 我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
  論文  参考訳（メタデータ） (2020-11-02T18:02:26Z)
• Bayesian Sparse learning with preconditioned stochastic gradient MCMC and its applications [5.660384137948734]
  提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束する。 提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-29T20:57:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。