論文の概要: Gauss-Newton Natural Gradient Descent for Shape Learning

• arxiv url: http://arxiv.org/abs/2602.00099v1
• Date: Sat, 24 Jan 2026 12:41:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:32.927749
• Title: Gauss-Newton Natural Gradient Descent for Shape Learning
• Title（参考訳）: 形状学習のためのガウスニュートン自然グラディエント染料
• Authors: James King, Arturs Berzins, Siddhartha Mishra, Marius Zeinhofer,
• Abstract要約: 形状学習におけるガウスニュートン法の適用について検討する。 本手法は,パラメータ空間における最適化問題と自然に生じる関数空間とのミスマッチなど,形状学習における重要な課題に対処する。 ベンチマーク形状最適化タスクにおける実験により、ガウスニュートン法はトレーニング速度と最終解の精度を一貫して改善することを示した。
• 参考スコア（独自算出の注目度）: 20.07825646569925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We explore the use of the Gauss-Newton method for optimization in shape learning, including implicit neural surfaces and geometry-informed neural networks. The method addresses key challenges in shape learning, such as the ill-conditioning of the underlying differential constraints and the mismatch between the optimization problem in parameter space and the function space where the problem is naturally posed. This leads to significantly faster and more stable convergence than standard first-order methods, while also requiring far fewer iterations. Experiments across benchmark shape optimization tasks demonstrate that the Gauss-Newton method consistently improves both training speed and final solution accuracy.
• Abstract（参考訳）: 本稿では,形状学習におけるガウスニュートン法を用いて,暗黙的ニューラルネットワークや幾何インフォームドニューラルネットワークなどの最適化手法について検討する。 本手法は, パラメータ空間におけるパラメータ空間の最適化問題と, 自然に生じる関数空間とのミスマッチといった, 基礎となる差分制約の条件付けなど, 形状学習における重要な課題に対処する。 これにより、通常の一階法よりもはるかに高速でより安定な収束が得られ、また、より少ないイテレーションも必要となる。 ベンチマーク形状最適化タスクにおける実験により、ガウスニュートン法はトレーニング速度と最終解の精度を一貫して改善することを示した。

関連論文リスト

• Gradient-Variation Online Learning under Generalized Smoothness [56.38427425920781]
  勾配変分オンライン学習は、オンライン関数の勾配の変化とともにスケールする後悔の保証を達成することを目的としている。 ニューラルネットワーク最適化における最近の取り組みは、一般化された滑らかさ条件を示唆し、滑らかさは勾配ノルムと相関する。 ゲームにおける高速収束と拡張逆最適化への応用について述べる。
  論文  参考訳（メタデータ） (2024-08-17T02:22:08Z)
• A Stochastic Quasi-Newton Method for Non-convex Optimization with Non-uniform Smoothness [4.097563258332958]
  滑らか性に不均一性が存在する場合の高速準ニュートン法を提案する。 我々のアルゴリズムは、最もよく知られた$mathcalO(epsilon-3)$サンプルの複雑さを達成でき、収束のスピードアップを楽しむことができる。 我々の数値実験により,提案アルゴリズムは最先端の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2024-03-22T14:40:29Z)
• Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
  emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。 本稿では,直感的に設計を記述し,設計選択について説明する。 本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
  論文  参考訳（メタデータ） (2023-10-31T16:15:13Z)
• Constrained Optimization via Exact Augmented Lagrangian and Randomized Iterative Sketching [55.28394191394675]
  等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。 ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-28T06:33:37Z)
• Neural Improvement Heuristics for Graph Combinatorial Optimization Problems [49.85111302670361]
  本稿では,ノード,エッジ,あるいはその両方に情報をエンコードするグラフベースの問題を扱う新しいニューラル改善(NI)モデルを提案する。 提案モデルは,各地区の操作の選択を誘導する丘登頂に基づくアルゴリズムの基本的な構成要素として機能する。
  論文  参考訳（メタデータ） (2022-06-01T10:35:29Z)
• Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
  本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。 解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
  論文  参考訳（メタデータ） (2021-03-15T17:26:34Z)
• Disentangling the Gauss-Newton Method and Approximate Inference for Neural Networks [96.87076679064499]
  我々は一般化されたガウスニュートンを解き、ベイズ深層学習の近似推論を行う。 ガウス・ニュートン法は基礎となる確率モデルを大幅に単純化する。 ガウス過程への接続は、新しい関数空間推論アルゴリズムを可能にする。
  論文  参考訳（メタデータ） (2020-07-21T17:42:58Z)
• Adaptive First-and Zeroth-order Methods for Weakly Convex Stochastic Optimization Problems [12.010310883787911]
  我々は、弱凸(おそらく非滑らかな)最適化問題の重要なクラスを解くための、適応的な段階的な新しい手法の族を解析する。 実験結果から,提案アルゴリズムが0次勾配降下と設計変動を経験的に上回ることを示す。
  論文  参考訳（メタデータ） (2020-05-19T07:44:52Z)
• Deep Neural Network Learning with Second-Order Optimizers -- a Practical Study with a Stochastic Quasi-Gauss-Newton Method [0.0]
  本稿では,準ニュートン法,ガウスニュートン法,分散還元法を併用した2次準ニュートン最適化法を提案する。 ベンチマークによるSQGNの実装について検討し、その収束性と計算性能を選択された一階法と比較する。
  論文  参考訳（メタデータ） (2020-04-06T23:41:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。