論文の概要: Geodesic Gradient Descent: A Generic and Learning-rate-free Optimizer on Objective Function-induced Manifolds
- arxiv url: http://arxiv.org/abs/2603.06651v1
- Date: Sat, 28 Feb 2026 02:04:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-10 15:13:12.594087
- Title: Geodesic Gradient Descent: A Generic and Learning-rate-free Optimizer on Objective Function-induced Manifolds
- Title(参考訳): 測地的グラディエントDescent: 目的関数による多様体に対するジェネリックで学習時間のない最適化
- Authors: Liwei Hu, Guangyao Li, Wenyong Wang, Xiaoming Zhang, Yu Xiang,
- Abstract要約: ユークリッド勾配降下アルゴリズムは、目的関数による超曲面の幾何をほとんど捉えない。
我々は,一般かつ学習率の低いリーマン勾配勾配アルゴリズムである測地勾配勾配(GGD)を提案する。
GGDは、バーガースのデータセット上での完全接続ネットワークの35.79%から48.76%まで、MNISTデータセット上の畳み込みニューラルネットワークの3.14%から11.59%までのクロスエントロピー損失削減を達成している。
- 参考スコア(独自算出の注目度): 15.866000450171887
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Euclidean gradient descent algorithms barely capture the geometry of objective function-induced hypersurfaces and risk driving update trajectories off the hypersurfaces. Riemannian gradient descent algorithms address these issues but fail to represent complex hypersurfaces via a single classic manifold. We propose geodesic gradient descent (GGD), a generic and learning-rate-free Riemannian gradient descent algorithm. At each iteration, GGD uses an n-dimensional sphere to approximate a local neighborhood on the objective function-induced hypersurface, adapting to arbitrarily complex geometries. A tangent vector derived from the Euclidean gradient is projected onto the sphere to form a geodesic, ensuring the update trajectory stays on the hypersurface. Parameter updates are performed using the endpoint of the geodesic. The maximum step size of the gradient in GGD is equal to a quarter of the arc length on the n-dimensional sphere, thus eliminating the need for a learning rate. Experimental results show that compared with the classic Adam algorithm, GGD achieves test MSE reductions ranging from 35.79% to 48.76% for fully connected networks on the Burgers' dataset, and cross-entropy loss reductions ranging from 3.14% to 11.59% for convolutional neural networks on the MNIST dataset.
- Abstract(参考訳): ユークリッド勾配降下アルゴリズムは、目的関数誘発超曲面の幾何と、超曲面からのリスク駆動更新軌道をほとんど捉えない。
リーマン勾配降下アルゴリズムはこれらの問題に対処するが、単一の古典多様体を通して複素超曲面を表現できない。
我々は,一般かつ学習率の低いリーマン勾配勾配アルゴリズムである測地勾配勾配(GGD)を提案する。
各反復において、GGD は n 次元球面を用いて、目的関数による超曲面上の局所近傍を近似し、任意に複雑な幾何学に適応する。
ユークリッド勾配から導かれる接ベクトルが球面に投影されて測地線を形成し、更新軌道が超地表に留まることを保証している。
パラメータ更新はジオデシックのエンドポイントを使用して実行される。
GGDの勾配の最大ステップサイズは、n次元球面上の弧長の4分の1に等しいため、学習速度は不要である。
実験の結果、古典的なAdamアルゴリズムと比較して、GGDはバーガースのデータセット上の完全接続ネットワークで35.79%から48.76%のMSE削減、MNISTデータセットで畳み込みニューラルネットワークで3.14%から11.59%のクロスエントロピー損失削減を達成した。
関連論文リスト
- EntON: Eigenentropy-Optimized Neighborhood Densification in 3D Gaussian Splatting [0.6364833131414095]
3次元ガウスめっきにおける固有エントロピー最適化近傍密度化戦略(DGS)を提案する。
ビュースペース位置勾配の大きさに依存する従来の密度化戦略とは対照的に,本手法では,適応的な分割とプルーニングを導く幾何学的手法を導入している。
実験の結果,Eigenentropy-aware alternating densification は,幾何学的精度を最大33%向上し,品質を最大7%向上させることがわかった。
論文 参考訳(メタデータ) (2026-03-06T12:32:24Z) - FeatureGS: Eigenvalue-Feature Optimization in 3D Gaussian Splatting for Geometrically Accurate and Artifact-Reduced Reconstruction [1.474723404975345]
3Dガウシアン3DGSは3Dガウシアンを用いた3Dシーン再構築の強力なアプローチとして登場した。
本稿では,固有値由来の3次元形状特徴に基づく幾何学的損失項を3DGSの最適化プロセスに組み込む。
論文 参考訳(メタデータ) (2025-01-29T13:40:25Z) - Gaussian Opacity Fields: Efficient Adaptive Surface Reconstruction in Unbounded Scenes [50.92217884840301]
Gaussian Opacity Fields (GOF)は、シーンにおける効率的で高品質で適応的な表面再構成のための新しいアプローチである。
GOFは3Dガウスのレイトレーシングに基づくボリュームレンダリングに由来する。
GOFは、表面再構成と新しいビュー合成において、既存の3DGSベースの手法を超越している。
論文 参考訳(メタデータ) (2024-04-16T17:57:19Z) - Neural Gradient Learning and Optimization for Oriented Point Normal
Estimation [53.611206368815125]
本研究では,3次元点雲から勾配ベクトルを一貫した向きで学習し,正規推定を行うためのディープラーニング手法を提案する。
局所平面幾何に基づいて角距離場を学習し、粗勾配ベクトルを洗練する。
本手法は,局所特徴記述の精度と能力の一般化を図りながら,グローバル勾配近似を効率的に行う。
論文 参考訳(メタデータ) (2023-09-17T08:35:11Z) - NeuroGF: A Neural Representation for Fast Geodesic Distance and Path
Queries [77.04220651098723]
本稿では,ニューラル暗黙関数を用いた3次元メッシュモデル上での測地線表現の試みについて述べる。
具体的には、与えられたメッシュの全対測地線を表現するために学習されたニューロ測地場(NeuroGF)を紹介する。
NeuroGFは、単一ソースのオールデスティネーション(SSAD)とポイント・ツー・ポイントの測地学を解く上で、非常に優れた性能を示す。
論文 参考訳(メタデータ) (2023-06-01T13:32:21Z) - PUGeo-Net: A Geometry-centric Network for 3D Point Cloud Upsampling [103.09504572409449]
PUGeo-Netと呼ばれる新しいディープニューラルネットワークを用いた一様高密度点雲を生成する手法を提案する。
その幾何学中心の性質のおかげで、PUGeo-Netはシャープな特徴を持つCADモデルとリッチな幾何学的詳細を持つスキャンされたモデルの両方でうまく機能する。
論文 参考訳(メタデータ) (2020-02-24T14:13:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。