論文の概要: Hyperbolic Optimization

• arxiv url: http://arxiv.org/abs/2509.25206v1
• Date: Sat, 20 Sep 2025 07:53:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-06 05:29:07.819719
• Title: Hyperbolic Optimization
• Title（参考訳）: 双曲最適化
• Authors: Yanke Wang, Kyriakos Flouris,
• Abstract要約: 双曲型勾配明細線を双曲型アダムに拡張する。 これらの手法はユークリッドや他の非ユークリッド設定にも利点をもたらす可能性がある。 ケーススタディとして,ランゲヴィン力学の双曲的時間離散化を用いた双曲的最適化法を用いて拡散モデルを訓練する。
• 参考スコア（独自算出の注目度）: 2.5674993749779165
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work explores optimization methods on hyperbolic manifolds. Building on Riemannian optimization principles, we extend the Hyperbolic Stochastic Gradient Descent (a specialization of Riemannian SGD) to a Hyperbolic Adam optimizer. While these methods are particularly relevant for learning on the Poincar\'e ball, they may also provide benefits in Euclidean and other non-Euclidean settings, as the chosen optimization encourages the learning of Poincar\'e embeddings. This representation, in turn, accelerates convergence in the early stages of training, when parameters are far from the optimum. As a case study, we train diffusion models using the hyperbolic optimization methods with hyperbolic time-discretization of the Langevin dynamics, and show that they achieve faster convergence on certain datasets without sacrificing generative quality.
• Abstract（参考訳）: この研究は双曲多様体の最適化手法を探求する。 リーマン最適化原理に基づいて、双曲的確率勾配(リーマンSGDの特殊化)を双曲的アダム最適化に拡張する。 これらの手法は特にポインカーイーボールの学習に有用であるが、選択された最適化によってポインカーイー埋め込みの学習が促進されるため、ユークリッドやその他の非ユークリッドセッティングにも恩恵をもたらす可能性がある。 この表現は、パラメータが最適値から遠く離れている場合、訓練の初期段階において収束を加速する。 ケーススタディでは,ランゲヴィン力学の双曲的時間分散を伴う双曲的最適化手法を用いて拡散モデルを訓練し,生成的品質を犠牲にすることなく,特定のデータセットへの高速収束を実現することを示す。

関連論文リスト

• Interim Report on Human-Guided Adaptive Hyperparameter Optimization with Multi-Fidelity Sprints [0.0]
  このケーススタディでは、マルチタスク自然言語モデルの変種を比較するために、フェーズドハイパーパラメータ最適化プロセスを適用する。 我々は,多相性,ハイパーパラメータ空間プルーニング,プログレッシブ・ハーヴィング,そして人間の指導の度合いを生かした,短いベイズ最適化セッションを採用している。 本稿では,Eberts と Ulges が提案した 2021 Joint Entity and Relation extract model の変種集合について実演する。
  論文  参考訳（メタデータ） (2025-05-14T20:38:44Z)
• A Novel Unified Parametric Assumption for Nonconvex Optimization [53.943470475510196]
  非最適化は機械学習の中心であるが、一般の非凸性は弱い収束を保証するため、他方に比べて悲観的すぎる。 非凸アルゴリズムに新しい統一仮定を導入する。
  論文  参考訳（メタデータ） (2025-02-17T21:25:31Z)
• Scalable Differentially Private Bayesian Optimization [17.28046301424826]
  我々は,潜在的高次元パラメータ空間をプライベートに最適化する手法を開発した。 提案手法は局所最適パラメータ構成に指数関数的に収束することを示す。 提案アルゴリズムは,プライバシを維持し,既存の手法よりも優れた性能を実証的に示す。
  論文  参考訳（メタデータ） (2025-02-09T21:49:50Z)
• Warped geometric information on the optimisation of Euclidean functions [43.43598316339732]
  我々は、潜在的に高次元ユークリッド空間で定義される実数値函数の最適化を考える。 函数の最適度は、曲がった計量を持つ多様体に沿う。 提案アルゴリズムは測地学の3次近似を用いており、標準ユークリッド勾配法よりも優れている傾向にある。
  論文  参考訳（メタデータ） (2023-08-16T12:08:50Z)
• Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares [68.8204255655161]
  非最適化近似問題を考える。 本稿では,最優先計算を保証するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-11T09:37:04Z)
• Optimization on manifolds: A symplectic approach [127.54402681305629]
  本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。 我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
  論文  参考訳（メタデータ） (2021-07-23T13:43:34Z)
• Implicit differentiation for fast hyperparameter selection in non-smooth convex learning [87.60600646105696]
  内部最適化問題が凸であるが非滑らかである場合の一階法を研究する。 本研究では, ヤコビアンの近位勾配降下と近位座標降下収率列の前方モード微分が, 正確なヤコビアンに向かって収束していることを示す。
  論文  参考訳（メタデータ） (2021-05-04T17:31:28Z)
• The Role of Momentum Parameters in the Optimal Convergence of Adaptive Polyak's Heavy-ball Methods [12.93796690939018]
  適応型Polyak's Heavy-ball (HB) 法は最適な個人収束率を$O(frac1sqrtt)$とする。 新しい解析では,hb運動量とその時間的変動が凸最適化の高速化にどのように役立つかを示す。
  論文  参考訳（メタデータ） (2021-02-15T02:57:14Z)
• ACMo: Angle-Calibrated Moment Methods for Stochastic Optimization [27.11997724023977]
  勾配降下法(SGD)は, 収束が遅いにもかかわらず, 依然として最も広く用いられている最適化法である。 適応的手法は最適化と機械学習コミュニティの注目を集めている。 両方の世界のベストを尽くすことは、機械学習の最適化分野における最もエキサイティングで挑戦的な問題だ。
  論文  参考訳（メタデータ） (2020-06-12T10:39:25Z)
• Support recovery and sup-norm convergence rates for sparse pivotal estimation [79.13844065776928]
  高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。 非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
  論文  参考訳（メタデータ） (2020-01-15T16:11:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。