論文の概要: A Riemannian smoothing steepest descent method for non-Lipschitz optimization on submanifolds

• arxiv url: http://arxiv.org/abs/2104.04199v1
• Date: Fri, 9 Apr 2021 05:38:28 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-12 13:52:30.651742
• Title: A Riemannian smoothing steepest descent method for non-Lipschitz optimization on submanifolds
• Title（参考訳）: 部分多様体上の非リプシッツ最適化のためのリーマンスムージング急降下法
• Authors: Chao Zhang, Xiaojun Chen, Shiqian Ma
• Abstract要約: 部分多様体上の非Lipschitz関数を最小化するスムースな急降下法を提案する。 滑らか化関数によって生成される列の任意の点が元の非リプシッツ問題の極限点であることを証明する。 提案手法の効率性を示すために, 数値実験を行った。
• 参考スコア（独自算出の注目度）: 15.994495285950293
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we propose a Riemannian smoothing steepest descent method to minimize a nonconvex and non-Lipschitz function on submanifolds. The generalized subdifferentials on Riemannian manifold and the Riemannian gradient sub-consistency are defined and discussed. We prove that any accumulation point of the sequence generated by the Riemannian smoothing steepest descent method is a stationary point associated with the smoothing function employed in the method, which is necessary for the local optimality of the original non-Lipschitz problem. Under the Riemannian gradient sub-consistency condition, we also prove that any accumulation point is a Riemannian limiting stationary point of the original non-Lipschitz problem. Numerical experiments are conducted to demonstrate the efficiency of the proposed method.
• Abstract（参考訳）: 本稿では,部分多様体上の非凸および非リプシッツ関数を最小化するリーマン滑らかな最急降下法を提案する。 リーマン多様体上の一般化された部分微分とリーマン勾配部分矛盾を定義・議論する。 リーマンスムージング・急勾配法によって生成される列の任意の累積点が、元の非リプシッツ問題の局所最適性に必要となる手法で用いられる滑らか化関数に付随する定常点であることを証明した。 リーマン勾配部分矛盾条件の下では、任意の集積点が元の非リプシッツ問題のリーマン極限定常点であることも証明する。 提案手法の有効性を実証するために数値実験を行った。

関連論文リスト

• Stochastic Zeroth-Order Optimization under Strongly Convexity and Lipschitz Hessian: Minimax Sample Complexity [59.75300530380427]
  本稿では,アルゴリズムが検索対象関数の雑音評価にのみアクセス可能な2次スムーズかつ強い凸関数を最適化する問題を考察する。 本研究は, ミニマックス単純後悔率について, 一致した上界と下界を発達させることにより, 初めて厳密な評価を行ったものである。
  論文  参考訳（メタデータ） (2024-06-28T02:56:22Z)
• Riemannian stochastic optimization methods avoid strict saddle points [68.80251170757647]
  研究中のポリシーは、確率 1 の厳密なサドル点/部分多様体を避けていることを示す。 この結果は、アルゴリズムの極限状態が局所最小値にしかならないことを示すため、重要な正当性チェックを提供する。
  論文  参考訳（メタデータ） (2023-11-04T11:12:24Z)
• Decentralized Riemannian Conjugate Gradient Method on the Stiefel Manifold [59.73080197971106]
  本稿では,最急降下法よりも高速に収束する一階共役最適化法を提案する。 これはスティーフェル多様体上の大域収束を達成することを目的としている。
  論文  参考訳（メタデータ） (2023-08-21T08:02:16Z)
• Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
  本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。 我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Riemannian Natural Gradient Methods [21.14740680011498]
  本稿では, 自然勾配法の自然な拡張と見なすことができる, 多様体設定におけるフィッシャー情報行列の概念を紹介する。 提案手法のほぼ完全な大域収束を標準仮定の下で確立する。 機械学習による応用に関する数値実験は、最先端の手法よりも提案手法の利点を実証している。
  論文  参考訳（メタデータ） (2022-07-15T04:33:10Z)
• First-Order Algorithms for Min-Max Optimization in Geodesic Metric Spaces [93.35384756718868]
  min-maxアルゴリズムはユークリッド設定で解析されている。 指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
  論文  参考訳（メタデータ） (2022-06-04T18:53:44Z)
• Differentially private Riemannian optimization [40.23168342389821]
  微分プライベートの枠組みを導入する。 現実的なリスクの問題です。 パラメータは a に制約される。 ロックフェラー多様体。 提案手法の有効性をいくつかの応用例で示す。
  論文  参考訳（メタデータ） (2022-05-19T12:04:15Z)
• Stochastic Zeroth-order Riemannian Derivative Estimation and Optimization [15.78743548731191]
  多様体非線型性の非線型性の難しさを克服するために、ガウス滑らか化関数のオラクル版を提案する。 ニューラルネットワークに対するロボティクスとブラックボックス攻撃に対するブラックボックス剛性制御における,結果によるアルゴリズムの適用性と実世界の応用を実証する。
  論文  参考訳（メタデータ） (2020-03-25T06:58:19Z)
• Support recovery and sup-norm convergence rates for sparse pivotal estimation [79.13844065776928]
  高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。 非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
  論文  参考訳（メタデータ） (2020-01-15T16:11:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。