論文の概要: Sparse Polyak with optimal thresholding operators for high-dimensional M-estimation

• arxiv url: http://arxiv.org/abs/2511.18167v1
• Date: Sat, 22 Nov 2025 19:43:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-25 18:34:24.666779
• Title: Sparse Polyak with optimal thresholding operators for high-dimensional M-estimation
• Title（参考訳）: 高次元M推定のための最適しきい値演算子を持つスパースポリアーク
• Authors: Tianqi Qiao, Marie Maros,
• Abstract要約: 高次元M推定問題に対するスパースポリアックの変種を提案し解析する。 本研究では,スペーサーとより正確な解を得ながら,その環境次元に関して望ましいスケーリング特性を保ったスパース・ポリアックの変種を導入する。
• 参考スコア（独自算出の注目度）: 4.297070083645049
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose and analyze a variant of Sparse Polyak for high dimensional M-estimation problems. Sparse Polyak proposes a novel adaptive step-size rule tailored to suitably estimate the problem's curvature in the high-dimensional setting, guaranteeing that the algorithm's performance does not deteriorate when the ambient dimension increases. However, convergence guarantees can only be obtained by sacrificing solution sparsity and statistical accuracy. In this work, we introduce a variant of Sparse Polyak that retains its desirable scaling properties with respect to the ambient dimension while obtaining sparser and more accurate solutions.
• Abstract（参考訳）: 高次元M推定問題に対するスパースポリアックの変種を提案し解析する。 Sparse Polyakは、高次元設定における問題の曲率を適切に推定するように調整された、新しい適応的なステップサイズルールを提案し、周囲の次元が大きくなるとアルゴリズムの性能が劣化しないことを保証している。 しかし収束保証は、解のスパーシリティと統計的精度を犠牲にすることでのみ得られる。 本研究では,スペーサーとより正確な解を得ながら,その環境次元に関して望ましいスケーリング特性を保ったスパース・ポリアックの変種を導入する。

関連論文リスト

• Sparse Polyak: an adaptive step size rule for high-dimensional M-estimation [4.297070083645049]
  我々は,高次元統計的推定問題を解くために,ポリアックの適応ステップサイズの変種であるスパース・ポリアックを提案し,研究する。 高次元では、リプシッツの滑らか度定数を推定することはもはや効果的ではない。 Sparse Polyakは、制限されたリプシッツの滑らか度定数を推定するためにステップサイズを変更することでこの問題を克服する。
  論文  参考訳（メタデータ） (2025-09-11T19:13:05Z)
• Differentially Private Optimization with Sparse Gradients [60.853074897282625]
  微分プライベート(DP)最適化問題を個人勾配の空間性の下で検討する。 これに基づいて、スパース勾配の凸最適化にほぼ最適な速度で純粋および近似DPアルゴリズムを得る。
  論文  参考訳（メタデータ） (2024-04-16T20:01:10Z)
• SIGMA: Scale-Invariant Global Sparse Shape Matching [50.385414715675076]
  非剛体形状の正確なスパース対応を生成するための新しい混合整数プログラミング(MIP)法を提案する。 いくつかの挑戦的な3Dデータセットに対して,スパースな非剛性マッチングの最先端結果を示す。
  論文  参考訳（メタデータ） (2023-08-16T14:25:30Z)
• Adaptive Stochastic Optimisation of Nonconvex Composite Objectives [2.1700203922407493]
  一般化された複合ミラー降下アルゴリズムの一群を提案し,解析する。 適応的なステップサイズでは、提案アルゴリズムは問題の事前知識を必要とせずに収束する。 決定集合の低次元構造を高次元問題に活用する。
  論文  参考訳（メタデータ） (2022-11-21T18:31:43Z)
• Adaptive Zeroth-Order Optimisation of Nonconvex Composite Objectives [1.7640556247739623]
  ゼロ階エントロピー合成目的のためのアルゴリズムを解析し,次元依存性に着目した。 これは、ミラー降下法と推定類似関数を用いて、決定セットの低次元構造を利用して達成される。 勾配を改善するため、Rademacherに基づく古典的なサンプリング法を置き換え、ミニバッチ法が非ユークリ幾何学に対処することを示す。
  論文  参考訳（メタデータ） (2022-08-09T07:36:25Z)
• Optimal Rates for Random Order Online Optimization [60.011653053877126]
  敵が損失関数を選択できるカテットガルバー2020onlineについて検討するが、一様にランダムな順序で提示される。 2020onlineアルゴリズムが最適境界を達成し,安定性を著しく向上することを示す。
  論文  参考訳（メタデータ） (2021-06-29T09:48:46Z)
• Dynamics of Stochastic Momentum Methods on Large-scale, Quadratic Models [0.2741266294612776]
  我々は高次元ランダム最小二乗問題に対して運動量を持つ勾配アルゴリズムのクラスを解析する。 固定運動量パラメータを持つ(小バッチ)運動量では,ステップサイズを正確に調整した場合,SGDよりも実際の性能向上は得られないことを示す。 非強凸条件では、運動量を用いてSGDよりも大きな改善が得られる。
  論文  参考訳（メタデータ） (2021-06-07T15:08:24Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。