論文の概要: A simple adaptive accelerated optimistic dual averaging method for unconstrained convex optimization in $p$-norm geometry

• arxiv url: http://arxiv.org/abs/2611.05334v1
• Date: Tue, 03 Nov 2026 18:35:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 12:55:27.475282
• Title: A simple adaptive accelerated optimistic dual averaging method for unconstrained convex optimization in $p$-norm geometry
• Title（参考訳）: p$-norm幾何における制約のない凸最適化のための単純適応的アクセラレーション型楽観的二値平均化法
• Abstract要約: 大規模一階最適化において,効率的なプレコンディショニングが重要な役割を担っている。 本稿では,非拘束凸最適化のための適応的アクセラレーション型楽観的2値平均化(textA2$ODA)手法を提案する。
• 参考スコア（独自算出の注目度）: 5.70439657993018
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient preconditioning plays an important role in large-scale first-order optimization. In this paper, we propose an adaptive accelerated optimistic dual averaging ($\text{A}^2$ODA) method for unconstrained convex optimization that adopts low-cost preconditioning based on $p$-norm geometry for $p\in[2,\infty]$. The method is line-search-free and employs a new stepsize selection technique based on an aggregated affine lower model. Its update structure is simple and unified across $p\in[2,\infty]$, with the case $p>2$ requiring no more elaborate updates than the Euclidean case $p=2$. Under a generalized local smoothness condition, we derive a convergence bound that separates the effects of constant and gap-dependent curvature, with the latter potentially yielding faster-decaying terms. In the special case of local smoothness, this bound recovers a nearly optimal convergence rate.
• Abstract（参考訳）: 大規模一階最適化において,効率的なプレコンディショニングが重要な役割を担っている。 本稿では,$p\in[2,\infty]$に対する$p$-norm幾何に基づく低コストプレコンディショニングを採用する非制約凸最適化のための適応的アクセラレーション型楽観的2値平均化($\text{A}^2$ODA)法を提案する。 本手法はライン検索フリーであり,アフィン下層モデルに基づく新たなステップサイズ選択手法を採用している。 更新構造は単純で$p\in[2,\infty]$で統一されており、$p>2$の場合、Euclideanの場合$p=2$よりも詳細な更新は不要である。 一般化された局所滑らか性条件の下では、定数とギャップ依存曲率の影響を分離する収束境界を導出し、後者はより高速な退化項をもたらす可能性がある。 局所滑らか性の特別な場合、この境界はほぼ最適な収束率を回復する。

関連論文リスト

• Generalized Gradient Norm Clipping & Non-Euclidean $(L_0,L_1)$-Smoothness [51.302674884611335]
  本研究は、急勾配と条件勾配のアプローチを組み合わせることでノルムクリッピングを一般化するハイブリッド非ユークリッド最適化手法を提案する。 本稿では、ディープラーニングのためのアルゴリズムのインスタンス化について論じ、画像分類と言語モデリングにおけるそれらの特性を実証する。
  論文  参考訳（メタデータ） (2025-06-02T17:34:29Z)
• Methods for Convex $(L_0,L_1)$-Smooth Optimization: Clipping, Acceleration, and Adaptivity [50.25258834153574]
  我々は、(強に)凸 $(L0)$-smooth 関数のクラスに焦点を当て、いくつかの既存のメソッドに対する新しい収束保証を導出する。 特に,スムーズなグラディエント・クリッピングを有するグラディエント・ディフレッシュと,ポリアク・ステップサイズを有するグラディエント・ディフレッシュのコンバージェンス・レートの改善を導出した。
  論文  参考訳（メタデータ） (2024-09-23T13:11:37Z)
• Gauges and Accelerated Optimization over Smooth and/or Strongly Convex Sets [5.283608740498262]
  我々は、滑らかかつ/または強い凸集合上で定義される実現可能性および制約付き最適化問題を考察する。 これらの設定において,新しい拡張性,プロジェクションフリー,アクセラレーションファーストオーダー手法を提案する。
  論文  参考訳（メタデータ） (2023-03-09T05:05:54Z)
• Extra-Newton: A First Approach to Noise-Adaptive Accelerated Second-Order Methods [57.050204432302195]
  本研究では,2次スムーズな凸関数を最小化するための普遍的かつ適応的な2次法を提案する。 我々のアルゴリズムは、オラクルフィードバックが分散$sigma2$であるときに$O(sigma / sqrtT)$収束を達成し、決定論的オラクルで$O(1 / T3)$に収束を改善する。
  論文  参考訳（メタデータ） (2022-11-03T14:12:51Z)
• A first-order primal-dual method with adaptivity to local smoothness [64.62056765216386]
  凸凹対象 $min_x max_y f(x) + langle Ax, yrangle - g*(y)$, ここで、$f$ は局所リプシッツ勾配を持つ凸関数であり、$g$ は凸かつ非滑らかである。 主勾配ステップと2段ステップを交互に交互に行うCondat-Vuアルゴリズムの適応バージョンを提案する。
  論文  参考訳（メタデータ） (2021-10-28T14:19:30Z)
• A Retrospective Approximation Approach for Smooth Stochastic Optimization [0.2867517731896504]
  グラディエント(グラディエント、英: Gradient、SG)とは、最適化(SO)問題をスムーズ(ノンフィクション)な目標値で解くための補足的反復手法である。
  論文  参考訳（メタデータ） (2021-03-07T16:29:36Z)
• Adaptive extra-gradient methods for min-max optimization and games [35.02879452114223]
  本稿では,初期の反復で観測された勾配データの幾何を自動的に活用する,minmax最適化アルゴリズムの新たなファミリーを提案する。 この適応機構により,提案手法は問題がスムーズかどうかを自動的に検出する。 滑らかな問題における$mathcalO (1/varepsilon)$反復と、非滑らかな問題における$mathcalO (1/varepsilon)$反復に収束する。
  論文  参考訳（メタデータ） (2020-10-22T22:54:54Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。