論文の概要: Local and Global Uniform Convexity Conditions
- arxiv url: http://arxiv.org/abs/2102.05134v1
- Date: Tue, 9 Feb 2021 21:09:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-11 14:28:14.781194
- Title: Local and Global Uniform Convexity Conditions
- Title（参考訳）: 局所的およびグローバルな均一凸条件
- Authors: Thomas Kerdreux, Alexandre d'Aspremont, and Sebastian Pokutta
- Abstract要約: 有限次元空間におけるノルム球上の均一凸性と滑らか性の諸特性について概説する。
学習理論やオンライン学習,オフライン最適化などにおいて,近年の複雑性に関する知見をより深めるために,これらの条件のローカルバージョンを構築した。
これらの条件と局所的な仮定を利用する最適化と機械学習の実践的な例は、新しい複雑さの結果をもたらすと結論付けている。
- 参考スコア（独自算出の注目度）: 88.3673525964507
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We review various characterizations of uniform convexity and smoothness on
norm balls in finite-dimensional spaces and connect results stemming from the
geometry of Banach spaces with \textit{scaling inequalities} used in analysing
the convergence of optimization methods. In particular, we establish local
versions of these conditions to provide sharper insights on a recent body of
complexity results in learning theory, online learning, or offline
optimization, which rely on the strong convexity of the feasible set. While
they have a significant impact on complexity, these strong convexity or uniform
convexity properties of feasible sets are not exploited as thoroughly as their
functional counterparts, and this work is an effort to correct this imbalance.
We conclude with some practical examples in optimization and machine learning
where leveraging these conditions and localized assumptions lead to new
complexity results.
- Abstract（参考訳）: 有限次元空間におけるノルム球の均一凸性および平滑性に関する様々な特性を検証し、バナッハ空間の幾何学から生じる結果を最適化手法の収束解析に用いる \textit{scaling inequalities} と結び付ける。
特に、これらの条件の局所バージョンを確立し、学習理論、オンライン学習、または実現可能な集合の強い凸性に依存するオフライン最適化における最近の複雑さの結果に関するより鋭い洞察を提供します。
それらは複雑性に大きな影響を及ぼすが、これらの強凸性や実現可能な集合の均一凸性は、機能的集合ほど徹底的に利用されず、この不均衡を正す努力である。
これらの条件と局所的な仮定を利用する最適化と機械学習の実践的な例は、新しい複雑さの結果をもたらすと結論付けている。
関連論文リスト
- Projection-Free Variance Reduction Methods for Stochastic Constrained Multi-Level Compositional Optimization [34.628967272528044]
本稿では,制約付きマルチレベル最適化関数に対するプロジェクションフリーアルゴリズムについて検討する。
段階的適応を用いて凸関数と強凸関数の複素数を求める。
論文 参考訳（メタデータ） (2024-06-06T06:56:56Z) - Low-Rank Extragradient Methods for Scalable Semidefinite Optimization [0.0]
この問題が低ランクの解を許容する高次元かつ高可算な設定に焦点をあてる。
これらの条件下では、よく知られた過次法が制約付き最適化問題の解に収束することを示す理論的結果がいくつか提示される。
論文 参考訳（メタデータ） (2024-02-14T10:48:00Z) - Linearization Algorithms for Fully Composite Optimization [61.20539085730636]
本稿では,完全合成最適化問題を凸コンパクト集合で解くための一階アルゴリズムについて検討する。
微分可能および非微分可能を別々に扱い、滑らかな部分のみを線形化することで目的の構造を利用する。
論文 参考訳（メタデータ） (2023-02-24T18:41:48Z) - High-Probability Bounds for Stochastic Optimization and Variational
Inequalities: the Case of Unbounded Variance [59.211456992422136]
制約の少ない仮定の下で高確率収束結果のアルゴリズムを提案する。
これらの結果は、標準機能クラスに適合しない問題を最適化するために検討された手法の使用を正当化する。
論文 参考訳（メタデータ） (2023-02-02T10:37:23Z) - Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。
本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
論文 参考訳（メタデータ） (2020-12-09T20:19:32Z) - Efficient Methods for Structured Nonconvex-Nonconcave Min-Max
Optimization [98.0595480384208]
定常点に収束する一般化外空間を提案する。
このアルゴリズムは一般の$p$ノルド空間だけでなく、一般の$p$次元ベクトル空間にも適用される。
論文 参考訳（メタデータ） (2020-10-31T21:35:42Z) - On The Convergence of First Order Methods for Quasar-Convex Optimization [1.52292571922932]
近年、ディープラーニングの成功は、多くの研究者に一般的なスムーズな非サーサー関数の研究を促している。
本稿では,様々な異なる設定における第1手法の収束について検討する。
論文 参考訳（メタデータ） (2020-10-10T08:16:32Z) - Convex Geometry and Duality of Over-parameterized Neural Networks [70.15611146583068]
有限幅2層ReLUネットワークの解析のための凸解析手法を開発した。
正規化学習問題に対する最適解が凸集合の極点として特徴づけられることを示す。
高次元では、トレーニング問題は無限に多くの制約を持つ有限次元凸問題としてキャストできることが示される。
論文 参考訳（メタデータ） (2020-02-25T23:05:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。