論文の概要: Convergence rates of the stochastic alternating algorithm for
bi-objective optimization
- arxiv url: http://arxiv.org/abs/2203.10605v1
- Date: Sun, 20 Mar 2022 17:31:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 18:48:05.371197
- Title: Convergence rates of the stochastic alternating algorithm for
bi-objective optimization
- Title（参考訳）: 2目的最適化のための確率交互アルゴリズムの収束率
- Authors: Suyun Liu and Luis Nunes Vicente
- Abstract要約: 交互アルゴリズムは,強い凸性の下で$mathcalO (1/sqrtT)$のサブ線形収束率が得られることを示す。
重要なことに、各関数に適用されるステップの割合を変えることで、前方への近似を決定することができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Stochastic alternating algorithms for bi-objective optimization are
considered when optimizing two conflicting functions for which optimization
steps have to be applied separately for each function. Such algorithms consist
of applying a certain number of steps of gradient or subgradient descent on
each single objective at each iteration. In this paper, we show that stochastic
alternating algorithms achieve a sublinear convergence rate of
$\mathcal{O}(1/T)$, under strong convexity, for the determination of a
minimizer of a weighted-sum of the two functions, parameterized by the number
of steps applied on each of them. An extension to the convex case is presented
for which the rate weakens to $\mathcal{O}(1/\sqrt{T})$. These rates are valid
also in the non-smooth case. Importantly, by varying the proportion of steps
applied to each function, one can determine an approximation to the Pareto
front.
- Abstract（参考訳）: 二目的最適化のための確率交互アルゴリズムは、各関数に対して最適化ステップを別々に適用しなければならない2つの競合関数を最適化する際に考慮される。
このようなアルゴリズムは、各イテレーションにおいてそれぞれの目的に対して、一定のステップの勾配または緩やかな降下を適用することで構成される。
本稿では, 2つの関数の重み付き和の最小値を決定するために, 強い凸性の下で, 確率的交互化アルゴリズムが$\mathcal{O}(1/T)$のサブ線形収束率を達成できることを示す。
凸ケースの拡張は、そのレートが$\mathcal{o}(1/\sqrt{t})$に弱くなることを示す。
これらの値は非滑らかな場合においても有効である。
重要なことに、各関数に適用されるステップの割合を変えることで、パレートフロントへの近似を決定することができる。
関連論文リスト
- Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳（メタデータ） (2023-10-18T10:29:58Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳（メタデータ） (2023-07-17T20:11:56Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳（メタデータ） (2023-01-30T15:46:39Z) - A Projection-free Algorithm for Constrained Stochastic Multi-level
Composition Optimization [12.096252285460814]
合成最適化のためのプロジェクションフリー条件付き勾配型アルゴリズムを提案する。
提案アルゴリズムで要求されるオラクルの数と線形最小化オラクルは,それぞれ$mathcalO_T(epsilon-2)$と$mathcalO_T(epsilon-3)$である。
論文 参考訳（メタデータ） (2022-02-09T06:05:38Z) - A stochastic linearized proximal method of multipliers for convex
stochastic optimization with expectation constraints [8.133190610747974]
計算可能近似型アルゴリズム,すなわち乗算器の線形化近近凸法を提案する。
予備的な数値計算の結果は,提案アルゴリズムの性能を示すものである。
論文 参考訳（メタデータ） (2021-06-22T07:24:17Z) - Parameter-free Stochastic Optimization of Variationally Coherent
Functions [19.468067110814808]
我々は$mathbbRdilon上で関数のクラスを1次最適化するためのアルゴリズムを設計・解析する。
この2つを同時に実現したのは初めてである。
論文 参考訳（メタデータ） (2021-01-30T15:05:34Z) - A Two-Timescale Framework for Bilevel Optimization: Complexity Analysis
and Application to Actor-Critic [142.1492359556374]
双レベル最適化は、2レベル構造を示す問題のクラスである。
このような二段階問題に対処するための2段階近似(TTSA)アルゴリズムを提案する。
本稿では,TTSAフレームワークの特殊な事例として,2段階の自然なアクター・クリティカルポリシー最適化アルゴリズムが有用であることを示す。
論文 参考訳（メタデータ） (2020-07-10T05:20:02Z) - Exploiting Higher Order Smoothness in Derivative-free Optimization and
Continuous Bandits [99.70167985955352]
強凸関数のゼロ次最適化問題について検討する。
予測勾配降下アルゴリズムのランダム化近似を考察する。
その結果,0次アルゴリズムはサンプルの複雑性や問題パラメータの点でほぼ最適であることが示唆された。
論文 参考訳（メタデータ） (2020-06-14T10:42:23Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳（メタデータ） (2020-06-11T17:43:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。