Fugu-MT 論文翻訳(概要): Optimistic Optimisation of Composite Objective with Exponentiated Update

論文の概要: Optimistic Optimisation of Composite Objective with Exponentiated Update

arxiv url: http://arxiv.org/abs/2208.04065v1
Date: Mon, 8 Aug 2022 11:29:55 GMT
ステータス: 処理完了
システム内更新日: 2022-08-09 14:24:46.976661
Title: Optimistic Optimisation of Composite Objective with Exponentiated Update
Title（参考訳）: 指数更新による複合対象物の最適最適化
Authors: Weijia Shao, Fikret Sivrikaya and Sahin Albayrak
Abstract要約: このアルゴリズムは指数勾配と$p$-normアルゴリズムの組み合わせと解釈できる。彼らはシーケンス依存の後悔の上界を達成し、スパース目標決定変数の最もよく知られた境界と一致する。
参考スコア（独自算出の注目度）: 2.1700203922407493
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper proposes a new family of algorithms for the online optimisation of composite objectives. The algorithms can be interpreted as the combination of the exponentiated gradient and $p$-norm algorithm. Combined with algorithmic ideas of adaptivity and optimism, the proposed algorithms achieve a sequence-dependent regret upper bound, matching the best-known bounds for sparse target decision variables. Furthermore, the algorithms have efficient implementations for popular composite objectives and constraints and can be converted to stochastic optimisation algorithms with the optimal accelerated rate for smooth objectives.
Abstract（参考訳）: 本稿では,複合目的のオンライン最適化のための新しいアルゴリズム群を提案する。アルゴリズムは指数勾配と$p$-normアルゴリズムの組み合わせとして解釈できる。適応性と楽観性のアルゴリズム的アイデアと組み合わせて、提案アルゴリズムは、スパース目標決定変数の最もよく知られた境界と一致する、シーケンス依存の後悔の上界を達成する。さらにアルゴリズムは、一般的な複合目的と制約に対する効率的な実装を持ち、滑らかな目的に対して最適な加速率を持つ確率的最適化アルゴリズムに変換できる。

関連論文リスト

Provably Faster Algorithms for Bilevel Optimization via Without-Replacement Sampling [96.47086913559289]
勾配に基づくアルゴリズムはバイレベル最適化に広く用いられている。本研究では,より高速な収束率を実現する非置換サンプリングに基づくアルゴリズムを提案する。合成および実世界の両方のアプリケーションに対してアルゴリズムを検証する。
論文参考訳（メタデータ） (2024-11-07T17:05:31Z)
Accelerating Cutting-Plane Algorithms via Reinforcement Learning Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文参考訳（メタデータ） (2023-07-17T20:11:56Z)
Composite Optimization Algorithms for Sigmoid Networks [3.160070867400839]
線形化近位アルゴリズムと乗算器の交互方向に基づく合成最適化アルゴリズムを提案する。フランク関数のフィッティングに関する数値実験により、提案アルゴリズムは十分堅牢に機能することを示した。
論文参考訳（メタデータ） (2023-03-01T15:30:29Z)
Accelerated First-Order Optimization under Nonlinear Constraints [73.2273449996098]
我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
論文参考訳（メタデータ） (2023-02-01T08:50:48Z)
Adaptive Stochastic Optimisation of Nonconvex Composite Objectives [2.1700203922407493]
一般化された複合ミラー降下アルゴリズムの一群を提案し,解析する。適応的なステップサイズでは、提案アルゴリズムは問題の事前知識を必要とせずに収束する。決定集合の低次元構造を高次元問題に活用する。
論文参考訳（メタデータ） (2022-11-21T18:31:43Z)
Tree ensemble kernels for Bayesian optimization with known constraints over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文参考訳（メタデータ） (2022-07-02T16:59:37Z)
Dynamic Cat Swarm Optimization Algorithm for Backboard Wiring Problem [0.9990687944474739]
本稿では,動的キャット群最適化(Dynamic Cat Swarm Optimization)と呼ばれる,強力な群知能メタヒューリスティック最適化アルゴリズムを提案する。提案アルゴリズムは,アルゴリズムの選択スキームと探索モードを変更することにより,これらの位相間の適切なバランスを与える新しい手法を提案する。最適化の結果,提案アルゴリズムの有効性が示された。
論文参考訳（メタデータ） (2021-04-27T19:41:27Z)
Optimizing Optimizers: Regret-optimal gradient descent algorithms [9.89901717499058]
我々は,後悔最適アルゴリズムの存在,一意性,一貫性について検討する。制御問題に対する一階最適条件を提供することにより、後悔最適アルゴリズムはそれらの力学において特定の構造を満たす必要があることを示す。それらを近似する高速な数値法を提案し,長期的後悔を直接最適化する最適化アルゴリズムを生成する。
論文参考訳（メタデータ） (2020-12-31T19:13:53Z)
Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文参考訳（メタデータ） (2020-06-11T17:43:19Z)
Adaptivity of Stochastic Gradient Methods for Nonconvex Optimization [71.03797261151605]
適応性は現代最適化理論において重要であるが、研究されていない性質である。提案アルゴリズムは,PL目標に対して既存のアルゴリズムよりも優れた性能を保ちながら,PL目標に対して最適な収束性を実現することを実証した。
論文参考訳（メタデータ） (2020-02-13T05:42:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。