論文の概要: Lasry-Lions Envelopes and Nonconvex Optimization: A Homotopy Approach

• arxiv url: http://arxiv.org/abs/2103.08533v1
• Date: Mon, 15 Mar 2021 16:55:11 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-16 14:18:49.355853
• Title: Lasry-Lions Envelopes and Nonconvex Optimization: A Homotopy Approach
• Title（参考訳）: Lasry-Lions Envelopes and Nonconvex Optimization: A Homotopy Approach
• Authors: Miguel Sim\~oes, Andreas Themelis, Panagiotis Patrinos
• Abstract要約: 大規模最適化では、与えられた問題における非滑らかな非項の存在は典型的に解決を難しくする。 従来の問題よりも解くのが容易な近似部分問題列を構築する手法を開発した。
• 参考スコア（独自算出の注目度）: 2.1485350418225244
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: In large-scale optimization, the presence of nonsmooth and nonconvex terms in a given problem typically makes it hard to solve. A popular approach to address nonsmooth terms in convex optimization is to approximate them with their respective Moreau envelopes. In this work, we study the use of Lasry-Lions double envelopes to approximate nonsmooth terms that are also not convex. These envelopes are an extension of the Moreau ones but exhibit an additional smoothness property that makes them amenable to fast optimization algorithms. Lasry-Lions envelopes can also be seen as an "intermediate" between a given function and its convex envelope, and we make use of this property to develop a method that builds a sequence of approximate subproblems that are easier to solve than the original problem. We discuss convergence properties of this method when used to address composite minimization problems; additionally, based on a number of experiments, we discuss settings where it may be more useful than classical alternatives in two domains: signal decoding and spectral unmixing.
• Abstract（参考訳）: 大規模最適化では、与えられた問題における非滑らかな項と非凸項の存在は典型的に解決を難しくする。 凸最適化の非滑らかな用語に対処するための一般的なアプローチは、それらをそれぞれのモロー封筒で近似することです。 本研究では,ラズリーライオン二重封筒を用いて,凸でない非平滑項を近似する。 これらのエンベロープはMoreauの拡張ですが、高速最適化アルゴリズムに適応できるように、さらなる滑らかさ特性を示します。 Lasry-Lionsエンベロープは、与えられた関数とその凸エンベロープの間の「中間」と見なすことができ、この特性を利用して、元の問題よりも解くのが簡単な近似部分問題列を構築する方法を開発する。 本手法は,複合最小化問題に対する収束特性について論じるとともに,いくつかの実験に基づいて,信号復号法とスペクトルアンミックス法という2領域の古典的代替法よりも有用であると考えられる設定について検討する。

関連論文リスト

• Methods for Convex $(L_0,L_1)$-Smooth Optimization: Clipping, Acceleration, and Adaptivity [50.25258834153574]
  我々は、(強に)凸 $(L0)$-smooth 関数のクラスに焦点を当て、いくつかの既存のメソッドに対する新しい収束保証を導出する。 特に,スムーズなグラディエント・クリッピングを有するグラディエント・ディフレッシュと,ポリアク・ステップサイズを有するグラディエント・ディフレッシュのコンバージェンス・レートの改善を導出した。
  論文  参考訳（メタデータ） (2024-09-23T13:11:37Z)
• Faster Convergence with Multiway Preferences [99.68922143784306]
  本稿では,符号関数に基づく比較フィードバックモデルについて考察し,バッチとマルチウェイの比較による収束率の解析を行う。 本研究は,マルチウェイ選好による凸最適化の問題を初めて研究し,最適収束率を解析するものである。
  論文  参考訳（メタデータ） (2023-12-19T01:52:13Z)
• Moreau Envelope ADMM for Decentralized Weakly Convex Optimization [55.2289666758254]
  本稿では,分散最適化のための乗算器の交互方向法(ADMM)の近位変種を提案する。 数値実験の結果,本手法は広く用いられている手法よりも高速かつ堅牢であることが示された。
  論文  参考訳（メタデータ） (2023-08-31T14:16:30Z)
• Fast Algorithm for Constrained Linear Inverse Problems [5.0490573482829335]
  我々は、ある原子ノルムが2次制約の下で最小化される制約付き線形逆問題(LIP)を考える。 凸正則性を改善した制約付きLIPの2つの等価な再構成を提案する。 FLIPSの2成分選択,圧縮センシング,画像デノーミングの古典的問題に対する性能を実証する。
  論文  参考訳（メタデータ） (2022-12-02T10:12:14Z)
• The Curse of Unrolling: Rate of Differentiating Through Optimization [35.327233435055305]
  未分化は反復解法を用いて解を近似し、計算経路を通して解を微分する。 我々は,(1)高速収束につながる大きな学習率を選択することができるが,アルゴリズムが任意に長いバーンインフェーズを持つことを受け入れるか,あるいは(2)即時収束につながるより少ない学習率を選択するかのどちらかを示す。
  論文  参考訳（メタデータ） (2022-09-27T09:27:29Z)
• Implicit differentiation for fast hyperparameter selection in non-smooth convex learning [87.60600646105696]
  内部最適化問題が凸であるが非滑らかである場合の一階法を研究する。 本研究では, ヤコビアンの近位勾配降下と近位座標降下収率列の前方モード微分が, 正確なヤコビアンに向かって収束していることを示す。
  論文  参考訳（メタデータ） (2021-05-04T17:31:28Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Revisiting Frank-Wolfe for Polytopes: Strict Complementarity and Sparsity [19.24470467199451]
  フランク=ウルフのアルゴリズムは最適面の次元にのみ依存する速度で線形に収束することを示す。 ノイズに対する最適解の疎結合性を示すことを証明して、厳密な相補性を動機づける。
  論文  参考訳（メタデータ） (2020-05-31T16:48:10Z)
• Gradient-Free Methods for Saddle-Point Problem [125.99533416395765]
  我々はGasnikov et al., 2017のアプローチを一般化し、不正確な勾配のないオラクルで(確率的な)凸最適化問題を解けるようにした。 我々のアプローチは、$fracnlog n$ の要求するオラクル呼び出しの回数を削減します。 論文の後半では、そのような仮定ができない場合を分析し、この問題を解決する方法の近代化方法に関する一般的なアプローチを提案する。
  論文  参考訳（メタデータ） (2020-05-12T16:44:27Z)
• Halpern Iteration for Near-Optimal and Parameter-Free Monotone Inclusion and Strong Solutions to Variational Inequalities [14.848525762485872]
  非拡張写像、単調リプシッツ作用素、近位写像の間の接続を利用して、単調包含問題に対する準最適解を得る。 これらの結果は、変分不等式問題に対する強い解の近似、凸凸凹 min-max 最適化問題の近似、および min-max 最適化問題における勾配のノルムの最小化について、ほぼ最適に保証される。
  論文  参考訳（メタデータ） (2020-02-20T17:12:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。