論文の概要: The Landscape of the Proximal Point Method for Nonconvex-Nonconcave Minimax Optimization

• arxiv url: http://arxiv.org/abs/2006.08667v3
• Date: Thu, 1 Apr 2021 16:31:07 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 03:49:49.941095
• Title: The Landscape of the Proximal Point Method for Nonconvex-Nonconcave Minimax Optimization
• Title（参考訳）: 非凸非凸ミニマックス最適化のための近位点法の展望
• Authors: Benjamin Grimmer, Haihao Lu, Pratik Worah, Vahab Mirrokni
• Abstract要約: Minimax PPMは、堅牢で強化された学習、GANなど、マシンラーニングの中心的なツールになっています。 これらの応用はしばしば非可逆であるが、既存の理論ではそれと根本的な困難を識別できない。
• 参考スコア（独自算出の注目度）: 10.112779201155005
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Minimax optimization has become a central tool in machine learning with applications in robust optimization, reinforcement learning, GANs, etc. These applications are often nonconvex-nonconcave, but the existing theory is unable to identify and deal with the fundamental difficulties this poses. In this paper, we study the classic proximal point method (PPM) applied to nonconvex-nonconcave minimax problems. We find that a classic generalization of the Moreau envelope by Attouch and Wets provides key insights. Critically, we show this envelope not only smooths the objective but can convexify and concavify it based on the level of interaction present between the minimizing and maximizing variables. From this, we identify three distinct regions of nonconvex-nonconcave problems. When interaction is sufficiently strong, we derive global linear convergence guarantees. Conversely when the interaction is fairly weak, we derive local linear convergence guarantees with a proper initialization. Between these two settings, we show that PPM may diverge or converge to a limit cycle.
• Abstract（参考訳）: Minimax最適化は、堅牢な最適化、強化学習、GANなどの応用で機械学習の中心的なツールとなっている。 これらの応用は、しばしば非凸非凸であるが、既存の理論は、これが引き起こす根本的な困難を識別し対処することができない。 本稿では,非凸非凸極小問題に適用される古典的近位点法(PPM)について検討する。 Attouch と Wets による Moreau エンベロープの古典的な一般化は重要な洞察を与える。 批判的に、このエンベロープは目的を円滑にするだけでなく、最小化変数と最大化変数の間の相互作用レベルに基づいて凸化および凸化することができる。 このことから,非凸非凸問題の3つの異なる領域を同定する。 相互作用が十分に強い場合、大域的な線形収束を保証する。 逆に、相互作用がかなり弱い場合、局所線形収束保証を適切な初期化で導出する。 これら2つの設定の間に、ppm が極限サイクルに分岐するか収束するかを示す。

関連論文リスト

• Vanishing Point Estimation in Uncalibrated Images with Prior Gravity Direction [82.72686460985297]
  我々はマンハッタンのフレームを推定する問題に取り組む。 2つの新しい2行解法が導出され、そのうちの1つは既存の解法に影響を与える特異点に悩まされない。 また、局所最適化の性能を高めるために、任意の行で実行される新しい最小でないメソッドを設計する。
  論文  参考訳（メタデータ） (2023-08-21T13:03:25Z)
• Can Decentralized Stochastic Minimax Optimization Algorithms Converge Linearly for Finite-Sum Nonconvex-Nonconcave Problems? [56.62372517641597]
  分散化されたミニマックス最適化は、幅広い機械学習に応用されているため、ここ数年で活発に研究されている。 本稿では,非コンカブ問題に対する2つの新しい分散化ミニマックス最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-04-24T02:19:39Z)
• Connected Superlevel Set in (Deep) Reinforcement Learning and its Application to Minimax Theorems [15.632127097145881]
  政策パラメータに関する目的関数の超レベル集合は、常に連結集合であることを示す。 本稿では,政策パラメータと報酬の関数としての最適化目標が,より強い「等価性」特性を満たすことを示す。 このような結果が文献に現れるのはこれが初めてである。
  論文  参考訳（メタデータ） (2023-03-23T01:14:36Z)
• STay-ON-the-Ridge: Guaranteed Convergence to Local Minimax Equilibrium in Nonconvex-Nonconcave Games [34.04699387005116]
  非競合対象に対してmin-maxサイクルを収束させることが保証される手法を提案する。 我々の方法は問題の潜在的な性質を満たすように設計されている。
  論文  参考訳（メタデータ） (2022-10-18T11:33:30Z)
• Coordinate Descent Methods for Fractional Minimization [7.716156977428555]
  数値部の対象が微分可能凸非線型関数の和であるような構成された分数凸問題のクラスを考える。 この問題は非滑らか収束であるため難しい。 この問題を解決するための2つの方法を提案する。
  論文  参考訳（メタデータ） (2022-01-30T00:47:04Z)
• Minimax Optimization: The Case of Convex-Submodular [50.03984152441271]
  ミニマックス問題は連続領域を超えて連続離散領域や完全離散領域にまで拡張される。 連続変数に関して目的が凸であり、離散変数に関して部分モジュラーであるような凸-部分モジュラーミニマックス問題のクラスを導入する。 提案アルゴリズムは反復的であり、離散最適化と連続最適化の両方のツールを組み合わせる。
  論文  参考訳（メタデータ） (2021-11-01T21:06:35Z)
• Local AdaGrad-Type Algorithm for Stochastic Convex-Concave Minimax Problems [80.46370778277186]
  大規模凸凹型ミニマックス問題は、ゲーム理論、堅牢なトレーニング、生成的敵ネットワークのトレーニングなど、多くの応用で発生する。 通信効率のよい分散外グレードアルゴリズムであるLocalAdaSientを開発した。 サーバモデル。 等質な環境と異質な環境の両方において,その有効性を実証する。
  論文  参考訳（メタデータ） (2021-06-18T09:42:05Z)
• Efficient Methods for Structured Nonconvex-Nonconcave Min-Max Optimization [98.0595480384208]
  定常点に収束する一般化外空間を提案する。 このアルゴリズムは一般の$p$ノルド空間だけでなく、一般の$p$次元ベクトル空間にも適用される。
  論文  参考訳（メタデータ） (2020-10-31T21:35:42Z)
• Non-convex Min-Max Optimization: Applications, Challenges, and Recent Theoretical Advances [58.54078318403909]
  min-max問題(英: min-max problem)またはサドル点問題(英: saddle point problem)は、サムゲームにおいても研究されるクラス逆問題である。
  論文  参考訳（メタデータ） (2020-06-15T05:33:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。