論文の概要: Non-convex Min-Max Optimization: Applications, Challenges, and Recent Theoretical Advances

• arxiv url: http://arxiv.org/abs/2006.08141v2
• Date: Tue, 18 Aug 2020 08:25:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 03:41:27.048138
• Title: Non-convex Min-Max Optimization: Applications, Challenges, and Recent Theoretical Advances
• Title（参考訳）: 非凸min-max最適化:応用,課題,最近の理論進歩
• Authors: Meisam Razaviyayn, Tianjian Huang, Songtao Lu, Maher Nouiehed, Maziar Sanjabi, Mingyi Hong
• Abstract要約: min-max問題(英: min-max problem)またはサドル点問題(英: saddle point problem)は、サムゲームにおいても研究されるクラス逆問題である。
• 参考スコア（独自算出の注目度）: 58.54078318403909
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The min-max optimization problem, also known as the saddle point problem, is a classical optimization problem which is also studied in the context of zero-sum games. Given a class of objective functions, the goal is to find a value for the argument which leads to a small objective value even for the worst case function in the given class. Min-max optimization problems have recently become very popular in a wide range of signal and data processing applications such as fair beamforming, training generative adversarial networks (GANs), and robust machine learning, to just name a few. The overarching goal of this article is to provide a survey of recent advances for an important subclass of min-max problem, where the minimization and maximization problems can be non-convex and/or non-concave. In particular, we will first present a number of applications to showcase the importance of such min-max problems; then we discuss key theoretical challenges, and provide a selective review of some exciting recent theoretical and algorithmic advances in tackling non-convex min-max problems. Finally, we will point out open questions and future research directions.
• Abstract（参考訳）: min-max最適化問題(min-max optimization problem)は、ゼロサムゲームにおいても研究される古典的な最適化問題である。 目的関数のクラスが与えられた場合、目標は引数の値を見つけ出すことであり、与えられたクラスで最悪の場合であっても、目的関数の値が小さいことにつながる。 ミニマックス最適化問題は最近、フェアビームフォーミング、GAN(generative adversarial Network)のトレーニング、堅牢な機械学習など、幅広い信号処理やデータ処理アプリケーションで非常に人気がある。 本稿では, 最小化問題と最大化問題を非凸・非凹化問題とすることができる, min-max問題の重要なサブクラスに対する最近の進歩を概観する。 特に、まず、このようなmin-max問題の重要性を示すアプリケーションをいくつか提示する。次に、重要な理論的課題を議論し、非凸min-max問題に取り組むための最近の理論およびアルゴリズムの進歩を選択的にレビューする。 最後に、オープンな質問と今後の研究方向性を指摘します。

関連論文リスト

• Statistical Mechanics of Min-Max Problems [0.0]
  本研究では、高次元極限におけるmin-max問題の平衡値を分析するための統計力学的定式化を導入する。 最初のステップとして、この定式化を双線形のmin-maxゲームや単純なGANに適用する。 この形式主義は、様々な機械学習手法における平衡特性のより深い理論的解析の基礎となる。
  論文  参考訳（メタデータ） (2024-09-09T20:24:19Z)
• Can Decentralized Stochastic Minimax Optimization Algorithms Converge Linearly for Finite-Sum Nonconvex-Nonconcave Problems? [56.62372517641597]
  分散化されたミニマックス最適化は、幅広い機械学習に応用されているため、ここ数年で活発に研究されている。 本稿では,非コンカブ問題に対する2つの新しい分散化ミニマックス最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-04-24T02:19:39Z)
• Minimax Optimization: The Case of Convex-Submodular [50.03984152441271]
  ミニマックス問題は連続領域を超えて連続離散領域や完全離散領域にまで拡張される。 連続変数に関して目的が凸であり、離散変数に関して部分モジュラーであるような凸-部分モジュラーミニマックス問題のクラスを導入する。 提案アルゴリズムは反復的であり、離散最適化と連続最適化の両方のツールを組み合わせる。
  論文  参考訳（メタデータ） (2021-11-01T21:06:35Z)
• Decentralized Personalized Federated Learning for Min-Max Problems [79.61785798152529]
  本稿では,より広い範囲の最適化問題を含むサドル点問題に対して,PFLを初めて検討した。 この問題に対処するための新しいアルゴリズムを提案し、滑らかな(強く)凸-(強く)凹点問題を理論的に解析する。 両線形問題に対する数値実験と, 対向雑音を有するニューラルネットワークは, 提案手法の有効性を実証する。
  論文  参考訳（メタデータ） (2021-06-14T10:36:25Z)
• A Decentralized Adaptive Momentum Method for Solving a Class of Min-Max Optimization Problems [9.653157073271021]
  我々は、min-max最適化問題を解決するために、分散適応運動量 (ADAM) 型アルゴリズムを開発した。 我々は、(確率的な)一階のナッシュ平衡点を求めるための提案アルゴリズムの非漸近収束率を求める。
  論文  参考訳（メタデータ） (2021-06-10T22:32:01Z)
• Generative Minimization Networks: Training GANs Without Competition [34.808210988732405]
  生成モデル、特にGANの最近の応用は、標準最適化技術が適さないようなmin-maxゲームへの関心を喚起している。 この目的に対して新たな収束保証を提供し,得られた極限点が既知技術よりも優れた解法であることを実証する。
  論文  参考訳（メタデータ） (2021-03-23T17:01:08Z)
• Direct-Search for a Class of Stochastic Min-Max Problems [0.0]
  オラクルを通してのみ対象物にアクセスする導関数探索法について検討する。 この手法の収束性は軽微な仮定で証明する。 私達の分析は設定のminmax目的のための直接調査方法の収束に取り組む最初のものです。
  論文  参考訳（メタデータ） (2021-02-22T22:23:58Z)
• Recent Theoretical Advances in Non-Convex Optimization [56.88981258425256]
  近年、深層ネットワークにおける非最適化アルゴリズムの解析やデータ問題への関心が高まっており、非最適化のための理論的最適化アルゴリズムの最近の結果の概要を概説する。
  論文  参考訳（メタデータ） (2020-12-11T08:28:51Z)
• Efficient Methods for Structured Nonconvex-Nonconcave Min-Max Optimization [98.0595480384208]
  定常点に収束する一般化外空間を提案する。 このアルゴリズムは一般の$p$ノルド空間だけでなく、一般の$p$次元ベクトル空間にも適用される。
  論文  参考訳（メタデータ） (2020-10-31T21:35:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。