論文の概要: Block Alternating Bregman Majorization Minimization with Extrapolation

• arxiv url: http://arxiv.org/abs/2107.04395v1
• Date: Fri, 9 Jul 2021 12:47:00 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-12 13:35:03.626081
• Title: Block Alternating Bregman Majorization Minimization with Extrapolation
• Title（参考訳）: 補間を伴うブロック交代ブレグマンメジャー化最小化
• Authors: Le Thi Khanh Hien, Duy Nhat Phan, Nicolas Gillis, Masoud Ahookhosh, Panagiotis Patrinos
• Abstract要約: ブロック相対滑らか関数と適切な分離関数の和を目的とする非滑らかな非最適化問題のクラスを考える。 外部補間(BMME)を用いたBregmanMajorization-Minimizationフレームワークを交互に提案する。 より強い条件下でのペナル化非負行列に対するBMMEの有効性を実証した。
• 参考スコア（独自算出の注目度）: 16.04690575393738
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we consider a class of nonsmooth nonconvex optimization problems whose objective is the sum of a block relative smooth function and a proper and lower semicontinuous block separable function. Although the analysis of block proximal gradient (BPG) methods for the class of block $L$-smooth functions have been successfully extended to Bregman BPG methods that deal with the class of block relative smooth functions, accelerated Bregman BPG methods are scarce and challenging to design. Taking our inspiration from Nesterov-type acceleration and the majorization-minimization scheme, we propose a block alternating Bregman Majorization-Minimization framework with Extrapolation (BMME). We prove subsequential convergence of BMME to a first-order stationary point under mild assumptions, and study its global convergence under stronger conditions. We illustrate the effectiveness of BMME on the penalized orthogonal nonnegative matrix factorization problem.
• Abstract（参考訳）: 本稿では,ブロック相対滑らか関数と固有かつ下半連続ブロック分離関数の和を目的とする非滑らかな非凸最適化問題のクラスを考える。 ブロックのクラスに対するブロック近位勾配 (BPG) 法の解析は、ブロック相対滑らか関数のクラスを扱うブレグマンBPG法にうまく拡張されているが、加速されたブレグマンBPG法は不足しており、設計が困難である。 本研究では,Nesterov型加速法と最大化最小化法から着想を得たBregman Majorization-Minimization framework with Extrapolation (BMME)を提案する。 軽微な仮定の下でBMMEの1次定常点への後続収束を証明し、その大域収束を強い条件下で研究する。 直交非負行列分解問題に対するBMMEの有効性について述べる。

関連論文リスト

• Block Majorization Minimization with Extrapolation and Application to $\beta$-NMF [17.97403029273243]
  マルチ最適化問題のクラスを解くために,外挿法 (BMMe) を用いたブロック行列化最小化法を提案する。 本稿では,Bregman分散を適応的に更新することにより,BMMeのブロック偏極パラメータをブロックミラー法として再構成可能であることを示す。 広範囲な実験を通じて,$beta$NMF に対する有意な加速 BM を実証的に説明する。
  論文  参考訳（メタデータ） (2024-01-12T15:52:02Z)
• Nonconvex Stochastic Bregman Proximal Gradient Method for Nonconvex Composite Problems [9.202586157819693]
  非合成対象関数の勾配法は、典型的には微分可能部分のリプシッツ滑らかさに依存する。 非目的の非Lipschitz勾配を扱う近似モデルを提案する。 ステップ選択感度の観点から最適なロバスト性が得られることを示す。
  論文  参考訳（メタデータ） (2023-06-26T08:54:46Z)
• Stochastic Inexact Augmented Lagrangian Method for Nonconvex Expectation Constrained Optimization [88.0031283949404]
  多くの実世界の問題は複雑な非機能的制約を持ち、多くのデータポイントを使用する。 提案手法は,従来最もよく知られた結果で既存手法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-12-19T14:48:54Z)
• Meta-Learning Adversarial Bandits [49.094361442409785]
  本研究の目的は,複数のタスクにまたがる帯域幅フィードバックを用いてオンライン学習を学習し,タスク間の平均性能を改善することである。 敵対的設定を最初に対象とするメタアルゴリズムとして,マルチアーム・バンディット(MAB)とバンディット・最適化(BLO)の2つの重要なケースに対して,特定の保証を設定するメタアルゴリズムを設計する。 我々の保証は、非正規化されたフォローザリーダーと乗法重みを組み合わせることで、オンラインで非滑らかで非Bシーケンスを学ぶのに十分であることを示すことに依存しています。
  論文  参考訳（メタデータ） (2022-05-27T17:40:32Z)
• Multiblock ADMM for nonsmooth nonconvex optimization with nonlinear coupling constraints [3.2815423235774634]
  非線形制約を伴う多重ブロック非平滑交互最適化問題のクラスを解くための乗算器の手法を提案する。 一次変数の各ブロックの更新に主要なシーケンス化手順を用いる。
  論文  参考訳（メタデータ） (2022-01-19T15:31:30Z)
• Value-Function-based Sequential Minimization for Bi-level Optimization [52.39882976848064]
  勾配に基づくBi-Level Optimization (BLO)法は、現代の学習課題に広く応用されている。 機能的制約のあるBLOや悲観的なBLOなど、難解なシナリオでBLOを解くことができる勾配ベースの方法はほとんどない。 上記の問題に対処するために,BVFSM(Bi-level Value-Function-based Sequential Minimization)を提案する。
  論文  参考訳（メタデータ） (2021-10-11T03:13:39Z)
• Bregman Gradient Policy Optimization [97.73041344738117]
  本稿では,Bregmanの発散と運動量に基づく強化学習のためのBregmanグラデーションポリシーの最適化を設計する。 VR-BGPOは、各イテレーションで1つの軌道のみを必要とする$epsilon$stationaryポイントを見つけるために、$tilde(epsilon-3)$で最高の複雑性に達する。
  論文  参考訳（メタデータ） (2021-06-23T01:08:54Z)
• Softmax Policy Gradient Methods Can Take Exponential Time to Converge [60.98700344526674]
  Softmax Policy gradient(PG)メソッドは、現代の強化学習におけるポリシー最適化の事実上の実装の1つです。 ソフトマックス PG 法は、$mathcalS|$ および $frac11-gamma$ の観点から指数時間で収束できることを実証する。
  論文  参考訳（メタデータ） (2021-02-22T18:56:26Z)
• Global Convergence of Model Function Based Bregman Proximal Minimization Algorithms [17.740376367999705]
  連続微分可能関数のリプシッツ写像は様々な最適化アルゴリズムにおいて重要な役割を果たす。 モデル$L$madプロパティと呼ばれるグローバル収束アルゴリズムを提案します。
  論文  参考訳（メタデータ） (2020-12-24T08:09:22Z)
• An Inertial Block Majorization Minimization Framework for Nonsmooth Nonconvex Optimization [17.49766938060264]
  非スムーズな非コーディネート問題に対する新規なinertial block majorizaTion minimizAtioNについて紹介する。 本稿では,2つの重要な機械学習問題に対するTITANの有効性について述べる。
  論文  参考訳（メタデータ） (2020-10-23T02:25:20Z)
• Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
  本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。 最先端アルゴリズムの利点を論じ、解説する。
  論文  参考訳（メタデータ） (2020-09-28T15:22:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。