論文の概要: A Multi-Agent Primal-Dual Strategy for Composite Optimization over Distributed Features

• arxiv url: http://arxiv.org/abs/2006.08722v1
• Date: Mon, 15 Jun 2020 19:40:24 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-21 05:21:31.913955
• Title: A Multi-Agent Primal-Dual Strategy for Composite Optimization over Distributed Features
• Title（参考訳）: 分散特徴量に対する複合最適化のためのマルチエージェントプリマル双対戦略
• Authors: Sulaiman A. Alghunaim, Ming Yan, Ali H. Sayed
• Abstract要約: 目的関数を滑らかな局所関数と凸(おそらく非滑らか)結合関数の和とするマルチエージェント共有最適化問題について検討する。
• 参考スコア（独自算出の注目度）: 52.856801164425086
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work studies multi-agent sharing optimization problems with the objective function being the sum of smooth local functions plus a convex (possibly non-smooth) function coupling all agents. This scenario arises in many machine learning and engineering applications, such as regression over distributed features and resource allocation. We reformulate this problem into an equivalent saddle-point problem, which is amenable to decentralized solutions. We then propose a proximal primal-dual algorithm and establish its linear convergence to the optimal solution when the local functions are strongly-convex. To our knowledge, this is the first linearly convergent decentralized algorithm for multi-agent sharing problems with a general convex (possibly non-smooth) coupling function.
• Abstract（参考訳）: 目的関数は滑らかな局所関数の和と、すべてのエージェントを結合する凸関数(おそらくは非滑らか)の和である。 このシナリオは、分散機能に対する回帰やリソース割り当てなど、多くの機械学習およびエンジニアリングアプリケーションで発生します。 我々はこの問題を,分散解に適応可能な等価な鞍点問題に再構成する。 次に,局所関数が強凸であるとき,その線形収束を最適解に定め,近位原始双対アルゴリズムを提案する。 我々の知る限り、これは一般凸(おそらく非滑らかな)カップリング関数を持つマルチエージェント共有問題に対する最初の線形収束分散アルゴリズムである。

関連論文リスト

• ALEXR: An Optimal Single-Loop Algorithm for Convex Finite-Sum Coupled Compositional Stochastic Optimization [53.14532968909759]
  ALEXRと呼ばれる,効率的な単ループプリマルデュアルブロックコーディネートアルゴリズムを提案する。 本研究では, ALEXR の凸面および強凸面の収束速度を滑らか性および非滑らか性条件下で確立する。 本稿では,ALEXRの収束速度が,検討されたcFCCO問題に対する1次ブロック座標アルゴリズムの中で最適であることを示すために,より低い複雑性境界を示す。
  論文  参考訳（メタデータ） (2023-12-04T19:00:07Z)
• A framework for bilevel optimization that enables stochastic and global variance reduction algorithms [17.12280360174073]
  双レベル最適化は、他の関数のarg最小値を含む値関数を最小化する問題である。 本稿では, 内部問題の解, 線形系の解, 主変数を同時に発展させる新しい枠組みを提案する。 我々のフレームワークにおけるSAGAアルゴリズムの適応であるSABAは$O(frac1T)$収束率を持ち、Polyak-Lojasciewicz仮定の下で線形収束を達成することを示した。
  論文  参考訳（メタデータ） (2022-01-31T18:17:25Z)
• Distributed stochastic proximal algorithm with random reshuffling for non-smooth finite-sum optimization [28.862321453597918]
  非滑らかな有限サム最小化は機械学習の基本的な問題である。 本稿では,確率的リシャフリングを用いた分散近位勾配アルゴリズムを開発し,その問題の解法を提案する。
  論文  参考訳（メタデータ） (2021-11-06T07:29:55Z)
• Decentralized Feature-Distributed Optimization for Generalized Linear Models [19.800898945436384]
  一般化線形モデルに対する「オール・フォー・ワン」分散学習問題を考える。 各サンプルの特徴は、ネットワーク内の複数の協調エージェントに分割されるが、応答変数を観察するエージェントは1つだけである。 問題の等価なサドル点定式化にシャンブル-ポック原始-双対アルゴリズムを適用する。
  論文  参考訳（メタデータ） (2021-10-28T16:42:47Z)
• Acceleration in Distributed Optimization Under Similarity [72.54787082152278]
  集中ノードを持たないエージェントネットワーク上での分散(強い凸)最適化問題について検討する。 $varepsilon$-solutionは$tildemathcalrhoObig(sqrtfracbeta/mu (1-)log1/varepsilonbig)$通信ステップ数で達成される。 この速度は、関心のクラスに適用される分散ゴシップ-アルゴリズムの、初めて(ポリログ因子まで)より低い複雑性の通信境界と一致する。
  論文  参考訳（メタデータ） (2021-10-24T04:03:00Z)
• Lower Bounds and Optimal Algorithms for Smooth and Strongly Convex Decentralized Optimization Over Time-Varying Networks [79.16773494166644]
  通信ネットワークのノード間を分散的に保存するスムーズで強い凸関数の和を最小化するタスクについて検討する。 我々は、これらの下位境界を達成するための2つの最適アルゴリズムを設計する。 我々は,既存の最先端手法と実験的な比較を行うことにより,これらのアルゴリズムの理論的効率を裏付ける。
  論文  参考訳（メタデータ） (2021-06-08T15:54:44Z)
• Parallel Stochastic Mirror Descent for MDPs [72.75921150912556]
  無限水平マルコフ決定過程(MDP)における最適政策学習の問題を考える。 リプシッツ連続関数を用いた凸プログラミング問題に対してミラー・ディクセントの変種が提案されている。 このアルゴリズムを一般の場合において解析し,提案手法の動作中に誤差を蓄積しない収束率の推定値を得る。
  論文  参考訳（メタデータ） (2021-02-27T19:28:39Z)
• Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
  オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。 本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。 ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
  論文  参考訳（メタデータ） (2020-06-11T19:40:38Z)
• Optimization in Machine Learning: A Distribution Space Approach [16.038814087205143]
  本稿では,機械学習における最適化問題は,関数空間上の凸関数を最小化するものとして解釈されることが多い。 空間分布における凸最適化問題と同様に、適切な緩和によってそのような問題を再現する。 本研究では,混合分布に基づく数値アルゴリズムを開発し,分布空間で直接近似最適化を行う。
  論文  参考訳（メタデータ） (2020-04-18T13:38:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。