論文の概要: Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods

• arxiv url: http://arxiv.org/abs/2301.13006v1
• Date: Mon, 30 Jan 2023 15:46:39 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-31 14:06:10.782639
• Title: Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods
• Title（参考訳）: エントロピー規則化外勾配法による最適輸送の高速計算
• Authors: Gen Li and Yanxi Chen and Yuejie Chi and H. Vincent Poor and Yuxin Chen
• Abstract要約: 2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。 本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
• 参考スコア（独自算出の注目度）: 98.85583323658366
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient computation of the optimal transport distance between two distributions serves as an algorithm subroutine that empowers various applications. This paper develops a scalable first-order optimization-based method that computes optimal transport to within $\varepsilon$ additive accuracy with runtime $\widetilde{O}( n^2/\varepsilon)$, where $n$ denotes the dimension of the probability distributions of interest. Our algorithm achieves the state-of-the-art computational guarantees among all first-order methods, while exhibiting favorable numerical performance compared to classical algorithms like Sinkhorn and Greenkhorn. Underlying our algorithm designs are two key elements: (a) converting the original problem into a bilinear minimax problem over probability distributions; (b) exploiting the extragradient idea -- in conjunction with entropy regularization and adaptive learning rates -- to accelerate convergence.
• Abstract（参考訳）: 2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムサブルーチンとして機能する。 本稿では,n$が関心の確率分布の次元を表す場合,$\widetilde{O}(n^2/\varepsilon)$を用いて,最適輸送を$\varepsilon$加法精度で演算するスケーラブルな一階最適化法を開発する。 本アルゴリズムは,Sinkhorn や Greenkhorn などの古典的アルゴリズムと比較して,数値性能が良好でありながら,すべての一階法における最先端の計算保証を実現する。 アルゴリズム設計の根底には2つの重要な要素がある。 (a)元の問題を確率分布上の双線型ミニマックス問題に変換する。 (b) エントロピー正規化と適応学習率と合わせて、段階的なアイデアを活用して収束を加速する。

関連論文リスト

• Distributed Optimization via Energy Conservation Laws in Dilated Coordinates [5.35599092568615]
  本稿では,拡張座標における連続時間力学系の解析のためのエネルギー保存手法を提案する。 収束率を逆時間差係数で明示的に表すことができる。 その高速化された収束挙動は、実用的、大規模問題に対する様々な最先端分散最適化アルゴリズムに対してベンチマークされる。
  論文  参考訳（メタデータ） (2024-09-28T08:02:43Z)
• A Sinkhorn-type Algorithm for Constrained Optimal Transport [14.935188572016635]
  この研究は、等式制約と不等式制約を組み合わせた一般的なOT問題に焦点をあてる。 対応するエントロピー正規化の定式化を導出し、理論的保証によって支持される制約付きOT問題に対してシンクホーン型アルゴリズムを導入する。 全体として、この研究は、エントロピー最適輸送の最近の理論的および数値的な進歩と制約されたケースを体系的に組み合わせ、実践者は複雑なシナリオにおいて近似的な輸送計画を引き出すことができる。
  論文  参考訳（メタデータ） (2024-03-08T05:01:43Z)
• Accelerating Cutting-Plane Algorithms via Reinforcement Learning Surrogates [49.84541884653309]
  凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。 多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。 そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
  論文  参考訳（メタデータ） (2023-07-17T20:11:56Z)
• Lower Bounds and Optimal Algorithms for Smooth and Strongly Convex Decentralized Optimization Over Time-Varying Networks [79.16773494166644]
  通信ネットワークのノード間を分散的に保存するスムーズで強い凸関数の和を最小化するタスクについて検討する。 我々は、これらの下位境界を達成するための2つの最適アルゴリズムを設計する。 我々は,既存の最先端手法と実験的な比較を行うことにより,これらのアルゴリズムの理論的効率を裏付ける。
  論文  参考訳（メタデータ） (2021-06-08T15:54:44Z)
• Efficient Optimal Transport Algorithm by Accelerated Gradient descent [20.614477547939845]
  本稿では,ネステロフの平滑化手法に基づく効率と精度をさらに向上させる新しいアルゴリズムを提案する。 提案手法は,同じパラメータでより高速な収束と精度を実現する。
  論文  参考訳（メタデータ） (2021-04-12T20:23:29Z)
• Particle Dual Averaging: Optimization of Mean Field Neural Networks with Global Convergence Rate Analysis [40.762447301225926]
  凸最適化における二重平均法を一般化する粒子二重平均法(PDA)を提案する。 提案手法の重要な応用は, 平均場系における2層ニューラルネットワークの最適化である。 平均場限界におけるニューラルネットワークはpdaによってグローバルに最適化できることを示す。
  論文  参考訳（メタデータ） (2020-12-31T07:07:32Z)
• Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth Nonlinear TD Learning [145.54544979467872]
  本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。 本研究の結果は, 同時一次および二重側収束の形で表される。
  論文  参考訳（メタデータ） (2020-08-23T20:36:49Z)
• Effective Dimension Adaptive Sketching Methods for Faster Regularized Least-Squares Optimization [56.05635751529922]
  スケッチに基づくL2正規化最小二乗問題の解法を提案する。 我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
  論文  参考訳（メタデータ） (2020-06-10T15:00:09Z)
• Private Stochastic Convex Optimization: Optimal Rates in Linear Time [74.47681868973598]
  本研究では,凸損失関数の分布から得られた個体群損失を最小化する問題について検討する。 Bassilyらによる最近の研究は、$n$のサンプルを与えられた過剰な人口損失の最適境界を確立している。 本稿では,余剰損失に対する最適境界を達成するとともに,$O(minn, n2/d)$グラデーション計算を用いて凸最適化アルゴリズムを導出する2つの新しい手法について述べる。
  論文  参考訳（メタデータ） (2020-05-10T19:52:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。