論文の概要: Efficient and Accurate Optimal Transport with Mirror Descent and Conjugate Gradients
- arxiv url: http://arxiv.org/abs/2307.08507v3
- Date: Thu, 27 Feb 2025 15:17:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-28 14:52:55.122634
- Title: Efficient and Accurate Optimal Transport with Mirror Descent and Conjugate Gradients
- Title（参考訳）: 鏡の輝きと共役勾配による効率的な高精度輸送
- Authors: Mete Kemertas, Allan D. Jepson, Amir-massoud Farahmand,
- Abstract要約: ミラーDescent Optimal Transport (MDOT) は、離散最適輸送(OT)問題を高精度に解くための新しい方法である。
MDOT は既存の OT ソルバの代表的な集合よりもはるかに高速で高精度で実現可能な解が得られることを示す。
- 参考スコア（独自算出の注目度）: 13.848861021326755
- License:
- Abstract: We propose Mirror Descent Optimal Transport (MDOT), a novel method for solving discrete optimal transport (OT) problems with high precision, by unifying temperature annealing in entropic-regularized OT (EOT) with mirror descent techniques. In this framework, temperature annealing produces a sequence of EOT dual problems, whose solution gradually gets closer to the solution of the original OT problem. We solve each problem efficiently using a GPU-parallel nonlinear conjugate gradients algorithm (PNCG) that outperforms traditional Sinkhorn iterations under weak regularization. Moreover, our investigation also reveals that the theoretical convergence rate of Sinkhorn iterations can exceed existing non-asymptotic bounds when its stopping criterion is tuned in a manner analogous to MDOT. Our comprehensive ablation studies of MDOT-PNCG affirm its robustness across a wide range of algorithmic parameters. Benchmarking on 24 problem sets of size $n=4096$ in a GPU environment demonstrate that our method attains high-precision, feasible solutions significantly faster than a representative set of existing OT solvers (including accelerated gradient methods and advanced Sinkhorn variants) in both wall-clock time and number of operations. Empirical convergence rates range between $O(n^2 \varepsilon^{-1/4})$ and $O(n^2 \varepsilon^{-1})$, where $\varepsilon$ is the optimality gap. For problem sizes up to ${n=16,384}$, the empirical runtime scales as $\widetilde{O}(n^2)$ for moderate precision and as $\widetilde{O}(n^{5/2})$ at worst for high precision. These findings establish MDOT-PNCG as a compelling alternative to current OT solvers, particularly in challenging weak-regularization regimes.
- Abstract（参考訳）: 鏡面下降法によるエントロピック規則化OT(EOT)における温度アニーリングを統一することにより、離散最適輸送(OT)問題を高精度に解く新しい方法であるミラー・ディフレッシュ・オプティカル・トランスポート(MDOT)を提案する。
この枠組みでは、温度アニールによりEOT双対問題の列が生成され、解は元のOT問題の解に徐々に近づく。
我々は,GPU並列非線形共役勾配アルゴリズム(PNCG)を用いて,従来のシンクホーンの繰り返しを弱い正規化の下で効率よく解く。
さらに,本研究では,Sinkhorn 反復の理論的収束速度が,MDOT に類似した方法で停止基準を調整した場合に,既存の非漸近境界を超えうることも明らかにした。
MDOT-PNCGの包括的アブレーション研究により,幅広いアルゴリズムパラメータにわたって頑健性が確認された。
GPU環境での24個の問題集合のベンチマークにより,我々の手法は,壁面時間と操作数の両方において,既存のOTソルバ(加速勾配法と高度なシンクホーン変種を含む)の代表セットよりもはるかに高速に高精度かつ実現可能な解が得られることを示した。
経験的収束率は$O(n^2 \varepsilon^{-1/4})$と$O(n^2 \varepsilon^{-1})$の間であり、$\varepsilon$は最適性ギャップである。
問題のサイズが${n=16,384}$の場合、経験的ランタイムスケールは$\widetilde{O}(n^2)$、$\widetilde{O}(n^{5/2})$は$\widetilde{O}(n^{5/2})$である。
これらの結果から, MDOT-PNCGは現在のOTソルバの有力な代替品として, 特に弱い規則化機構において有効であることが明らかとなった。
関連論文リスト
- Sinkhorn Algorithm for Sequentially Composed Optimal Transports [0.0]
Sinkhornアルゴリズムは最適な輸送のためのデファクト標準近似アルゴリズムである。
本稿では,効率的な近似アルゴリズム,すなわち,逐次的に合成された最適輸送のためのシンクホーンアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-12-04T08:39:45Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳（メタデータ） (2023-07-17T20:11:56Z) - Linearized Wasserstein dimensionality reduction with approximation
guarantees [65.16758672591365]
LOT Wassmap は、ワーッサーシュタイン空間の低次元構造を明らかにするための計算可能なアルゴリズムである。
我々は,LOT Wassmapが正しい埋め込みを実現し,サンプルサイズの増加とともに品質が向上することを示す。
また、LOT Wassmapがペア距離計算に依存するアルゴリズムと比較して計算コストを大幅に削減することを示す。
論文 参考訳（メタデータ） (2023-02-14T22:12:16Z) - Optimizing CT Scan Geometries With and Without Gradients [7.788823739816626]
勾配に基づく最適化アルゴリズムが、勾配のないアルゴリズムの代替となる可能性が示されている。
勾配に基づくアルゴリズムは、捕捉範囲と自由パラメータの数に対するロバスト性の観点から、勾配のないアルゴリズムに匹敵する一方で、かなり高速に収束する。
論文 参考訳（メタデータ） (2023-02-13T10:44:41Z) - Accelerated First-Order Optimization under Nonlinear Constraints [73.2273449996098]
我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。
これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
論文 参考訳（メタデータ） (2023-02-01T08:50:48Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳（メタデータ） (2023-01-30T15:46:39Z) - Efficient Optimal Transport Algorithm by Accelerated Gradient descent [20.614477547939845]
本稿では,ネステロフの平滑化手法に基づく効率と精度をさらに向上させる新しいアルゴリズムを提案する。
提案手法は,同じパラメータでより高速な収束と精度を実現する。
論文 参考訳（メタデータ） (2021-04-12T20:23:29Z) - Optimal and Practical Algorithms for Smooth and Strongly Convex
Decentralized Optimization [21.555331273873175]
ネットワークのノードにまたがるスムーズな凸関数の和を分散化最小化する作業について検討する。
本稿では,この分散最適化問題に対する2つの新しいアルゴリズムを提案し,複雑性を保証する。
論文 参考訳（メタデータ） (2020-06-21T11:23:20Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳（メタデータ） (2020-06-11T17:43:19Z) - Private Stochastic Convex Optimization: Optimal Rates in Linear Time [74.47681868973598]
本研究では,凸損失関数の分布から得られた個体群損失を最小化する問題について検討する。
Bassilyらによる最近の研究は、$n$のサンプルを与えられた過剰な人口損失の最適境界を確立している。
本稿では,余剰損失に対する最適境界を達成するとともに,$O(minn, n2/d)$グラデーション計算を用いて凸最適化アルゴリズムを導出する2つの新しい手法について述べる。
論文 参考訳（メタデータ） (2020-05-10T19:52:03Z) - A Study of Performance of Optimal Transport [16.847501106437534]
本稿では,ネットワークの単純化と拡張パスに基づくアルゴリズムが,数値行列スケーリング法より一貫して優れていることを示す。
古典的なKuhn-Munkresアルゴリズムを改良した新しいアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-05-03T20:37:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。