論文の概要: An inexact Bregman proximal point method and its acceleration version for unbalanced optimal transport

• arxiv url: http://arxiv.org/abs/2402.16978v1
• Date: Mon, 26 Feb 2024 19:25:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-28 18:53:35.952209
• Title: An inexact Bregman proximal point method and its acceleration version for unbalanced optimal transport
• Title（参考訳）: 不規則ブレグマン近位点法とその不均衡最適輸送のための加速版
• Authors: Xiang Chen, Faqiang Wang, Jun Liu, Li Cui
• Abstract要約: 不均衡最適輸送(UOT)問題は、計算生物学、計算イメージング、ディープラーニングにおいてますます重要な役割を担っている。 スケーリングアルゴリズムは、その利便性と優れた収束特性のために、UTTを解くために広く用いられている。 UOTを解くための不正確なBregman近点法を開発することで、この問題に対処する。
• 参考スコア（独自算出の注目度）: 16.12354882333828
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The Unbalanced Optimal Transport (UOT) problem plays increasingly important roles in computational biology, computational imaging and deep learning. Scaling algorithm is widely used to solve UOT due to its convenience and good convergence properties. However, this algorithm has lower accuracy for large regularization parameters, and due to stability issues, small regularization parameters can easily lead to numerical overflow. We address this challenge by developing an inexact Bregman proximal point method for solving UOT. This algorithm approximates the proximal operator using the Scaling algorithm at each iteration. The algorithm (1) converges to the true solution of UOT, (2) has theoretical guarantees and robust regularization parameter selection, (3) mitigates numerical stability issues, and (4) can achieve comparable computational complexity to the Scaling algorithm in specific practice. Building upon this, we develop an accelerated version of inexact Bregman proximal point method for solving UOT by using acceleration techniques of Bregman proximal point method and provide theoretical guarantees and experimental validation of convergence and acceleration.
• Abstract（参考訳）: uot(unbalanced optimal transport)問題は、計算生物学、計算イメージング、ディープラーニングにおいてますます重要な役割を担っている。 スケーリングアルゴリズムは、その利便性と優れた収束特性のために、UTTを解くために広く用いられている。 しかし、このアルゴリズムは大きな正規化パラメータの精度が低く、安定性の問題のため、小さな正規化パラメータは数値オーバーフローに容易に導くことができる。 UOTを解くための不正確なBregman近点法を開発することで、この問題に対処する。 このアルゴリズムは、各イテレーションのスケーリングアルゴリズムを用いて近距離演算子を近似する。 アルゴリズム(1)は UOT の真の解に収束し、(2) は理論的保証と頑健な正則化パラメータ選択を持ち、(3) 数値安定性問題を緩和し、(4) はスケーリングアルゴリズムに比例する計算複雑性を具体的に達成することができる。 そこで我々は,Bregman近点法の加速技術を用いて,UOTを解く不正確なBregman近点法の高速化版を開発し,収束と加速度の理論的保証と実験的検証を行う。

関連論文リスト

• Stochastic Optimization for Non-convex Problem with Inexact Hessian Matrix, Gradient, and Function [99.31457740916815]
  信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。 TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
  論文  参考訳（メタデータ） (2023-10-18T10:29:58Z)
• Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
  2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。 本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
  論文  参考訳（メタデータ） (2023-01-30T15:46:39Z)
• An Algebraically Converging Stochastic Gradient Descent Algorithm for Global Optimization [14.336473214524663]
  アルゴリズムの主要な構成要素は、目的関数の値に基づくランダム性である。 アルゴリズムの収束を代数学で証明し、パラメータ空間でチューニングする。 アルゴリズムの効率性とロバスト性を示す数値的な例をいくつか提示する。
  論文  参考訳（メタデータ） (2022-04-12T16:27:49Z)
• Continuation Path with Linear Convergence Rate [18.405645120971496]
  経路追従アルゴリズムは、一連のサブプロブレムを順次解決する合成最適化問題によく用いられる。 本稿では,経路追従アルゴリズムの一次双対解析と,対象問題に対する線形収束率を保証するために,各サブプロブレムがどの程度正確に解けるかを決定する。 スパーシリティ誘導ペナルティによる最適化を考慮し、正規化パラメータに対するアクティブセットの変化を分析する。
  論文  参考訳（メタデータ） (2021-12-09T18:42:13Z)
• Lower Bounds and Optimal Algorithms for Smooth and Strongly Convex Decentralized Optimization Over Time-Varying Networks [79.16773494166644]
  通信ネットワークのノード間を分散的に保存するスムーズで強い凸関数の和を最小化するタスクについて検討する。 我々は、これらの下位境界を達成するための2つの最適アルゴリズムを設計する。 我々は,既存の最先端手法と実験的な比較を行うことにより,これらのアルゴリズムの理論的効率を裏付ける。
  論文  参考訳（メタデータ） (2021-06-08T15:54:44Z)
• Efficient Optimal Transport Algorithm by Accelerated Gradient descent [20.614477547939845]
  本稿では,ネステロフの平滑化手法に基づく効率と精度をさらに向上させる新しいアルゴリズムを提案する。 提案手法は,同じパラメータでより高速な収束と精度を実現する。
  論文  参考訳（メタデータ） (2021-04-12T20:23:29Z)
• Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth Nonlinear TD Learning [145.54544979467872]
  本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。 本研究の結果は, 同時一次および二重側収束の形で表される。
  論文  参考訳（メタデータ） (2020-08-23T20:36:49Z)
• Balancing Rates and Variance via Adaptive Batch-Size for Stochastic Optimization Problems [120.21685755278509]
  本研究は,ステップサイズの減衰が正確な収束に必要であるという事実と,一定のステップサイズがエラーまでの時間でより速く学習するという事実のバランスをとることを目的とする。 ステップサイズのミニバッチを最初から修正するのではなく,パラメータを適応的に進化させることを提案する。
  論文  参考訳（メタデータ） (2020-07-02T16:02:02Z)
• Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
  離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。 この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。 古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
  論文  参考訳（メタデータ） (2020-07-01T18:43:32Z)
• Optimal and Practical Algorithms for Smooth and Strongly Convex Decentralized Optimization [21.555331273873175]
  ネットワークのノードにまたがるスムーズな凸関数の和を分散化最小化する作業について検討する。 本稿では,この分散最適化問題に対する2つの新しいアルゴリズムを提案し,複雑性を保証する。
  論文  参考訳（メタデータ） (2020-06-21T11:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。