論文の概要: cuRegOT: A GPU-Accelerated Solver for Entropic-Regularized Optimal Transport
- arxiv url: http://arxiv.org/abs/2605.08793v1
- Date: Sat, 09 May 2026 08:27:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.890414
- Title: cuRegOT: A GPU-Accelerated Solver for Entropic-Regularized Optimal Transport
- Title(参考訳): cuRegOT: エントロピック型最適輸送のためのGPU加速ソルバー
- Abstract要約: cuRegOTは、エントロピー正規化OTに適した高性能GPUソルバである。
我々は、CPUボトルネックを軽減するために、アモータイズされたシンボリック分析戦略を含むアルゴリズムとアーキテクチャの最適化スイートを紹介する。
CuRegOTは、さまざまなベンチマークタスクで最先端のGPUベースのソルバよりも大幅にスピードアップする。
- 参考スコア(独自算出の注目度): 8.189956090077677
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimal transport (OT) has emerged as a fundamental tool in modern machine learning, yet its computational cost remains a significant bottleneck for large-scale applications. While harnessing the massive parallelism of modern GPU hardware is critical for efficiency, the de facto standard Sinkhorn algorithm, despite its ease of parallelization, often suffers from slow convergence in challenging problems. More recently, the sparse-plus-low-rank quasi-Newton method offers a balance between convergence rate and per-iteration complexity; however, its efficiency on GPUs is severely hindered by the serial nature of sparse matrix symbolic analysis and irregular memory access patterns. To bridge this gap, we present cuRegOT, a high-performance GPU solver tailored for entropic-regularized OT. We introduce a suite of algorithmic and architectural optimizations, including an amortized symbolic analysis strategy to mitigate CPU bottlenecks, an asynchronous Sinkhorn iterates generation mechanism, and a fused kernel for bandwidth-efficient gradient evaluation. These strategies are backed by rigorous theoretical guarantees ensuring algorithmic convergence. Extensive numerical experiments demonstrate that cuRegOT achieves significant speedups over state-of-the-art GPU-based solvers across a variety of benchmark tasks.
- Abstract(参考訳): 最適トランスポート(OT)は、現代の機械学習の基本的なツールとして登場したが、その計算コストは、大規模アプリケーションにとって重要なボトルネックであり続けている。
現代のGPUハードウェアの大規模な並列性を活用することは効率上重要であるが、デファクトスタンダードのシンクホーンアルゴリズムは、並列化の容易さにもかかわらず、しばしば難題の収束の遅さに悩まされる。
最近では、スパースプラスローランク準ニュートン法は収束率と点数毎の複雑性のバランスを保っているが、そのGPU上での効率はスパース行列記号解析と不規則メモリアクセスパターンのシリアルな性質によって著しく妨げられている。
このギャップを埋めるために,エントロピー正規化OTに適した高性能GPUソルバcuRegOTを提案する。
本稿では,CPUボトルネックを軽減するためのアモータイズされたシンボル解析戦略,非同期シンクホーン繰り返し生成機構,帯域幅効率の高い勾配評価のための融合カーネルなど,アルゴリズムとアーキテクチャの最適化スイートを紹介する。
これらの戦略はアルゴリズムの収束を保証する厳密な理論的保証によって支えられている。
大規模な数値実験により、cuRegOTは様々なベンチマークタスクで最先端のGPUベースの解法よりも大幅にスピードアップすることを示した。
関連論文リスト
- Accelerated Decoding of Centroid Positional Encoding for Instance Segmentation [49.97373153077311]
本稿では,各画素が遠心波の位置埋め込みを行う場合の,遠心波符号化に伴うデコードオーバーヘッドについて検討する。
当社のソリューションは、デコードオーバーヘッドを大幅に削減し、Endto-Endレイテンシを改善し、CPUベースのアプローチと単純なGPU実装の両方を上回ります。
論文 参考訳(メタデータ) (2026-09-15T09:05:17Z) - Fine-Grain GPU Parallelization of the Generalized Partition Crossover for Large-Scale Traveling Salesman Problems [1.160208922584163]
トラベリングセールスマン問題(TSP)はNPハード最適化問題の1つである。
提案手法は,結合したメモリレイアウト,ゴーストノード変換,連結ノード解析を用いて,GPXをグラフ並列問題として再構成する。
提案したGPUは、メモリオーバーヘッドを大幅に削減しつつ、48倍から625倍のスピードアップを実現する。
論文 参考訳(メタデータ) (2026-08-21T15:42:05Z) - Fast Log-Domain Sinkhorn Optimal Transport with Warp-Level GPU Reductions [1.6679662639178268]
我々は、log-domain Sinkhornアルゴリズムの軽量でネイティブな実装であるFastSinkhornを提案する。
我々の解法はログドメインで完全に動作し、標準ドメインメソッドが失敗するepsilon = 10-4のように、正規化パラメータの計算を可能にする。
画像色変換, 3次元点雲マッチング, 収束解析について検証し, 注意深い数値処理を施したネイティブカーネルが, 大規模最適輸送のための実用的で効率的な基盤となることを示した。
論文 参考訳(メタデータ) (2026-04-04T16:06:27Z) - Parallel-in-Time Nonlinear Optimal Control via GPU-native Sequential Convex Programming [2.8852807790754618]
本稿では,連続凸プログラミングと乗算器のコンセンサスに基づく交互方向法を組み合わせた,フルGPUネイティブなトラジェクトリ最適化フレームワークを提案する。
本研究は,有人エッジコンピューティングプラットフォームを用いて,四重項アジャイル飛行タスクと火星搭載降下問題の解法を検証した。
ベンチマークでは、高度に最適化された12コアのCPUベースラインよりも、持続的な4倍のスループットのスピードアップとエネルギー消費の51%削減が明らかにされている。
論文 参考訳(メタデータ) (2026-03-11T12:39:14Z) - Fully Tensorized GPU-accelerated Multi-population Evolutionary Algorithm for Constrained Multiobjective Optimization Problems [12.480139972771964]
本稿では,GMPEAと呼ばれるGPUによる多集団進化アルゴリズムを提案する。
まず、GPU環境で実装された代表的CMOEAの性能ボトルネックを分析する。
計算速度とソリューションパフォーマンスのトレードオフに対処するため、GMPEAでは、ワークフロー全体にわたって完全に並列化された分解ベースのマルチポピュレーションアプローチを導入している。
論文 参考訳(メタデータ) (2025-09-24T07:06:14Z) - A Truncated Newton Method for Optimal Transport [13.848861021326755]
本稿では, エントロピック規則化最適輸送(OT)解法のための特殊トランケートニュートンアルゴリズムを提案する。
提案アルゴリズムは実行時性能が極めて良好であり,既存の多くの選択肢よりも高精度な順序を達成できる。
アルゴリズムのスケーラビリティは、非常に大きなOT問題に対して、約106$の$n近似で示され、エントロピー正則化の弱さの下で解決される。
論文 参考訳(メタデータ) (2025-04-02T19:00:24Z) - Scalable Signature Kernel Computations for Long Time Series via Local Neumann Series Expansions [46.685771141109306]
シグネチャカーネルは、高次元シーケンシャルデータを解析するための最新の最先端ツールである。
長い高次元時系列の署名カーネルを効率的に計算する新しい手法を提案する。
この手法は、シグネチャカーネルの計算における最先端のアプローチよりも大幅に性能が向上する。
論文 参考訳(メタデータ) (2025-02-27T18:59:20Z) - Fast, Scalable, Warm-Start Semidefinite Programming with Spectral
Bundling and Sketching [53.91395791840179]
我々は、大規模なSDPを解くための、証明可能な正確で高速でスケーラブルなアルゴリズムであるUnified Spectral Bundling with Sketching (USBS)を提案する。
USBSは、20億以上の決定変数を持つインスタンス上で、最先端のスケーラブルなSDP解決器よりも500倍のスピードアップを提供する。
論文 参考訳(メタデータ) (2023-12-19T02:27:22Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳(メタデータ) (2023-10-18T10:29:58Z) - Implementation of Parallel Simplified Swarm Optimization in CUDA [2.322689362836168]
最適化コンピューティングでは、インテリジェントなSwarmアルゴリズム(SIAs)が並列化に適している。
本稿では,計算能力と汎用性を考慮したGPUに基づくSimplified Swarm Algorithm Optimization (PSSO)を提案する。
結果から,Nの次数による時間複雑性の低減が達成され,資源プリエンプションの問題は完全に回避された。
論文 参考訳(メタデータ) (2021-10-01T00:15:45Z) - Distributed stochastic optimization with large delays [59.95552973784946]
大規模最適化問題を解決する最も広く使われている手法の1つは、分散非同期勾配勾配(DASGD)である。
DASGDは同じ遅延仮定の下で大域的最適実装モデルに収束することを示す。
論文 参考訳(メタデータ) (2021-07-06T21:59:49Z) - Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth
Nonlinear TD Learning [145.54544979467872]
本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。
本研究の結果は, 同時一次および二重側収束の形で表される。
論文 参考訳(メタデータ) (2020-08-23T20:36:49Z) - Kernel methods through the roof: handling billions of points efficiently [94.31450736250918]
カーネル法は、非パラメトリック学習に対するエレガントで原則化されたアプローチを提供するが、今のところ大規模な問題ではほとんど利用できない。
最近の進歩は、最適化、数値線形代数、ランダム射影など、多くのアルゴリズム的アイデアの利点を示している。
ここでは、これらの取り組みをさらに進めて、GPUハードウェアを最大限に活用する解決器を開発し、テストする。
論文 参考訳(メタデータ) (2020-06-18T08:16:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。