論文の概要: GPU-Enabled Large-Scale Optimization Using Randomized Linear Algebra

• arxiv url: http://arxiv.org/abs/2609.08136v1
• Date: Tue, 08 Sep 2026 02:14:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.55291
• Title: GPU-Enabled Large-Scale Optimization Using Randomized Linear Algebra
• Title（参考訳）: ランダム化線形代数を用いたGPUによる大規模最適化
• Abstract要約: 本稿では、RandNLA(RandNLA)を用いた大規模最適化と科学計算のためのPyTorchベースのパッケージであるrlaoptを紹介する。 Rlaoptはこのギャップに対処するため、正定値線形システムに対するGPU対応の解法と、制約と正規化子による凸型経験的リスク最小化を提供する。 Rlaoptは、選択したソルバとの互換性を自動的にチェックし、必要な問題を分解する。
• 参考スコア（独自算出の注目度）: 13.9407640377773
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper introduces rlaopt, a PyTorch-based package for large-scale optimization and scientific computing using randomized numerical linear algebra (RandNLA). Despite substantial progress in RandNLA-based algorithms, few implementations combine GPU acceleration with a simple interface for specifying optimization problems. rlaopt addresses this gap by providing GPU-enabled solvers for positive-definite linear systems and convex empirical risk minimization with constraints and regularizers. These solvers use RandNLA to accelerate conjugate gradient (NystromPCG), operator splitting (NysADMM), and stochastic gradient methods (SAPPHIRE). Moreover, rlaopt includes a modeling language that lets users specify problems using natural mathematical syntax. rlaopt automatically checks compatibility with the selected solver and performs the required problem decomposition. The solvers also support differentiation through their iterations, enabling applications such as hyperparameter tuning. Experiments on ridge regression, bounded multinomial logistic regression, and bounded elastic net identify when randomized preconditioning improves performance and demonstrate substantial speedups from GPU execution. The package is open-source under an Apache license, with source code at https://github.com/udellgroup/rlaopt and version 0.1.0 available on PyPI.
• Abstract（参考訳）: 本稿では、RandNLA(RandNLA)を用いた大規模最適化と科学計算のためのPyTorchベースのパッケージであるrlaoptを紹介する。 RandNLAベースのアルゴリズムの大幅な進歩にもかかわらず、GPUアクセラレーションと最適化問題を特定するシンプルなインターフェースを組み合わせた実装はほとんどない。 rlaoptはこのギャップに対処するため、正定値線形システムに対するGPU対応の解法と、制約と正規化子による凸型経験的リスク最小化を提供する。 これらの解法はRandNLAを用いて共役勾配(NystromPCG)、演算子分割(NysADMM)、確率勾配法(SAPPHIRE)を加速する。 さらに、rlaoptには、ユーザーが自然の数学的構文を使って問題を特定できるモデリング言語が含まれている。 rlaoptは選択したソルバとの互換性を自動的にチェックし、必要な問題を分解する。 解法はまた、反復を通して微分をサポートし、ハイパーパラメータチューニングのようなアプリケーションを可能にする。 リッジ回帰、有界多相ロジスティック回帰、および有界弾性ネットの実験は、ランダム化されたプレコンディショニングによって性能が向上し、GPU実行による大幅なスピードアップを示す。 このパッケージはApacheライセンスの下でオープンソースであり、ソースコードはhttps://github.com/udellgroup/rlaoptで、バージョン0.1.0はPyPIで入手できる。

関連論文リスト

• Scaling Nonlinear Optimization: Many Problems One GPU [45.58567999526917]
  IPOPTに基づく最初のGPUバッチNLPソルバである textttjaxipm を紹介する。 IPOPTに比べてスループットが32.85倍に向上します。
  論文  参考訳（メタデータ） (2026-06-24T19:34:41Z)
• INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
  本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。 $mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。 大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
  論文  参考訳（メタデータ） (2025-11-16T20:14:28Z)
• Learning Sparse Approximate Inverse Preconditioners for Conjugate Gradient Solvers on GPUs [25.22023084590467]
  共役勾配解法 (CG) は対称および正定値線形系 Ax=b を解くための一般的な方法である。 既存の学習ベースの手法では、しばしばグラフニューラルネットワーク(GNN)を使用して、性能を改善し、構築を高速化する。 本稿では,GPUフレンドリなプリコンディショナを生成する学習ベース手法を提案し,特にGNNを用いてSPAI(スパース近似逆)プリコンディショナを構築する。
  論文  参考訳（メタデータ） (2025-10-31T14:42:48Z)
• A Polynomial-time Algorithm for Online Sparse Linear Regression with Improved Regret Bound under Weaker Conditions [75.69959433669244]
  オンラインスパース線形回帰(OSLR)では,予測のために1インスタンスあたり$d$あたり$k$しかアクセスできない。 提案手法では, 過去の後悔点を大幅に改善する拡張時間アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-10-31T05:02:33Z)
• NGPU-LM: GPU-Accelerated N-Gram Language Model for Context-Biasing in Greedy ASR Decoding [54.88765757043535]
  この研究は、統計的なn-gram言語モデルのデータ構造を再考し、GPU最適化推論の高速かつ並列な操作を可能にする。 我々のアプローチは NGPU-LM と呼ばれ、7% 未満の計算オーバーヘッドを持つ全ての主要な ASR モデルに対して、カスタマイズ可能なgreedy decoding を導入している。 提案手法は,ビーム探索による顕著な遅延を回避しつつ,greedy と beam search の精度ギャップの50%以上を排除できる。
  論文  参考訳（メタデータ） (2025-05-28T20:43:10Z)
• The Polar Express: Optimal Matrix Sign Methods and Their Application to the Muon Algorithm [24.020943794160555]
  極分解を計算するための新しい手法であるPolar Expressを紹介する。 この戦略が最悪の場合においてエラーを最小限に抑え、極極急行をできるだけ早く収束させることができることを実証する。 Muon トレーニングフレームワークに統合されると,本手法は検証損失を一貫した改善をもたらす。
  論文  参考訳（メタデータ） (2025-05-22T17:23:14Z)
• Training Deep Learning Models with Norm-Constrained LMOs [56.00317694850397]
  線形最小化オラクル(LMO)を用いて問題の幾何学に適応する新しいアルゴリズム群を提案する。 我々は,Adamに頼らずに,我々のアルゴリズムであるScionを用いたナノGPTトレーニングの大幅な高速化を示す。
  論文  参考訳（メタデータ） (2025-02-11T13:10:34Z)
• Obtaining Lower Query Complexities through Lightweight Zeroth-Order Proximal Gradient Algorithms [65.42376001308064]
  複素勾配問題に対する2つの分散化ZO推定器を提案する。 我々は、現在最先端の機能複雑性を$mathcalOleft(minfracdn1/2epsilon2, fracdepsilon3right)$から$tildecalOleft(fracdepsilon2right)$に改善する。
  論文  参考訳（メタデータ） (2024-10-03T15:04:01Z)
• DOGE-Train: Discrete Optimization on GPU with End-to-end Training [28.795080637690095]
  0-1整数線形プログラムの緩和を解くために,高速でスケーラブルなデータ駆動型手法を提案する。 グラフニューラルネットワーク(GNN)とラグランジュ分解に基づくアルゴリズムであるFastDOGを用いる。
  論文  参考訳（メタデータ） (2022-05-23T21:09:41Z)
• Accelerating Genetic Programming using GPUs [0.0]
  遺伝的プログラミング(GP)は、曲線フィッティング、データモデリング、特徴選択、分類など、機械学習に複数の応用がある。 本稿では,代用GPアルゴリズムのGPUアクセラレーションスタックに基づく変種について述べる。
  論文  参考訳（メタデータ） (2021-10-15T06:13:01Z)
• Adaptive Elastic Training for Sparse Deep Learning on Heterogeneous Multi-GPU Servers [65.60007071024629]
  本稿では,Adaptive SGDが4つの最先端ソリューションよりも精度が高いことを示す。 本稿では,Adaptive SGDが時間と精度で4つの最先端ソリューションより優れていることを示す。
  論文  参考訳（メタデータ） (2021-10-13T20:58:15Z)
• Implementation of Parallel Simplified Swarm Optimization in CUDA [2.322689362836168]
  最適化コンピューティングでは、インテリジェントなSwarmアルゴリズム(SIAs)が並列化に適している。 本稿では,計算能力と汎用性を考慮したGPUに基づくSimplified Swarm Algorithm Optimization (PSSO)を提案する。 結果から,Nの次数による時間複雑性の低減が達成され,資源プリエンプションの問題は完全に回避された。
  論文  参考訳（メタデータ） (2021-10-01T00:15:45Z)
• Kernel methods through the roof: handling billions of points efficiently [94.31450736250918]
  カーネル法は、非パラメトリック学習に対するエレガントで原則化されたアプローチを提供するが、今のところ大規模な問題ではほとんど利用できない。 最近の進歩は、最適化、数値線形代数、ランダム射影など、多くのアルゴリズム的アイデアの利点を示している。 ここでは、これらの取り組みをさらに進めて、GPUハードウェアを最大限に活用する解決器を開発し、テストする。
  論文  参考訳（メタデータ） (2020-06-18T08:16:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。