論文の概要: Sketch 'n Solve: An Efficient Python Package for Large-Scale Least Squares Using Randomized Numerical Linear Algebra
- arxiv url: http://arxiv.org/abs/2409.14309v2
- Date: Sun, 17 Nov 2024 17:51:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-19 14:26:15.590361
- Title: Sketch 'n Solve: An Efficient Python Package for Large-Scale Least Squares Using Randomized Numerical Linear Algebra
- Title(参考訳): Sketch 'n Solve:ランダム化数値線形代数を用いた大規模最小方形のための効率的なPythonパッケージ
- Authors: Alex Lavaee,
- Abstract要約: 我々は、効率的なランダム化数値線形代数手法を実装したオープンソースのPythonパッケージであるSketch 'n Solveを提案する。
本研究では, 従来のLSQRよりも最大50倍の高速化を実現し, 精度も高いことを示す。
このパッケージは、機械学習の最適化、信号処理、科学計算の応用に特に有望であることを示している。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: We present Sketch 'n Solve, an open-source Python package that implements efficient randomized numerical linear algebra (RandNLA) techniques for solving large-scale least squares problems. While sketch-and-solve algorithms have demonstrated theoretical promise, their practical adoption has been limited by the lack of robust, user-friendly implementations. Our package addresses this gap by providing an optimized implementation built on NumPy and SciPy, featuring both dense and sparse sketching operators with a clean API. Through extensive benchmarking, we demonstrate that our implementation achieves up to 50x speedup over traditional LSQR while maintaining high accuracy, even for ill-conditioned matrices. The package shows particular promise for applications in machine learning optimization, signal processing, and scientific computing.
- Abstract(参考訳): 我々は、大規模最小二乗問題の解法として、効率的なランダム化数値線形代数(RandNLA)技術を実装したオープンソースのPythonパッケージであるSketch 'n Solveを提案する。
スケッチ・アンド・ソルブのアルゴリズムは理論的に有望であることを示しているが、その実践的採用は堅牢でユーザフレンドリーな実装の欠如によって制限されてきた。
当社のパッケージは,NumPyとSciPyに最適化された実装を提供することで,このギャップに対処しています。
大規模なベンチマークにより, 従来のLSQRよりも最大50倍の高速化を実現し, 精度も向上した。
このパッケージは、機械学習の最適化、信号処理、科学計算の応用に特に有望であることを示している。
関連論文リスト
- Sketching for Convex and Nonconvex Regularized Least Squares with Sharp
Guarantees [23.614074988517864]
本稿では,非正規化関数によって正規化あるいは凸化される最小二乗問題に対する高速近似を提案する。
スケッチされた凸や非近似問題を解くことにより、推定のための最小値率を初めて示す。
論文 参考訳(メタデータ) (2023-11-03T09:35:01Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳(メタデータ) (2023-07-17T20:11:56Z) - Learning the Positions in CountSketch [49.57951567374372]
本稿では,まずランダムなスケッチ行列に乗じてデータを圧縮し,最適化問題を高速に解くスケッチアルゴリズムについて検討する。
本研究では,ゼロでないエントリの位置を最適化する学習ベースアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-06-11T07:28:35Z) - Learning Linear Models Using Distributed Iterative Hessian Sketching [4.567810220723372]
観測データから線形システムのマルコフパラメータを学習する問題を考察する。
Hessian-Sketchingに基づくランダムに分散されたニュートンアルゴリズムは、$epsilon$-optimal Solutionを生成可能であることを示す。
論文 参考訳(メタデータ) (2021-12-08T04:07:23Z) - Fast Convex Quadratic Optimization Solvers with Adaptive Sketching-based
Preconditioners [37.03247707259297]
二次正則化を伴う最小二乗問題を検討し,適応的なスケッチサイズを持つ新しいスケッチベース反復手法を提案する。
スケッチのサイズは、線形収束を保証するためにデータ行列の有効次元と同じくらい小さくすることができる。
効果的な寸法の観点からスケッチサイズを選択する際の大きな困難は、後者が実際には通常不明であるという事実にあります。
論文 参考訳(メタデータ) (2021-04-29T04:36:41Z) - Learning-Augmented Sketches for Hessians [54.97773807211337]
第二次手法の文脈でヘッセンの学習スケッチを設計する方法を紹介します。
学習したスケッチは,「学習されていない」スケッチと比較して,重要な問題に対する近似精度が向上することを示す。
論文 参考訳(メタデータ) (2021-02-24T14:50:59Z) - Precise expressions for random projections: Low-rank approximation and
randomized Newton [63.68433510953756]
マトリックススケッチは、そのような次元削減を非常に効率的に行うための強力な技術として登場した。
本研究では,スケッチによって得られたランダムな投影行列の予測値に対して,確率的に正確な表現を提供する手法を開発した。
これらの表現は、様々な機械学習タスクにおける次元削減のパフォーマンスを特徴付けるのに使うことができる。
論文 参考訳(メタデータ) (2020-06-18T16:23:00Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳(メタデータ) (2020-06-10T15:00:09Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。