論文の概要: ParaDeAl: Parallel Descent Algorithms for Sparse Statistics

• arxiv url: http://arxiv.org/abs/2611.03529v1
• Date: Mon, 02 Nov 2026 17:58:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 04:01:56.278931
• Title: ParaDeAl: Parallel Descent Algorithms for Sparse Statistics
• Title（参考訳）: ParaDeAl:スパース統計のための並列Descentアルゴリズム
• Abstract要約: ベストサブセット選択は統計回帰における中心的な問題である。 L1/L2の罰則を組み込んだ2段階勾配降下法を提案する。 提案手法であるParaDeAlは,問題をハイパーパラメータとして選択し,すべての構成を並列に解決し,最新のCPUコンペティタよりも最大15倍高速に解を得る。
• 参考スコア（独自算出の注目度）: 19.448334576192554
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Best subset selection is a central problem in statistical regression, drawing increasing attention from the broader optimization and machine learning communities. Solving the hard L0 sparsity constraint directly has been computationally challenging; as a result, most existing work proposes formulations which do not enforce the constraint, but instead use a mix of L0/L1/L2 penalties to encourage sparsity. Modern methods for solving such penalized formulations are tractable for p = 100,000, but give up direct control over sparsity. In this paper, we propose a two-stage proximal gradient descent-based approach which both enforces the sparsity constraint and incorporates L1/L2 penalties, leveraging GPUs for computational acceleration to find approximate solutions. Our method, ParaDeAl, offers the user the ability to select the problem hyperparameters, solves all configurations in parallel, and obtains solutions up to 15x faster than the best state-of-the-art CPU competitors while achieving almost identical test accuracy for the same support size for large (p > 100,000) synthetic and real-world datasets.
• Abstract（参考訳）: 最良のサブセット選択は統計的回帰における中心的な問題であり、より広範な最適化と機械学習コミュニティから注目を集めている。 その結果、既存のほとんどの研究は、制約を強制するのではなく、その代わりにL0/L1/L2ペナルティを混合してスパーシティを奨励する定式化を提案している。 このようなペナル化された定式化を解く現代的な方法は、p = 10,000 に対して引き出すことができるが、スパーシティを直接制御することを諦める。 本稿では,L1/L2のペナルティを具体化し,GPUを用いて近似解を求める2段階の勾配勾配勾配に基づくアプローチを提案する。 提案手法であるParaDeAlは,問題ハイパーパラメータを選択でき,すべての構成を並列に解決し,最先端のCPUコンペティタよりも最大15倍高速で解を得ると同時に,大容量(p>10,000)の合成および実世界のデータセットに対して,同じサポートサイズでほぼ同じテスト精度を実現する。

関連論文リスト

• Computation of Least Trimmed Squares: A Branch-and-Bound framework with Hyperplane Arrangement Enhancements [21.28320211178358]
  最小トリミング正方形(LTS)回帰問題(英語版)は、大きめの残差を捕獲することによってデータにおける外れ値の影響を緩和する頑健な推定器である。 既存のMIO(mixed-integer Optimization)の定式化は、弱い緩和と観測数における指数的な最悪ケースの複雑さのために、不十分にスケールする。 我々は,超平面配置論理を視点再構成に組み込んだMIOの新たな定式化を提案し,最適解の構造的特性を明示する。
  論文  参考訳（メタデータ） (2026-04-13T15:00:53Z)
• Optimal Transportation and Alignment Between Gaussian Measures [80.4634530260329]
  最適なトランスポート(OT)とGromov-Wasserstein(GW)アライメントは、データセットの解釈可能な幾何学的フレームワークを提供する。 これらのフレームワークは計算コストが高いため、大規模アプリケーションは2次コストでガウス分布の閉形式解に依存することが多い。 この研究は、ガウス的、二次的コスト OT と内部積 GW (IGW) のアライメントを包括的に扱い、文学におけるいくつかのギャップを埋めて適用性を広げる。
  論文  参考訳（メタデータ） (2025-12-03T09:01:48Z)
• $\ell_0$-Regularized Quadratic Surface Support Vector Machines [0.0]
  カーネルフリーの二次曲面支持ベクトルマシンは、カーネル関数に依存することなく非線形決定境界をモデル化する柔軟性により、近年注目を集めている。 本稿では,モデルパラメータに濃度制約を課すことにより,QSVMのスパース変種を提案する。 我々は,いくつかの実世界のデータセットに対するアプローチを検証し,高い分類性能を維持しながらオーバーフィッティングを低減できることを実証した。
  論文  参考訳（メタデータ） (2025-01-20T04:26:34Z)
• Constrained Optimization via Exact Augmented Lagrangian and Randomized Iterative Sketching [55.28394191394675]
  等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。 ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-28T06:33:37Z)
• Accelerated First-Order Optimization under Nonlinear Constraints [61.98523595657983]
  我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。 これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
  論文  参考訳（メタデータ） (2023-02-01T08:50:48Z)
• Fast and Robust Non-Rigid Registration Using Accelerated Majorization-Minimization [35.66014845211251]
  非剛性登録は、ターゲット形状と整合する非剛性な方法でソース形状を変形させるが、コンピュータビジョンにおける古典的な問題である。 既存のメソッドは通常$ell_p$型ロバストノルムを使用してアライメントエラーを測定し、変形の滑らかさを規則化する。 本稿では、アライメントと正規化のためのグローバルなスムーズなロバストノルムに基づく、ロバストな非剛体登録のための定式化を提案する。
  論文  参考訳（メタデータ） (2022-06-07T16:00:33Z)
• Optimization-based Block Coordinate Gradient Coding for Mitigating Partial Stragglers in Distributed Learning [58.91954425047425]
  本稿では,分散学習における部分トラグラーの緩和を目的とした,新たな勾配符号化方式を提案する。 L の符号パラメータを L に表わした勾配座標符号化方式を提案する。
  論文  参考訳（メタデータ） (2022-06-06T09:25:40Z)
• Faster One-Sample Stochastic Conditional Gradient Method for Composite Convex Minimization [61.26619639722804]
  滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。 提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
  論文  参考訳（メタデータ） (2022-02-26T19:10:48Z)
• Combining Deep Learning and Optimization for Security-Constrained Optimal Power Flow [94.24763814458686]
  セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。 SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。 本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T12:38:21Z)
• Quasi-Newton Solver for Robust Non-Rigid Registration [35.66014845211251]
  データフィッティングと正規化のための大域的スムーズなロバスト推定器に基づくロバストな非剛性登録のための定式化を提案する。 本稿では,L-BFGS を用いた最小二乗問題の解法に,各繰り返しを減らし,最大化最小化アルゴリズムを適用した。
  論文  参考訳（メタデータ） (2020-04-09T01:45:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。