論文の概要: Parameter Tuning with Generalization Guarantees for GPU-Accelerated Linear Programming
- arxiv url: http://arxiv.org/abs/2606.08638v1
- Date: Sun, 07 Jun 2026 14:01:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-09 14:42:06.309748
- Title: Parameter Tuning with Generalization Guarantees for GPU-Accelerated Linear Programming
- Title(参考訳): GPU加速線形計画法における一般化保証を用いたパラメータチューニング
- Authors: Siddharth Prasad, Dravyansh Sharma,
- Abstract要約: 最新のハードウェア用に設計された最先端の1次LPソルバである (cu)PDLP 内でのハイパーパラメータチューニングの一般化保証を導出する。
まず、PDLPのステップサイズとプライマリ重量の関数として、PDHGの振る舞いを、PDLPの根底にある原始双対のハイブリッド勾配アルゴリズム(PDHG)にピン留めする。
次に、PDLPの構造解析を行い、プレコンディショニング、アダプティブステップサイズ、平均化、再起動、スムーズなプライマリウェイト更新などの特殊技術でPDHGを増強する。
- 参考スコア(独自算出の注目度): 16.092527463250708
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent research has developed practical, parallelizable first-order methods for large scale linear programming, but performance is highly dependent on hyperparameter selection. We derive generalization guarantees for hyperparameter tuning within (cu)PDLP, a state-of-the-art first-order LP solver designed for modern hardware. First, we pin down the behavior of PDHG, the primal-dual hybrid gradient algorithm that underlies PDLP, as a function of its step size and primal weight, leading to linear sample complexity guarantees for learning those parameters. We then conduct a structural analysis of PDLP, which augments PDHG with several specialized techniques like preconditioning, adaptive step sizes, averaging, adaptive restarts, and smoothed primal weight updates. Our analysis captures the behavior of the solution trajectory as a function of the hyperparameters and leverages recent advances in data-driven algorithm design to obtain polynomial sample complexity guarantees for learning those hyperparameters. Finally, we conduct proof-of-concept experiments that demonstrate the need for data-driven PDLP parameter tuning. Our results showcase the versatility of the data-driven algorithm design toolkit for principled hyperparameter tuning within solver-grade implementations of complex modern optimization algorithms.
- Abstract(参考訳): 近年,大規模線形プログラミングのための実用的で並列化可能な一階法が開発されているが,性能はハイパーパラメータ選択に大きく依存している。
最新のハードウェア用に設計された最先端の1次LPソルバである (cu)PDLP 内でのハイパーパラメータチューニングの一般化保証を導出する。
まず、PDLPのステップサイズとプライマリ重量の関数として、PDHGの振る舞いをピン留めし、それらのパラメータを学習するための線形サンプル複雑性を保証する。
次に、PDLPの構造解析を行い、プレコンディショニング、アダプティブステップサイズ、平均化、アダプティブリスタート、スムーズなプライマリウェイト更新などの特殊技術でPDHGを増強する。
解析では,ハイパーパラメータの関数としての解軌道の挙動を把握し,データ駆動型アルゴリズムの設計の最近の進歩を活用して,これらのハイパーパラメータを学習するための多項式サンプルの複雑性保証を得る。
最後に,データ駆動型PDLPパラメータチューニングの必要性を示す概念実証実験を行う。
本研究は, 複雑な最適化アルゴリズムのソルバグレード実装において, 原理的ハイパーパラメータチューニングのためのデータ駆動型アルゴリズム設計ツールキットの汎用性を示すものである。
関連論文リスト
- Parallel Diffusion Solver via Residual Dirichlet Policy Optimization [88.7827307535107]
拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。
既存のソルバベースの加速度法では、低次元の予算で画像品質が著しく低下することが多い。
本研究では,各ステップに複数の勾配並列評価を組み込んだ新しいODE解法であるEnsemble Parallel Directionsolvr(EPD-EPr)を提案する。
論文 参考訳(メタデータ) (2025-12-28T05:48:55Z) - Generalized Tensor-based Parameter-Efficient Fine-Tuning via Lie Group Transformations [50.010924231754856]
さまざまな下流タスクに事前訓練された基礎モデルを適用することは、人工知能のコアプラクティスである。
これを解決するために、LoRAのようなパラメータ効率細調整(PEFT)手法が登場し、研究の焦点となっている。
本稿では,行列型PEFT法を高次元パラメータ空間に拡張する一般化法を提案する。
論文 参考訳(メタデータ) (2025-04-01T14:36:45Z) - Optimal DLT-based Solutions for the Perspective-n-Point [0.0]
パースペクティブn-point(Newton)を解くための修正直線形(DLT)アルゴリズムを提案する。
この修正は、線形系における異なる測定を解析的に重み付けし、計算負荷を無視できるほど増加させる。
当社のアプローチは、パフォーマンスとランタイムの両方の改善をクリアします。
論文 参考訳(メタデータ) (2024-10-18T04:04:58Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。
実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文 参考訳(メタデータ) (2022-05-26T12:51:32Z) - Accelerated nonlinear primal-dual hybrid gradient algorithms with
applications to machine learning [0.0]
原始双対ハイブリッド勾配(PDHG)は、サドル点構造を持つ凸最適化問題をより小さなサブプロブレムに分割する一階法である。
PDHGは、手前の問題に対して微調整されたステップサイズパラメータを必要とする。
我々は,機械学習に関連する幅広い最適化問題に対して,PDHGアルゴリズムの高速化された非線形変種を導入する。
論文 参考訳(メタデータ) (2021-09-24T22:37:10Z) - Fast and Robust Online Inference with Stochastic Gradient Descent via
Random Scaling [0.9806910643086042]
本稿では,勾配降下アルゴリズムの平均化法により推定されるパラメータのベクトルに対するオンライン推論法を提案する。
我々のアプローチはオンラインデータで完全に運用されており、機能中心極限定理によって厳格に支えられている。
論文 参考訳(メタデータ) (2021-06-06T15:38:37Z) - Adaptive pruning-based optimization of parameterized quantum circuits [62.997667081978825]
Variisyハイブリッド量子古典アルゴリズムは、ノイズ中間量子デバイスの使用を最大化する強力なツールである。
我々は、変分量子アルゴリズムで使用されるそのようなアンサーゼを「効率的な回路訓練」(PECT)と呼ぶ戦略を提案する。
すべてのアンサッツパラメータを一度に最適化する代わりに、PECTは一連の変分アルゴリズムを起動する。
論文 参考訳(メタデータ) (2020-10-01T18:14:11Z) - Objective-Sensitive Principal Component Analysis for High-Dimensional
Inverse Problems [0.0]
本稿では,大規模乱数場の適応的,微分可能なパラメータ化手法を提案する。
開発した手法は主成分分析(PCA)に基づくが,目的関数の振る舞いを考慮した主成分の純粋にデータ駆動に基づく基礎を変更する。
最適パラメータ分解のための3つのアルゴリズムを2次元合成履歴マッチングの目的に適用した。
論文 参考訳(メタデータ) (2020-06-02T18:51:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。