論文の概要: Learned Preconditioning for a Primal-Dual Interior-Point Method

• arxiv url: http://arxiv.org/abs/2609.35665v1
• Date: Mon, 28 Sep 2026 17:24:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 19:48:15.277722
• Title: Learned Preconditioning for a Primal-Dual Interior-Point Method
• Title（参考訳）: プリマルデュアルインテリアポイント法のための学習済みプレコンディショニング
• Abstract要約: 内部点法(IPM)は、制約付き最適化において最も広く使われているアルゴリズムの一つである。 pdProjLIP に学習前条件を組み込むスムーズな非線形プログラムのための IPM である pd を導入する。 学習されたイテレーションはHessianの評価を避け、Newton-systemはGPU並列化のために一階演算と座標演算のみを使用する。
• 参考スコア（独自算出の注目度）: 1.7694768544626636
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Interior-point methods (IPMs) are among the most widely used algorithms for constrained optimization, yet their Newton-based search directions require costly second-order information and large linear-system solves. Learning to optimize offers cheaper updates learned from data, but the singular behavior of logarithmic barriers near constraint boundaries makes IPMs highly sensitive to perturbations, complicating both warm starting and learning reliable updates. We introduce pdLIP, an IPM for smooth nonlinear programs that integrates learned preconditioning with pdProj, an all-shifted primal-dual projected-search IPM. A shared coordinate-wise recurrent network predicts a positive diagonal preconditioner that scales the right-hand side of the reduced Newton system for the primal step, and the remaining slack and multiplier directions are recovered analytically. The learned iterations avoid Hessian evaluations and Newton-system solves, using only first-order and coordinate-wise operations amenable to GPU parallelization. Training is self-supervised, with a loss based on a penalty-barrier merit function and the residual of perturbed optimality conditions, requiring neither target directions nor precomputed solutions. Primal and dual shifts mitigate the barrier's sensitivity to perturbations near constraint boundaries, enabling effective warm starting. Across four classes of 200-dimensional convex and nonconvex constrained problems, pdLIP warm starts reduce pdProj refinement iterations by 63-67% compared with cold starts at the same KKT residual tolerance of $10^{-8}$, with negligible warm-start generation cost relative to the subsequent pdProj solve. Improvements persist on box-constrained QPs with 1000 variables and extend to applications including portfolio optimization, support vector machines, and a nonlinear control example.
• Abstract（参考訳）: 内部点法 (IPM) は制約付き最適化において最も広く用いられているアルゴリズムであるが、ニュートンをベースとした探索法では2次情報と大規模な線形系解を必要とする。 学習の最適化は、データから学んだより安価な更新を提供するが、制約境界に近い対数障壁の特異な振る舞いは、IPMを摂動に非常に敏感にし、温かい開始と信頼できる更新の両方を複雑にする。 我々は,学習前条件をpdProjと統合したスムーズな非線形プログラムのためのIPMであるpdLIPを紹介した。 共有座標ワイド・リカレントネットワークは、プライマリステップのために還元ニュートン系の右側を拡大する正対角前条件を予測し、残りのスラックおよび乗算器方向を解析的に復元する。 学習されたイテレーションはHessianの評価を避け、Newton-systemはGPU並列化に対応可能な一階演算と座標演算のみを使用して解決する。 訓練は自己監督され、ペナルティバリアメリット関数と摂動最適条件の残余に基づく損失があり、目標方向も事前計算された解も必要としない。 原始シフトと二重シフトは、障壁の制約境界付近の摂動に対する感度を緩和し、効果的な温暖開始を可能にする。 200次元凸と非凸の4つのクラスにおいて、pdLIPウォームはpdProjの精製繰り返しを63～67%削減する。 改善は1000変数のボックス制約QPで継続され、ポートフォリオ最適化、サポートベクターマシン、非線形制御例を含むアプリケーションに拡張される。

関連論文リスト

• Error-Conditioned Neural Solvers [36.51479208528461]
  ニューラルサロゲートモデルは、PDEパラメータから解への高速な近似マッピングを提供するが、それらは一般に純粋に統計的タスクとして解決を扱う。 最近のハイブリッド手法は、勾配降下またはガウス・ニュートンステップを介してPDE残差を目標とすることで物理的正当性を促進するが、基礎となる古典勾配の計算コストと不安定性を継承する。 理論的・実験的にPDE残差の数値最小化は、不調なシステムにおける再構成精度の信頼性の低いプロキシであることを示す。
  論文  参考訳（メタデータ） (2026-06-25T17:56:27Z)
• An Efficient Multilevel Preconditioned Nonlinear Conjugate Gradient Method for Incremental Potential Contact [39.88919534724513]
  インクリメンタル電位接触(IPC)は、交差のないシミュレーションを保証するが、高い計算コストに悩まされる。 非線形最適化のための階層型プレコンディショニングのパワーを解放するMAS-PNCGを提案する。 我々は、PNCG探索方向を、事前条件付き勾配と事前方向を最適に組み合わせたヘッセン対応の2D部分空間に置き換える。
  論文  参考訳（メタデータ） (2026-04-21T18:13:52Z)
• Near-Optimal Primal-Dual Algorithm for Learning Linear Mixture CMDPs with Adversarial Rewards [0.8984888893275712]
  有限-水平線形混合制約マルコフ決定過程における安全強化学習について検討する。 本稿では, 後悔と制約違反境界を実現するプリミティブ・デュアルポリシー最適化アルゴリズムを提案する。 これは、線形混合CMDPと逆効果を持つ最初の証明可能な効率のよいアルゴリズムである。
  論文  参考訳（メタデータ） (2026-03-29T21:51:33Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• Improving Linear System Solvers for Hyperparameter Optimisation in Iterative Gaussian Processes [31.305425519412758]
  本稿では,線形系解法を用いる反復法に着目し,限界次数勾配を推定する。 本稿では,解決者間で適用可能な3つの重要な改善点について論じる。 これらのテクニックは、トレランスの解決時に最大7,2倍のスピードアップを提供し、停止時に平均残留ノルムを最大7,7倍まで下げる。
  論文  参考訳（メタデータ） (2024-05-28T16:58:37Z)
• Efficient Methods for Non-stationary Online Learning [63.268670895111654]
  動的後悔と適応的後悔を最適化する効率的な方法を提案する。 提案アルゴリズムでは,各ラウンドで1つの勾配クエリと1つの関数評価しか必要としない。 また、さらに強力な測度、すなわち「内部的動的後悔」を研究し、ラウンド当たりの射影数を$O(log2 T)$から$$$$に減らした。
  論文  参考訳（メタデータ） (2023-09-16T07:30:12Z)
• Accelerated First-Order Optimization under Nonlinear Constraints [61.98523595657983]
  我々は、制約付き最適化のための一階アルゴリズムと非滑らかなシステムの間で、新しい一階アルゴリズムのクラスを設計する。 これらのアルゴリズムの重要な性質は、制約がスパース変数の代わりに速度で表されることである。
  論文  参考訳（メタデータ） (2023-02-01T08:50:48Z)
• Cogradient Descent for Bilinear Optimization [124.45816011848096]
  双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。 一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。 本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
  論文  参考訳（メタデータ） (2020-06-16T13:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。