論文の概要: Metric Learning to Accelerate Convergence of Operator Splitting Methods for Differentiable Parametric Programming

• arxiv url: http://arxiv.org/abs/2404.00882v1
• Date: Mon, 1 Apr 2024 03:23:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-03 23:36:00.986773
• Title: Metric Learning to Accelerate Convergence of Operator Splitting Methods for Differentiable Parametric Programming
• Title（参考訳）: 微分パラメトリックプログラミングのための演算子分割法の収束性向上のためのメトリックラーニング
• Authors: Ethan King, James Kotary, Ferdinando Fioretto, Jan Drgona,
• Abstract要約: 本稿では,識別可能な最適化が,近位尺度のエンドツーエンド学習をいかに実現するかを示す。 結果は、学習した近位度とオプティマにおけるアクティブな制約との間に強い関連性を示す。
• 参考スコア（独自算出の注目度）: 46.26499759722771
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent work has shown a variety of ways in which machine learning can be used to accelerate the solution of constrained optimization problems. Increasing demand for real-time decision-making capabilities in applications such as artificial intelligence and optimal control has led to a variety of approaches, based on distinct strategies. This work proposes a novel approach to learning optimization, in which the underlying metric space of a proximal operator splitting algorithm is learned so as to maximize its convergence rate. While prior works in optimization theory have derived optimal metrics for limited classes of problems, the results do not extend to many practical problem forms including general Quadratic Programming (QP). This paper shows how differentiable optimization can enable the end-to-end learning of proximal metrics, enhancing the convergence of proximal algorithms for QP problems beyond what is possible based on known theory. Additionally, the results illustrate a strong connection between the learned proximal metrics and active constraints at the optima, leading to an interpretation in which the learning of proximal metrics can be viewed as a form of active set learning.
• Abstract（参考訳）: 最近の研究は、制約付き最適化問題の解を高速化するために機械学習を使用する様々な方法を示している。 人工知能や最適制御などのアプリケーションにおけるリアルタイム意思決定能力の需要の増加は、異なる戦略に基づく様々なアプローチにつながっている。 本研究は, 近似演算子分割アルゴリズムの基底となる距離空間を, 収束率を最大化するために学習する, 学習最適化の新しい手法を提案する。 最適化理論の以前の研究は、限られた問題のクラスに対して最適なメトリクスを導出してきたが、結果は一般的な二次計画法(英語版)(QP)を含む多くの実践的な問題形式にまで拡張されない。 本稿では,QP問題に対する近似アルゴリズムの収束度を,既知の理論に基づいてさらに高めることができることを示す。 さらに、学習した近位数と最適点におけるアクティブな制約との間の強い関係が示され、近位数に関する学習をアクティブな集合学習の一形態と見なすことができる解釈が導かれる。

関連論文リスト

• Learning Joint Models of Prediction and Optimization [56.04498536842065]
  Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。 本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
  論文  参考訳（メタデータ） (2024-09-07T19:52:14Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。 本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
  論文  参考訳（メタデータ） (2023-12-28T23:15:18Z)
• Predict-Then-Optimize by Proxy: Learning Joint Models of Prediction and Optimization [59.386153202037086]
  Predict-Then-フレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。 このアプローチは非効率であり、最適化ステップを通じてバックプロパゲーションのための手作りの、問題固有のルールを必要とする。 本稿では,予測モデルを用いて観測可能な特徴から最適解を直接学習する手法を提案する。
  論文  参考訳（メタデータ） (2023-11-22T01:32:06Z)
• PAC-Bayesian Learning of Optimization Algorithms [6.624726878647541]
  PAC-Bayes理論を学習最適化の設定に適用する。 証明可能な一般化保証(PAC-bounds)と高収束確率と高収束速度との間の明示的なトレードオフを持つ最適化アルゴリズムを学習する。 この結果は指数族に基づく一般の非有界損失関数に対してPAC-Bayes境界に依存する。
  論文  参考訳（メタデータ） (2022-10-20T09:16:36Z)
• Teaching Networks to Solve Optimization Problems [13.803078209630444]
  反復解法をトレーニング可能なパラメトリック集合関数に置き換えることを提案する。 このようなパラメトリックな(集合)関数を学習することで、様々な古典的最適化問題を解くことができることを示す。
  論文  参考訳（メタデータ） (2022-02-08T19:13:13Z)
• Learning Proximal Operators to Discover Multiple Optima [66.98045013486794]
  非家族問題における近位演算子を学習するためのエンドツーエンド手法を提案する。 本手法は,弱い目的と穏やかな条件下では,世界規模で収束することを示す。
  論文  参考訳（メタデータ） (2022-01-28T05:53:28Z)
• Consistent Approximations in Composite Optimization [0.0]
  我々は最適化問題の一貫した近似のためのフレームワークを開発する。 このフレームワークは幅広い最適化のために開発されている。 プログラム解析法は、拡張非線形プログラミングソリューションを例証する。
  論文  参考訳（メタデータ） (2022-01-13T23:57:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。