論文の概要: A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints

• arxiv url: http://arxiv.org/abs/2406.10148v1
• Date: Fri, 14 Jun 2024 15:59:36 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-19 01:31:17.300360
• Title: A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints
• Title（参考訳）: 結合制約を用いた二値最適化のための2次法則法の一手法
• Authors: Liuyuan Jiang, Quan Xiao, Victor M. Tenorio, Fernando Real-Rojas, Antonio Marques, Tianyi Chen,
• Abstract要約: We developed a BLOCC algorithm to tackle BiLevel Optimization problems with Coupled Constraints。 2つのよく知られた実世界のアプリケーションでその効果を実証する。
• 参考スコア（独自算出の注目度）: 60.91397373464365
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interest in bilevel optimization has grown in recent years, partially due to its applications to tackle challenging machine-learning problems. Several exciting recent works have been centered around developing efficient gradient-based algorithms that can solve bilevel optimization problems with provable guarantees. However, the existing literature mainly focuses on bilevel problems either without constraints, or featuring only simple constraints that do not couple variables across the upper and lower levels, excluding a range of complex applications. Our paper studies this challenging but less explored scenario and develops a (fully) first-order algorithm, which we term BLOCC, to tackle BiLevel Optimization problems with Coupled Constraints. We establish rigorous convergence theory for the proposed algorithm and demonstrate its effectiveness on two well-known real-world applications - hyperparameter selection in support vector machine (SVM) and infrastructure planning in transportation networks using the real data from the city of Seville.
• Abstract（参考訳）: 近年、二段階最適化への関心が高まっており、部分的には機械学習問題に挑戦するために応用されているためである。 最近のいくつかのエキサイティングな研究は、2レベル最適化問題を証明可能な保証で解決できる効率的な勾配に基づくアルゴリズムの開発に焦点を当てている。 しかし、既存の文献は主に制約のない双レベル問題に焦点を合わせており、複雑なアプリケーションを除いて、上層と下層の変数を混同しない単純な制約のみを特徴としている。 本稿では,この難易度は低いが検討の少ないシナリオを考察し,結合制約によるビリーベル最適化問題に対処するため,BLOCCと呼ばれる(完全に)1次アルゴリズムを開発した。 本研究では,提案アルゴリズムの厳密な収束理論を確立し,サポートベクトルマシン(SVM)におけるハイパーパラメータ選択と,セビリア市からの実際のデータを用いた交通ネットワークにおけるインフラ計画という,よく知られた実世界の2つの応用にその効果を示す。

関連論文リスト

• Moreau Envelope for Nonconvex Bi-Level Optimization: A Single-loop and Hessian-free Solution Strategy [45.982542530484274]
  大規模非ビレベル問題(BLO)は、機械学習にますます適用されている。 これらの課題には、計算効率の確保と理論的保証が伴う。
  論文  参考訳（メタデータ） (2024-05-16T09:33:28Z)
• Constrained Bi-Level Optimization: Proximal Lagrangian Value function Approach and Hessian-free Algorithm [8.479947546216131]
  We developed a Hessian-free gradient-based algorithm-termed proximal Lagrangian Value function-based Hessian-free Bi-level Algorithm (LV-HBA) LV-HBAは特に機械学習アプリケーションに適している。
  論文  参考訳（メタデータ） (2024-01-29T13:50:56Z)
• Effective Bilevel Optimization via Minimax Reformulation [21.895955762949885]
  ミニマックス問題としてバイレベル最適化の再構成を提案する。 穏やかな条件下では、これらの2つの問題が等価であることを示す。 提案手法は, 計算コストを大幅に削減しつつ, 最先端の2段階法より優れる。
  論文  参考訳（メタデータ） (2023-05-22T15:41:33Z)
• Communication-Efficient Federated Bilevel Optimization with Local and Global Lower Level Problems [118.00379425831566]
  我々はFedBiOAccという通信効率の高いアルゴリズムを提案する。 我々は、FedBiOAcc-Localがこの種の問題に対して同じ速度で収束していることを証明する。 実験結果から,アルゴリズムの性能が向上した。
  論文  参考訳（メタデータ） (2023-02-13T21:28:53Z)
• A Constrained Optimization Approach to Bilevel Optimization with Multiple Inner Minima [49.320758794766185]
  そこで本研究では,両レベル問題を等価な制約付き最適化に変換する手法を提案する。 このようなアプローチには、(a)多重内極小問題への対処、(b)ジャコビアン計算のない完全一階効率など、いくつかの利点がある。
  論文  参考訳（メタデータ） (2022-03-01T18:20:01Z)
• Value-Function-based Sequential Minimization for Bi-level Optimization [52.39882976848064]
  勾配に基づくBi-Level Optimization (BLO)法は、現代の学習課題に広く応用されている。 機能的制約のあるBLOや悲観的なBLOなど、難解なシナリオでBLOを解くことができる勾配ベースの方法はほとんどない。 上記の問題に対処するために,BVFSM(Bi-level Value-Function-based Sequential Minimization)を提案する。
  論文  参考訳（メタデータ） (2021-10-11T03:13:39Z)
• Enhanced Bilevel Optimization via Bregman Distance [104.96004056928474]
  本稿では,Bregman Bregman関数に基づく二段階最適化手法を提案する。 また,分散還元法によるSBiO-BreD法(ASBiO-BreD)の高速化版も提案する。
  論文  参考訳（メタデータ） (2021-07-26T16:18:43Z)
• A Generic First-Order Algorithmic Framework for Bi-Level Programming Beyond Lower-Level Singleton [49.23948907229656]
  Bi-level Descent Aggregationは、汎用的な双方向最適化のためのフレキシブルでモジュール化されたアルゴリズムフレームワークである。 LLS条件なしでBDAの収束を証明する新しい手法を導出する。 我々の研究は、BDAが特定の一階計算モジュールの検証と互換性があることも示している。
  論文  参考訳（メタデータ） (2020-06-07T05:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。