論文の概要: Safe Gradient Flow for Bilevel Optimization

• arxiv url: http://arxiv.org/abs/2501.16520v1
• Date: Mon, 27 Jan 2025 21:39:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-29 16:40:06.250562
• Title: Safe Gradient Flow for Bilevel Optimization
• Title（参考訳）: 双方向最適化のための安全なグラディエントフロー
• Authors: Sina Sharifi, Nazanin Abolfazli, Erfan Yazdandoost Hamedani, Mahyar Fazlyab,
• Abstract要約: 階層的な意思決定において、バイレベル最適化は重要なフレームワークである。 本稿では,二段階最適化問題に対する制御理論的アプローチを提案する。
• 参考スコア（独自算出の注目度）: 6.3963012138521975
• License:
• Abstract: Bilevel optimization is a key framework in hierarchical decision-making, where one problem is embedded within the constraints of another. In this work, we propose a control-theoretic approach to solving bilevel optimization problems. Our method consists of two components: a gradient flow mechanism to minimize the upper-level objective and a safety filter to enforce the constraints imposed by the lower-level problem. Together, these components form a safe gradient flow that solves the bilevel problem in a single loop. To improve scalability with respect to the lower-level problem's dimensions, we introduce a relaxed formulation and design a compact variant of the safe gradient flow. This variant minimizes the upper-level objective while ensuring the lower-level solution remains within a user-defined distance. Using Lyapunov analysis, we establish convergence guarantees for the dynamics, proving that they converge to a neighborhood of the optimal solution. Numerical experiments further validate the effectiveness of the proposed approaches. Our contributions provide both theoretical insights and practical tools for efficiently solving bilevel optimization problems.
• Abstract（参考訳）: 双レベル最適化は階層的な意思決定において重要なフレームワークであり、ある問題は別の制約に埋め込まれている。 本研究では,二段階最適化問題に対する制御理論的アプローチを提案する。 本手法は,上層目的量を最小限に抑える勾配流機構と,下層問題に課される制約を強制する安全フィルタの2成分からなる。 これらの成分は共に安全な勾配流を形成し、単一のループで二段階問題を解く。 低レベルの問題の次元に関してスケーラビリティを向上させるため、緩和された定式化を導入し、安全な勾配流のコンパクトな変種を設計する。 この変種は、低レベルのソリューションがユーザ定義距離内に留まることを保証しながら、上位レベルの目標を最小化する。 リアプノフ解析を用いて、ダイナミクスの収束保証を確立し、最適解の近傍に収束することが証明される。 数値実験により,提案手法の有効性がさらに検証された。 我々の貢献は、二段階最適化問題を効率的に解くための理論的な洞察と実践的なツールの両方を提供する。

関連論文リスト

• A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints [66.61399765513383]
  We developed a BLOCC algorithm to tackle BiLevel Optimization problems with Coupled Constraints。 2つのよく知られた実世界のアプリケーションでその効果を実証する。
  論文  参考訳（メタデータ） (2024-06-14T15:59:36Z)
• Contextual Stochastic Bilevel Optimization [50.36775806399861]
  文脈情報と上層変数の期待を最小化する2レベル最適化フレームワークCSBOを導入する。 メタラーニング、パーソナライズドラーニング、エンド・ツー・エンドラーニング、Wassersteinはサイド情報(WDRO-SI)を分散的に最適化している。
  論文  参考訳（メタデータ） (2023-10-27T23:24:37Z)
• Effective Bilevel Optimization via Minimax Reformulation [23.5093932552053]
  ミニマックス問題としてバイレベル最適化の再構成を提案する。 穏やかな条件下では、これらの2つの問題が等価であることを示す。 提案手法は, 計算コストを大幅に削減しつつ, 最先端の2段階法より優れる。
  論文  参考訳（メタデータ） (2023-05-22T15:41:33Z)
• On Penalty-based Bilevel Gradient Descent Method [35.83102074785861]
  バイレベル最適化は、新興機械学習や信号処理問題における幅広い応用を享受している。 最近の二レベルアルゴリズムの進歩は、暗黙の勾配法を通した双レベル最適化問題に主眼を置いている。 本研究では,ペナルティ手法のレンズを用いて,二段階問題に挑戦する。
  論文  参考訳（メタデータ） (2023-02-10T11:30:19Z)
• Efficient Gradient Approximation Method for Constrained Bilevel Optimization [2.0305676256390934]
  大規模高次元データを用いたバイレベル最適化が開発されている。 本稿では凸と微分不可能な近似を伴う制約付き二値問題について考察する。
  論文  参考訳（メタデータ） (2023-02-03T19:34:56Z)
• A Constrained Optimization Approach to Bilevel Optimization with Multiple Inner Minima [49.320758794766185]
  そこで本研究では,両レベル問題を等価な制約付き最適化に変換する手法を提案する。 このようなアプローチには、(a)多重内極小問題への対処、(b)ジャコビアン計算のない完全一階効率など、いくつかの利点がある。
  論文  参考訳（メタデータ） (2022-03-01T18:20:01Z)
• Enhanced Bilevel Optimization via Bregman Distance [104.96004056928474]
  本稿では,Bregman Bregman関数に基づく二段階最適化手法を提案する。 また,分散還元法によるSBiO-BreD法(ASBiO-BreD)の高速化版も提案する。
  論文  参考訳（メタデータ） (2021-07-26T16:18:43Z)
• A Value-Function-based Interior-point Method for Non-convex Bi-level Optimization [38.75417864443519]
  バイレベル最適化モデルは、実践的な関心を持って、幅広い複雑な学習タスクをキャプチャすることができる。 そこで我々は,下層問題における正規化値関数を上層目標にペナルティ化する,新しい内部Biレベル値に基づく内点法を提案する。
  論文  参考訳（メタデータ） (2021-06-15T09:10:40Z)
• Conditional gradient methods for stochastically constrained convex minimization [54.53786593679331]
  構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。 私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。 提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
  論文  参考訳（メタデータ） (2020-07-07T21:26:35Z)
• Cogradient Descent for Bilinear Optimization [124.45816011848096]
  双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。 一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。 本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
  論文  参考訳（メタデータ） (2020-06-16T13:41:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。