論文の概要: A Tale of Two Problems: Multi-Task Bilevel Learning Meets Equality Constrained Multi-Objective Optimization

• arxiv url: http://arxiv.org/abs/2605.09094v2
• Date: Thu, 14 May 2026 14:59:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 15:19:49.867073
• Title: A Tale of Two Problems: Multi-Task Bilevel Learning Meets Equality Constrained Multi-Objective Optimization
• Title（参考訳）: A Tale of Two Problems: Multi-Task Bilevel Learning Meets Equality Constrained Multi-Objective Optimization
• Authors: Zhiyao Zhang, Myeung Suk Oh, Zhen Qin, Jiaxiang Li, Xin Zhang, Jia Liu,
• Abstract要約: 我々は、緩和された一般凸性仮定の下で、二レベル最適化(BLO)をマルチタスク設定に拡張する最初の試みを行う。 ECMOは、文献ではまだ研究されていない新しい問題である。
• 参考スコア（独自算出の注目度）: 14.543177030471723
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, bilevel optimization (BLO) has attracted significant attention for its broad applications in machine learning. However, most existing works on BLO remain confined to the single-task setting and rely on the lower-level strong convexity assumption, which significantly restricts their applicability to modern machine learning problems of growing complexity. In this paper, we make the first attempt to extend BLO to the multi-task setting under a relaxed lower-level general convexity (LLGC) assumption. To this end, we reformulate the multi-task bilevel learning (MTBL) problem with LLGC into an equality constrained multi-objective optimization (ECMO) problem. However, ECMO itself is a new problem that has not yet been studied in the literature. To address this gap, we first establish a new Karush-Kuhn-Tucker (KKT)-based Pareto stationarity as the convergence criterion for ECMO algorithm design. Based on this foundation, we propose a weighted Chebyshev (WC)-penalty algorithm that achieves a finite-time convergence rate of $O(ST^{-\frac{1}{2})$ to KKT-based Pareto stationarity in both deterministic and stochastic settings, where $S$ denotes the number of objectives, and $T$ is the total iterations. Moreover, by varying the preference vector over the $S$-dimensional simplex, our WC-penalty method systematically explores the Pareto front. Finally, solutions to the ECMO problem translate directly into solutions for the original MTBL problem, thereby closing the loop between these two foundational optimization frameworks.
• Abstract（参考訳）: 近年、バイレベル最適化(BLO)は機械学習の幅広い応用において大きな注目を集めている。 しかしながら、BLOに関する既存のほとんどの研究はシングルタスク設定に限られており、複雑さが増大する現代の機械学習問題への適用性を著しく制限する低レベルの強い凸性仮定に依存している。 本稿では,緩和された低レベル一般凸性(LLGC)仮定の下で,BLOをマルチタスク設定に拡張する最初の試みを行う。 この目的のために、LLGCによるマルチタスクバイレベル学習(MTBL)問題を、等式制約付き多目的最適化(ECMO)問題に再構成する。 しかし、ECMO自体は新たな問題であり、まだ文献で研究されていない。 このギャップに対処するために、我々はまず、ECMOアルゴリズム設計の収束基準として、KKT(Karush-Kuhn-Tucker)ベースのパレート定常性を確立する。 この基礎に基づいて、重み付きチェビシェフ (WC)-ペナルティアルゴリズムを提案し、O(ST^{-\frac{1}{2})$からKKTベースのパレート定常度を決定論的および確率的設定の両方で達成し、$S$は目的の数を表わし、$T$は全反復である。 さらに、$S$-dimensional simplex上での選好ベクトルを変化させることで、WC-penalty法はパレートフロントを体系的に探索する。 最後に、ECMO問題の解はMTBL問題の解に直接変換され、2つの基礎最適化フレームワーク間のループを閉じる。

関連論文リスト

• Multinoulli Extension: A Lossless Continuous Relaxation for Partition-Constrained Subset Selection [60.07018090570548]
  我々はパラメータフリーで、歪んだ局所探索法と同じ近似保証を実現できるMultinoulliSCGという新しいアルゴリズムを導入する。 また、分割制約に関する未探索オンラインサブセット選択問題に対して、Multinoulli-CGとMultinoulli-GAGAという2つの新しいオンラインアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-03-23T02:30:01Z)
• Advanced Quantum Annealing for the Bi-Objective Traveling Thief Problem: An $\varepsilon$-Constraint-based Approach [7.06690496634166]
  Bi-Objective Traveling Thief Problem (BI-TTP)は、旅行コストとアイテム利益の同時最適化を必要とする。 BI-TTPの従来の手法は、ルーティングとパッケージ決定の複雑な相互依存のため、しばしば深刻なスケーラビリティの問題に直面する。 本稿では量子アニール法(QA)と$varepsilon$-constraint法を組み合わせた高度なハイブリッド手法を提案する。
  論文  参考訳（メタデータ） (2026-03-13T05:26:25Z)
• Multi-Objective Bilevel Learning [12.198330173886587]
  多目的二段階学習(MOBL)の理論的・アルゴリズム的基礎について検討する。 我々のゴールは、効率的なMOBL最適化アルゴリズムを開発することである。 我々は、重み付きチェビシェフ多重高次勾配(WC-MHGD)と呼ばれる統一的なアルゴリズムフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-11T04:42:14Z)
• A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints [66.61399765513383]
  We developed a BLOCC algorithm to tackle BiLevel Optimization problems with Coupled Constraints。 2つのよく知られた実世界のアプリケーションでその効果を実証する。
  論文  参考訳（メタデータ） (2024-06-14T15:59:36Z)
• Constrained Bi-Level Optimization: Proximal Lagrangian Value function Approach and Hessian-free Algorithm [8.479947546216131]
  We developed a Hessian-free gradient-based algorithm-termed proximal Lagrangian Value function-based Hessian-free Bi-level Algorithm (LV-HBA) LV-HBAは特に機械学習アプリケーションに適している。
  論文  参考訳（メタデータ） (2024-01-29T13:50:56Z)
• A Block Coordinate Descent Method for Nonsmooth Composite Optimization under Orthogonality Constraints [7.9047096855236125]
  textbfOBCDは標準臨界点よりも高い最適性を示すことを示す。 また,textbfOBCDの非エルグ収束率を示す。
  論文  参考訳（メタデータ） (2023-04-07T13:44:59Z)
• Faster Algorithm and Sharper Analysis for Constrained Markov Decision Process [56.55075925645864]
  制約付き意思決定プロセス (CMDP) の問題点について検討し, エージェントは, 複数の制約を条件として, 期待される累積割引報酬を最大化することを目的とする。 新しいユーティリティ・デュアル凸法は、正規化ポリシー、双対正則化、ネステロフの勾配降下双対という3つの要素の新たな統合によって提案される。 これは、凸制約を受ける全ての複雑性最適化に対して、非凸CMDP問題が$mathcal O (1/epsilon)$の低い境界に達する最初の実演である。
  論文  参考訳（メタデータ） (2021-10-20T02:57:21Z)
• Value-Function-based Sequential Minimization for Bi-level Optimization [52.39882976848064]
  勾配に基づくBi-Level Optimization (BLO)法は、現代の学習課題に広く応用されている。 機能的制約のあるBLOや悲観的なBLOなど、難解なシナリオでBLOを解くことができる勾配ベースの方法はほとんどない。 上記の問題に対処するために,BVFSM(Bi-level Value-Function-based Sequential Minimization)を提案する。
  論文  参考訳（メタデータ） (2021-10-11T03:13:39Z)
• Combining Deep Learning and Optimization for Security-Constrained Optimal Power Flow [94.24763814458686]
  セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。 SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。 本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T12:38:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。