論文の概要: Accelerating Black-Box Bilevel Optimization with Rank-Based Upper-Level Value Function Approximation
- arxiv url: http://arxiv.org/abs/2604.02888v1
- Date: Fri, 03 Apr 2026 08:55:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-06 17:20:24.417087
- Title: Accelerating Black-Box Bilevel Optimization with Rank-Based Upper-Level Value Function Approximation
- Title（参考訳）: ランクベース上層値関数近似によるブラックボックス二値最適化の高速化
- Authors: Marc Ong, Youhei Akimoto,
- Abstract要約: 階数に基づく進化的アルゴリズムを単調な反復に活用する効率的なフレームワークを提案する。
提案手法は,標準的な二段階最適化ベンチマーク上での競合性能を実証する。
- 参考スコア（独自算出の注目度）: 4.026354668375411
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bilevel optimization is a field of significant theoretical and practical interest, yet solving such optimization problems remains challenging. Evolutionary methods have been employed to address these problems in the black-box setting; however, they incur high computational cost due to the nested nature of bilevel optimization. Although previous methods have attempted to reduce this cost through various heuristic techniques, such approaches limit versatility on challenging optimization landscapes, such as those with multimodality and significant interaction between upper- and lower-level decision variables. In this study, we propose an efficient framework that exploits the invariance of rank-based evolutionary algorithms to monotonic transformations, thereby reducing the computational burden of the lower-level optimization loop. Specifically, our method directly approximates the rankings of the upper-level value function, bypassing the need to run the lower-level optimizer until convergence for each upper-level iteration. We apply this framework to the setting where both levels are continuous, adopting CMA-ES as the optimizer. We demonstrate that our method achieves competitive performance on standard bilevel optimization benchmarks and can solve problems that are intractable with previously proposed methods, particularly those with multimodality and strong inter-variable interactions.
- Abstract（参考訳）: 双レベル最適化は理論的および実践的な重要な分野であるが、そのような最適化問題の解決は依然として困難である。
進化的手法はブラックボックス設定でこれらの問題に対処するために用いられてきたが、双レベル最適化のネストの性質から計算コストが高い。
従来の手法は様々なヒューリスティック手法によってこのコスト削減を試みたが、このような手法は多モード性や上層と下層の決定変数間の重要な相互作用など、最適化の難易度を制限している。
本研究では、階数に基づく進化的アルゴリズムのモノトニック変換への不変性を利用して、低レベル最適化ループの計算負担を軽減する効率的なフレームワークを提案する。
具体的には,上位値関数のランク付けを直接近似し,各上位値反復の収束まで下位値オプティマイザを走らせる必要をなくす。
このフレームワークを、両方のレベルが連続的な設定に適用し、最適化としてCMA-ESを採用します。
提案手法は,従来提案されていた手法,特に多モード性や高強度な相互変数間相互作用において,難解な問題を解くことができることを示す。
関連論文リスト
- Scalable Min-Max Optimization via Primal-Dual Exact Pareto Optimization [66.51747366239299]
拡張ラグランジアンに基づくmin-max問題のスムーズな変種を提案する。
提案アルゴリズムは, 段階的戦略よりも目的数で拡張性が高い。
論文 参考訳（メタデータ） (2025-03-16T11:05:51Z) - Bayesian Optimization of Bilevel Problems [0.0]
本稿では,上層機能と下層機能の両方がブラックボックスであり,評価に費用がかかる二段階最適化に焦点を当てる。
本稿では,上層および下層関数をガウス過程として,上層および下層決定の組合せ空間上でモデル化するベイズ最適化フレームワークを提案する。
実験の結果,提案アルゴリズムはサンプリング効率が高く,高品質な解を求める既存手法よりも優れていることがわかった。
論文 参考訳（メタデータ） (2024-12-24T15:55:30Z) - Provably Faster Algorithms for Bilevel Optimization via Without-Replacement Sampling [96.47086913559289]
勾配に基づくアルゴリズムはバイレベル最適化に広く用いられている。
本研究では,より高速な収束率を実現する非置換サンプリングに基づくアルゴリズムを提案する。
合成および実世界の両方のアプリケーションに対してアルゴリズムを検証する。
論文 参考訳（メタデータ） (2024-11-07T17:05:31Z) - Towards Differentiable Multilevel Optimization: A Gradient-Based Approach [1.6114012813668932]
本稿では,多レベル最適化のための新しい勾配に基づくアプローチを提案する。
本手法は解の精度と収束速度を両立させながら計算複雑性を著しく低減する。
私たちの知る限りでは、これは暗黙の微分の一般的なバージョンを提供する最初のアルゴリズムの1つである。
論文 参考訳（メタデータ） (2024-10-15T06:17:59Z) - Pareto Set Prediction Assisted Bilevel Multi-objective Optimization [2.3293561091456283]
両レベルにおいて複数目的(BLMOP)の問題に対処する。
提案されたアプローチは、欺くことと非欺くことの両方を含む、さまざまな問題で競合する。
論文 参考訳（メタデータ） (2024-09-05T08:04:11Z) - Fast Two-Time-Scale Stochastic Gradient Method with Applications in Reinforcement Learning [5.325297567945828]
本稿では,従来の手法よりもはるかに高速な収束を実現する2段階最適化手法を提案する。
提案手法は,既存の最先端技術に匹敵する,あるいは適合する新しいオンラインサンプルベース手法に特化していることを示す。
論文 参考訳（メタデータ） (2024-05-15T19:03:08Z) - Contextual Stochastic Bilevel Optimization [50.36775806399861]
文脈情報と上層変数の期待を最小化する2レベル最適化フレームワークCSBOを導入する。
メタラーニング、パーソナライズドラーニング、エンド・ツー・エンドラーニング、Wassersteinはサイド情報(WDRO-SI)を分散的に最適化している。
論文 参考訳（メタデータ） (2023-10-27T23:24:37Z) - A Constrained Optimization Approach to Bilevel Optimization with
Multiple Inner Minima [49.320758794766185]
そこで本研究では,両レベル問題を等価な制約付き最適化に変換する手法を提案する。
このようなアプローチには、(a)多重内極小問題への対処、(b)ジャコビアン計算のない完全一階効率など、いくつかの利点がある。
論文 参考訳（メタデータ） (2022-03-01T18:20:01Z) - Enhanced Bilevel Optimization via Bregman Distance [104.96004056928474]
本稿では,Bregman Bregman関数に基づく二段階最適化手法を提案する。
また,分散還元法によるSBiO-BreD法(ASBiO-BreD)の高速化版も提案する。
論文 参考訳（メタデータ） (2021-07-26T16:18:43Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳（メタデータ） (2020-10-15T18:09:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。