論文の概要: Pareto Set Prediction Assisted Bilevel Multi-objective Optimization
- arxiv url: http://arxiv.org/abs/2409.03328v1
- Date: Thu, 5 Sep 2024 08:04:11 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-06 21:20:12.499992
- Title: Pareto Set Prediction Assisted Bilevel Multi-objective Optimization
- Title(参考訳): Pareto Set Prediction Assisted Bilevel Multi-Objective Optimization (特集:情報ネットワーク)
- Authors: Bing Wang, Hemant K. Singh, Tapabrata Ray,
- Abstract要約: 両レベルにおいて複数目的(BLMOP)の問題に対処する。
提案されたアプローチは、欺くことと非欺くことの両方を含む、さまざまな問題で競合する。
- 参考スコア(独自算出の注目度): 2.3293561091456283
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Bilevel optimization problems comprise an upper level optimization task that contains a lower level optimization task as a constraint. While there is a significant and growing literature devoted to solving bilevel problems with single objective at both levels using evolutionary computation, there is relatively scarce work done to address problems with multiple objectives (BLMOP) at both levels. For black-box BLMOPs, the existing evolutionary techniques typically utilize nested search, which in its native form consumes large number of function evaluations. In this work, we propose to reduce this expense by predicting the lower level Pareto set for a candidate upper level solution directly, instead of conducting an optimization from scratch. Such a prediction is significantly challenging for BLMOPs as it involves one-to-many mapping scenario. We resolve this bottleneck by supplementing the dataset using a helper variable and construct a neural network, which can then be trained to map the variables in a meaningful manner. Then, we embed this initialization within a bilevel optimization framework, termed Pareto set prediction assisted evolutionary bilevel multi-objective optimization (PSP-BLEMO). Systematic experiments with existing state-of-the-art methods are presented to demonstrate its benefit. The experiments show that the proposed approach is competitive across a range of problems, including both deceptive and non-deceptive problems
- Abstract(参考訳): 両レベル最適化問題は、制約として下位レベル最適化タスクを含む上位レベル最適化タスクを構成する。
進化的計算を用いて、両レベルでの単一目的による二段階問題の解法に特化して研究されているが、両レベルでの多目的問題(BLMOP)に対処する作業は比較的少ない。
ブラックボックスの BLMOP の場合、既存の進化的手法はネストされた探索を利用するのが一般的である。
そこで本研究では, 最適化をスクラッチから行うのではなく, 候補の上層解に対して設定した低レベルParetoを直接予測することで, コストを削減することを提案する。
このような予測は、一対多のマッピングシナリオを含むため、BLMOPにとって非常に難しい。
我々は、ヘルパー変数を使用してデータセットを補完し、ニューラルネットワークを構築することで、このボトルネックを解決する。
次に、この初期化を、Pareto集合予測支援進化的二段階多目的最適化(PSP-BLEMO)と呼ばれる二段階最適化フレームワークに組み込む。
既存の最先端手法によるシステム実験を行い、その利点を実証する。
実験により, 提案手法は, 知覚的問題と非知覚的問題の両方を含む, 様々な問題に対して競合することを示した。
関連論文リスト
- A Primal-Dual-Assisted Penalty Approach to Bilevel Optimization with Coupled Constraints [66.61399765513383]
We developed a BLOCC algorithm to tackle BiLevel Optimization problems with Coupled Constraints。
2つのよく知られた実世界のアプリケーションでその効果を実証する。
論文 参考訳(メタデータ) (2024-06-14T15:59:36Z) - Contextual Stochastic Bilevel Optimization [50.36775806399861]
文脈情報と上層変数の期待を最小化する2レベル最適化フレームワークCSBOを導入する。
メタラーニング、パーソナライズドラーニング、エンド・ツー・エンドラーニング、Wassersteinはサイド情報(WDRO-SI)を分散的に最適化している。
論文 参考訳(メタデータ) (2023-10-27T23:24:37Z) - Fast Adaptive Federated Bilevel Optimization [14.579475552088692]
本稿では,分散二レベル最適化問題の解法として,適応型二レベル最適化アルゴリズム(AdaFBiO)を提案する。
AdaFBiOは、統一適応行列を用いて、様々な適応学習率を柔軟に組み込んで、ULおよびLL問題の変数を更新する。
AdaFBiOアルゴリズムの収束解析フレームワークを提供し、$tildeO(epsilon-3)$の複雑さと$tildeO(epsilon-2)$のコミュニケーション複雑さのサンプルが必要であることを証明した。
論文 参考訳(メタデータ) (2022-11-02T13:55:47Z) - Gradient-based Bi-level Optimization for Deep Learning: A Survey [14.39891675968109]
双方向最適化、特に勾配に基づくカテゴリは、ディープラーニングコミュニティで広く使われている。
まず、勾配に基づく二段階最適化の形式的定義を与える。
次に、外部変数を更新するための2段階最適化問題を4つ議論する。
論文 参考訳(メタデータ) (2022-07-24T11:23:31Z) - Local Stochastic Bilevel Optimization with Momentum-Based Variance
Reduction [104.41634756395545]
具体的には、まず、決定論的勾配に基づくアルゴリズムであるFedBiOを提案する。
FedBiOの複雑性は$O(epsilon-1.5)$である。
本アルゴリズムは数値実験において,他のベースラインと比較して優れた性能を示す。
論文 参考訳(メタデータ) (2022-05-03T16:40:22Z) - A Constrained Optimization Approach to Bilevel Optimization with
Multiple Inner Minima [49.320758794766185]
そこで本研究では,両レベル問題を等価な制約付き最適化に変換する手法を提案する。
このようなアプローチには、(a)多重内極小問題への対処、(b)ジャコビアン計算のない完全一階効率など、いくつかの利点がある。
論文 参考訳(メタデータ) (2022-03-01T18:20:01Z) - Enhanced Bilevel Optimization via Bregman Distance [104.96004056928474]
本稿では,Bregman Bregman関数に基づく二段階最適化手法を提案する。
また,分散還元法によるSBiO-BreD法(ASBiO-BreD)の高速化版も提案する。
論文 参考訳(メタデータ) (2021-07-26T16:18:43Z) - A Value-Function-based Interior-point Method for Non-convex Bi-level
Optimization [38.75417864443519]
バイレベル最適化モデルは、実践的な関心を持って、幅広い複雑な学習タスクをキャプチャすることができる。
そこで我々は,下層問題における正規化値関数を上層目標にペナルティ化する,新しい内部Biレベル値に基づく内点法を提案する。
論文 参考訳(メタデータ) (2021-06-15T09:10:40Z) - A Generic First-Order Algorithmic Framework for Bi-Level Programming
Beyond Lower-Level Singleton [49.23948907229656]
Bi-level Descent Aggregationは、汎用的な双方向最適化のためのフレキシブルでモジュール化されたアルゴリズムフレームワークである。
LLS条件なしでBDAの収束を証明する新しい手法を導出する。
我々の研究は、BDAが特定の一階計算モジュールの検証と互換性があることも示している。
論文 参考訳(メタデータ) (2020-06-07T05:18:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。