論文の概要: Improving LSHADE by means of a pre-screening mechanism
- arxiv url: http://arxiv.org/abs/2204.04105v2
- Date: Mon, 11 Apr 2022 14:27:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-17 21:16:42.522571
- Title: Improving LSHADE by means of a pre-screening mechanism
- Title（参考訳）: プレスクリーニング機構によるLSHADEの改良
- Authors: Mateusz Zaborski and Jacek Ma\'ndziuk
- Abstract要約: 本稿では,LSHADEアルゴリズムを事前スクリーニング機構(psLSHADE)の形で拡張する。
提案した事前スクリーニングは, 特定の初期サンプリング手順, サンプルのアーカイブ, フィットネス機能の大域的線形メタモデルという3つのコンポーネントに依存している。
psLSHADEの性能は、CEC2021ベンチマークを用いて、1次元あたり102-104 FFEの最適化予算を持つ高価なシナリオで評価される。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Evolutionary algorithms have proven to be highly effective in continuous
optimization, especially when numerous fitness function evaluations (FFEs) are
possible. In certain cases, however, an expensive optimization approach (i.e.
with relatively low number of FFEs) must be taken, and such a setting is
considered in this work. The paper introduces an extension to the well-known
LSHADE algorithm in the form of a pre-screening mechanism (psLSHADE). The
proposed pre-screening relies on the three following components: a specific
initial sampling procedure, an archive of samples, and a global linear
meta-model of a fitness function that consists of 6 independent transformations
of variables. The pre-screening mechanism preliminary assesses the trial
vectors and designates the best one of them for further evaluation with the
fitness function. The performance of psLSHADE is evaluated using the CEC2021
benchmark in an expensive scenario with an optimization budget of 10^2-10^4
FFEs per dimension. We compare psLSHADE with the baseline LSHADE method and the
MadDE algorithm. The results indicate that with restricted optimization budgets
psLSHADE visibly outperforms both competitive algorithms. In addition, the use
of the pre-screening mechanism results in faster population convergence of
psLSHADE compared to LSHADE.
- Abstract（参考訳）: 進化的アルゴリズムは、特に多くの適合関数評価(FFE)が可能であれば、連続最適化において非常に効果的であることが証明されている。
しかし、一部のケースでは、高価な最適化手法(FFEが比較的少ない)を採り入れなければならず、この作業ではそのような設定が考慮される。
本稿では,LSHADEアルゴリズムを事前スクリーニング機構 (psLSHADE) の形で拡張する。
提案した事前スクリーニングは以下の3つのコンポーネントに依存している: 特定の初期サンプリング手順、サンプルのアーカイブ、変数の6つの独立変換からなる適合関数の大域的線形メタモデル。
事前スクリーニング機構は、試行ベクトルを予備的に評価し、それらの中の最良のものをフィットネス機能でさらに評価するために指定する。
psLSHADEの性能は、CEC2021ベンチマークを用いて、1次元あたり10^2-10^4 FFEの最適化予算を持つ高価なシナリオで評価する。
psLSHADEをベースラインLSHADE法とMadDEアルゴリズムと比較する。
その結果,最適化予算が制限された場合,PsLSHADEは両アルゴリズムの競争性能を著しく上回ることがわかった。
さらに, プレスクリーニング機構を用いることで, LSHADEに比べてpsLSHADEの個体群収束が早くなった。
関連論文リスト
- A Multi-operator Ensemble LSHADE with Restart and Local Search Mechanisms for Single-objective Optimization [0.0]
mLSHADE-RLは、シングルオブジェクト最適化におけるCEC 2017コンペティションの勝者の1つであるLSHADE-cnEpSinの拡張版である。
DE/current-to-pbest-weight/1はアーカイブなし、DE/current-to-pbest/1はアーカイブなし、DE/current-to-ordpbest-weight/1は元のLSHADE-cnEpSinに統合される。
LSHADE-cnEpSinは、CEC 2024コンペティションにおいて、単一目的制約付き最適化で30次元でテストされる。
論文 参考訳（メタデータ） (2024-09-24T11:49:08Z) - e-COP : Episodic Constrained Optimization of Policies [12.854752753529151]
本稿では,制約付き強化学習(RL)のための第1ポリシー最適化アルゴリズムを提案する。
提案アルゴリズムは, エピソード設定に適応したSoTA (non-episodic) アルゴリズムと類似あるいは良好な性能を示す。
論文 参考訳（メタデータ） (2024-06-13T20:12:09Z) - Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。
過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。
報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
論文 参考訳（メタデータ） (2024-05-26T05:38:50Z) - Convergence Rate Analysis for Optimal Computing Budget Allocation
Algorithms [1.713291434132985]
オーディナル最適化(Ordinal Optimization, OO)は、離散イベント動的システムを最適化するための広く研究されている手法である。
OOのよく知られた方法は、最適計算予算配分(OCBA)である。
本稿では,2つのOCBAアルゴリズムについて検討する。
論文 参考訳（メタデータ） (2022-11-27T04:55:40Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳（メタデータ） (2022-10-04T04:43:58Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳（メタデータ） (2022-09-16T19:15:50Z) - Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。
実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文 参考訳（メタデータ） (2022-05-26T12:51:32Z) - Trusted-Maximizers Entropy Search for Efficient Bayesian Optimization [39.824086260578646]
本稿では,信頼度最大化エントロピー探索(TES)取得関数を提案する。
インプットがクエリの情報ゲインにどの程度貢献するかを、信頼された最大値の有限セット上で測定する。
論文 参考訳（メタデータ） (2021-07-30T07:25:07Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳（メタデータ） (2020-10-15T18:09:48Z) - A Dynamical Systems Approach for Convergence of the Bayesian EM
Algorithm [59.99439951055238]
我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。
本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。
高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-23T01:34:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。