論文の概要: The Importance of Landscape Features for Performance Prediction of
Modular CMA-ES Variants
- arxiv url: http://arxiv.org/abs/2204.07431v1
- Date: Fri, 15 Apr 2022 11:55:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-18 12:53:40.603528
- Title: The Importance of Landscape Features for Performance Prediction of
Modular CMA-ES Variants
- Title(参考訳): モジュール型CMA-ES変数の性能予測における景観特徴の重要性
- Authors: Ana Kostovska and Diederick Vermetten and Sa\v{s}o D\v{z}eroski and
Carola Doerr and Peter Koro\v{s}ec and Tome Eftimov
- Abstract要約: 近年の研究では、教師あり機械学習手法が問題事例から抽出したランドスケープ特徴を用いてアルゴリズムの性能を予測できることが示されている。
モジュール型CMA-ESフレームワークを考察し、各ランドスケープ機能が最適なアルゴリズム性能回帰モデルにどの程度貢献するかを推定する。
- 参考スコア(独自算出の注目度): 2.3823600586675724
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Selecting the most suitable algorithm and determining its hyperparameters for
a given optimization problem is a challenging task. Accurately predicting how
well a certain algorithm could solve the problem is hence desirable. Recent
studies in single-objective numerical optimization show that supervised machine
learning methods can predict algorithm performance using landscape features
extracted from the problem instances.
Existing approaches typically treat the algorithms as black-boxes, without
consideration of their characteristics. To investigate in this work if a
selection of landscape features that depends on algorithms properties could
further improve regression accuracy, we regard the modular CMA-ES framework and
estimate how much each landscape feature contributes to the best algorithm
performance regression models. Exploratory data analysis performed on this data
indicate that the set of most relevant features does not depend on the
configuration of individual modules, but the influence that these features have
on regression accuracy does. In addition, we have shown that by using
classifiers that take the features relevance on the model accuracy, we are able
to predict the status of individual modules in the CMA-ES configurations.
- Abstract(参考訳): 与えられた最適化問題に対して最適なアルゴリズムを選択し、そのハイパーパラメータを決定することは難しい課題である。
したがって、あるアルゴリズムがどれだけうまく解決できるかを正確に予測することが望ましい。
単目的数値最適化における最近の研究は、教師付き機械学習手法が問題事例から抽出したランドスケープ特徴を用いてアルゴリズム性能を予測することができることを示した。
既存のアプローチでは、アルゴリズムをブラックボックスとして扱うのが一般的である。
本研究において,アルゴリズム特性に依存する景観特徴の選択が回帰精度をさらに向上させることができるかを検討するため,モジュラーCMA-ESフレームワークを考慮し,各景観特徴がアルゴリズム性能回帰モデルにどの程度寄与するかを推定する。
このデータに基づく探索的データ分析は、最も関連性の高い特徴の集合が個々のモジュールの設定に依存するのではなく、これらの特徴が回帰精度に与える影響を示している。
さらに,CMA-ES構成の個々のモジュールの状態を予測するために,モデル精度と特徴関連性を考慮した分類器を用いた。
関連論文リスト
- Landscape Features in Single-Objective Continuous Optimization: Have We Hit a Wall in Algorithm Selection Generalization? [4.510532471907222]
本研究では,異なる問題表現に基づくASモデルの一般化可能性を評価する。
また,最近提案されたトポロジカルランドスケープ解析機能と同様に,最も広く利用されているランドスケープ解析機能についても検討している。
論文 参考訳(メタデータ) (2025-01-29T14:03:27Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳(メタデータ) (2024-02-12T16:33:35Z) - Embedded feature selection in LSTM networks with multi-objective
evolutionary ensemble learning for time series forecasting [49.1574468325115]
本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。
本手法はLSTMの重みと偏りを分割的に最適化する。
イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
論文 参考訳(メタデータ) (2023-12-29T08:42:10Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - Adaptive LASSO estimation for functional hidden dynamic geostatistical
model [69.10717733870575]
関数型隠れ統計モデル(f-HD)のためのペナル化極大推定器(PMLE)に基づく新しいモデル選択アルゴリズムを提案する。
このアルゴリズムは反復最適化に基づいており、適応最小限の収縮・セレクタ演算子(GMSOLAS)ペナルティ関数を用いており、これは不給付のf-HD最大線量推定器によって得られる。
論文 参考訳(メタデータ) (2022-08-10T19:17:45Z) - Explainable Landscape Analysis in Automated Algorithm Performance
Prediction [0.0]
自動アルゴリズムの性能予測において,異なる教師付き機械学習モデルによって活用される問題景観の特徴の表現性について検討する。
教師付きML回帰モデルでは,問題ランドスケープの特徴が異なるため,教師付きML手法の選択が重要であることを実験的に指摘した。
論文 参考訳(メタデータ) (2022-03-22T15:54:17Z) - Explainable Landscape-Aware Optimization Performance Prediction [0.0]
ランドスケープを考慮した回帰モデルについて検討する。
各景観特徴の最適化アルゴリズム性能予測への寄与を,グローバルおよびローカルレベルで推定する。
その結果、異なる問題インスタンスに対して異なる機能セットが重要であるという概念の証明が得られた。
論文 参考訳(メタデータ) (2021-10-22T07:46:33Z) - Personalizing Performance Regression Models to Black-Box Optimization
Problems [0.755972004983746]
本研究では,数値最適化問題に対するパーソナライズされた回帰手法を提案する。
また、問題毎に1つの回帰モデルを選択するのではなく、パーソナライズされたアンサンブルを選択することの影響についても検討する。
本稿では,BBOBベンチマークコレクション上での数値最適化性能の予測について検討する。
論文 参考訳(メタデータ) (2021-04-22T11:47:47Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳(メタデータ) (2020-06-18T19:11:54Z) - Landscape-Aware Fixed-Budget Performance Regression and Algorithm
Selection for Modular CMA-ES Variants [1.0965065178451106]
市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。
このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
論文 参考訳(メタデータ) (2020-06-17T13:34:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。