論文の概要: The Impact of Hyper-Parameter Tuning for Landscape-Aware Performance
Regression and Algorithm Selection
- arxiv url: http://arxiv.org/abs/2104.09272v1
- Date: Mon, 19 Apr 2021 13:16:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-03 04:50:47.223403
- Title: The Impact of Hyper-Parameter Tuning for Landscape-Aware Performance
Regression and Algorithm Selection
- Title(参考訳): ランドスケープアウェア性能回帰とアルゴリズム選択におけるハイパーパラメータチューニングの影響
- Authors: Anja Jankovic, Gorjan Popovski, Tome Eftimov, Carola Doerr
- Abstract要約: ELAに基づくアルゴリズム選択において、3つの古典回帰法が有意義な結果が得られることを示す。
それぞれに2つの相補的回帰戦略が組み合わされた合計30種類のモデルを比較することで、回帰モデルのチューニングに関するガイドラインを導出する。
- 参考スコア(独自算出の注目度): 0.8258451067861933
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Automated algorithm selection and configuration methods that build on
exploratory landscape analysis (ELA) are becoming very popular in Evolutionary
Computation. However, despite a significantly growing number of applications,
the underlying machine learning models are often chosen in an ad-hoc manner.
We show in this work that three classical regression methods are able to
achieve meaningful results for ELA-based algorithm selection. For those three
models -- random forests, decision trees, and bagging decision trees -- the
quality of the regression models is highly impacted by the chosen
hyper-parameters. This has significant effects also on the quality of the
algorithm selectors that are built on top of these regressions.
By comparing a total number of 30 different models, each coupled with 2
complementary regression strategies, we derive guidelines for the tuning of the
regression models and provide general recommendations for a more systematic use
of classical machine learning models in landscape-aware algorithm selection. We
point out that a choice of the machine learning model merits to be carefully
undertaken and further investigated.
- Abstract(参考訳): 探索ランドスケープ解析(ELA)に基づく自動アルゴリズム選択と構成手法は進化計算において非常に人気がある。
しかし、アプリケーションが大幅に増えているにもかかわらず、基盤となる機械学習モデルは、しばしばアドホックな方法で選択される。
本研究では,3つの古典回帰手法がelaに基づくアルゴリズム選択において有意義な結果が得られることを示す。
ランダムな森、決定木、バッグング決定木という3つのモデルでは、回帰モデルの品質が選択されたハイパーパラメータの影響を強く受けています。
これは、これらの回帰の上に構築されたアルゴリズムセレクタの品質にも大きな影響を与える。
30の異なるモデルの総数と2つの相補的な回帰戦略を比較することで、回帰モデルのチューニングのためのガイドラインを導出し、ランドスケープ・アウェアアルゴリズム選択における古典的機械学習モデルのより体系的な使用のための一般的な推奨を提供する。
機械学習モデルの選択は、慎重に取り組まなければならないことを指摘し、さらに調査する。
関連論文リスト
- Learning Residual Model of Model Predictive Control via Random Forests
for Autonomous Driving [13.865293598486492]
自律運転における予測制御(MPC)の大きな問題は、システムモデルの予測と計算の矛盾である。
本稿では、MPC追跡精度をプログラム(QP)問題最適化として再構成し、プログラム(QP)が効果的に解けるようにする。
論文 参考訳(メタデータ) (2023-04-10T03:32:09Z) - When to Update Your Model: Constrained Model-based Reinforcement
Learning [50.74369835934703]
モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。
続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。
さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
論文 参考訳(メタデータ) (2022-10-15T17:57:43Z) - Model-Based Deep Learning: On the Intersection of Deep Learning and
Optimization [101.32332941117271]
決定アルゴリズムは様々なアプリケーションで使われている。
数理モデルに頼らずにデータから調整された高度パラメトリックアーキテクチャを使用するディープラーニングアプローチが、ますます人気が高まっている。
モデルに基づく最適化とデータ中心のディープラーニングは、しばしば異なる規律とみなされる。
論文 参考訳(メタデータ) (2022-05-05T13:40:08Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T12:52:49Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Personalizing Performance Regression Models to Black-Box Optimization
Problems [0.755972004983746]
本研究では,数値最適化問題に対するパーソナライズされた回帰手法を提案する。
また、問題毎に1つの回帰モデルを選択するのではなく、パーソナライズされたアンサンブルを選択することの影響についても検討する。
本稿では,BBOBベンチマークコレクション上での数値最適化性能の予測について検討する。
論文 参考訳(メタデータ) (2021-04-22T11:47:47Z) - Trajectory-wise Multiple Choice Learning for Dynamics Generalization in
Reinforcement Learning [137.39196753245105]
本稿では,動的一般化のためのマルチヘッドダイナミックスモデルを学習するモデルベース強化学習アルゴリズムを提案する。
文脈学習は,過去の経験から得られる動的情報からコンテキスト潜在ベクトルにエンコードする。
提案手法は,最先端のRL法と比較して,様々な制御タスクにおいて優れたゼロショット一般化性能を示す。
論文 参考訳(メタデータ) (2020-10-26T03:20:42Z) - Model-specific Data Subsampling with Influence Functions [37.64859614131316]
トレーニングポイントが様々な影響を持つ場合、ランダムサンプリングよりも優れたモデル固有データサブサンプリング戦略を開発する。
具体的には、影響関数を活用して、選択戦略をガイドし、理論的に証明し、我々のアプローチが素早く高品質なモデルを選択することを実証する。
論文 参考訳(メタデータ) (2020-10-20T12:10:28Z) - Landscape-Aware Fixed-Budget Performance Regression and Algorithm
Selection for Modular CMA-ES Variants [1.0965065178451106]
市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。
このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
論文 参考訳(メタデータ) (2020-06-17T13:34:57Z) - Model-Augmented Actor-Critic: Backpropagating through Paths [81.86992776864729]
現在のモデルに基づく強化学習アプローチでは、単に学習されたブラックボックスシミュレータとしてモデルを使用する。
その微分可能性を利用してモデルをより効果的に活用する方法を示す。
論文 参考訳(メタデータ) (2020-05-16T19:18:10Z) - A Comparison of Methods for Treatment Assignment with an Application to
Playlist Generation [13.804332504576301]
文献で提案される様々な手法をアルゴリズムの3つの一般的なクラス(またはメタナー)に分類する。
結果や因果効果の予測を最適化することは、治療課題の最適化と同じではないことを分析的および実証的に示す。
これは、大規模な実世界のアプリケーションにおける3つの異なるメタラーナーの最初の比較である。
論文 参考訳(メタデータ) (2020-04-24T04:56:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。