論文の概要: The Impact of Hyper-Parameter Tuning for Landscape-Aware Performance Regression and Algorithm Selection

• arxiv url: http://arxiv.org/abs/2104.09272v1
• Date: Mon, 19 Apr 2021 13:16:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-03 04:50:47.223403
• Title: The Impact of Hyper-Parameter Tuning for Landscape-Aware Performance Regression and Algorithm Selection
• Title（参考訳）: ランドスケープアウェア性能回帰とアルゴリズム選択におけるハイパーパラメータチューニングの影響
• Authors: Anja Jankovic, Gorjan Popovski, Tome Eftimov, Carola Doerr
• Abstract要約: ELAに基づくアルゴリズム選択において、3つの古典回帰法が有意義な結果が得られることを示す。 それぞれに2つの相補的回帰戦略が組み合わされた合計30種類のモデルを比較することで、回帰モデルのチューニングに関するガイドラインを導出する。
• 参考スコア（独自算出の注目度）: 0.8258451067861933
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Automated algorithm selection and configuration methods that build on exploratory landscape analysis (ELA) are becoming very popular in Evolutionary Computation. However, despite a significantly growing number of applications, the underlying machine learning models are often chosen in an ad-hoc manner. We show in this work that three classical regression methods are able to achieve meaningful results for ELA-based algorithm selection. For those three models -- random forests, decision trees, and bagging decision trees -- the quality of the regression models is highly impacted by the chosen hyper-parameters. This has significant effects also on the quality of the algorithm selectors that are built on top of these regressions. By comparing a total number of 30 different models, each coupled with 2 complementary regression strategies, we derive guidelines for the tuning of the regression models and provide general recommendations for a more systematic use of classical machine learning models in landscape-aware algorithm selection. We point out that a choice of the machine learning model merits to be carefully undertaken and further investigated.
• Abstract（参考訳）: 探索ランドスケープ解析(ELA)に基づく自動アルゴリズム選択と構成手法は進化計算において非常に人気がある。 しかし、アプリケーションが大幅に増えているにもかかわらず、基盤となる機械学習モデルは、しばしばアドホックな方法で選択される。 本研究では,3つの古典回帰手法がelaに基づくアルゴリズム選択において有意義な結果が得られることを示す。 ランダムな森、決定木、バッグング決定木という3つのモデルでは、回帰モデルの品質が選択されたハイパーパラメータの影響を強く受けています。 これは、これらの回帰の上に構築されたアルゴリズムセレクタの品質にも大きな影響を与える。 30の異なるモデルの総数と2つの相補的な回帰戦略を比較することで、回帰モデルのチューニングのためのガイドラインを導出し、ランドスケープ・アウェアアルゴリズム選択における古典的機械学習モデルのより体系的な使用のための一般的な推奨を提供する。 機械学習モデルの選択は、慎重に取り組まなければならないことを指摘し、さらに調査する。

関連論文リスト

• An incremental preference elicitation-based approach to learning potentially non-monotonic preferences in multi-criteria sorting [53.36437745983783]
  まず最適化モデルを構築し,非単調な選好をモデル化する。 本稿では,情報量測定手法と質問選択戦略を考案し,各イテレーションにおいて最も情報に富む選択肢を特定する。 2つのインクリメンタルな選好に基づくアルゴリズムは、潜在的に単調な選好を学習するために開発された。
  論文  参考訳（メタデータ） (2024-09-04T14:36:20Z)
• A Comparative Study of Hyperparameter Tuning Methods [0.0]
  木構造型Parzen Estimator (TPE)、遺伝的検索、ランダム検索は回帰および分類タスク間で評価される。 ランダム検索は回帰タスクに優れ、TPEは分類タスクに効果的であった。
  論文  参考訳（メタデータ） (2024-08-29T10:35:07Z)
• A Two-Phase Recall-and-Select Framework for Fast Model Selection [13.385915962994806]
  本稿では,2相モデル選択フレームワークを提案する。 これは、ベンチマークデータセット上でモデルのトレーニングパフォーマンスを活用することにより、堅牢なモデルを選択する効率を高めることを目的としている。 提案手法は,従来のベースライン法に比べて約3倍の速度でハイパフォーマンスモデルの選択を容易にすることが実証された。
  論文  参考訳（メタデータ） (2024-03-28T14:44:44Z)
• Applications of Nature-Inspired Metaheuristic Algorithms for Tackling Optimization Problems Across Disciplines [12.664160352147293]
  本稿では,自然に着想を得たメタヒューリスティックアルゴリズムの有用性を示す。 本研究の主な目的は,CSO-MAのようなメタヒューリスティックなアルゴリズムが,統計学における様々な種類の最適化問題に取り組むのに効率的であることを示すことである。
  論文  参考訳（メタデータ） (2023-08-08T16:41:33Z)
• When to Update Your Model: Constrained Model-based Reinforcement Learning [50.74369835934703]
  モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。 続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。 さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
  論文  参考訳（メタデータ） (2022-10-15T17:57:43Z)
• Model-Based Deep Learning: On the Intersection of Deep Learning and Optimization [101.32332941117271]
  決定アルゴリズムは様々なアプリケーションで使われている。 数理モデルに頼らずにデータから調整された高度パラメトリックアーキテクチャを使用するディープラーニングアプローチが、ますます人気が高まっている。 モデルに基づく最適化とデータ中心のディープラーニングは、しばしば異なる規律とみなされる。
  論文  参考訳（メタデータ） (2022-05-05T13:40:08Z)
• Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
  カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。 本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
  論文  参考訳（メタデータ） (2022-03-23T12:52:49Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Personalizing Performance Regression Models to Black-Box Optimization Problems [0.755972004983746]
  本研究では,数値最適化問題に対するパーソナライズされた回帰手法を提案する。 また、問題毎に1つの回帰モデルを選択するのではなく、パーソナライズされたアンサンブルを選択することの影響についても検討する。 本稿では,BBOBベンチマークコレクション上での数値最適化性能の予測について検討する。
  論文  参考訳（メタデータ） (2021-04-22T11:47:47Z)
• Trajectory-wise Multiple Choice Learning for Dynamics Generalization in Reinforcement Learning [137.39196753245105]
  本稿では,動的一般化のためのマルチヘッドダイナミックスモデルを学習するモデルベース強化学習アルゴリズムを提案する。 文脈学習は,過去の経験から得られる動的情報からコンテキスト潜在ベクトルにエンコードする。 提案手法は,最先端のRL法と比較して,様々な制御タスクにおいて優れたゼロショット一般化性能を示す。
  論文  参考訳（メタデータ） (2020-10-26T03:20:42Z)
• Landscape-Aware Fixed-Budget Performance Regression and Algorithm Selection for Modular CMA-ES Variants [1.0965065178451106]
  市販の教師あり学習手法を用いて,高品質な性能予測が可能であることを示す。 このアプローチを,モジュール型CMA-ESアルゴリズム群から選択した,非常に類似したアルゴリズムのポートフォリオ上でテストする。
  論文  参考訳（メタデータ） (2020-06-17T13:34:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。