Fugu-MT 論文翻訳(概要): A Balanced Approach of Rapid Genetic Exploration and Surrogate Exploitation for Hyperparameter Optimization

論文の概要: A Balanced Approach of Rapid Genetic Exploration and Surrogate Exploitation for Hyperparameter Optimization

arxiv url: http://arxiv.org/abs/2504.07359v1
Date: Thu, 10 Apr 2025 00:59:54 GMT
ステータス: 翻訳完了
システム内更新日: 2025-04-11 12:23:38.702759
Title: A Balanced Approach of Rapid Genetic Exploration and Surrogate Exploitation for Hyperparameter Optimization
Title（参考訳）: ハイパーパラメータ最適化のための高速な遺伝的探索とサロゲート爆発のバランスの取れたアプローチ
Authors: Chul Kim, Inwhee Joe,
Abstract要約: 本稿では,探索と利用のバランスをとるために,HPO(ハイパーパラメータ最適化)の新たな手法を提案する。線形サロゲートモデルを遺伝的アルゴリズム(GA)に統合し、複数の戦略をスムーズに統合する。
参考スコア（独自算出の注目度）: 0.0
License:
Abstract: This paper proposes a new method for hyperparameter optimization (HPO) that balances exploration and exploitation. While evolutionary algorithms (EAs) show promise in HPO, they often struggle with effective exploitation. To address this, we integrate a linear surrogate model into a genetic algorithm (GA), allowing for smooth integration of multiple strategies. This combination improves exploitation performance, achieving an average improvement of 1.89 percent (max 6.55 percent, min -3.45 percent) over existing HPO methods.
Abstract（参考訳）: 本稿では,探索と利用を両立させるハイパーパラメータ最適化(HPO)の新たな手法を提案する。進化的アルゴリズム(EA)はHPOにおいて有望であるが、しばしば効果的な搾取に苦しむ。これを解決するために、線形代理モデルを遺伝的アルゴリズム(GA)に統合し、複数の戦略の円滑な統合を可能にする。この組み合わせにより、既存のHPO法よりも平均1.89パーセント(最大6.55パーセント、分-3.45パーセント)の改善が達成される。

関連論文リスト

Testing the Efficacy of Hyperparameter Optimization Algorithms in Short-Term Load Forecasting [0.0]
我々は、Panaama Electricityデータセットを用いて、サロゲート予測アルゴリズムであるXGBoostのHPOアルゴリズムの性能を、精度(MAPE、$R2$)とランタイムで評価する。その結果,Random SearchよりもHPOアルゴリズムが優れていることがわかった。
論文参考訳（メタデータ） (2024-10-19T09:08:52Z)
Deep Ranking Ensembles for Hyperparameter Optimization [9.453554184019108]
本稿では,メタ学習型ニューラルネットワークが構成性能のランク付けに最適化され,アンサンブルによる不確実性をモデル化する手法を提案する。 12のベースライン、16のHPO検索スペース、86のデータセット/タスクからなる大規模実験プロトコルにおいて、本手法がHPOの新たな最先端結果を実現することを示す。
論文参考訳（メタデータ） (2023-03-27T13:52:40Z)
Massively Parallel Genetic Optimization through Asynchronous Propagation of Populations [50.591267188664666]
Propulateは、グローバル最適化のための進化的最適化アルゴリズムとソフトウェアパッケージである。提案アルゴリズムは, 選択, 突然変異, 交叉, 移動の変種を特徴とする。 Propulateは解の精度を犠牲にすることなく、最大で3桁高速であることがわかった。
論文参考訳（メタデータ） (2023-01-20T18:17:34Z)
Accelerating the Evolutionary Algorithms by Gaussian Process Regression with $\epsilon$-greedy acquisition function [2.7716102039510564]
本稿では,最適化の収束を早めるために,エリート個人を推定する新しい手法を提案する。我々の提案には、エリート個人を推定し、最適化の収束を加速する幅広い見通しがある。
論文参考訳（メタデータ） (2022-10-13T07:56:47Z)
Multi-step Planning for Automated Hyperparameter Optimization with OptFormer [29.358188163138173]
私たちは最近提案されたOpsFormerモデルに基づいて、ロールアウトによるプランニングをシンプルかつ効率的にします。我々は、OptFormerモデル上で多段階計画を行うための様々な戦略を広範囲に探索し、非筋電図HPO戦略の構築におけるその可能性を強調する。
論文参考訳（メタデータ） (2022-10-10T19:07:59Z)
Multi-objective hyperparameter optimization with performance uncertainty [62.997667081978825]
本稿では,機械学習アルゴリズムの評価における不確実性を考慮した多目的ハイパーパラメータ最適化の結果について述べる。木構造型Parzen Estimator(TPE)のサンプリング戦略と、ガウス過程回帰(GPR)と異種雑音の訓練後に得られたメタモデルを組み合わせる。 3つの解析的テスト関数と3つのML問題の実験結果は、多目的TPEとGPRよりも改善したことを示している。
論文参考訳（メタデータ） (2022-09-09T14:58:43Z)
Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文参考訳（メタデータ） (2022-05-26T12:51:32Z)
A survey on multi-objective hyperparameter optimization algorithms for Machine Learning [62.997667081978825]
本稿では,多目的HPOアルゴリズムに関する2014年から2020年にかけての文献を体系的に調査する。メタヒューリスティック・ベース・アルゴリズムとメタモデル・ベース・アルゴリズム,および両者を混合したアプローチを区別する。また,多目的HPO法と今後の研究方向性を比較するための品質指標についても論じる。
論文参考訳（メタデータ） (2021-11-23T10:22:30Z)
Optimizing Large-Scale Hyperparameters via Automated Learning Algorithm [97.66038345864095]
ゼロ階超勾配(HOZOG)を用いた新しいハイパーパラメータ最適化法を提案する。具体的には、A型制約最適化問題として、まずハイパーパラメータ最適化を定式化する。次に、平均ゼロ階超勾配を用いてハイパーパラメータを更新する。
論文参考訳（メタデータ） (2021-02-17T21:03:05Z)
A Population-based Hybrid Approach to Hyperparameter Optimization for Neural Networks [0.0]
HBRKGAは、Biased Random Key Genetic AlgorithmとRandom Walk技術を組み合わせて、ハイパーパラメータ空間を効率的に探索するハイブリッドアプローチである。その結果、HBRKGAは8つのデータセットのうち6つにおいて、ベースライン法よりも優れたハイパーパラメータ構成を見つけることができた。
論文参考訳（メタデータ） (2020-11-22T17:12:31Z)
Adaptivity of Stochastic Gradient Methods for Nonconvex Optimization [71.03797261151605]
適応性は現代最適化理論において重要であるが、研究されていない性質である。提案アルゴリズムは,PL目標に対して既存のアルゴリズムよりも優れた性能を保ちながら,PL目標に対して最適な収束性を実現することを実証した。
論文参考訳（メタデータ） (2020-02-13T05:42:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。