論文の概要: Analysis of the Performance of Algorithm Configurators for Search
Heuristics with Global Mutation Operators
- arxiv url: http://arxiv.org/abs/2004.04519v1
- Date: Thu, 9 Apr 2020 12:42:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-15 02:18:36.863626
- Title: Analysis of the Performance of Algorithm Configurators for Search
Heuristics with Global Mutation Operators
- Title(参考訳): グローバル変異演算子を用いた探索ヒューリスティックのためのアルゴリズム構成器の性能解析
- Authors: George T. Hall, Pietro Simone Oliveto, Dirk Sudholt
- Abstract要約: ParamRLSは、局所探索で使用する最適な近傍サイズを効率的に特定できる。
そこで,ParamRLS-Fは,両問題クラスにおける最適パラメータ値の最適化時間よりもかなり小さいカットオフ時間を用いても,最適な突然変異率を識別できることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently it has been proved that a simple algorithm configurator called
ParamRLS can efficiently identify the optimal neighbourhood size to be used by
stochastic local search to optimise two standard benchmark problem classes. In
this paper we analyse the performance of algorithm configurators for tuning the
more sophisticated global mutation operator used in standard evolutionary
algorithms, which flips each of the $n$ bits independently with probability
$\chi/n$ and the best value for $\chi$ has to be identified. We compare the
performance of configurators when the best-found fitness values within the
cutoff time $\kappa$ are used to compare configurations against the actual
optimisation time for two standard benchmark problem classes, Ridge and
LeadingOnes. We rigorously prove that all algorithm configurators that use
optimisation time as performance metric require cutoff times that are at least
as large as the expected optimisation time to identify the optimal
configuration. Matters are considerably different if the fitness metric is
used. To show this we prove that the simple ParamRLS-F configurator can
identify the optimal mutation rates even when using cutoff times that are
considerably smaller than the expected optimisation time of the best parameter
value for both problem classes.
- Abstract(参考訳): 近年,paramrlsと呼ばれる単純なアルゴリズム構成器が,確率的局所探索で使用する最適近傍サイズを効率的に同定し,2つの標準ベンチマーク問題クラスを最適化できることが実証されている。
本稿では、標準進化アルゴリズムで使用されるより洗練されたグローバル変異演算子をチューニングするためのアルゴリズム構成器の性能を解析し、n$のビットを確率$\chi/n$で独立に反転させ、$\chi$の最適値を特定する。
遮断時間$\kappa$の最適適合値を用いて、2つの標準ベンチマーク問題クラスである Ridge と LeadingOnes の実際の最適化時間と比較した場合のコンフィグレータの性能を比較した。
性能指標として最適化時間を利用するアルゴリズム構成者は、最適化時間を最適化時間と同等以上のカットオフ時間を必要とすることを厳格に証明する。
適合度指標を使用する場合、問題はかなり異なる。
これを示すために、ParamRLS-F設定器は、両方の問題クラスに対して最適なパラメータ値の期待値よりもかなり小さいカットオフ時間を用いても、最適な突然変異率を識別できることを示した。
関連論文リスト
- Optimal Hyperparameter $\epsilon$ for Adaptive Stochastic Optimizers
through Gradient Histograms [0.8702432681310399]
属性適応を解析・正当化するための勾配ヒストグラムに基づく新しいフレームワークを提案する。
そこで本稿では,セーフガード係数$epsilon$に対する縮小された正確な探索空間を自動的に推定する,勾配ヒストグラムに基づく新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-11-20T04:34:19Z) - Efficient Convex Algorithms for Universal Kernel Learning [50.877957471649395]
カーネルの理想的な集合: 線形パラメータ化(トラクタビリティ)を認める; すべてのカーネルの集合に密着する(正確性)。
従来のカーネル最適化アルゴリズムは分類に限られており、計算に複雑なセミデフィニティプログラミング(SDP)アルゴリズムに依存していた。
本稿では,従来のSDP手法と比較して計算量を大幅に削減するSVD-QCQPQPアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-04-15T04:57:37Z) - Benchmarking optimality of time series classification methods in
distinguishing diffusions [1.0775419935941009]
本研究は, 確率比試験(LRT)による拡散過程の識別におけるTSCアルゴリズムの最適性を評価することを提案する。
LRTベンチマークは、LRTがトレーニングを必要とせず、拡散過程を効率的にシミュレートでき、現実世界のアプリケーションの特徴を反映する柔軟性があるため、計算的に効率的である。
論文 参考訳(メタデータ) (2023-01-30T17:49:12Z) - Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。
基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。
我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
論文 参考訳(メタデータ) (2022-09-27T17:51:31Z) - Evolving Pareto-Optimal Actor-Critic Algorithms for Generalizability and
Stability [67.8426046908398]
汎用性と安定性は,実世界における強化学習(RL)エージェントの運用において重要な2つの目的である。
本稿では,アクター・クリティック・ロス関数の自動設計法であるMetaPGを提案する。
論文 参考訳(メタデータ) (2022-04-08T20:46:16Z) - Automated Configuration of Genetic Algorithms by Tuning for Anytime
Performance [4.33419118449588]
コンフィグレーションタスクに対して、いつでもパフォーマンス対策を使うことが望ましいことを示します。
予測実行時間のチューニングは、ターゲットアルゴリズムに割り当てられる予算に対してはるかに敏感である。
論文 参考訳(メタデータ) (2021-06-11T10:44:51Z) - Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。
両レベル最適化のための2つの新しいアルゴリズムを提案する。
両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
論文 参考訳(メタデータ) (2021-06-08T21:05:30Z) - Optimizing Optimizers: Regret-optimal gradient descent algorithms [9.89901717499058]
我々は,後悔最適アルゴリズムの存在,一意性,一貫性について検討する。
制御問題に対する一階最適条件を提供することにより、後悔最適アルゴリズムはそれらの力学において特定の構造を満たす必要があることを示す。
それらを近似する高速な数値法を提案し,長期的後悔を直接最適化する最適化アルゴリズムを生成する。
論文 参考訳(メタデータ) (2020-12-31T19:13:53Z) - Fast Perturbative Algorithm Configurators [0.0]
ParamRLS と ParamILS のパラメータ問題を最適化するために,期待時間に線形な下界を証明した。
本研究では, 摂動アルゴリズムのための高調波突然変異演算子を, 対数時間, 対数時間, ほぼ対数時間で提案する。
実験的な分析により、いくつかの構成シナリオにおいて、実際にアプローチの優位性を確認することができる。
論文 参考訳(メタデータ) (2020-07-07T10:48:32Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳(メタデータ) (2020-06-11T17:43:19Z) - Stochastic batch size for adaptive regularization in deep network
optimization [63.68104397173262]
ディープラーニングフレームワークにおける機械学習問題に適用可能な適応正規化を取り入れた一階最適化アルゴリズムを提案する。
一般的なベンチマークデータセットに適用した従来のネットワークモデルに基づく画像分類タスクを用いて,提案アルゴリズムの有効性を実証的に実証した。
論文 参考訳(メタデータ) (2020-04-14T07:54:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。