論文の概要: Fast Perturbative Algorithm Configurators

• arxiv url: http://arxiv.org/abs/2007.03336v1
• Date: Tue, 7 Jul 2020 10:48:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-12 19:05:54.138749
• Title: Fast Perturbative Algorithm Configurators
• Title（参考訳）: 高速摂動アルゴリズム構成器
• Authors: George T. Hall, Pietro Simone Oliveto, Dirk Sudholt
• Abstract要約: ParamRLS と ParamILS のパラメータ問題を最適化するために,期待時間に線形な下界を証明した。 本研究では, 摂動アルゴリズムのための高調波突然変異演算子を, 対数時間, 対数時間, ほぼ対数時間で提案する。 実験的な分析により、いくつかの構成シナリオにおいて、実際にアプローチの優位性を確認することができる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent work has shown that the ParamRLS and ParamILS algorithm configurators can tune some simple randomised search heuristics for standard benchmark functions in linear expected time in the size of the parameter space. In this paper we prove a linear lower bound on the expected time to optimise any parameter tuning problem for ParamRLS, ParamILS as well as for larger classes of algorithm configurators. We propose a harmonic mutation operator for perturbative algorithm configurators that provably tunes single-parameter algorithms in polylogarithmic time for unimodal and approximately unimodal (i.e., non-smooth, rugged with an underlying gradient towards the optimum) parameter spaces. It is suitable as a general-purpose operator since even on worst-case (e.g., deceptive) landscapes it is only by at most a logarithmic factor slower than the default ones used by ParamRLS and ParamILS. An experimental analysis confirms the superiority of the approach in practice for a number of configuration scenarios, including ones involving more than one parameter.
• Abstract（参考訳）: 最近の研究で、ParamRLSとParamILSアルゴリズムは、標準ベンチマーク関数の単純なランダム化された探索ヒューリスティックをパラメータ空間のサイズで線形期待時間で調整できることが示されている。 本稿では,ParamRLS,ParamILS,およびより大規模なアルゴリズム構成系に対して,パラメータチューニング問題を最適化するための期待時間に基づく線形下界を証明した。 そこで本研究では,単調およびほぼ一様(非スムース)なパラメータ空間に対して,単一パラメータアルゴリズムを多対数時間で確実にチューニングする摂動アルゴリズム構成器のための調和的突然変異演算子を提案する。 最悪の場合(例えば偽り)のランドスケープにおいても、paramrlsやparamilsで使われるデフォルトのものよりも少なくとも対数係数の方が遅いため、汎用演算子として適している。 実験的な分析により、複数のパラメータを含む多くの設定シナリオにおいて、実際にアプローチの優位性を確認する。

関連論文リスト

• Utilitarian Algorithm Configuration for Infinite Parameter Spaces [9.056433954813969]
  有効性アルゴリズム構成は、与えられたアルゴリズムのパラメータ空間を自動的に検索し、その性能を最適化する手法である。 無限パラメータ空間を効率的に探索するためのCOUP(Continuous, Optimistic Utilitarian Procrastination)を導入する。
  論文  参考訳（メタデータ） (2024-05-28T14:58:07Z)
• A Multi-objective Newton Optimization Algorithm for Hyper-Parameter Search [0.0]
  このアルゴリズムを用いて畳み込みニューラルネットワークの多クラス物体検出問題に対する最適確率しきい値(8パラメータのベクトル)を探索する。 このアルゴリズムは、デフォルト値0.5に比べて総合的に高い真正(TP)と低い偽正(FP)率を生成する。
  論文  参考訳（メタデータ） (2024-01-07T21:12:34Z)
• Theory-inspired Parameter Control Benchmarks for Dynamic Algorithm Configuration [32.055812915031666]
  与えられたサイズの最適パラメータポートフォリオの計算方法を示す。 可能な値のポートフォリオのみからパラメータを選択できる最適制御ポリシーを解析することにより、このベンチマークを拡張します。 動的アルゴリズム構成のためのDDQN強化学習手法の挙動を解析することにより,ベンチマークの有用性を実証する。
  論文  参考訳（メタデータ） (2022-02-07T15:00:30Z)
• Continuation Path with Linear Convergence Rate [18.405645120971496]
  経路追従アルゴリズムは、一連のサブプロブレムを順次解決する合成最適化問題によく用いられる。 本稿では,経路追従アルゴリズムの一次双対解析と,対象問題に対する線形収束率を保証するために,各サブプロブレムがどの程度正確に解けるかを決定する。 スパーシリティ誘導ペナルティによる最適化を考慮し、正規化パラメータに対するアクティブセットの変化を分析する。
  論文  参考訳（メタデータ） (2021-12-09T18:42:13Z)
• Reducing the Variance of Gaussian Process Hyperparameter Optimization with Preconditioning [54.01682318834995]
  プレコンディショニングは、行列ベクトル乗算を含む反復的な方法にとって非常に効果的なステップである。 プレコンディショニングには、これまで検討されていなかった付加的なメリットがあることを実証する。 基本的に無視可能なコストで、同時に分散を低減することができる。
  論文  参考訳（メタデータ） (2021-07-01T06:43:11Z)
• Adaptive pruning-based optimization of parameterized quantum circuits [62.997667081978825]
  Variisyハイブリッド量子古典アルゴリズムは、ノイズ中間量子デバイスの使用を最大化する強力なツールである。 我々は、変分量子アルゴリズムで使用されるそのようなアンサーゼを「効率的な回路訓練」(PECT)と呼ぶ戦略を提案する。 すべてのアンサッツパラメータを一度に最適化する代わりに、PECTは一連の変分アルゴリズムを起動する。
  論文  参考訳（メタデータ） (2020-10-01T18:14:11Z)
• Refined bounds for algorithm configuration: The knife-edge of dual class approximability [94.83809668933021]
  トレーニングセットが、トレーニングセット上でのパラメータの平均メトリックのパフォーマンスが、予想される将来的なパフォーマンスに最も近いことを保証するために、どの程度の規模が必要かを調査する。 この近似が L-無限ノルムの下で成り立つなら、強いサンプル複雑性境界を与えることができる。 我々は、コンピュータ科学において最も強力なツールの一つである整数プログラミングの文脈において、我々の限界を実証的に評価する。
  論文  参考訳（メタデータ） (2020-06-21T15:32:21Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Analysis of the Performance of Algorithm Configurators for Search Heuristics with Global Mutation Operators [0.0]
  ParamRLSは、局所探索で使用する最適な近傍サイズを効率的に特定できる。 そこで,ParamRLS-Fは,両問題クラスにおける最適パラメータ値の最適化時間よりもかなり小さいカットオフ時間を用いても,最適な突然変異率を識別できることを示す。
  論文  参考訳（メタデータ） (2020-04-09T12:42:30Z)
• Proximal Gradient Algorithm with Momentum and Flexible Parameter Restart for Nonconvex Optimization [73.38702974136102]
  アルゴリズムの高速化のために,パラメータ再起動方式が提案されている。 本論文では,非滑らかな問題を解くアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-26T16:06:27Z)
• Support recovery and sup-norm convergence rates for sparse pivotal estimation [79.13844065776928]
  高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。 非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
  論文  参考訳（メタデータ） (2020-01-15T16:11:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。