論文の概要: Utilitarian Algorithm Configuration for Infinite Parameter Spaces

• arxiv url: http://arxiv.org/abs/2405.18246v2
• Date: Wed, 23 Oct 2024 17:33:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-24 13:53:01.029821
• Title: Utilitarian Algorithm Configuration for Infinite Parameter Spaces
• Title（参考訳）: 無限パラメータ空間に対する実用的アルゴリズム構成法
• Authors: Devon Graham, Kevin Leyton-Brown,
• Abstract要約: 有効性アルゴリズム構成は、与えられたアルゴリズムのパラメータ空間を自動的に検索し、その性能を最適化する手法である。 無限パラメータ空間を効率的に探索するためのCOUP(Continuous, Optimistic Utilitarian Procrastination)を導入する。
• 参考スコア（独自算出の注目度）: 9.056433954813969
• License:
• Abstract: Utilitarian algorithm configuration is a general-purpose technique for automatically searching the parameter space of a given algorithm to optimize its performance, as measured by a given utility function, on a given set of inputs. Recently introduced utilitarian configuration procedures offer optimality guarantees about the returned parameterization while provably adapting to the hardness of the underlying problem. However, the applicability of these approaches is severely limited by the fact that they only search a finite, relatively small set of parameters. They cannot effectively search the configuration space of algorithms with continuous or uncountable parameters. In this paper we introduce a new procedure, which we dub COUP (Continuous, Optimistic Utilitarian Procrastination). COUP is designed to search infinite parameter spaces efficiently to find good configurations quickly. Furthermore, COUP maintains the theoretical benefits of previous utilitarian configuration procedures when applied to finite parameter spaces but is significantly faster, both provably and experimentally.
• Abstract（参考訳）: ユーティリティアルゴリズムの構成は、与えられたアルゴリズムのパラメータ空間を自動的に検索して、与えられたユーティリティ関数によって測定されたその性能を、与えられた入力セットで最適化する汎用的手法である。 最近導入された実用的構成手順は、基本問題の硬さに順応しながら、返却されたパラメータ化に関する最適性を保証する。 しかし、これらの手法の適用性は、有限で比較的小さなパラメータのみを探索するという事実によって著しく制限されている。 アルゴリズムの構成空間を連続的あるいは非可算なパラメータで効率的に探索することはできない。 本稿では, COUP (Continuous, Optimistic Utilitarian Procrastination) という新たな手法を提案する。 COUPは、パラメータ空間を効率的に探索し、優れた構成を素早く見つけるように設計されている。 さらに、COUPは、有限パラメータ空間に適用した場合に、従来の実用的構成手順の理論的利点を維持するが、証明可能かつ実験的に、はるかに高速である。

関連論文リスト

• Review of Parameter Tuning Methods for Nature-Inspired Algorithms [1.4042211166197214]
  この章では、パラメータチューニングの主要な方法をいくつかレビューし、パラメータチューニングの最新開発に関する重要な問題を強調します。 いくつかのオープンな問題も今後の研究の推奨事項として議論されている。
  論文  参考訳（メタデータ） (2023-08-30T11:41:39Z)
• Efficient Non-Parametric Optimizer Search for Diverse Tasks [93.64739408827604]
  興味のあるタスクを直接検索できる,スケーラブルで汎用的なフレームワークを初めて提示する。 基礎となる数学表現の自然木構造に着想を得て、空間を超木に再配置する。 我々は,モンテカルロ法を木探索に適用し,レジェクションサンプリングと等価形状検出を備える。
  論文  参考訳（メタデータ） (2022-09-27T17:51:31Z)
• Non-Convex Optimization with Certificates and Fast Rates Through Kernel Sums of Squares [68.8204255655161]
  非最適化近似問題を考える。 本稿では,最優先計算を保証するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-04-11T09:37:04Z)
• Optimizing Large-Scale Hyperparameters via Automated Learning Algorithm [97.66038345864095]
  ゼロ階超勾配(HOZOG)を用いた新しいハイパーパラメータ最適化法を提案する。 具体的には、A型制約最適化問題として、まずハイパーパラメータ最適化を定式化する。 次に、平均ゼロ階超勾配を用いてハイパーパラメータを更新する。
  論文  参考訳（メタデータ） (2021-02-17T21:03:05Z)
• Additive Tree-Structured Conditional Parameter Spaces in Bayesian Optimization: A Novel Covariance Function and a Fast Implementation [34.89735938765757]
  木構造関数への加法仮定を一般化し, 改良された試料効率, より広い適用性, 柔軟性を示す。 パラメータ空間の構造情報と加法仮定をBOループに組み込むことで,取得関数を最適化する並列アルゴリズムを開発した。 本稿では,事前学習したVGG16およびRes50モデルのプルーニングとResNet20の検索アクティベーション関数に関する最適化ベンチマーク関数について述べる。
  論文  参考訳（メタデータ） (2020-10-06T16:08:58Z)
• Fast Perturbative Algorithm Configurators [0.0]
  ParamRLS と ParamILS のパラメータ問題を最適化するために,期待時間に線形な下界を証明した。 本研究では, 摂動アルゴリズムのための高調波突然変異演算子を, 対数時間, 対数時間, ほぼ対数時間で提案する。 実験的な分析により、いくつかの構成シナリオにおいて、実際にアプローチの優位性を確認することができる。
  論文  参考訳（メタデータ） (2020-07-07T10:48:32Z)
• Refined bounds for algorithm configuration: The knife-edge of dual class approximability [94.83809668933021]
  トレーニングセットが、トレーニングセット上でのパラメータの平均メトリックのパフォーマンスが、予想される将来的なパフォーマンスに最も近いことを保証するために、どの程度の規模が必要かを調査する。 この近似が L-無限ノルムの下で成り立つなら、強いサンプル複雑性境界を与えることができる。 我々は、コンピュータ科学において最も強力なツールの一つである整数プログラミングの文脈において、我々の限界を実証的に評価する。
  論文  参考訳（メタデータ） (2020-06-21T15:32:21Z)
• Additive Tree-Structured Covariance Function for Conditional Parameter Spaces in Bayesian Optimization [34.89735938765757]
  木構造関数への加法的仮定を一般化する。 パラメータ空間の構造情報と加法仮定をBOループに組み込むことで,取得関数を最適化する並列アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-06-21T11:21:55Z)
• Online Hyperparameter Search Interleaved with Proximal Parameter Updates [9.543667840503739]
  本研究では,近似勾配法の構造に依存する手法を開発し,スムーズなコスト関数を必要としない。 そのような方法は、Leave-one-out (LOO)-validated LassoおよびGroup Lassoに適用される。 数値実験により,提案手法の収束度をLOO検証誤差曲線の局所最適値に相関させる。
  論文  参考訳（メタデータ） (2020-04-06T15:54:03Z)
• Incorporating Expert Prior in Bayesian Optimisation via Space Warping [54.412024556499254]
  大きな探索空間では、アルゴリズムは関数の最適値に達する前に、いくつかの低関数値領域を通過する。 このコールドスタートフェーズの1つのアプローチは、最適化を加速できる事前知識を使用することである。 本稿では,関数の事前分布を通じて,関数の最適性に関する事前知識を示す。 先行分布は、探索空間を最適関数の高確率領域の周りに拡張し、最適関数の低確率領域の周りに縮小するようにワープする。
  論文  参考訳（メタデータ） (2020-03-27T06:18:49Z)
• Proximal Gradient Algorithm with Momentum and Flexible Parameter Restart for Nonconvex Optimization [73.38702974136102]
  アルゴリズムの高速化のために,パラメータ再起動方式が提案されている。 本論文では,非滑らかな問題を解くアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-26T16:06:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。