論文の概要: Automatic Setting of DNN Hyper-Parameters by Mixing Bayesian
Optimization and Tuning Rules
- arxiv url: http://arxiv.org/abs/2006.02105v1
- Date: Wed, 3 Jun 2020 08:53:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-25 17:08:43.095099
- Title: Automatic Setting of DNN Hyper-Parameters by Mixing Bayesian
Optimization and Tuning Rules
- Title(参考訳): ベイズ最適化とチューニング規則の混合によるDNNハイパーパラメータの自動設定
- Authors: Michele Fraccaroli, Evelina Lamma, Fabrizio Riguzzi
- Abstract要約: トレーニングおよび検証セット上で,ネットワークの結果を評価し解析するための新しいアルゴリズムを構築した。
我々は、一連のチューニングルールを使用して、新しいハイパーパラメータと/またはハイパーパラメータ検索スペースを減らし、より良い組み合わせを選択する。
- 参考スコア(独自算出の注目度): 0.6875312133832078
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning techniques play an increasingly important role in industrial
and research environments due to their outstanding results. However, the large
number of hyper-parameters to be set may lead to errors if they are set
manually. The state-of-the-art hyper-parameters tuning methods are grid search,
random search, and Bayesian Optimization. The first two methods are expensive
because they try, respectively, all possible combinations and random
combinations of hyper-parameters. Bayesian Optimization, instead, builds a
surrogate model of the objective function, quantifies the uncertainty in the
surrogate using Gaussian Process Regression and uses an acquisition function to
decide where to sample the new set of hyper-parameters. This work faces the
field of Hyper-Parameters Optimization (HPO). The aim is to improve Bayesian
Optimization applied to Deep Neural Networks. For this goal, we build a new
algorithm for evaluating and analyzing the results of the network on the
training and validation sets and use a set of tuning rules to add new
hyper-parameters and/or to reduce the hyper-parameter search space to select a
better combination.
- Abstract(参考訳): 深層学習技術はその卓越した成果により、産業や研究環境においてますます重要な役割を担っている。
しかし、設定するハイパーパラメータの数が多ければ、手動で設定した場合のエラーにつながる可能性がある。
最先端のハイパーパラメータチューニング手法は、グリッド探索、ランダム探索、ベイズ最適化である。
最初の2つの方法は、それぞれハイパーパラメータのすべての組み合わせとランダムな組み合わせを試すため、高価である。
ベイズ最適化は、代わりに目的関数のサロゲートモデルを構築し、ガウス過程の回帰を用いてサロゲートの不確かさを定量化し、獲得関数を使用して新しいハイパーパラメータのサンプルの場所を決定する。
この研究はハイパーパラメータ最適化(HPO)の分野に直面する。
目的はディープニューラルネットワークに適用されたベイズ最適化を改善することである。
この目的のために,トレーニングと検証セット上でネットワークの結果を評価し分析するための新しいアルゴリズムを構築し,新しいハイパーパラメータの追加と/またはハイパーパラメータ探索空間の縮小のために一連のチューニングルールを使用する。
関連論文リスト
- Parameter Optimization with Conscious Allocation (POCA) [4.478575931884855]
ハイパーバンドベースの機械学習アプローチが最も効果的である。
私たちは出席します。
新人
Conscious Allocation (POCA) は、入力を適応的に割り当てるハイパーバンドベースのアルゴリズムである。
ハイパーパラメータの構成に予算を割り当てます
POCAは、両方の設定で強い設定を高速に見つける。
論文 参考訳(メタデータ) (2023-12-29T00:13:55Z) - Deep Ranking Ensembles for Hyperparameter Optimization [9.453554184019108]
本稿では,メタ学習型ニューラルネットワークが構成性能のランク付けに最適化され,アンサンブルによる不確実性をモデル化する手法を提案する。
12のベースライン、16のHPO検索スペース、86のデータセット/タスクからなる大規模実験プロトコルにおいて、本手法がHPOの新たな最先端結果を実現することを示す。
論文 参考訳(メタデータ) (2023-03-27T13:52:40Z) - Online Continuous Hyperparameter Optimization for Generalized Linear Contextual Bandits [55.03293214439741]
文脈的包帯では、エージェントは過去の経験に基づいた時間依存アクションセットから順次アクションを行う。
そこで本稿では,文脈的包帯のためのオンライン連続型ハイパーパラメータチューニングフレームワークを提案する。
理論上はサブ線形の後悔を達成でき、合成データと実データの両方において既存のすべての手法よりも一貫して優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2023-02-18T23:31:20Z) - Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。
実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文 参考訳(メタデータ) (2022-05-26T12:51:32Z) - AUTOMATA: Gradient Based Data Subset Selection for Compute-Efficient
Hyper-parameter Tuning [72.54359545547904]
ハイパーパラメータチューニングのための勾配に基づくサブセット選択フレームワークを提案する。
ハイパーパラメータチューニングに勾配ベースのデータサブセットを用いることで、3$times$-30$times$のターンアラウンド時間とスピードアップが大幅に向上することを示す。
論文 参考訳(メタデータ) (2022-03-15T19:25:01Z) - Towards Robust and Automatic Hyper-Parameter Tunning [39.04604349338802]
我々は,新しいHPO法を導入し,畳み込みネットワークの中間層の低ランク因子分解を用いて解析応答面を定義する方法について検討する。
我々は,この表面がモデル性能の代理としてどのように振る舞うかを定量化し,オートHyperと呼ぶ信頼領域探索アルゴリズムを用いて解くことができる。
論文 参考訳(メタデータ) (2021-11-28T05:27:34Z) - Optimizing Large-Scale Hyperparameters via Automated Learning Algorithm [97.66038345864095]
ゼロ階超勾配(HOZOG)を用いた新しいハイパーパラメータ最適化法を提案する。
具体的には、A型制約最適化問題として、まずハイパーパラメータ最適化を定式化する。
次に、平均ゼロ階超勾配を用いてハイパーパラメータを更新する。
論文 参考訳(メタデータ) (2021-02-17T21:03:05Z) - Online hyperparameter optimization by real-time recurrent learning [57.01871583756586]
ニューラルネットワーク(rnn)におけるハイパーパラメータ最適化とパラメータ学習の類似性を活用した。
RNNのための学習済みのオンライン学習アルゴリズムのファミリーを適応させ、ハイパーパラメータとネットワークパラメータを同時に調整します。
この手順は、通常の方法に比べて、ウォールクロック時間のほんの少しで、体系的に一般化性能が向上する。
論文 参考訳(メタデータ) (2021-02-15T19:36:18Z) - An Asymptotically Optimal Multi-Armed Bandit Algorithm and
Hyperparameter Optimization [48.5614138038673]
本稿では,高パラメータ探索評価のシナリオにおいて,SS (Sub-Sampling) と呼ばれる効率的で堅牢な帯域幅に基づくアルゴリズムを提案する。
また,BOSSと呼ばれる新しいパラメータ最適化アルゴリズムを開発した。
実験的な研究は、SSの理論的議論を検証し、多くのアプリケーションにおけるBOSSの優れた性能を実証する。
論文 参考訳(メタデータ) (2020-07-11T03:15:21Z) - Weighted Random Search for Hyperparameter Optimization [0.0]
本稿では,機械学習アルゴリズムのハイパーパラメータ最適化に使用されるRandom Search(RS)の改良版を紹介する。
我々は、標準RSとは異なり、変化の確率で各ハイパーパラメータに対して新しい値を生成する。
同じ計算予算内で、我々の手法は標準のRSよりも優れた結果が得られる。
論文 参考訳(メタデータ) (2020-04-03T15:41:22Z) - Weighted Random Search for CNN Hyperparameter Optimization [0.0]
本稿では、ランダム探索(RS)と確率的欲求を組み合わせた重み付きランダム探索(WRS)手法を提案する。
基準は、ハイパーパラメーター値の試験された組み合わせの同じ数内で達成される分類精度である。
我々の実験によると、WRSアルゴリズムは他の手法よりも優れています。
論文 参考訳(メタデータ) (2020-03-30T09:40:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。