論文の概要: How Far Are We From an Optimal, Adaptive DE?
- arxiv url: http://arxiv.org/abs/2010.01032v1
- Date: Fri, 2 Oct 2020 14:38:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 01:05:44.845990
- Title: How Far Are We From an Optimal, Adaptive DE?
- Title(参考訳): 最適な適応型DEからどのくらい遠いのか?
- Authors: Ryoji Tanabe and Alex Fukunaga
- Abstract要約: 我々は、適応DEに対する(ほぼ)最適パラメータ適応プロセスがどのように振る舞うかを考察する。
我々は、このほぼ最適なプロセスと、既存のDECの適応機構とを比較した。
- 参考スコア(独自算出の注目度): 7.538482310185133
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider how an (almost) optimal parameter adaptation process for an
adaptive DE might behave, and compare the behavior and performance of this
approximately optimal process to that of existing, adaptive mechanisms for DE.
An optimal parameter adaptation process is an useful notion for analyzing the
parameter adaptation methods in adaptive DE as well as other adaptive
evolutionary algorithms, but it cannot be known generally. Thus, we propose a
Greedy Approximate Oracle method (GAO) which approximates an optimal parameter
adaptation process. We compare the behavior of GAODE, a DE algorithm with GAO,
to typical adaptive DEs on six benchmark functions and the BBOB benchmarks, and
show that GAO can be used to (1) explore how much room for improvement there is
in the performance of the adaptive DEs, and (2) obtain hints for developing
future, effective parameter adaptation methods for adaptive DEs.
- Abstract(参考訳): 適応的deに対する(ほぼ)最適パラメータ適応プロセスがどのように振る舞うかを考察し、この近似最適化プロセスの挙動と性能を既存の適応的deメカニズムと比較する。
最適パラメータ適応プロセスは、適応型deおよび他の適応型進化アルゴリズムでパラメータ適応法を分析するのに有用な概念であるが、一般には知られていない。
そこで我々は,最適パラメータ適応過程を近似したGreedy Approximate Oracle Method (GAO)を提案する。
6つのベンチマーク関数とBBOBベンチマーク上でのGAODEの挙動を,GAODEとGAOの典型的な適応Dsと比較し,(1)適応Dsの性能向上にどの程度の余地があるか,(2)適応Dsに有効なパラメータ適応法を開発するためのヒントを得るためにGAOが利用できることを示す。
関連論文リスト
- Towards Efficient and Exact Optimization of Language Model Alignment [97.41422112912574]
本稿では、アライメント目的の効率的な精度最適化(EXO)を提案する。
我々は,EXOがRLアルゴリズムと同じ方向に最適化されることを証明した。
さらに、現実的な人間の嗜好データに対する既存のアプローチよりも、提案手法の利点を実証する。
論文 参考訳(メタデータ) (2024-02-01T18:51:54Z) - Evolutionary Solution Adaption for Multi-Objective Metal Cutting Process
Optimization [59.45414406974091]
我々は,従来の最適化タスクから解を転送するアルゴリズムの能力を研究することのできる,システムの柔軟性のためのフレームワークを提案する。
NSGA-IIの柔軟性を2つの変種で検討し,1)2つのタスクの解を同時に最適化し,より適応性が高いと期待されるソース間の解を得る,2)活性化あるいは非活性化の異なる可能性に対応する能動的非アクティブなジェノタイプについて検討した。
その結果,標準NSGA-IIによる適応は目標目標への最適化に必要な評価回数を大幅に削減し,提案した変種は適応コストをさらに向上することがわかった。
論文 参考訳(メタデータ) (2023-05-31T12:07:50Z) - Agent-based Collaborative Random Search for Hyper-parameter Tuning and
Global Function Optimization [0.0]
本稿では,機械学習モデルにおける任意のハイパーパラメータの任意の集合に対する近似値を求めるためのエージェントベース協調手法を提案する。
提案モデルの動作,特に設計パラメータの変化に対して,機械学習およびグローバル関数最適化アプリケーションの両方で検討する。
論文 参考訳(メタデータ) (2023-03-03T21:10:17Z) - Differentially Private Adaptive Optimization with Delayed
Preconditioners [44.190582378775694]
補助データのないトレーニングにおいて適応幾何学を推定する手法を探索する。
適応的手法が古いプレコンディショナーを許容できるという観察に感銘を受けて、我々は微分適応型プライベートトレーニングを提案する。
実験的にDP2を探索し、非適応ベースラインに対して最大4倍の収束速度を向上できることを実証した。
論文 参考訳(メタデータ) (2022-12-01T06:59:30Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Towards Learning Universal Hyperparameter Optimizers with Transformers [57.35920571605559]
我々は,テキストベースのトランスフォーマーHPOフレームワークであるOptFormerを紹介した。
実験の結果,OptFormerは少なくとも7種類のHPOアルゴリズムを模倣できることがわかった。
論文 参考訳(メタデータ) (2022-05-26T12:51:32Z) - Adaptive Optimizer for Automated Hyperparameter Optimization Problem [0.0]
本稿では,最適化プロセスにおいて適切なパラメータを自動的に調整する適応型フレームワークを構築可能な汎用フレームワークを提案する。
論文 参考訳(メタデータ) (2022-01-28T13:58:10Z) - Learning adaptive differential evolution algorithm from optimization
experiences by policy gradient [24.2122434523704]
本稿では,一連の問題に対する最適化経験から学習した適応パラメータ制御手法を提案する。
提案した微分進化の制御パラメータを適応的に提供できるエージェントを学習するために、強化学習アルゴリズム、名前付きポリシーを適用した。
提案アルゴリズムは、CEC'13とCEC'17テストスイートでよく知られた9つの進化的アルゴリズムと競合して動作する。
論文 参考訳(メタデータ) (2021-02-06T12:01:20Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳(メタデータ) (2020-10-15T18:09:48Z) - Convergence of adaptive algorithms for weakly convex constrained
optimization [59.36386973876765]
モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。
我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
論文 参考訳(メタデータ) (2020-06-11T17:43:19Z) - Adaptation of Engineering Wake Models using Gaussian Process Regression
and High-Fidelity Simulation Data [0.0]
本稿では,9基の風力発電所のヨー制御入力の最適化について検討する。
高忠実度シミュレータSOWFAを用いて風力発電を模擬する。
論文 参考訳(メタデータ) (2020-03-30T10:22:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。