論文の概要: Time Efficiency in Optimization with a Bayesian-Evolutionary Algorithm
- arxiv url: http://arxiv.org/abs/2005.04166v1
- Date: Mon, 4 May 2020 15:29:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 00:03:40.019958
- Title: Time Efficiency in Optimization with a Bayesian-Evolutionary Algorithm
- Title（参考訳）: ベイズ進化アルゴリズムを用いた最適化における時間効率
- Authors: Gongjin Lan, Jakub M. Tomczak, Diederik M. Roijers, A.E. Eiben
- Abstract要約: すべての生成とテストの検索アルゴリズムが等しく作られているわけではないことを示す。
本稿では,ベイズ最適化と進化的アルゴリズムを組み合わせた新しいアルゴリズムBEAを提案する。
その結果、BEA は BO と EA の両方を時間効率で上回り、最終的には多くの局所最適値を持つよく知られたベンチマーク対象関数の性能が向上することがわかった。
- 参考スコア（独自算出の注目度）: 13.66850118870667
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Not all generate-and-test search algorithms are created equal. Bayesian
Optimization (BO) invests a lot of computation time to generate the candidate
solution that best balances the predicted value and the uncertainty given all
previous data, taking increasingly more time as the number of evaluations
performed grows. Evolutionary Algorithms (EA) on the other hand rely on search
heuristics that typically do not depend on all previous data and can be done in
constant time. Both the BO and EA community typically assess their performance
as a function of the number of evaluations. However, this is unfair once we
start to compare the efficiency of these classes of algorithms, as the overhead
times to generate candidate solutions are significantly different. We suggest
to measure the efficiency of generate-and-test search algorithms as the
expected gain in the objective value per unit of computation time spent. We
observe that the preference of an algorithm to be used can change after a
number of function evaluations. We therefore propose a new algorithm, a
combination of Bayesian optimization and an Evolutionary Algorithm, BEA for
short, that starts with BO, then transfers knowledge to an EA, and subsequently
runs the EA. We compare the BEA with BO and the EA. The results show that BEA
outperforms both BO and the EA in terms of time efficiency, and ultimately
leads to better performance on well-known benchmark objective functions with
many local optima. Moreover, we test the three algorithms on nine test cases of
robot learning problems and here again we find that BEA outperforms the other
algorithms.
- Abstract（参考訳）: すべての生成・テスト検索アルゴリズムが等しく作成されるわけではない。
ベイズ最適化 (bayesian optimization, bo) は、予測された値と全てのデータに対する不確実性とを最もよくバランスさせる候補解を生成するために、多くの計算時間を費やす。
一方、進化的アルゴリズム(EA)は、通常すべての過去のデータに依存しない探索ヒューリスティックに依存し、一定時間で実行できる。
BOコミュニティとEAコミュニティは、一般的に、評価の回数の関数としてパフォーマンスを評価します。
しかし、これらのアルゴリズムのクラスの効率を比較すると、候補となる解を生成するオーバーヘッド時間が著しく異なるため、これは不公平である。
本稿では,計算時間単位当たりの目的値の期待値として,生成とテストのアルゴリズムの効率を測定することを提案する。
提案手法では,複数の関数評価を行った後,アルゴリズムの好みが変化することを確認した。
そこで我々はベイズ最適化と進化的アルゴリズムの組み合わせであるbeaをboで開始し、知識をeaに転送し、eaを実行する新しいアルゴリズムを提案する。
BEAとBOとEAを比較します。
その結果、BEA は BO と EA の両方を時間効率で上回り、最終的には多くの局所最適値を持つよく知られたベンチマーク対象関数の性能が向上することがわかった。
さらに,9つのロボット学習問題に対して3つのアルゴリズムを検証したところ,BEAが他のアルゴリズムよりも優れていることがわかった。
関連論文リスト
- Improved discrete particle swarm optimization using Bee Algorithm and multi-parent crossover method (Case study: Allocation problem and benchmark functions) [0.3683202928838613]
本稿では,OMPCDPSO(OMPCDPSO)を提案する。
我々は,ハチアルゴリズムの見物ミツバチを用いた,独立して集中した近傍探索を行った。
この研究で開発されたアルゴリズム(OMCDPSO)は、47(76.60%)のうち36の試験関数で、他のアルゴリズムよりも優れている。
論文 参考訳（メタデータ） (2024-03-15T21:08:37Z) - Effective anytime algorithm for multiobjective combinatorial optimization problems [3.2061579211871383]
客観的な空間で十分に普及している効率的なソリューションのセットは、意思決定者に対して様々なソリューションを提供するのに好まれる。
本稿では,3つの新しいアイデアを組み合わせた多目的最適化のための新しい正確なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-02-06T11:53:44Z) - Quality-Diversity Algorithms Can Provably Be Helpful for Optimization [24.694984679399315]
QD(Quality-Diversity)アルゴリズムは、ハイパフォーマンスだが多様なソリューションのセットを見つけることを目的としている。
本稿では,厳密な実行時間解析によってQDアルゴリズムの最適化能力に光を当てようとしている。
論文 参考訳（メタデータ） (2024-01-19T07:40:24Z) - Comparison of High-Dimensional Bayesian Optimization Algorithms on BBOB [0.40498500266986387]
我々は,5つの最先端高次元BOアルゴリズムと,バニラとCMA-ESを10変数から60変数の範囲で比較した。
本結果は, CMA-ESに対するBOの優位性を確認し, 限られた評価予算について検証した。
論文 参考訳（メタデータ） (2023-03-02T01:14:15Z) - A Fully Single Loop Algorithm for Bilevel Optimization without Hessian
Inverse [121.54116938140754]
両レベル最適化問題に対して,Hessian 逆フリーな完全単一ループアルゴリズムを提案する。
我々のアルゴリズムは$O(epsilon-2)$と収束することを示す。
論文 参考訳（メタデータ） (2021-12-09T02:27:52Z) - Machine Learning for Online Algorithm Selection under Censored Feedback [71.6879432974126]
オンラインアルゴリズム選択(OAS)では、アルゴリズム問題クラスのインスタンスがエージェントに次々に提示され、エージェントは、固定された候補アルゴリズムセットから、おそらく最高のアルゴリズムを迅速に選択する必要がある。
SAT(Satisfiability)のような決定問題に対して、品質は一般的にアルゴリズムのランタイムを指す。
本研究では,OASのマルチアームバンディットアルゴリズムを再検討し,この問題に対処する能力について議論する。
ランタイム指向の損失に適応し、時間的地平線に依存しない空間的・時間的複雑さを維持しながら、部分的に検閲されたデータを可能にする。
論文 参考訳（メタデータ） (2021-09-13T18:10:52Z) - Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。
両レベル最適化のための2つの新しいアルゴリズムを提案する。
両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
論文 参考訳（メタデータ） (2021-06-08T21:05:30Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳（メタデータ） (2021-04-19T17:22:11Z) - Revisiting Bayesian Optimization in the light of the COCO benchmark [1.4467794332678539]
本稿では,共通かつあまり一般的ではない設計選択のbo(gaussian process based)の性能への影響について,大規模な調査を行う。
この研究のために開発されたコードは、RパッケージDiceOptimの新バージョン(v2.1.1)をCRANで利用可能にしている。
論文 参考訳（メタデータ） (2021-03-30T19:45:18Z) - Double Coverage with Machine-Learned Advice [100.23487145400833]
オンラインの基本的な$k$-serverの問題を学習強化環境で研究する。
我々のアルゴリズムは任意の k に対してほぼ最適の一貫性-破壊性トレードオフを達成することを示す。
論文 参考訳（メタデータ） (2021-03-02T11:04:33Z) - New Oracle-Efficient Algorithms for Private Synthetic Data Release [52.33506193761153]
微分プライベートな合成データを構築するための3つの新しいアルゴリズムを提案する。
アルゴリズムは最悪の場合でも差分プライバシーを満たす。
現状の手法である高次元行列機構 citeMcKennaMHM18 と比較すると,我々のアルゴリズムは大規模作業負荷の精度が向上する。
論文 参考訳（メタデータ） (2020-07-10T15:46:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。