論文の概要: Influence of Initialization on the Performance of Metaheuristic
Optimizers
- arxiv url: http://arxiv.org/abs/2003.03789v1
- Date: Sun, 8 Mar 2020 14:58:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-25 13:57:23.628907
- Title: Influence of Initialization on the Performance of Metaheuristic
Optimizers
- Title（参考訳）: メタヒューリスティック最適化器の性能に及ぼす初期化の影響
- Authors: Qian Li, San-Yang Liu, Xin-She Yang
- Abstract要約: 本稿では、微分進化(DE)、粒子群最適化(PSO)、カッコウ探索(CS)、人工蜂コロニー(ABC)、遺伝的アルゴリズム(GA)の22種類のアルゴリズムを系統的に比較する。
- 参考スコア（独自算出の注目度）: 7.511240139514371
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: All metaheuristic optimization algorithms require some initialization, and
the initialization for such optimizers is usually carried out randomly.
However, initialization can have some significant influence on the performance
of such algorithms. This paper presents a systematic comparison of 22 different
initialization methods on the convergence and accuracy of five optimizers:
differential evolution (DE), particle swarm optimization (PSO), cuckoo search
(CS), artificial bee colony (ABC) algorithm and genetic algorithm (GA). We have
used 19 different test functions with different properties and modalities to
compare the possible effects of initialization, population sizes and the
numbers of iterations. Rigorous statistical ranking tests indicate that 43.37\%
of the functions using the DE algorithm show significant differences for
different initialization methods, while 73.68\% of the functions using both PSO
and CS algorithms are significantly affected by different initialization
methods. The simulations show that DE is less sensitive to initialization,
while both PSO and CS are more sensitive to initialization. In addition, under
the condition of the same maximum number of function evaluations (FEs), the
population size can also have a strong effect. Particle swarm optimization
usually requires a larger population, while the cuckoo search needs only a
small population size. Differential evolution depends more heavily on the
number of iterations, a relatively small population with more iterations can
lead to better results. Furthermore, ABC is more sensitive to initialization,
while such initialization has little effect on GA. Some probability
distributions such as the beta distribution, exponential distribution and
Rayleigh distribution can usually lead to better performance. The implications
of this study and further research topics are also discussed in detail.
- Abstract（参考訳）: 全てのメタヒューリスティック最適化アルゴリズムはいくつかの初期化を必要とし、そのような最適化アルゴリズムの初期化は通常ランダムに実行される。
しかし、初期化はそのようなアルゴリズムの性能に大きな影響を及ぼす可能性がある。
本稿では,22種類の初期化法を用いて,微分進化 (de), 粒子群最適化 (pso), cuckoo search (cs), 人工蜂コロニー (abc) アルゴリズムおよび遺伝的アルゴリズム (ga) の5つの最適化器の収束と精度に関する系統的比較を行った。
19種類の異なる特性とモダリティを持つテスト関数を用いて,初期化の効果,個体数,反復数を比較した。
厳密な統計ランキングテストでは、DECアルゴリズムを用いた関数の43.37\%が異なる初期化法で有意な差を示し、PSOアルゴリズムとCSアルゴリズムの両方を用いた関数の73.68\%は異なる初期化法で著しく影響を受ける。
シミュレーションにより, DEは初期化に敏感であり, PSOもCSも初期化に敏感であることがわかった。
また,機能評価の最大値 (FE) が同じ条件下では,人口規模にも強い影響が生じる可能性がある。
粒子群最適化は通常より大きな人口を必要とするが、カッコウ探索は小さな人口しか必要としない。
差分進化はイテレーションの数に大きく依存しており、イテレーションの数が多い比較的小さな個体群はより良い結果をもたらす可能性がある。
さらに、ABCは初期化に敏感であるが、そのような初期化はGAにはほとんど影響しない。
ベータ分布、指数分布、レイリー分布のようないくつかの確率分布は、通常、より良い性能をもたらす。
本研究の意義と今後の研究課題についても詳細に述べる。
関連論文リスト
- Improving genetic algorithms performance via deterministic population
shrinkage [9.334663477968027]
本稿では,遺伝的アルゴリズム(GA)の性能に対する簡易変数集団サイズ法の適用可能性に関する実証的研究について述べる。
それは、所定のスケジュールに従ってGAランの人口を減少させ、速度と重大度パラメータによって構成する。
その結果,SVPS-GAは性能を向上しながら解の質を保ちつつ,性能向上に要する評価回数を削減し,速度重大性の組合せを示した。
論文 参考訳（メタデータ） (2024-01-22T17:05:16Z) - Improving Time and Memory Efficiency of Genetic Algorithms by Storing
Populations as Minimum Spanning Trees of Patches [0.0]
進化的アルゴリズムでは、演算子を適用し、人口を保存する計算コストは、適合性評価のコストに匹敵する。
個体群を最小のスパンニングツリーとして保存することは、頂点が個体に対応するが、それらのメタ情報しか含まない場合において、簡単な実装の代替として実現可能であることを示す。
我々の実験は、メモリ使用量と計算コストの両方の観点から、大幅な改善(クロスオーバー演算子の実行を含む)が達成可能であることを示唆している。
論文 参考訳（メタデータ） (2023-06-29T05:12:14Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳（メタデータ） (2023-01-30T15:46:39Z) - From Understanding Genetic Drift to a Smart-Restart Mechanism for
Estimation-of-Distribution Algorithms [16.904475483445452]
我々は,分布推定アルゴリズム(EDAs)のためのスマートリスタート機構を開発する。
遺伝的ドリフトのリスクが高い場合、実行を停止することで、適切なパラメーター条件下でEDAを自動的に実行します。
スマートリスタート機構は,文献で示唆されるものよりも,集団サイズに対してはるかに優れた値を見出すことを示す。
論文 参考訳（メタデータ） (2022-06-18T02:46:52Z) - An Application of a Multivariate Estimation of Distribution Algorithm to
Cancer Chemotherapy [59.40521061783166]
癌に対する化学療法治療は、多数の相互作用する変数と制約を持つ複雑な最適化問題である。
より洗練されたアルゴリズムは、このような複雑な問題に対してより良いパフォーマンスをもたらすことが示される。
我々は、この問題における多数の相互作用によって、より洗練されたアルゴリズムが妨げられていることが原因であると仮定する。
論文 参考訳（メタデータ） (2022-05-17T15:28:46Z) - An Accelerated Variance-Reduced Conditional Gradient Sliding Algorithm
for First-order and Zeroth-order Optimization [111.24899593052851]
条件勾配アルゴリズム(Frank-Wolfeアルゴリズムとも呼ばれる)は、最近、機械学習コミュニティで人気を取り戻している。
ARCSは、ゼロ階最適化において凸問題を解く最初のゼロ階条件勾配スライディング型アルゴリズムである。
1次最適化では、ARCSの収束結果は、勾配クエリのオラクルの数で、従来のアルゴリズムよりも大幅に優れていた。
論文 参考訳（メタデータ） (2021-09-18T07:08:11Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳（メタデータ） (2021-06-09T08:05:36Z) - Bayesian Algorithm Execution: Estimating Computable Properties of
Black-box Functions Using Mutual Information [78.78486761923855]
多くの現実世界では、T関数の評価の予算を考えると、高価なブラックボックス関数 f の性質を推測したい。
本稿では,アルゴリズムの出力に対して相互情報を最大化するクエリを逐次選択する手法InfoBAXを提案する。
これらの問題に対してInfoBAXは、元のアルゴリズムで要求されるより500倍少ないクエリをfに使用する。
論文 参考訳（メタデータ） (2021-04-19T17:22:11Z) - Optimal Static Mutation Strength Distributions for the $(1+\lambda)$
Evolutionary Algorithm on OneMax [1.0965065178451106]
人口が十分に大きくなると、このような最適な分布は驚くほど複雑で直感に反する可能性がある。
人口が十分に大きくなると、このような最適な分布は驚くほど複雑で直感に反する可能性がある。
論文 参考訳（メタデータ） (2021-02-09T16:56:25Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳（メタデータ） (2020-05-05T18:08:23Z) - On the Performance of Metaheuristics: A Different Perspective [0.0]
我々は,遺伝的アルゴリズム (GA), Particle Swarm Optimization (PSO), Artificial Bee Colony (ABC), Teaching-Learning-Based Optimization (TLBO), Cuckoo Optimization Algorithm (COA) のいくつかの基本的な進化的およびスワム知能メタヒューリスティックスについて検討した。
異なる特性を持つ20種類の最適化ベンチマーク関数について多数の実験が行われており、これらのメタヒューリスティックスの中での次の順位の他に、いくつかの基本的な結論が示されている。
論文 参考訳（メタデータ） (2020-01-24T09:34:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。