論文の概要: Improving Neuroevolution Using Island Extinction and Repopulation
- arxiv url: http://arxiv.org/abs/2005.07376v1
- Date: Fri, 15 May 2020 06:47:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-02 22:26:31.751176
- Title: Improving Neuroevolution Using Island Extinction and Repopulation
- Title(参考訳): 島の絶滅と再繁殖による神経進化の改善
- Authors: Zimeng Lyu, Joshua Karns, AbdElRahman ElSaid, Travis Desell
- Abstract要約: 我々は,早期収束を避けるため,絶滅イベントと島の再集団化を活用することを提案する。
この戦略では、最もパフォーマンスの悪い島の全てのメンバーが周期的に殺され、世界最高のゲノムの変異バージョンで再人口化される。
- 参考スコア(独自算出の注目度): 2.5425323889482336
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neuroevolution commonly uses speciation strategies to better explore the
search space of neural network architectures. One such speciation strategy is
through the use of islands, which are also popular in improving performance and
convergence of distributed evolutionary algorithms. However, in this approach
some islands can become stagnant and not find new best solutions. In this
paper, we propose utilizing extinction events and island repopulation to avoid
premature convergence. We explore this with the Evolutionary eXploration of
Augmenting Memory Models (EXAMM) neuro-evolution algorithm. In this strategy,
all members of the worst performing island are killed of periodically and
repopulated with mutated versions of the global best genome. This island based
strategy is additionally compared to NEAT's (NeuroEvolution of Augmenting
Topologies) speciation strategy. Experiments were performed using two different
real world time series datasets (coal-fired power plant and aviation flight
data). The results show that with statistical significance, this island
extinction and repopulation strategy evolves better global best genomes than
both EXAMM's original island based strategy and NEAT's speciation strategy.
- Abstract(参考訳): neuroevolutionは一般に種分化戦略を使用して、ニューラルネットワークアーキテクチャの検索空間をより深く探求する。
そのような種分化戦略の1つは、分散進化アルゴリズムの性能と収束性を改善するのに人気がある島の利用である。
しかし、このアプローチでは、いくつかの島は停滞し、新しい最良の解決策が見つからない。
本稿では,絶滅現象と島再分布を利用して早期収束を回避することを提案する。
進化的eXploration of Augmenting Memory Models (EXAMM) neuro-evolution algorithmを用いてこれを探索する。
この戦略では、最もパフォーマンスの悪い島の全てのメンバーは定期的に死亡し、世界最高のゲノムの変異したバージョンで再分布する。
この島を基盤とした戦略はNEAT(NeuroEvolution of Augmenting Topologies)の種分化戦略と比較される。
2つの異なる実時間時系列データセット(石炭火力発電所と航空飛行データ)を用いて実験を行った。
以上の結果から,この島の絶滅と再分布戦略は,testmのもともとの島に基づく戦略とcallyの種分化戦略よりも優れた世界的最良ゲノムを進化させることが示唆された。
関連論文リスト
- Predicting Infant Brain Connectivity with Federated Multi-Trajectory
GNNs using Scarce Data [54.55126643084341]
既存のディープラーニングソリューションには,3つの大きな制限がある。
我々はフェデレートグラフベースの多軌道進化ネットワークであるFedGmTE-Net++を紹介する。
フェデレーションの力を利用して、限られたデータセットを持つ多種多様な病院の地域学習を集約する。
論文 参考訳(メタデータ) (2024-01-01T10:20:01Z) - DARLEI: Deep Accelerated Reinforcement Learning with Evolutionary
Intelligence [77.78795329701367]
本稿では,進化アルゴリズムと並列化強化学習を組み合わせたフレームワークであるDARLEIを提案する。
我々はDARLEIの性能を様々な条件で特徴付け、進化形態の多様性に影響を与える要因を明らかにした。
今後DARLEIを拡張して、よりリッチな環境における多様な形態素間の相互作用を取り入れていきたいと考えています。
論文 参考訳(メタデータ) (2023-12-08T16:51:10Z) - Evolutionary Multi-objective Optimisation in Neurotrajectory Prediction [0.0]
この研究は、車両軌道予測のための神経進化の進歩的な一歩を踏み出す。
この目的のために、CNNとLong-Short Term Memory NetworkからなるリッチなANNが採用されている。
EMOアルゴリズム、NSGA-II、MOEA/Dも採用されている。
論文 参考訳(メタデータ) (2023-08-04T21:06:26Z) - Supplementing Gradient-Based Reinforcement Learning with Simple
Evolutionary Ideas [4.873362301533824]
我々は、強化学習(RL)における大規模だが指向的な学習ステップを導入するための、単純でサンプル効率のよいアルゴリズムを提案する。
この手法では、共通経験バッファを持つRLエージェントの集団を用いて、ポリシー空間を効率的に探索するために、エージェントのクロスオーバーと突然変異を行う。
論文 参考訳(メタデータ) (2023-05-10T09:46:53Z) - Variance-Reduced Gradient Estimation via Noise-Reuse in Online Evolution
Strategies [50.10277748405355]
Noise-Reuse Evolution Strategies (NRES) は、非バイアスのオンライン進化戦略の一般的なクラスである。
NRESの結果は既存のAD法やES法よりも早く,様々なアプリケーションにまたがるウォールクロック時間とステップ数で収束することを示す。
論文 参考訳(メタデータ) (2023-04-21T17:53:05Z) - Sparse Mutation Decompositions: Fine Tuning Deep Neural Networks with
Subspace Evolution [0.0]
進化戦略と呼ばれる、神経進化的手法の一般的なサブクラスは、ネットワークを変異させるために高密度ノイズ摂動に依存している。
低次元部分空間に高密度な突然変異を分解することでこの問題を緩和するアプローチを導入する。
我々は、非常に難しいImageNetデータセット上で、神経進化的微調整とアンサンブルを初めて大規模に探索する。
論文 参考訳(メタデータ) (2023-02-12T01:27:26Z) - Effective Mutation Rate Adaptation through Group Elite Selection [50.88204196504888]
本稿では,GESMR(Group Elite Selection of Mutation Rates)アルゴリズムを提案する。
GESMRは解の集団とMRの集団を共進化させ、各MRは解群に割り当てられる。
同じ数の関数評価とオーバーヘッドのほとんどないGESMRは、以前のアプローチよりも早く、より良いソリューションに収束する。
論文 参考訳(メタデータ) (2022-04-11T01:08:26Z) - Distributed Evolution Strategies Using TPUs for Meta-Learning [0.0]
本稿では,処理ユニット(TPU)を用いた分散進化的メタラーニング戦略を提案する。
Omniglotデータセットの進化戦略を訓練したプロトタイプネットワークを用いて、5ショットの分類問題に対して98.4%の精度を達成した。
我々のアルゴリズムは、勾配を計算するために自動微分よりも最大40分の1のメモリを使用しており、その結果、バックプロパゲーション訓練された等価値の1.3%以内の精度が得られた。
論文 参考訳(メタデータ) (2022-01-01T02:14:02Z) - Modeling the geospatial evolution of COVID-19 using spatio-temporal
convolutional sequence-to-sequence neural networks [48.7576911714538]
ポルトガルは世界最大の発生率を持つ国であり、人口10万人当たりの14日間の発生率が1000を超える。
その重要性にもかかわらず、covid-19の地理空間的進化の正確な予測は依然として課題である。
論文 参考訳(メタデータ) (2021-05-06T15:24:00Z) - A coevolutionary approach to deep multi-agent reinforcement learning [5.33024001730262]
Coevolutionに基づく新しいアプローチを記述および検証します。
マルチエージェントアタリゲームにおける2つのDeep Coevolutionary Algorithmのベンチマークを行った。
以上の結果から,Deep Coevolutionaryアルゴリズムは様々なゲームでうまく学習できることが示唆された。
論文 参考訳(メタデータ) (2021-04-12T16:30:03Z) - Inception Convolution with Efficient Dilation Search [121.41030859447487]
拡散畳み込みは、効果的な受容場を制御し、オブジェクトの大規模な分散を処理するための標準的な畳み込みニューラルネットワークの重要な変異体である。
そこで我々は,異なる軸,チャネル,層間の独立な拡散を有する拡張畳み込みの新たな変異体,すなわち開始(拡張)畳み込みを提案する。
本稿では,データに複雑なインセプション・コンボリューションを適合させる実用的な手法を探索し,統計的最適化に基づく簡易かつ効果的な拡張探索アルゴリズム(EDO)を開発した。
論文 参考訳(メタデータ) (2020-12-25T14:58:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。