論文の概要: Accelerating Evolution Through Gene Masking and Distributed Search
- arxiv url: http://arxiv.org/abs/2302.06745v1
- Date: Mon, 13 Feb 2023 23:11:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-15 16:46:19.819461
- Title: Accelerating Evolution Through Gene Masking and Distributed Search
- Title(参考訳): 遺伝子マスキングと分散検索による進化の加速
- Authors: Hormoz Shahrzad, Risto Miikkulainen
- Abstract要約: 本稿では,両目標を同時に達成するためのアプローチとしてBLADE(BLAnket Distributed Evolution)を提案する。
BLADEは、探索中に進化演算子を調整するために毛布を使用し、ハブ・アンド・スポーク分布による探索を実装している。
- 参考スコア(独自算出の注目度): 16.8615211682877
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In building practical applications of evolutionary computation (EC), two
optimizations are essential. First, the parameters of the search method need to
be tuned to the domain in order to balance exploration and exploitation
effectively. Second, the search method needs to be distributed to take
advantage of parallel computing resources. This paper presents BLADE (BLAnket
Distributed Evolution) as an approach to achieving both goals simultaneously.
BLADE uses blankets (i.e., masks on the genetic representation) to tune the
evolutionary operators during the search, and implements the search through
hub-and-spoke distribution. In the paper, (1) the blanket method is formalized
for the (1 + 1)EA case as a Markov chain process. Its effectiveness is then
demonstrated by analyzing dominant and subdominant eigenvalues of stochastic
matrices, suggesting a generalizable theory; (2) the fitness-level theory is
used to analyze the distribution method; and (3) these insights are verified
experimentally on three benchmark problems, showing that both blankets and
distribution lead to accelerated evolution. Moreover, a surprising synergy
emerges between them: When combined with distribution, the blanket approach
achieves more than $n$-fold speedup with $n$ clients in some cases. The work
thus highlights the importance and potential of optimizing evolutionary
computation in practical applications.
- Abstract(参考訳): 進化計算(EC)の実用化には,2つの最適化が不可欠である。
まず,探索手法のパラメータをドメインに調整し,探索と利用を効果的に両立させる必要がある。
第二に、並列コンピューティングリソースを利用するためには、探索方法を分散する必要がある。
本稿では,両目標を同時に達成するためのアプローチとしてBLADE(BLAnket Distributed Evolution)を提案する。
ブレードはブランケット(すなわち遺伝的表現上のマスク)を使用して探索中に進化演算子をチューニングし、ハブ・アンド・スポーク分布による探索を実行する。
本論文では, 1) マルコフ連鎖過程として (1 + 1)EA の場合の毛布法を定式化する。
その効果は確率行列の支配的かつ従属的な固有値を分析し、一般化理論を示唆し、(2)分布解析に適合レベル理論を用い、(3)これらの知見を3つのベンチマーク問題で実験的に検証し、毛布と分布の両方が進化を加速させることを示した。
さらに、これらの間に驚くべきシナジーが出現する: 分散と組み合わせると、ブランケットアプローチは、場合によっては$n$クライアントで$n$-fold以上のスピードアップを達成する。
この研究は、実用的な応用における進化計算の最適化の重要性と可能性を強調している。
関連論文リスト
- Understanding Reinforcement Learning-Based Fine-Tuning of Diffusion Models: A Tutorial and Review [63.31328039424469]
このチュートリアルは、下流の報酬関数を最適化するための微調整拡散モデルのための方法を網羅的に調査する。
PPO,微分可能最適化,報酬重み付きMLE,値重み付きサンプリング,経路整合性学習など,様々なRLアルゴリズムの適用について説明する。
論文 参考訳(メタデータ) (2024-07-18T17:35:32Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Generalized Schrödinger Bridge Matching [54.171931505066]
一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域で一般的である。
我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。
このような一般化は条件最適制御の解法として、変分近似を用いることができることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:42:11Z) - Mastering the exploration-exploitation trade-off in Bayesian
Optimization [0.2538209532048867]
取得関数は、探索とエクスプロイトの間のバランスを評価するための次のソリューションの選択を駆動する。
本稿では,爆発的選択と搾取的選択のトレードオフを適応的に習得する,新たな獲得機能を提案する。
論文 参考訳(メタデータ) (2023-05-15T13:19:03Z) - KL Guided Domain Adaptation [88.19298405363452]
ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。
ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。
確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
論文 参考訳(メタデータ) (2021-06-14T22:24:23Z) - Sample and Computation Redistribution for Efficient Face Detection [137.19388513633484]
トレーニングデータサンプリングと計算分布戦略は、効率的で正確な顔検出の鍵です。
scrfdf34は、最高の競合製品であるTinaFaceを3.86%(ハードセットでのAP)で上回り、GPU上でVGA解像度画像でmph3$times$より高速です。
論文 参考訳(メタデータ) (2021-05-10T23:51:14Z) - Optimal Static Mutation Strength Distributions for the $(1+\lambda)$
Evolutionary Algorithm on OneMax [1.0965065178451106]
人口が十分に大きくなると、このような最適な分布は驚くほど複雑で直感に反する可能性がある。
人口が十分に大きくなると、このような最適な分布は驚くほど複雑で直感に反する可能性がある。
論文 参考訳(メタデータ) (2021-02-09T16:56:25Z) - CRPS Learning [0.0]
組み合わせと集約技術は予測精度を大幅に向上させることができる。
連続的なランク付け確率スコア(CRPS)に関して最適化するポイントワイズオンラインアグリゲーションアルゴリズムについて論じる。
論文 参考訳(メタデータ) (2021-02-01T16:54:05Z) - Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。
この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。
条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文 参考訳(メタデータ) (2020-11-08T17:09:37Z) - Distributed Bayesian Matrix Decomposition for Big Data Mining and
Clustering [13.491022200305824]
本稿では,ビッグデータマイニングとクラスタリングのための分散行列分解モデルを提案する。
具体的には, 1) 加速度勾配降下, 2) 乗算器の交互方向法, 3) 統計的推論の3つの方法を採用する。
我々のアルゴリズムは、ビッグデータによく対応し、他の分散手法と比較して優れた、あるいは競合する性能を達成する。
論文 参考訳(メタデータ) (2020-02-10T13:10:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。