論文の概要: CoNES: Convex Natural Evolutionary Strategies
- arxiv url: http://arxiv.org/abs/2007.08601v2
- Date: Mon, 20 Jul 2020 04:31:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-09 22:48:59.865715
- Title: CoNES: Convex Natural Evolutionary Strategies
- Title(参考訳): CoNES: コンベックスの自然進化戦略
- Authors: Sushant Veer, Anirudha Majumdar
- Abstract要約: 我々は高次元ブラックボックス関数を最適化するための新しいアルゴリズム、凸自然進化戦略(CoNES)を提案する。
CoNESは、急速な収束を促進するために進化戦略の推定に適応する効率よく解決可能な凸プログラムとして定式化されている。
- 参考スコア(独自算出の注目度): 7.728848025088798
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a novel algorithm -- convex natural evolutionary strategies
(CoNES) -- for optimizing high-dimensional blackbox functions by leveraging
tools from convex optimization and information geometry. CoNES is formulated as
an efficiently-solvable convex program that adapts the evolutionary strategies
(ES) gradient estimate to promote rapid convergence. The resulting algorithm is
invariant to the parameterization of the belief distribution. Our numerical
results demonstrate that CoNES vastly outperforms conventional blackbox
optimization methods on a suite of functions used for benchmarking blackbox
optimizers. Furthermore, CoNES demonstrates the ability to converge faster than
conventional blackbox methods on a selection of OpenAI's MuJoCo reinforcement
learning tasks for locomotion.
- Abstract(参考訳): 我々は,凸最適化と情報幾何学のツールを活用することで,高次元ブラックボックス関数を最適化するための新しいアルゴリズム,凸自然進化戦略(CoNES)を提案する。
CoNESは、進化戦略(ES)勾配推定に適応して高速収束を促進する効率よく解決可能な凸プログラムとして定式化されている。
結果のアルゴリズムは、信念分布のパラメータ化に不変である。
その結果,ブラックボックスオプティマイザのベンチマークにおいて,従来のブラックボックス最適化法を大きく上回っていることがわかった。
さらに、CoNESは、OpenAIのMuJoCo強化学習タスクの選択において、従来のブラックボックスメソッドよりも早く収束できることを実証している。
関連論文リスト
- Sample-efficient Bayesian Optimisation Using Known Invariances [56.34916328814857]
バニラと制約付きBOアルゴリズムは、不変目的を最適化する際の非効率性を示す。
我々はこれらの不変カーネルの最大情報ゲインを導出する。
核融合炉用電流駆動システムの設計に本手法を用い, 高性能溶液の探索を行った。
論文 参考訳(メタデータ) (2024-10-22T12:51:46Z) - Sharpness-Aware Black-Box Optimization [47.95184866255126]
シャープネスを考慮したブラックボックス最適化(SABO)アルゴリズムを提案する。
実験により, モデル一般化性能向上のためのSABO法の有効性が実証された。
論文 参考訳(メタデータ) (2024-10-16T11:08:06Z) - Optimizing Variational Quantum Circuits Using Metaheuristic Strategies in Reinforcement Learning [2.7504809152812695]
本研究では,メタヒューリスティックアルゴリズム – Particle Swarm Optimization, Ant Colony Optimization, Tabu Search, Genetic Algorithm, Simulated Annealing, Harmony Search – の量子強化学習への統合について検討する。
5Times5$ MiniGrid Reinforcement Learning環境の評価は、すべてのアルゴリズムがほぼ最適結果をもたらすことを示している。
論文 参考訳(メタデータ) (2024-08-02T11:14:41Z) - GloptiNets: Scalable Non-Convex Optimization with Certificates [61.50835040805378]
本稿では,ハイパーキューブやトーラス上のスムーズな関数を扱う証明書を用いた非キューブ最適化手法を提案する。
スペクトルの減衰に固有の対象関数の正則性を活用することにより、正確な証明を取得し、高度で強力なニューラルネットワークを活用することができる。
論文 参考訳(メタデータ) (2023-06-26T09:42:59Z) - Neural-BO: A Black-box Optimization Algorithm using Deep Neural Networks [12.218039144209017]
ニューラルネットワークを用いてブラックボックス関数をモデル化する新しいブラックボックス最適化アルゴリズムを提案する。
我々のアルゴリズムは予測の不確実性を推定するためにベイズニューラルネットワークを必要としないので、計算に有利である。
論文 参考訳(メタデータ) (2023-03-03T02:53:56Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Tree ensemble kernels for Bayesian optimization with known constraints
over mixed-feature spaces [54.58348769621782]
木アンサンブルはアルゴリズムチューニングやニューラルアーキテクチャ検索といったブラックボックス最適化タスクに適している。
ブラックボックス最適化にツリーアンサンブルを使うことの2つのよく知られた課題は、探索のためのモデル不確実性を効果的に定量化し、また、 (ii) ピースワイドな定値取得関数を最適化することである。
我々のフレームワークは、連続/離散的機能に対する非拘束ブラックボックス最適化のための最先端の手法と同様に、混合変数の特徴空間と既知の入力制約を組み合わせた問題の競合する手法よりも優れている。
論文 参考訳(メタデータ) (2022-07-02T16:59:37Z) - Generative Evolutionary Strategy For Black-Box Optimizations [0.0]
高次元空間におけるブラックボックス最適化は困難である。
最近のニューラルネットワークに基づくブラックボックス最適化研究は、注目すべき成果を示している。
本研究では,進化戦略(ES)と生成ニューラルネットワーク(GNN)モデルに基づくブラックボックス最適化手法を提案する。
論文 参考訳(メタデータ) (2022-05-06T07:34:21Z) - Distributed Evolution Strategies for Black-box Stochastic Optimization [42.90600124972943]
この研究は、分散ブラックボックス最適化への進化的アプローチに関するものである。
各作業者は、アルゴリズムによる問題の近似を個別に解くことができる。
問題のロバスト性を大幅に改善する2つの代替シミュレーション手法を提案する。
論文 参考訳(メタデータ) (2022-04-09T11:18:41Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳(メタデータ) (2020-12-21T17:29:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。