論文の概要: Natural Evolution Strategy for Mixed-Integer Black-Box Optimization
- arxiv url: http://arxiv.org/abs/2304.10724v1
- Date: Fri, 21 Apr 2023 03:34:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-24 15:56:59.534266
- Title: Natural Evolution Strategy for Mixed-Integer Black-Box Optimization
- Title（参考訳）: 混合整数ブラックボックス最適化のための自然進化戦略
- Authors: Koki Ikeda and Isao Ono
- Abstract要約: CMA-ES w. MarginはMI-BBOベンチマーク問題で優れた性能を示したと伝えられている。
DX-NES-ICI は CMA-ES w. Margin の3.7倍の速度で最適解を求めることができた。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes a natural evolution strategy (NES) for mixed-integer
black-box optimization (MI-BBO) that appears in real-world problems such as
hyperparameter optimization of machine learning and materials design. This
problem is difficult to optimize because plateaus where the values do not
change appear when the integer variables are relaxed to the continuous ones.
CMA-ES w. Margin that addresses the plateaus reportedly showed good performance
on MI-BBO benchmark problems. However, it has been observed that the search
performance of CMA-ES w. Margin deteriorates when continuous variables
contribute more to the objective function value than integer ones. In order to
address the problem of CMA-ES w. Margin, we propose Distance-weighted
eXponential Natural Evolution Strategy taking account of Implicit Constraint
and Integer (DX-NES-ICI). We compare the search performance of DX-NES-ICI with
that of CMA-ES w. Margin through numerical experiments. As a result, DX-NES-ICI
was up to 3.7 times better than CMA-ES w. Margin in terms of a rate of finding
the optimal solutions on benchmark problems where continuous variables
contribute more to the objective function value than integer ones. DX-NES-ICI
also outperformed CMA-ES w. Margin on problems where CMA-ES w. Margin
originally showed good performance.
- Abstract（参考訳）: 本稿では,機械学習のハイパーパラメータ最適化や材料設計といった現実的な問題に現れる混合整数ブラックボックス最適化(MI-BBO)のための自然進化戦略を提案する。
この問題は、整数変数が連続変数に緩和されたときに値が変化しない高原が現れるため、最適化が難しい。
CMA-ES w。
台地に対処したマージンはMI-BBOベンチマーク問題で優れた性能を示したと伝えられている。
しかし, CMA-ES w の探索性能は良好であった。
連続変数が整数値よりも目的関数値に寄与する場合、Marginは劣化する。
CMA-ES w の問題に対処する。
本稿では,Implicit Constraint and Integer(DX-NES-ICI)を考慮した距離重み付きeXponential Natural Evolution Strategyを提案する。
我々は,DX-NES-ICIの検索性能をCMA-ES wと比較した。
数値実験によるマージン。
その結果、DX-NES-ICIはCMA-ES wの3.7倍に向上した。
連続変数が整数値よりも目的関数値に寄与するベンチマーク問題における最適解を見つける率の点でマージンである。
DX-NES-ICI も CMA-ES w を上回った。
CMA-ES が問題となる。
マージンは元々良い成績を示した。
関連論文リスト
- CatCMA : Stochastic Optimization for Mixed-Category Problems [9.13074910982872]
ブラックボックス最適化の問題は、連続変数、整数変数、カテゴリー変数など、異なるタイプの変数を同時に最適化する必要があることが多い。
いくつかのベイズ最適化手法は混合カテゴリブラックボックス最適化(MC-BBO)を扱うことができるが、高次元問題へのスケーラビリティの欠如と内部計算コストに悩まされている。
本稿では,MC-BBO問題に対する新しい最適化手法であるCatCMAを提案する。
論文 参考訳（メタデータ） (2024-05-16T10:11:18Z) - (1+1)-CMA-ES with Margin for Discrete and Mixed-Integer Problems [6.181926091202142]
本稿では,CMA-ESのエリート版である (1+1)-CMA-ES にマージン補正を導入する。
1+1)-CMA-ESは、しばしば単項関数に有利であり、計算コストが低い。
混合整数、整数、二項領域のベンチマーク関数を用いた数値シミュレーションにより、(1+1)-CMA-ESのマージンは(1+1)-CMA-ESのマージンよりも優れていた。
論文 参考訳（メタデータ） (2023-05-01T14:34:55Z) - Marginal Probability-Based Integer Handling for CMA-ES Tackling
Single-and Multi-Objective Mixed-Integer Black-Box Optimization [10.42820615166362]
連続変数と整数変数を同時に最適化する混合整数ブラックボックス最適化(MI-BBO)問題について検討する。
MGDにおける整数変数の生成に関連する限界確率の低境界に基づいて,CMA-ESに対する単純な整数処理を提案する。
論文 参考訳（メタデータ） (2022-12-19T06:08:20Z) - Bayesian Optimization for Macro Placement [48.55456716632735]
本研究では,系列対上のベイズ最適化(BO)を用いた新しいマクロ配置法を提案する。
BOは確率的代理モデルと獲得関数を利用する機械学習技術である。
固定アウトラインマクロ配置問題に対して, 半周波線長目標を用いたアルゴリズムを実証する。
論文 参考訳（メタデータ） (2022-07-18T06:17:06Z) - CMA-ES with Margin: Lower-Bounding Marginal Probability for
Mixed-Integer Black-Box Optimization [5.237999056930947]
本研究の目的は、連続変数と整数変数を同時に最適化する混合整数ブラックボックス最適化(MI-BBO)問題である。
MGDにおける整数変数の生成に関連する限界確率の低境界に基づくCMA-ESの簡単な修正を提案する。
論文 参考訳（メタデータ） (2022-05-26T16:47:56Z) - RoMA: Robust Model Adaptation for Offline Model-based Optimization [115.02677045518692]
入力出力クエリの静的データセットからブラックボックス目的関数を最大化する入力を探索する問題を考える。
この問題を解決するための一般的なアプローチは、真の客観的関数を近似するプロキシモデルを維持することである。
ここでの大きな課題は、検索中に逆最適化された入力を避ける方法である。
論文 参考訳（メタデータ） (2021-10-27T05:37:12Z) - Natural Evolution Strategy for Unconstrained and Implicitly Constrained
Problems with Ridge Structure [2.512827436728378]
本研究では,制約のないブラックボックス関数最適化(BBFO)問題と暗黙的に制約されたBBFO問題に対する新たな自然進化戦略を提案する。
FM-NESは棟構造の問題やDX-NES-ICとほぼ同等の性能でDX-NES-ICよりも優れた性能を示す。
論文 参考訳（メタデータ） (2021-08-21T08:01:56Z) - Robust Value Iteration for Continuous Control Tasks [99.00362538261972]
シミュレーションから物理システムへ制御ポリシを転送する場合、そのポリシは、動作の変動に対して堅牢でなければならない。
本稿では、動的プログラミングを用いて、コンパクトな状態領域上での最適値関数を計算するRobust Fitted Value Iterationを提案する。
より深い強化学習アルゴリズムや非ロバストなアルゴリズムと比較して、ロバストな値の方が頑健であることを示す。
論文 参考訳（メタデータ） (2021-05-25T19:48:35Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳（メタデータ） (2021-01-06T17:36:26Z) - Least Squares Regression with Markovian Data: Fundamental Limits and
Algorithms [69.45237691598774]
マルコフ連鎖からデータポイントが依存しサンプリングされる最小二乗線形回帰問題について検討する。
この問題を$tau_mathsfmix$という観点から、鋭い情報理論のミニマックス下限を確立する。
本稿では,経験的リプレイに基づくアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-06-16T04:26:50Z) - Distributionally Robust Bayesian Optimization [121.71766171427433]
そこで本研究では,ゼロ次雑音最適化のための分散ロバストなベイズ最適化アルゴリズム(DRBO)を提案する。
提案アルゴリズムは, 種々の設定において, 線形に頑健な後悔を確実に得る。
提案手法は, 実世界のベンチマークと実世界のベンチマークの両方において, 頑健な性能を示す。
論文 参考訳（メタデータ） (2020-02-20T22:04:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。