論文の概要: (1+1)-CMA-ES with Margin for Discrete and Mixed-Integer Problems
- arxiv url: http://arxiv.org/abs/2305.00849v1
- Date: Mon, 1 May 2023 14:34:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-02 13:03:19.204657
- Title: (1+1)-CMA-ES with Margin for Discrete and Mixed-Integer Problems
- Title（参考訳）: (1+1)-CMA-ESによる離散・混合整数問題の解法
- Authors: Yohei Watanabe, Kento Uchida, Ryoki Hamano, Shota Saito, Masahiro
Nomura and Shinichi Shirakawa
- Abstract要約: 本稿では,CMA-ESのエリート版である (1+1)-CMA-ES にマージン補正を導入する。
1+1)-CMA-ESは、しばしば単項関数に有利であり、計算コストが低い。
混合整数、整数、二項領域のベンチマーク関数を用いた数値シミュレーションにより、(1+1)-CMA-ESのマージンは(1+1)-CMA-ESのマージンよりも優れていた。
- 参考スコア（独自算出の注目度）: 6.181926091202142
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The covariance matrix adaptation evolution strategy (CMA-ES) is an efficient
continuous black-box optimization method. The CMA-ES possesses many attractive
features, including invariance properties and a well-tuned default
hyperparameter setting. Moreover, several components to specialize the CMA-ES
have been proposed, such as noise handling and constraint handling. To utilize
these advantages in mixed-integer optimization problems, the CMA-ES with margin
has been proposed. The CMA-ES with margin prevents the premature convergence of
discrete variables by the margin correction, in which the distribution
parameters are modified to leave the generation probability for changing the
discrete variable. The margin correction has been applied to
($\mu/\mu_\mathrm{w}$,$\lambda$)-CMA-ES, while this paper introduces the margin
correction into (1+1)-CMA-ES, an elitist version of CMA-ES. The (1+1)-CMA-ES is
often advantageous for unimodal functions and can be computationally less
expensive. To tackle the performance deterioration on mixed-integer
optimization, we use the discretized elitist solution as the mean of the
sampling distribution and modify the margin correction not to move the elitist
solution. The numerical simulation using benchmark functions on mixed-integer,
integer, and binary domains shows that (1+1)-CMA-ES with margin outperforms the
CMA-ES with margin and is better than or comparable with several specialized
methods to a particular search domain.
- Abstract（参考訳）: 共分散行列適応進化戦略(CMA-ES)は効率的な連続ブラックボックス最適化法である。
cma-esは不変性特性やよく調整されたデフォルトのハイパーパラメータ設定など、多くの魅力的な特徴を持っている。
さらに、ノイズハンドリングや制約ハンドリングなど、CMA-ESを専門とするいくつかのコンポーネントが提案されている。
これらの利点を混合整数最適化問題に活かすため、マージンを持つCMA-ESが提案されている。
マージン付きcma-esはマージン補正による離散変数の早期収束を防止し、分散パラメータは離散変数を変更する生成確率を残すように修正される。
マージン補正は(\mu/\mu_\mathrm{w}$,$\lambda$)-CMA-ESに適用されるが,本論文ではマージン補正をCMA-ESのエリート主義版である (1+1)-CMA-ESに導入する。
1+1)-CMA-ESは、しばしば単項関数に有利であり、計算コストが低い。
混合整数最適化の性能劣化に対処するため, 離散化エリート解をサンプリング分布の平均として使用し, マージン補正を修正してエリート解を移動させないようにする。
混合整数、整数、二項領域のベンチマーク関数を用いた数値シミュレーションでは、(1+1)-CMA-ESのマージンは、(1+1)-CMA-ESのマージンよりも優れており、特定の検索領域に対するいくつかの特殊なメソッドよりも優れている。
関連論文リスト
- CMA-ES for Discrete and Mixed-Variable Optimization on Sets of Points [9.130749109828717]
本稿では,点集合の最適化に焦点をあて,共分散行列適応進化戦略(CMA-ES)を拡張した最適化手法を提案する。
CMA-ES-SoPは、隣接点の生成確率を維持するマージン補正を組み込んで、特定の非最適点への早めの収束を防ぐ。
数値シミュレーションにより、CMA-ES-SoPは点集合の最適化に成功し、単純CMA-ESは初期収束のために最適化に失敗した。
論文 参考訳（メタデータ） (2024-08-23T13:10:06Z) - CatCMA : Stochastic Optimization for Mixed-Category Problems [9.13074910982872]
ブラックボックス最適化の問題は、連続変数、整数変数、カテゴリー変数など、異なるタイプの変数を同時に最適化する必要があることが多い。
いくつかのベイズ最適化手法は混合カテゴリブラックボックス最適化(MC-BBO)を扱うことができるが、高次元問題へのスケーラビリティの欠如と内部計算コストに悩まされている。
本稿では,MC-BBO問題に対する新しい最適化手法であるCatCMAを提案する。
論文 参考訳（メタデータ） (2024-05-16T10:11:18Z) - ALEXR: An Optimal Single-Loop Algorithm for Convex Finite-Sum Coupled Compositional Stochastic Optimization [53.14532968909759]
ALEXRと呼ばれる,効率的な単ループプリマルデュアルブロックコーディネートアルゴリズムを提案する。
本研究では, ALEXR の凸面および強凸面の収束速度を滑らか性および非滑らか性条件下で確立する。
本稿では,ALEXRの収束速度が,検討されたcFCCO問題に対する1次ブロック座標アルゴリズムの中で最適であることを示すために,より低い複雑性境界を示す。
論文 参考訳（メタデータ） (2023-12-04T19:00:07Z) - Natural Evolution Strategy for Mixed-Integer Black-Box Optimization [0.0]
CMA-ES w. MarginはMI-BBOベンチマーク問題で優れた性能を示したと伝えられている。
DX-NES-ICI は CMA-ES w. Margin の3.7倍の速度で最適解を求めることができた。
論文 参考訳（メタデータ） (2023-04-21T03:34:22Z) - Marginal Probability-Based Integer Handling for CMA-ES Tackling
Single-and Multi-Objective Mixed-Integer Black-Box Optimization [10.42820615166362]
連続変数と整数変数を同時に最適化する混合整数ブラックボックス最適化(MI-BBO)問題について検討する。
MGDにおける整数変数の生成に関連する限界確率の低境界に基づいて,CMA-ESに対する単純な整数処理を提案する。
論文 参考訳（メタデータ） (2022-12-19T06:08:20Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳（メタデータ） (2022-09-27T07:58:25Z) - CMA-ES with Margin: Lower-Bounding Marginal Probability for
Mixed-Integer Black-Box Optimization [5.237999056930947]
本研究の目的は、連続変数と整数変数を同時に最適化する混合整数ブラックボックス最適化(MI-BBO)問題である。
MGDにおける整数変数の生成に関連する限界確率の低境界に基づくCMA-ESの簡単な修正を提案する。
論文 参考訳（メタデータ） (2022-05-26T16:47:56Z) - Faster Algorithm and Sharper Analysis for Constrained Markov Decision
Process [56.55075925645864]
制約付き意思決定プロセス (CMDP) の問題点について検討し, エージェントは, 複数の制約を条件として, 期待される累積割引報酬を最大化することを目的とする。
新しいユーティリティ・デュアル凸法は、正規化ポリシー、双対正則化、ネステロフの勾配降下双対という3つの要素の新たな統合によって提案される。
これは、凸制約を受ける全ての複雑性最適化に対して、非凸CMDP問題が$mathcal O (1/epsilon)$の低い境界に達する最初の実演である。
論文 参考訳（メタデータ） (2021-10-20T02:57:21Z) - Sparse Quadratic Optimisation over the Stiefel Manifold with Application
to Permutation Synchronisation [71.27989298860481]
二次目的関数を最大化するスティーフェル多様体上の行列を求める非最適化問題に対処する。
そこで本研究では,支配的固有空間行列を求めるための,単純かつ効果的なスパーシティプロモーティングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-09-30T19:17:35Z) - Stochastic Gradient Descent-Ascent and Consensus Optimization for Smooth
Games: Convergence Analysis under Expected Co-coercivity [49.66890309455787]
本稿では,SGDA と SCO の最終的な収束保証として,期待されるコヒーレンシティ条件を導入し,その利点を説明する。
定常的なステップサイズを用いた場合、両手法の線形収束性を解の近傍に証明する。
我々の収束保証は任意のサンプリングパラダイムの下で保たれ、ミニバッチの複雑さに関する洞察を与える。
論文 参考訳（メタデータ） (2021-06-30T18:32:46Z) - Distributionally Robust Bayesian Optimization [121.71766171427433]
そこで本研究では,ゼロ次雑音最適化のための分散ロバストなベイズ最適化アルゴリズム(DRBO)を提案する。
提案アルゴリズムは, 種々の設定において, 線形に頑健な後悔を確実に得る。
提案手法は, 実世界のベンチマークと実世界のベンチマークの両方において, 頑健な性能を示す。
論文 参考訳（メタデータ） (2020-02-20T22:04:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。