論文の概要: CatCMA with Margin: Stochastic Optimization for Continuous, Integer, and Categorical Variables

• arxiv url: http://arxiv.org/abs/2504.07884v2
• Date: Sun, 13 Apr 2025 17:45:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 13:21:56.717582
• Title: CatCMA with Margin: Stochastic Optimization for Continuous, Integer, and Categorical Variables
• Title（参考訳）: CatCMA with Margin: 連続, 整数, カテゴリー変数の確率的最適化
• Authors: Ryoki Hamano, Masahiro Nomura, Shota Saito, Kento Uchida, Shinichi Shirakawa,
• Abstract要約: 本研究では,混合可変ブラックボックス最適化(MV-BBO)に焦点を当てる。 連続変数、整数変数、カテゴリー変数に対処する。 混合カテゴリブラックボックス最適化法であるMargin (CatCMAwM) を用いたCatCMAを提案する。
• 参考スコア（独自算出の注目度）: 9.13074910982872
• License:
• Abstract: This study focuses on mixed-variable black-box optimization (MV-BBO), addressing continuous, integer, and categorical variables. Many real-world MV-BBO problems involve dependencies among these different types of variables, requiring efficient methods to optimize them simultaneously. Recently, stochastic optimization methods leveraging the mechanism of the covariance matrix adaptation evolution strategy have shown promising results in mixed-integer or mixed-category optimization. However, such methods cannot handle the three types of variables simultaneously. In this study, we propose CatCMA with Margin (CatCMAwM), a stochastic optimization method for MV-BBO that jointly optimizes continuous, integer, and categorical variables. CatCMAwM is developed by incorporating a novel integer handling into CatCMA, a mixed-category black-box optimization method employing a joint distribution of multivariate Gaussian and categorical distributions. The proposed integer handling is carefully designed by reviewing existing integer handlings and following the design principles of CatCMA. Even when applied to mixed-integer problems, it stabilizes the marginal probability and improves the convergence performance of continuous variables. Numerical experiments show that CatCMAwM effectively handles the three types of variables, outperforming state-of-the-art Bayesian optimization methods and baselines that simply incorporate existing integer handlings into CatCMA.
• Abstract（参考訳）: 本研究では、連続変数、整数変数、カテゴリー変数に対処する混合変数ブラックボックス最適化(MV-BBO)に焦点を当てる。 多くの実世界のMV-BBO問題は、これらの変数間の依存関係を伴い、それらを同時に最適化する効率的な方法を必要とする。 近年,共分散行列適応進化戦略のメカニズムを活用する確率的最適化手法は,混合整数あるいは混合カテゴリー最適化において有望な結果を示した。 しかし、これらの方法は3種類の変数を同時に扱うことはできない。 本研究では,連続変数,整数変数,カテゴリー変数を協調的に最適化するMV-BBOの確率的最適化手法であるCatCMA with Margin (CatCMAwM)を提案する。 CatCMAwMは多変量ガウス分布とカテゴリー分布の合同分布を用いた混合カテゴリブラックボックス最適化法である。 提案した整数ハンドリングは、既存の整数ハンドリングをレビューし、CatCMAの設計原則に従うことで慎重に設計されている。 混合整数問題に適用しても、限界確率を安定化し、連続変数の収束性能を向上させる。 数値実験により、CatCMAwMは3種類の変数を効果的に処理し、既存の整数処理をCatCMAに組み込む、最先端のベイズ最適化法とベースラインより優れていることが示された。

関連論文リスト

• SeWA: Selective Weight Average via Probabilistic Masking [51.015724517293236]
  より良く、より高速な収束を達成するためには、ほんの数ポイントしか必要としないことを示す。 離散選択問題を連続的な部分集合最適化フレームワークに変換する。 両凸画像チェックポイントの値よりもシャープなSeWAの安定性境界を導出する。
  論文  参考訳（メタデータ） (2025-02-14T12:35:21Z)
• CatCMA : Stochastic Optimization for Mixed-Category Problems [9.13074910982872]
  ブラックボックス最適化の問題は、連続変数、整数変数、カテゴリー変数など、異なるタイプの変数を同時に最適化する必要があることが多い。 いくつかのベイズ最適化手法は混合カテゴリブラックボックス最適化(MC-BBO)を扱うことができるが、高次元問題へのスケーラビリティの欠如と内部計算コストに悩まされている。 本稿では,MC-BBO問題に対する新しい最適化手法であるCatCMAを提案する。
  論文  参考訳（メタデータ） (2024-05-16T10:11:18Z)
• ALEXR: An Optimal Single-Loop Algorithm for Convex Finite-Sum Coupled Compositional Stochastic Optimization [53.14532968909759]
  ALEXRと呼ばれる,効率的な単ループプリマルデュアルブロックコーディネートアルゴリズムを提案する。 本研究では, ALEXR の凸面および強凸面の収束速度を滑らか性および非滑らか性条件下で確立する。 本稿では,ALEXRの収束速度が,検討されたcFCCO問題に対する1次ブロック座標アルゴリズムの中で最適であることを示すために,より低い複雑性境界を示す。
  論文  参考訳（メタデータ） (2023-12-04T19:00:07Z)
• (1+1)-CMA-ES with Margin for Discrete and Mixed-Integer Problems [6.181926091202142]
  本稿では,CMA-ESのエリート版である (1+1)-CMA-ES にマージン補正を導入する。 1+1)-CMA-ESは、しばしば単項関数に有利であり、計算コストが低い。 混合整数、整数、二項領域のベンチマーク関数を用いた数値シミュレーションにより、(1+1)-CMA-ESのマージンは(1+1)-CMA-ESのマージンよりも優れていた。
  論文  参考訳（メタデータ） (2023-05-01T14:34:55Z)
• Numerical Methods for Convex Multistage Stochastic Optimization [86.45244607927732]
  最適化プログラミング(SP)、最適制御(SOC)、決定プロセス(MDP)に焦点を当てる。 凸多段マルコフ問題の解決の最近の進歩は、動的プログラミング方程式のコスト対ゴー関数の切断面近似に基づいている。 切削平面型法は多段階問題を多段階的に扱えるが、状態(決定)変数は比較的少ない。
  論文  参考訳（メタデータ） (2023-03-28T01:30:40Z)
• Marginal Probability-Based Integer Handling for CMA-ES Tackling Single-and Multi-Objective Mixed-Integer Black-Box Optimization [10.42820615166362]
  連続変数と整数変数を同時に最適化する混合整数ブラックボックス最適化(MI-BBO)問題について検討する。 MGDにおける整数変数の生成に関連する限界確率の低境界に基づいて,CMA-ESに対する単純な整数処理を提案する。
  論文  参考訳（メタデータ） (2022-12-19T06:08:20Z)
• AdaCat: Adaptive Categorical Discretization for Autoregressive Models [84.85102013917606]
  AdaCat(Adaptive Categorical Discretization)と呼ばれる,効率的で表現性の高いマルチモーダルパラメータ化を提案する。 AdaCatは自己回帰モデルの各次元を適応的に識別し、モデルが関心の細かい間隔に密度を割り当てることを可能にする。
  論文  参考訳（メタデータ） (2022-08-03T17:53:46Z)
• CMA-ES with Margin: Lower-Bounding Marginal Probability for Mixed-Integer Black-Box Optimization [5.237999056930947]
  本研究の目的は、連続変数と整数変数を同時に最適化する混合整数ブラックボックス最適化(MI-BBO)問題である。 MGDにおける整数変数の生成に関連する限界確率の低境界に基づくCMA-ESの簡単な修正を提案する。
  論文  参考訳（メタデータ） (2022-05-26T16:47:56Z)
• Bayesian Optimisation for Mixed-Variable Inputs using Value Proposals [10.40799693791025]
  カテゴリー変数と連続変数の両方で定義される最適化問題。 包括的視点を採用し、分類的および連続的な部分空間の最適化を統合することを目的としている。 この統一アプローチは、既存の混合変数最適化アプローチよりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2022-02-10T04:42:48Z)
• Divide and Learn: A Divide and Conquer Approach for Predict+Optimize [50.03608569227359]
  予測+最適化問題は、予測係数を使用する最適化プロブレムと、確率係数の機械学習を組み合わせる。 本稿では, 予測係数を1次線形関数として, 最適化問題の損失を直接表現する方法を示す。 本稿では,この制約を伴わずに最適化問題に対処し,最適化損失を用いてその係数を予測する新しい分割アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-12-04T00:26:56Z)
• Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
  また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。 これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
  論文  参考訳（メタデータ） (2020-09-01T19:12:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。