論文の概要: Warm Starting of CMA-ES for Contextual Optimization Problems

• arxiv url: http://arxiv.org/abs/2502.12555v1
• Date: Tue, 18 Feb 2025 05:41:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-19 14:08:15.096192
• Title: Warm Starting of CMA-ES for Contextual Optimization Problems
• Title（参考訳）: 文脈最適化問題に対するCMA-ESの温暖化開始
• Authors: Yuta Sekino, Kento Uchida, Shinichi Shirakawa,
• Abstract要約: 文脈ベクトルを用いた文脈最適化問題を効率的に最適化するために,CMA-ES-CWSを用いた共分散行列適応進化戦略を提案する。 CMA-ES-CWSは、ガウス過程回帰の後方分布を用いた探索分布を初期化することにより、所定のコンテキストベクトルに対してウォームスタートを実行する。 シミュレーションの結果、CMA-ES-CWSは既存の文脈最適化やウォームスタート法よりも優れていたことが示唆された。
• 参考スコア（独自算出の注目度）: 1.3108652488669732
• License:
• Abstract: Several practical applications of evolutionary computation possess objective functions that receive the design variables and externally given parameters. Such problems are termed contextual optimization problems. These problems require finding the optimal solutions corresponding to the given context vectors. Existing contextual optimization methods train a policy model to predict the optimal solution from context vectors. However, the performance of such models is limited by their representation ability. By contrast, warm starting methods have been used to initialize evolutionary algorithms on a given problem using the optimization results on similar problems. Because warm starting methods do not consider the context vectors, their performances can be improved on contextual optimization problems. Herein, we propose a covariance matrix adaptation evolution strategy with contextual warm starting (CMA-ES-CWS) to efficiently optimize the contextual optimization problem with a given context vector. The CMA-ES-CWS utilizes the optimization results of past context vectors to train the multivariate Gaussian process regression. Subsequently, the CMA-ES-CWS performs warm starting for a given context vector by initializing the search distribution using posterior distribution of the Gaussian process regression. The results of the numerical simulation suggest that CMA-ES-CWS outperforms the existing contextual optimization and warm starting methods.
• Abstract（参考訳）: 進化的計算のいくつかの実践的応用は、設計変数と外部に与えられたパラメータを受信する客観的関数を持つ。 このような問題は文脈最適化問題と呼ばれる。 これらの問題は与えられた文脈ベクトルに対応する最適解を見つける必要がある。 既存の文脈最適化手法は、文脈ベクトルから最適解を予測するためにポリシーモデルを訓練する。 しかし、そのようなモデルの性能は表現能力によって制限される。 対照的に、温かい開始法は、同様の問題に対する最適化結果を用いて、与えられた問題に対して進化的アルゴリズムを初期化するのに使われてきた。 ウォームスタート法は文脈ベクトルを考慮しないため、文脈最適化問題においてその性能を改善することができる。 本稿では,文脈ベクトルを用いた文脈最適化問題を効率的に最適化するために,文脈的暖房開始(CMA-ES-CWS)を用いた共分散行列適応進化戦略を提案する。 CMA-ES-CWSは過去の文脈ベクトルの最適化結果を利用して多変量ガウス過程の回帰を訓練する。 その後、CMA-ES-CWSは、ガウス過程回帰の後方分布を用いた探索分布を初期化することにより、所定のコンテキストベクトルのウォームスタートを実行する。 シミュレーションの結果、CMA-ES-CWSは既存の文脈最適化やウォームスタート法よりも優れていたことが示唆された。

関連論文リスト

• Primitive Agentic First-Order Optimization [0.0]
  本研究では,一階強化学習として,原始状態表現とエージェント環境相互作用を組み合わせた概念実証研究を提案する。 その結果,RLに基づく最適化では,基本的RL法と簡潔な部分的状態表現を組み合わせることで,複雑性の管理を最適化できることがわかった。
  論文  参考訳（メタデータ） (2024-06-07T11:13:38Z)
• Quantum-Enhanced Simulation-Based Optimization for Newsvendor Problems [5.500172106704342]
  古典モンテカルロシミュレーションと比較して量子振幅推定(QAE)の高効率性を利用する。 本研究では,シミュレーションに基づく最適化に量子エンハンスアルゴリズムを用い,NP-hardとして知られる古典ニュース問題の変種を解く。
  論文  参考訳（メタデータ） (2024-03-26T05:14:50Z)
• Analyzing and Enhancing the Backward-Pass Convergence of Unrolled Optimization [50.38518771642365]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 この設定における中心的な課題は最適化問題の解によるバックプロパゲーションであり、しばしば閉形式を欠いている。 本稿では, 非線形最適化の後方通過に関する理論的知見を提供し, 特定の反復法による線形システムの解と等価であることを示す。 Folded Optimizationと呼ばれるシステムが提案され、非ローリングなソルバ実装からより効率的なバックプロパゲーションルールを構築する。
  論文  参考訳（メタデータ） (2023-12-28T23:15:18Z)
• Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
  ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。 1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。 本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
  論文  参考訳（メタデータ） (2023-01-28T01:50:42Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Data-driven evolutionary algorithm for oil reservoir well-placement and control optimization [3.012067935276772]
  一般化されたデータ駆動進化アルゴリズム(GDDE)は、適切な配置と制御最適化問題で実行されるシミュレーションの数を減らすために提案される。 確率的ニューラルネットワーク(PNN)は、情報的および有望な候補を選択するための分類器として採用されている。
  論文  参考訳（メタデータ） (2022-06-07T09:07:49Z)
• Hyper-optimization with Gaussian Process and Differential Evolution Algorithm [0.0]
  本稿では,利用可能な科学図書館のガウス過程最適化コンポーネントの具体的修正について述べる。 提示された修正はBlackBox 2020チャレンジに提出され、従来の最適化ライブラリを上回った。
  論文  参考訳（メタデータ） (2021-01-26T08:33:00Z)
• Particle Swarm Optimization: Fundamental Study and its Application to Optimization and to Jetty Scheduling Problems [0.0]
  従来の手法に関する進化的アルゴリズムの利点は、文献で大いに議論されている。 粒子群はそのような利点を共有しているが、計算コストの低減と実装の容易さが要求されるため、進化的アルゴリズムよりも優れている。 本論文は, それらのチューニングについて検討するものではなく, 従来の研究から汎用的な設定を抽出し, 様々な問題を最適化するために, 事実上同じアルゴリズムを用いている。
  論文  参考訳（メタデータ） (2021-01-25T02:06:30Z)
• Divide and Learn: A Divide and Conquer Approach for Predict+Optimize [50.03608569227359]
  予測+最適化問題は、予測係数を使用する最適化プロブレムと、確率係数の機械学習を組み合わせる。 本稿では, 予測係数を1次線形関数として, 最適化問題の損失を直接表現する方法を示す。 本稿では,この制約を伴わずに最適化問題に対処し,最適化損失を用いてその係数を予測する新しい分割アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-12-04T00:26:56Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。