論文の概要: An Evolutionary Algorithm Assisted by an Ensemble of Pareto-Optimal Surrogate Models
- arxiv url: http://arxiv.org/abs/2608.01777v1
- Date: Mon, 03 Aug 2026 06:49:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.362515
- Title: An Evolutionary Algorithm Assisted by an Ensemble of Pareto-Optimal Surrogate Models
- Title(参考訳): Pareto-Optimal Surrogate Model のアンサンブルによる進化的アルゴリズム
- Abstract要約: サロゲートモデルのアンサンブルは、サロゲートモデルの予測品質とロバスト性を向上し、サロゲート支援進化アルゴリズム(SAEA)の探索性能を向上させる。
本研究では,パラメータ設定を最適化し,可塑性アンサンブルモデルを自動的に構築する適応アンサンブルSAEAを提案する。
実験により,単目的ベンチマークと実世界の問題集合上での最先端SAEAに対するアルゴリズムの統計的優位性を実証した。
- 参考スコア(独自算出の注目度): 21.207177069711857
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An ensemble of surrogate models helps improve the prediction quality and robustness of surrogate models, and in turn, the search performance of surrogate-assisted evolutionary algorithms (SAEAs). Although different degrees of smoothness of the approximated fitness landscapes need to be carefully designed for an effective ensemble, little attention has been paid to the explicit tuning of the degree of smoothness derived by surrogate models. This study proposes an adaptive ensemble SAEA, which automatically constructs plausible ensemble models by optimizing their parameter settings. Unlike existing adaptive/ensemble SAEAs, which consider prediction accuracy alone, the proposed algorithm optimizes the structure of radial basis function networks (RBFNs) by solving bi-objective minimization problems of approximation error and model complexity, resulting in robust ensemble models of accurate surrogate models with different degrees of smoothness of the approximated fitness landscapes. As a result, the over/under-fittings are reduced. Additionally, an infill criterion is designed so that surrogate models with different degrees of smoothness can contribute to the solution prescreening. The experimental results demonstrated the statistical superiority of our algorithm over state-of-the-art SAEAs on a single-objective benchmark and real-world problem sets under an expensive optimization scenario. The source code of the proposed algorithm is available at https://github.com/haranychan/EPOS
- Abstract(参考訳): サロゲートモデルのアンサンブルは、サロゲートモデルの予測品質とロバスト性を向上し、サロゲート支援進化アルゴリズム(SAEA)の探索性能を向上させる。
近似されたフィットネスランドスケープの滑らかさの度合いは、効果的なアンサンブルのために慎重に設計する必要があるが、サロゲートモデルによる滑らかさの度合いの明示的なチューニングにはほとんど注意が払われていない。
本研究では,パラメータ設定を最適化し,可塑性アンサンブルモデルを自動的に構築する適応アンサンブルSAEAを提案する。
予測精度のみを考慮した既存の適応型/アンサンブルSAEAとは異なり、提案アルゴリズムは近似誤差とモデル複雑性の両目的最小化問題を解くことにより、放射基底関数ネットワーク(RBFN)の構造を最適化し、近似されたフィットネスランドスケープの滑らか度の異なる正確な代理モデルの堅牢なアンサンブルモデルを生成する。
その結果、オーバーアンダーフィッティングが低減される。
さらに、スムーズさの異なるモデルのサロゲートが、ソリューションの事前スクリーニングに寄与するように、インフィル基準が設計されている。
実験により,高コストな最適化シナリオの下で,単目的ベンチマークと実世界の問題集合上での最先端SAEAに対するアルゴリズムの統計的優位性を実証した。
提案アルゴリズムのソースコードはhttps://github.com/haranychan/EPOSで公開されている。
関連論文リスト
- Opt-Verifier: Unleashing the Power of LLMs for Optimization Modeling via Dual-Side Verification [53.763212981479455]
本稿では、構造と解の両方の観点から、デュアルサイド検証(Opt-Verifier)を用いた新しいフレームワークを提案する。
一般的なベンチマーク実験により、我々の手法は精度が20%以上向上していることが示された。
論文 参考訳(メタデータ) (2026-05-28T08:09:52Z) - New Hybrid Fine-Tuning Paradigm for LLMs: Algorithm Design and Convergence Analysis Framework [52.69678300445233]
fine-tuning Large Language Models (LLMs) は通常、すべてのモデルパラメータを更新するフルきめ細やかな調整を必要とする。
PEFT(Efficient Fine-Tuning)は、パラメータの小さなサブセットを調整する。
ゼロ次最適化法と1次最適化法を組み合わせて,LLMとPEFTモジュールを共同で更新するハイブリッドファインチューニング手法を提案する。
論文 参考訳(メタデータ) (2026-04-10T22:39:38Z) - Simulating classification models to evaluate Predict-Then-Optimize methods [0.0]
最適化の不確実性はしばしば最適化モデルのパラメータとして表される。
Predict-Then自明なアプローチでは、そのようなパラメータの値として機械学習モデルの予測が使用される。
予測誤差と実際の解の密接な関係は実験的でないことを示す。
論文 参考訳(メタデータ) (2025-09-02T11:05:27Z) - Composition and Alignment of Diffusion Models using Constrained Learning [79.36736636241564]
拡散モデルは、複雑な分布からサンプルを採取する能力により、生成的モデリングにおいて普及している。
i) 拡散モデルを微調整して報酬と整合させるアライメントと、(ii) 予め訓練された拡散モデルを組み合わせて、それぞれが生成した出力に望ましい属性を強調する合成である。
本稿では,共役モデルが報酬制約を満たすこと,あるいは(潜在的に複数の)事前学習モデルに近づき続けることを強制することによって,拡散モデルのアライメントと構成を統一する制約付き最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-26T15:06:30Z) - Divergence Minimization Preference Optimization for Diffusion Model Alignment [66.31417479052774]
Divergence Minimization Preference Optimization (DMPO) は、逆KL分散を最小化して拡散モデルを整列する原理的手法である。
DMPOは、異なるベースモデルとテストセットで既存のテクニックを一貫して上回り、適合させることができる。
論文 参考訳(メタデータ) (2025-07-10T07:57:30Z) - A Comparison-Relationship-Surrogate Evolutionary Algorithm for Multi-Objective Optimization [0.0]
比較相関モデルを用いた新しい進化的アルゴリズムCRSEAを提案する。
CRSEAは,多くの中規模・生物客観的問題において,試験されたSAEAよりも優れた収束解を求める。
論文 参考訳(メタデータ) (2025-04-28T01:39:38Z) - Comparative study of regression vs pairwise models for surrogate-based heuristic optimisation [1.2535250082638645]
本稿では, シュロゲート問題の定式化を, 適合度を近似する回帰モデル(表面シュロゲートモデル)と, 分類モデル(ペアワイズ・シュロゲートモデル)を結合する新しい方法の両方として扱う。
オンライン機械学習に基づくサロゲートモデルを用いる場合の全体探索の性能は、予測モデルの精度だけでなく、正または負のケースに対するバイアスの種類にも依存する。
論文 参考訳(メタデータ) (2024-10-04T13:19:06Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - Comparative Evaluation of Metaheuristic Algorithms for Hyperparameter
Selection in Short-Term Weather Forecasting [0.0]
本稿では,遺伝的アルゴリズム (GA), 微分進化 (DE), 粒子群最適化 (PSO) のメタヒューリスティックアルゴリズムの適用について検討する。
平均二乗誤差(MSE)や平均絶対パーセンテージ誤差(MAPE)といった指標に基づいて天気予報の性能を評価する。
論文 参考訳(メタデータ) (2023-09-05T22:13:35Z) - Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。
このアプローチは多くの実装と最適化の課題をもたらします。
提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文 参考訳(メタデータ) (2021-03-18T14:26:26Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳(メタデータ) (2020-06-18T19:11:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。