論文の概要: Enhancing hierarchical surrogate-assisted evolutionary algorithm for
high-dimensional expensive optimization via random projection
- arxiv url: http://arxiv.org/abs/2103.00682v1
- Date: Mon, 1 Mar 2021 01:36:36 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-09 14:49:30.350408
- Title: Enhancing hierarchical surrogate-assisted evolutionary algorithm for
high-dimensional expensive optimization via random projection
- Title（参考訳）: ランダムプロジェクションによる高次元高コスト最適化のための階層的代理支援進化アルゴリズムの強化
- Authors: Xiaodong Ren, Daofu Guo, Zhigang Ren, Yongsheng Liang, An Chen
- Abstract要約: 本研究では,ランダムプロジェクション手法を用いて局所代理モデルを訓練し,新しい階層型SAEAを提案する。
元の高次元の解空間でのトレーニングを実行する代わりに、新しいアルゴリズムはまずサンプルをランダムに低次元の部分空間の集合に射影し、次に各部分空間で代理モデルを訓練し、結果のモデルを平均化して候補解の評価を行う。
- 参考スコア（独自算出の注目度）: 6.403721191907894
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: By remarkably reducing real fitness evaluations, surrogate-assisted
evolutionary algorithms (SAEAs), especially hierarchical SAEAs, have been shown
to be effective in solving computationally expensive optimization problems. The
success of hierarchical SAEAs mainly profits from the potential benefit of
their global surrogate models known as "blessing of uncertainty" and the high
accuracy of local models. However, their performance leaves room for
improvement on highdimensional problems since now it is still challenging to
build accurate enough local models due to the huge solution space. Directing
against this issue, this study proposes a new hierarchical SAEA by training
local surrogate models with the help of the random projection technique.
Instead of executing training in the original high-dimensional solution space,
the new algorithm first randomly projects training samples onto a set of
low-dimensional subspaces, then trains a surrogate model in each subspace, and
finally achieves evaluations of candidate solutions by averaging the resulting
models. Experimental results on six benchmark functions of 100 and 200
dimensions demonstrate that random projection can significantly improve the
accuracy of local surrogate models and the new proposed hierarchical SAEA
possesses an obvious edge over state-of-the-art SAEAs
- Abstract（参考訳）: 実際の適合性評価を著しく低減することにより、サロゲート支援進化アルゴリズム(SAEA)、特に階層型SAEAは計算コストの高い最適化問題を解くのに有効であることが示されている。
階層的SAEAの成功は、主に「不確実性の恵み」として知られるグローバルサロゲートモデルの潜在的な利益と、局所モデルの高い精度から利益を得る。
しかし、その性能は高次元問題を改善する余地を残しており、現在なお、巨大なソリューション空間のために十分な正確な局所モデルを構築することは困難である。
そこで本研究では,ランダムプロジェクション手法の助けを借りて局所代理モデルを訓練し,新しい階層型SAEAを提案する。
元の高次元の解空間でトレーニングを実行する代わりに、新しいアルゴリズムはまずサンプルをランダムに低次元の部分空間に射影し、次に各部分空間で代理モデルを訓練し、結果のモデルを平均化して候補解の評価を行う。
100次元と200次元の6つのベンチマーク関数の実験結果から、ランダムプロジェクションは局所代理モデルの精度を大幅に向上し、新しい階層SAEAは最先端SAEAよりも明らかなエッジを持つことが示された。
関連論文リスト
- Large Language Models as Surrogate Models in Evolutionary Algorithms: A Preliminary Study [5.6787965501364335]
サロゲートアシスト選択は、高価な最適化問題を解決する進化アルゴリズムの中核的なステップである。
伝統的に、これは従来の機械学習手法に依存しており、過去の評価を利用して新しいソリューションの性能を予測する。
本研究では,LLM推論機能に基づいた新しいサロゲートモデルを提案する。
論文 参考訳（メタデータ） (2024-06-15T15:54:00Z) - Uncertainty Aware Learning for Language Model Alignment [97.36361196793929]
異なるタスクシナリオのモデルアライメントを改善するために,不確実性認識学習(UAL)を提案する。
トレーニングのラベルの平滑化値を個々のサンプルの不確実性に応じて適応的に設定する。
広く使われているベンチマーク実験では、我々のUALは標準教師あり微調整よりも著しく優れています。
論文 参考訳（メタデータ） (2024-06-07T11:37:45Z) - A First Look at Kolmogorov-Arnold Networks in Surrogate-assisted Evolutionary Algorithms [5.198324938447394]
サロゲート支援進化アルゴリズム(SAEA)は高価な問題を解決するための重要な手法である。
本稿では,SAEA内の代理モデルとしてKAN(Kolmogorov-Arnold Networks)を紹介する。
KansはSAEA内での賞賛可能なパフォーマンスを示し、関数呼び出しの数を効果的に減らし、最適化効率を向上する。
論文 参考訳（メタデータ） (2024-05-26T09:12:44Z) - Diffusion Model for Data-Driven Black-Box Optimization [54.25693582870226]
我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。
本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。
提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
論文 参考訳（メタデータ） (2024-03-20T00:41:12Z) - Enhancing SAEAs with Unevaluated Solutions: A Case Study of Relation
Model for Expensive Optimization [6.382398222493027]
本稿では,SAEAの効率を高めるために,未評価解を用いた枠組みを提案する。
代理モデルを用いて、評価無しに新しい解を直接生成するための高品質な解を同定する。
論文 参考訳（メタデータ） (2023-09-21T12:09:55Z) - Robust Model-Based Optimization for Challenging Fitness Landscapes [96.63655543085258]
タンパク質の設計には、フィットネスのランドスケープの最適化が含まれる。
指導法は, トレーニングセットにおける高適合度サンプルの多彩さに課題を呈する。
デザイン空間における「分離」というこの問題は、既存のモデルベース最適化ツールにおいて重大なボトルネックとなっていることを示す。
本稿では,新しいVAEを検索モデルとして利用して問題を克服する手法を提案する。
論文 参考訳（メタデータ） (2023-05-23T03:47:32Z) - A model aggregation approach for high-dimensional large-scale
optimization [2.1104930506758275]
本研究では,高次元大規模最適化問題を効率的に解くため,ベイズ最適化(MamBO)アルゴリズムにおけるモデル集約手法を提案する。
MamBOはサブサンプリングとサブスペース埋め込みを組み合わせることで、高次元と大規模問題に一括して対処する。
提案手法は,これらの低次元サロゲートモデルリスクを低減し,BOアルゴリズムのロバスト性を向上させる。
論文 参考訳（メタデータ） (2022-05-16T08:58:42Z) - Lipschitz-based Surrogate Model for High-dimensional Computationally
Expensive Problems [0.0]
代理支援進化アルゴリズム (SAEA) は近年, 探索能力により注目されている。
本稿では,コスト対計算対象関数のリプシッツ過小評価に基づく新しいサロゲートモデルを提案する。
また,リプシッツに基づく代理モデルを用いた微分進化に基づくアルゴリズムを開発した。
論文 参考訳（メタデータ） (2022-04-29T17:07:34Z) - Few-shot Quality-Diversity Optimization [50.337225556491774]
品質多様性(QD)の最適化は、強化学習における知覚的最小値とスパース報酬を扱う上で効果的なツールであることが示されている。
本稿では,タスク分布の例から,パラメータ空間の最適化によって得られる経路の情報を利用して,未知の環境でQD手法を初期化する場合,数発の適応が可能であることを示す。
ロボット操作とナビゲーションベンチマークを用いて、疎密な報酬設定と密集した報酬設定の両方で実施された実験は、これらの環境でのQD最適化に必要な世代数を著しく削減することを示している。
論文 参考訳（メタデータ） (2021-09-14T17:12:20Z) - Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。
このアプローチは多くの実装と最適化の課題をもたらします。
提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文 参考訳（メタデータ） (2021-03-18T14:26:26Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳（メタデータ） (2020-06-18T19:11:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。