論文の概要: Experience-Based Evolutionary Algorithms for Expensive Optimization
- arxiv url: http://arxiv.org/abs/2304.04166v1
- Date: Sun, 9 Apr 2023 05:47:14 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 17:20:10.502477
- Title: Experience-Based Evolutionary Algorithms for Expensive Optimization
- Title（参考訳）: コスト最適化のための経験に基づく進化的アルゴリズム
- Authors: Xunzhao Yu, Yan Wang, Ling Zhu, Dimitar Filev, Xin Yao
- Abstract要約: 我々は、関連する問題で得られる経験をよりうまく活用することで、ハード最適化の問題を効率的に扱うことができると論じる。
本稿では,コストのかかる問題の最適化効率を高めるために,経験ベースサロゲート支援進化アルゴリズム(SAEA)フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 8.466374531816427
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimization algorithms are very different from human optimizers. A human
being would gain more experiences through problem-solving, which helps her/him
in solving a new unseen problem. Yet an optimization algorithm never gains any
experiences by solving more problems. In recent years, efforts have been made
towards endowing optimization algorithms with some abilities of experience
learning, which is regarded as experience-based optimization. In this paper, we
argue that hard optimization problems could be tackled efficiently by making
better use of experiences gained in related problems. We demonstrate our ideas
in the context of expensive optimization, where we aim to find a near-optimal
solution to an expensive optimization problem with as few fitness evaluations
as possible. To achieve this, we propose an experience-based surrogate-assisted
evolutionary algorithm (SAEA) framework to enhance the optimization efficiency
of expensive problems, where experiences are gained across related expensive
tasks via a novel meta-learning method. These experiences serve as the
task-independent parameters of a deep kernel learning surrogate, then the
solutions sampled from the target task are used to adapt task-specific
parameters for the surrogate. With the help of experience learning, competitive
regression-based surrogates can be initialized using only 1$d$ solutions from
the target task ($d$ is the dimension of the decision space). Our experimental
results on expensive multi-objective and constrained optimization problems
demonstrate that experiences gained from related tasks are beneficial for the
saving of evaluation budgets on the target problem.
- Abstract（参考訳）: 最適化アルゴリズムは人間の最適化アルゴリズムとは大きく異なる。
人間は問題解決を通じてより多くの経験を得ることができ、新しい目に見えない問題を解決するのに役立ちます。
しかし、最適化アルゴリズムは、より多くの問題を解決することによって、決して経験を得られない。
近年,経験学習能力のある最適化アルゴリズムの実現に向けた取り組みが進められており,これは経験ベース最適化と見なされている。
本稿では、関連する問題において得られる経験をうまく活用することで、ハード最適化問題を効率的に扱うことができると論じる。
我々は、コスト最適化の文脈において、我々のアイデアを実証し、できるだけ少ないフィットネス評価で、高価な最適化問題のほぼ最適解を見つけることを目指している。
そこで我々は,新しいメタラーニング手法により,コストのかかる課題の最適化効率を高めるために,経験ベースサロゲート支援進化アルゴリズム(SAEA)フレームワークを提案する。
これらの経験は、deep kernel learning surrogateのタスクに依存しないパラメータとして機能し、次にターゲットタスクからサンプリングされたソリューションを使用して、タスク固有のパラメータをsurrogateに適応させる。
経験学習の助けを借りて、競合レグレッションベースのサロゲートは、目標タスク(d$は決定空間の次元)からの1$d$のソリューションで初期化することができる。
本研究は,高コストな多目的・制約最適化問題に対する実験結果から,対象問題に対する評価予算の削減に有効であることを示す。
関連論文リスト
- Learning Joint Models of Prediction and Optimization [56.04498536842065]
Predict-Then-Thenフレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
本稿では,共同予測モデルを用いて観測可能特徴から最適解を直接学習する手法を提案する。
論文 参考訳（メタデータ） (2024-09-07T19:52:14Z) - Iterative or Innovative? A Problem-Oriented Perspective for Code Optimization [81.88668100203913]
大規模言語モデル(LLM)は、幅広いプログラミングタスクを解く上で強力な能力を示している。
本稿では,パフォーマンス向上に着目したコード最適化について検討する。
論文 参考訳（メタデータ） (2024-06-17T16:10:10Z) - Landscape Surrogate: Learning Decision Losses for Mathematical
Optimization Under Partial Information [48.784330281177446]
学習統合最適化の最近の研究は、最適化が部分的にのみ観察される場合や、専門家のチューニングなしに汎用性が不十分な環境では有望であることを示している。
本稿では,$fcirc mathbfg$の代替として,スムーズで学習可能なランドスケープサロゲートを提案する。
このサロゲートはニューラルネットワークによって学習可能で、$mathbfg$ソルバよりも高速に計算でき、トレーニング中に密度が高く滑らかな勾配を提供し、目に見えない最適化問題に一般化でき、交互最適化によって効率的に学習される。
論文 参考訳（メタデータ） (2023-07-18T04:29:16Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳（メタデータ） (2023-01-28T01:50:42Z) - A Data-Driven Evolutionary Transfer Optimization for Expensive Problems
in Dynamic Environments [9.098403098464704]
データ駆動、つまりサロゲート支援、進化的最適化は、高価なブラックボックス最適化問題に対処するための効果的なアプローチとして認識されている。
本稿では,データ駆動型進化的最適化により動的最適化問題を解くための,シンプルだが効果的な伝達学習フレームワークを提案する。
提案手法の有効性を実世界のケーススタディで実証した。
論文 参考訳（メタデータ） (2022-11-05T11:19:50Z) - GPSAF: A Generalized Probabilistic Surrogate-Assisted Framework for
Constrained Single- and Multi-objective Optimization [7.8140593450932965]
本稿では,一般確率的サロゲート支援フレームワーク(GPSAF)を提案する。
GPSAFは、制約のない、制約のない、単目的および多目的最適化アルゴリズムの幅広いカテゴリに適用できる。
論文 参考訳（メタデータ） (2022-04-06T13:22:30Z) - Optimizer Amalgamation [124.33523126363728]
私たちは、Amalgamationという新しい問題の研究を動機付けています。"Teacher"アマルガメーションのプールを、より強力な問題固有のパフォーマンスを持つ単一の"学生"にどのように組み合わせるべきなのでしょうか?
まず、勾配降下による解析のプールをアマルガメートする3つの異なるメカニズムを定義する。
また, プロセスの分散を低減するため, 目標を摂動させることでプロセスの安定化を図る。
論文 参考訳（メタデータ） (2022-03-12T16:07:57Z) - Teaching Networks to Solve Optimization Problems [13.803078209630444]
反復解法をトレーニング可能なパラメトリック集合関数に置き換えることを提案する。
このようなパラメトリックな(集合)関数を学習することで、様々な古典的最適化問題を解くことができることを示す。
論文 参考訳（メタデータ） (2022-02-08T19:13:13Z) - PAMELI: A Meta-Algorithm for Computationally Expensive Multi-Objective
Optimization Problems [0.0]
提案アルゴリズムは,実モデルのモデルによって定義される一連の代理問題の解法に基づく。
また,最適化ランドスケープのための最適なサロゲートモデルとナビゲーション戦略のメタ検索を行う。
論文 参考訳（メタデータ） (2021-03-19T11:18:03Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳（メタデータ） (2020-06-18T19:11:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。