論文の概要: Solving Expensive Optimization Problems in Dynamic Environments with
Meta-learning
- arxiv url: http://arxiv.org/abs/2310.12538v1
- Date: Thu, 19 Oct 2023 07:42:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-20 16:27:20.138879
- Title: Solving Expensive Optimization Problems in Dynamic Environments with
Meta-learning
- Title（参考訳）: メタ学習による動的環境における重大最適化問題の解法
- Authors: Huan Zhang, Jinliang Ding, Liang Feng, Kay Chen Tan, Ke Li
- Abstract要約: 本稿では,高コストな動的最適化問題を解くための,シンプルなメタラーニングに基づく最適化フレームワークを提案する。
このフレームワークは柔軟性があり、任意の既製のサロゲートモデルをプラグイン形式で連続的に使用することができる。
いくつかの最先端アルゴリズムと比較して,提案手法の有効性を示す実験を行った。
- 参考スコア（独自算出の注目度）: 34.77121111015387
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dynamic environments pose great challenges for expensive optimization
problems, as the objective functions of these problems change over time and
thus require remarkable computational resources to track the optimal solutions.
Although data-driven evolutionary optimization and Bayesian optimization (BO)
approaches have shown promise in solving expensive optimization problems in
static environments, the attempts to develop such approaches in dynamic
environments remain rarely unexplored. In this paper, we propose a simple yet
effective meta-learning-based optimization framework for solving expensive
dynamic optimization problems. This framework is flexible, allowing any
off-the-shelf continuously differentiable surrogate model to be used in a
plug-in manner, either in data-driven evolutionary optimization or BO
approaches. In particular, the framework consists of two unique components: 1)
the meta-learning component, in which a gradient-based meta-learning approach
is adopted to learn experience (effective model parameters) across different
dynamics along the optimization process. 2) the adaptation component, where the
learned experience (model parameters) is used as the initial parameters for
fast adaptation in the dynamic environment based on few shot samples. By doing
so, the optimization process is able to quickly initiate the search in a new
environment within a strictly restricted computational budget. Experiments
demonstrate the effectiveness of the proposed algorithm framework compared to
several state-of-the-art algorithms on common benchmark test problems under
different dynamic characteristics.
- Abstract（参考訳）: 動的環境は、時間とともに目的関数が変化し、最適な解を追跡するために顕著な計算資源を必要とするため、高価な最適化問題にとって大きな課題となる。
データ駆動の進化的最適化とベイズ最適化(BO)アプローチは、静的環境において高価な最適化問題を解くことを約束しているが、動的環境においてそのようなアプローチを開発する試みは、ほとんど探索されていない。
本稿では,高コストな動的最適化問題を解決するための,メタラーニングに基づくシンプルな最適化フレームワークを提案する。
このフレームワークはフレキシブルで、データ駆動の進化最適化やBOアプローチのいずれでもプラグイン方式で、市販のサロゲートモデルを継続的に差別化することができる。
特に、フレームワークは2つのユニークなコンポーネントで構成されている。
1) グラデーションに基づくメタラーニングアプローチを採用するメタラーニングコンポーネントは、最適化プロセスに沿って異なるダイナミクスにまたがる経験(効果的なモデルパラメータ)を学習する。
2) 学習経験(モデルパラメータ)を動的環境の高速適応のための初期パラメータとして用いる適応成分について, 少ないショットサンプルに基づいて検討した。
これにより、最適化プロセスは、厳格に制限された計算予算内で、新しい環境における探索を迅速に開始することができる。
提案手法の有効性を実験により実証し, 動的特性の異なる共通ベンチマークテスト問題に対する最新アルゴリズムとの比較を行った。
関連論文リスト
- An Adaptive Metaheuristic Framework for Changing Environments [0.0]
本稿では動的環境向けに設計された適応メタヒューリスティックフレームワーク(AMF)を紹介する。
AMFは、問題の動的表現、リアルタイムセンシングシステム、適応技術を組み合わせて、継続的に変化する最適化環境をナビゲートする。
論文 参考訳（メタデータ） (2024-04-18T13:47:53Z) - Predict-Then-Optimize by Proxy: Learning Joint Models of Prediction and
Optimization [59.386153202037086]
Predict-Then-フレームワークは、機械学習モデルを使用して、最適化問題の未知のパラメータを、解決前の機能から予測する。
このアプローチは非効率であり、最適化ステップを通じてバックプロパゲーションのための手作りの、問題固有のルールを必要とする。
本稿では,予測モデルを用いて観測可能な特徴から最適解を直接学習する手法を提案する。
論文 参考訳（メタデータ） (2023-11-22T01:32:06Z) - Evolutionary Solution Adaption for Multi-Objective Metal Cutting Process
Optimization [59.45414406974091]
我々は,従来の最適化タスクから解を転送するアルゴリズムの能力を研究することのできる,システムの柔軟性のためのフレームワークを提案する。
NSGA-IIの柔軟性を2つの変種で検討し,1)2つのタスクの解を同時に最適化し,より適応性が高いと期待されるソース間の解を得る,2)活性化あるいは非活性化の異なる可能性に対応する能動的非アクティブなジェノタイプについて検討した。
その結果,標準NSGA-IIによる適応は目標目標への最適化に必要な評価回数を大幅に削減し,提案した変種は適応コストをさらに向上することがわかった。
論文 参考訳（メタデータ） (2023-05-31T12:07:50Z) - A Survey on Multi-Objective based Parameter Optimization for Deep
Learning [1.3223682837381137]
深層ニューラルネットワークを用いたパラメータ最適化における多目的最適化手法の有効性について検討する。
これら2つの手法を組み合わせて、複数のアプリケーションにおける予測と分析の生成に関する貴重な洞察を提供する。
論文 参考訳（メタデータ） (2023-05-17T07:48:54Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳（メタデータ） (2023-01-28T01:50:42Z) - A Data-Driven Evolutionary Transfer Optimization for Expensive Problems
in Dynamic Environments [9.098403098464704]
データ駆動、つまりサロゲート支援、進化的最適化は、高価なブラックボックス最適化問題に対処するための効果的なアプローチとして認識されている。
本稿では,データ駆動型進化的最適化により動的最適化問題を解くための,シンプルだが効果的な伝達学習フレームワークを提案する。
提案手法の有効性を実世界のケーススタディで実証した。
論文 参考訳（メタデータ） (2022-11-05T11:19:50Z) - Teaching Networks to Solve Optimization Problems [13.803078209630444]
反復解法をトレーニング可能なパラメトリック集合関数に置き換えることを提案する。
このようなパラメトリックな(集合)関数を学習することで、様々な古典的最適化問題を解くことができることを示す。
論文 参考訳（メタデータ） (2022-02-08T19:13:13Z) - Meta-Learning with Neural Tangent Kernels [58.06951624702086]
メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。
このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。
本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
論文 参考訳（メタデータ） (2021-02-07T20:53:23Z) - Incremental Data-driven Optimization of Complex Systems in Nonstationary
Environments [26.93254582875251]
本稿では、動的環境がもたらす課題に対処するデータ駆動最適化アルゴリズムを提案する。
まず、サロゲートを訓練するためにデータストリームアンサンブル学習法を採用し、アンサンブルの各ベース学習者が前の環境における時間変化対象関数を学習する。
その後、マルチタスク進化アルゴリズムを用いて、アンサンブルサロゲートによって支援された過去の環境における問題を同時に最適化する。
論文 参考訳（メタデータ） (2020-12-14T02:55:42Z) - Automatically Learning Compact Quality-aware Surrogates for Optimization
Problems [55.94450542785096]
未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。
最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。
我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
論文 参考訳（メタデータ） (2020-06-18T19:11:54Z) - Optimizing Wireless Systems Using Unsupervised and
Reinforced-Unsupervised Deep Learning [96.01176486957226]
無線ネットワークにおけるリソース割り当てとトランシーバーは、通常最適化問題の解決によって設計される。
本稿では,変数最適化と関数最適化の両問題を解くための教師なし・教師なし学習フレームワークを紹介する。
論文 参考訳（メタデータ） (2020-01-03T11:01:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。