論文の概要: Towards Solving Large-scale Expensive Optimization Problems Efficiently
Using Coordinate Descent Algorithm
- arxiv url: http://arxiv.org/abs/2003.03676v3
- Date: Fri, 11 Sep 2020 11:52:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-25 19:03:43.237699
- Title: Towards Solving Large-scale Expensive Optimization Problems Efficiently
Using Coordinate Descent Algorithm
- Title(参考訳): コーディネートDescentアルゴリズムを用いた大規模費用最適化問題の解法
- Authors: Shahryar Rahnamayan and Seyed Jalaleddin Mousavirad
- Abstract要約: 計算予算が限られているLSEGO問題に対処するために,修正された座標 Descent アルゴリズム (MCD) を提案する。
提案アルゴリズムは,関心領域の探索と,指数速度で半分に折り畳むことで検索空間の縮小という,2つの主要なステップの恩恵を受ける。
提案アルゴリズムは,次元1000の20個のベンチマーク関数上でのデルタグルーピングと協調的共進化との比較を行った。
- 参考スコア(独自算出の注目度): 3.1600708674008393
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many real-world problems are categorized as large-scale problems, and
metaheuristic algorithms as an alternative method to solve large-scale problem;
they need the evaluation of many candidate solutions to tackle them prior to
their convergence, which is not affordable for practical applications since the
most of them are computationally expensive. In other words, these problems are
not only large-scale but also computationally expensive, that makes them very
difficult to solve. There is no efficient surrogate model to support
large-scale expensive global optimization (LSEGO) problems. As a result, the
algorithms should address LSEGO problems using a limited computational budget
to be applicable in real-world applications. Coordinate Descent (CD) algorithm
is an optimization strategy based on the decomposition of a n-dimensional
problem into n one-dimensional problem. To the best our knowledge, there is no
significant study to assess benchmark functions with various dimensions and
landscape properties to investigate CD algorithm. In this paper, we propose a
modified Coordinate Descent algorithm (MCD) to tackle LSEGO problems with a
limited computational budget. Our proposed algorithm benefits from two leading
steps, namely, finding the region of interest and then shrinkage of the search
space by folding it into the half with exponential speed. One of the main
advantages of the proposed algorithm is being free of any control parameters,
which makes it far from the intricacies of the tuning process. The proposed
algorithm is compared with cooperative co-evolution with delta grouping on 20
benchmark functions with dimension 1000. Also, we conducted some experiments on
CEC-2017, D=10, 30, 50, and 100, to investigate the behavior of MCD algorithm
in lower dimensions. The results show that MCD is beneficial not only in
large-scale problems, but also in low-scale optimization problems.
- Abstract(参考訳): 実世界の問題の多くは大規模問題に分類され、メタヒューリスティックなアルゴリズムは大規模な問題を解決するための代替手法として、収束する前にそれらに取り組むための多くの候補ソリューションの評価が必要である。
言い換えれば、これらの問題は大規模であるだけでなく、計算コストも高く、解決は非常に困難である。
大規模で高価なグローバル最適化(LSEGO)問題をサポートする効率的な代理モデルはない。
その結果,アルゴリズムは実世界のアプリケーションに適用可能な計算予算を限定してLSEGO問題に対処する必要がある。
座標 Descent (CD) アルゴリズムは n 次元問題の n 次元問題への分解に基づく最適化戦略である。
我々の知る限り、CDアルゴリズムを調べるために様々な次元と景観特性のベンチマーク関数を評価するための重要な研究はない。
本稿では,LSEGO問題に限定的な計算予算で対処するための修正座標Descentアルゴリズム(MCD)を提案する。
提案アルゴリズムは,関心領域の探索と,指数速度で半分に折り畳むことで検索空間の縮小という,2つの主要なステップの恩恵を受ける。
提案アルゴリズムの主な利点の1つは、制御パラメータが不要であることであり、チューニングプロセスの複雑さから遠ざかっている。
提案アルゴリズムは,次元1000の20個のベンチマーク関数上でのデルタグループ化による協調的共進化と比較した。
また,cec-2017,d=10,30,50,100実験を行い,低次元におけるmcdアルゴリズムの挙動について検討した。
その結果,mcdは大規模問題だけでなく,低レベルの最適化問題においても有益であることがわかった。
関連論文リスト
- GreedyML: A Parallel Algorithm for Maximizing Constrained Submodular Functions [2.9998889086656586]
分散メモリマルチプロセッサ上での単調部分モジュラ関数の最大化のための並列近似アルゴリズムについて述べる。
我々の研究は、大規模データセットにおける部分モジュラー最適化問題を解く必要性によって動機付けられている。
論文 参考訳(メタデータ) (2024-03-15T14:19:09Z) - Equitable and Fair Performance Evaluation of Whale Optimization
Algorithm [4.0814527055582746]
すべてのアルゴリズムは、徹底的に、幾分、知的に評価されることが不可欠である。
最適化アルゴリズムの有効性を等しく、公平に評価することは、様々な理由から簡単なプロセスではない。
論文 参考訳(メタデータ) (2023-09-04T06:32:02Z) - Accelerating Cutting-Plane Algorithms via Reinforcement Learning
Surrogates [49.84541884653309]
凸離散最適化問題に対する現在の標準的なアプローチは、カットプレーンアルゴリズムを使うことである。
多くの汎用カット生成アルゴリズムが存在するにもかかわらず、大規模な離散最適化問題は、難易度に悩まされ続けている。
そこで本研究では,強化学習による切削平面アルゴリズムの高速化手法を提案する。
論文 参考訳(メタデータ) (2023-07-17T20:11:56Z) - A Simple Evolutionary Algorithm for Multi-modal Multi-objective
Optimization [0.0]
マルチモーダル・多目的最適化問題(MMOP)を解くための定常進化アルゴリズムを提案する。
本報告では,1000関数評価の低計算予算を用いて,様々なテストスイートから得られた21個のMMOPの性能について報告する。
論文 参考訳(メタデータ) (2022-01-18T03:31:11Z) - Provably Faster Algorithms for Bilevel Optimization [54.83583213812667]
バイレベル最適化は多くの重要な機械学習アプリケーションに広く適用されている。
両レベル最適化のための2つの新しいアルゴリズムを提案する。
両アルゴリズムが$mathcalO(epsilon-1.5)$の複雑さを達成し,既存のアルゴリズムを桁違いに上回っていることを示す。
論文 参考訳(メタデータ) (2021-06-08T21:05:30Z) - Lower Bounds and Optimal Algorithms for Smooth and Strongly Convex
Decentralized Optimization Over Time-Varying Networks [79.16773494166644]
通信ネットワークのノード間を分散的に保存するスムーズで強い凸関数の和を最小化するタスクについて検討する。
我々は、これらの下位境界を達成するための2つの最適アルゴリズムを設計する。
我々は,既存の最先端手法と実験的な比較を行うことにより,これらのアルゴリズムの理論的効率を裏付ける。
論文 参考訳(メタデータ) (2021-06-08T15:54:44Z) - Instance Specific Approximations for Submodular Maximization [45.91235224228292]
実世界のインスタンス上で最適な解に対して,アルゴリズムの性能をベンチマークする手法を模索する。
大きな疑問は、実際に遭遇したインスタンスの最適なソリューションと比較して、アルゴリズムのパフォーマンスを測定する方法です。
我々の主な貢献は、サブモジュラー最小化のための新しいアルゴリズムではなく、サブモジュラーインスタンスのアルゴリズムがいかに最適かを測定する分析手法である。
論文 参考訳(メタデータ) (2021-02-23T19:39:32Z) - Towards Optimally Efficient Tree Search with Deep Learning [76.64632985696237]
本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。
問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。
本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-07T08:00:02Z) - A Two-Timescale Framework for Bilevel Optimization: Complexity Analysis
and Application to Actor-Critic [142.1492359556374]
双レベル最適化は、2レベル構造を示す問題のクラスである。
このような二段階問題に対処するための2段階近似(TTSA)アルゴリズムを提案する。
本稿では,TTSAフレームワークの特殊な事例として,2段階の自然なアクター・クリティカルポリシー最適化アルゴリズムが有用であることを示す。
論文 参考訳(メタデータ) (2020-07-10T05:20:02Z) - Optimal and Practical Algorithms for Smooth and Strongly Convex
Decentralized Optimization [21.555331273873175]
ネットワークのノードにまたがるスムーズな凸関数の和を分散化最小化する作業について検討する。
本稿では,この分散最適化問題に対する2つの新しいアルゴリズムを提案し,複雑性を保証する。
論文 参考訳(メタデータ) (2020-06-21T11:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。