論文の概要: aphBO-2GP-3B: A budgeted asynchronous parallel multi-acquisition
functions for constrained Bayesian optimization on high-performing computing
architecture
- arxiv url: http://arxiv.org/abs/2003.09436v2
- Date: Thu, 4 Feb 2021 22:08:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-21 22:18:19.091628
- Title: aphBO-2GP-3B: A budgeted asynchronous parallel multi-acquisition
functions for constrained Bayesian optimization on high-performing computing
architecture
- Title(参考訳): aphBO-2GP-3B:ハイパフォーマンスコンピューティングアーキテクチャにおける制約ベイズ最適化のための予算付き非同期並列多重獲得関数
- Authors: Anh Tran, Mike Eldred, Tim Wildey, Scott McCann, Jing Sun, Robert J.
Visintainer
- Abstract要約: 非同期制約付きバッチ並列ベイズ最適化法を提案する。
この方法の利点は3倍である。
aphBO-2GP-3Bフレームワークは2つの高忠実度産業応用を用いて実証されている。
- 参考スコア(独自算出の注目度): 4.738678765150249
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-fidelity complex engineering simulations are highly predictive, but also
computationally expensive and often require substantial computational efforts.
The mitigation of computational burden is usually enabled through parallelism
in high-performance cluster (HPC) architecture. In this paper, an asynchronous
constrained batch-parallel Bayesian optimization method is proposed to
efficiently solve the computationally-expensive simulation-based optimization
problems on the HPC platform, with a budgeted computational resource, where the
maximum number of simulations is a constant. The advantages of this method are
three-fold. First, the efficiency of the Bayesian optimization is improved,
where multiple input locations are evaluated massively parallel in an
asynchronous manner to accelerate the optimization convergence with respect to
physical runtime. This efficiency feature is further improved so that when each
of the inputs is finished, another input is queried without waiting for the
whole batch to complete. Second, the method can handle both known and unknown
constraints. Third, the proposed method considers several acquisition functions
at the same time and sample based on an evolving probability mass distribution
function using a modified GP-Hedge scheme, where parameters are corresponding
to the performance of each acquisition function. The proposed framework is
termed aphBO-2GP-3B, which corresponds to asynchronous parallel hedge Bayesian
optimization with two Gaussian processes and three batches. The aphBO-2GP-3B
framework is demonstrated using two high-fidelity expensive industrial
applications, where the first one is based on finite element analysis (FEA) and
the second one is based on computational fluid dynamics (CFD) simulations.
- Abstract(参考訳): 高忠実度複雑なエンジニアリングシミュレーションは高い予測値であるが、計算コストも高く、しばしばかなりの計算労力を必要とする。
計算負荷の軽減は通常、高性能クラスタ(hpc)アーキテクチャにおける並列処理によって実現される。
本稿では,HPCプラットフォーム上でのシミュレーションに基づく最適化問題を,シミュレーションの最大数が一定である計算資源を用いて効率的に解くために,非同期制約付きバッチ並列ベイズ最適化法を提案する。
この方法の利点は3つある。
まず、ベイズ最適化の効率性が向上し、複数の入力位置を非同期に大規模並列に評価することで、物理的な実行時の最適化収束を加速する。
この効率性がさらに改善され、各入力が終了すると、バッチ全体が完了するのを待たずに別の入力がクエリされる。
第二に、メソッドは既知の制約と未知の制約の両方を処理できる。
第3に,提案手法では,各取得関数の性能に対応するパラメータを改良したGP-Hedgeスキームを用いて,進化確率質量分布関数に基づいて,複数の取得関数とサンプルを同時に検討する。
提案するフレームワークはaphBO-2GP-3Bと呼ばれ、2つのガウス過程と3つのバッチを持つ非同期並列ヘッジベイズ最適化に対応する。
aphBO-2GP-3Bフレームワークは、有限要素解析(FEA)と計算流体力学(CFD)シミュレーション(CFD)の2つの高忠実な工業アプリケーションを用いて実証されている。
関連論文リスト
- BO4IO: A Bayesian optimization approach to inverse optimization with uncertainty quantification [5.031974232392534]
この研究はデータ駆動逆最適化(IO)に対処する。
目的は最適化モデルにおける未知のパラメータを、最適あるいは準最適と仮定できる観測された決定から推定することである。
論文 参考訳(メタデータ) (2024-05-28T06:52:17Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Federated Conditional Stochastic Optimization [110.513884892319]
条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。
本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-04T01:47:37Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳(メタデータ) (2023-01-30T15:46:39Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - An Efficient Batch Constrained Bayesian Optimization Approach for Analog
Circuit Synthesis via Multi-objective Acquisition Ensemble [11.64233949999656]
MACE(Multi-objective Acquisition Function Ensemble)を用いた並列化可能なベイズ最適化アルゴリズムを提案する。
提案アルゴリズムは,バッチサイズが15のときの非制約最適化問題に対する微分進化(DE)と比較して,シミュレーション全体の時間を最大74倍削減することができる。
制約付き最適化問題に対して,提案アルゴリズムは,バッチサイズが15の場合に,重み付き改善に基づくベイズ最適化(WEIBO)アプローチと比較して最大15倍の高速化を実現することができる。
論文 参考訳(メタデータ) (2021-06-28T13:21:28Z) - Batch Sequential Adaptive Designs for Global Optimization [5.825138898746968]
効率的なグローバル最適化(EGO)は、高価なブラックボックス最適化問題に対する最も一般的なSAD手法の1つである。
これらの複数点のEGO法では、重い計算とポイントのクラスタリングが障害となる。
本研究では, 改良されたサンプリング/インポータンス・リサンプリング(SIR)法を用いて, 「加速EGO」と呼ばれる新しいバッチSAD法を転送する。
提案したSADの効率は,次元が2~12の9つの古典的テスト関数によって検証される。
論文 参考訳(メタデータ) (2020-10-21T01:11:35Z) - Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
バイレベル最適化は多くの機械学習問題に対するツールである。
Stoc-BiO という新しい確率効率勾配推定器を提案する。
論文 参考訳(メタデータ) (2020-10-15T18:09:48Z) - Simple and Scalable Parallelized Bayesian Optimization [2.512827436728378]
本稿では,非同期並列設定のためのシンプルでスケーラブルなBO法を提案する。
マルチ層パーセプトロンのベンチマーク関数とハイパーパラメータ最適化を用いて実験を行った。
論文 参考訳(メタデータ) (2020-06-24T10:25:27Z) - Differentiable Expected Hypervolume Improvement for Parallel
Multi-Objective Bayesian Optimization [11.956059322407437]
我々は、期待されるハイパー改善(EHVI)を用いた多目的BOのプログラミングモデルとハードウェアアクセラレーションの最近の進歩を活用する。
我々は、EHVIを並列な制約付き評価設定に拡張する取得関数であるq-Expected Hyper Improvement (qEHVI) の新規な定式化を導出する。
実験により,qEHVIは実運用シナリオの多くで計算可能であり,壁面時間のごく一部で最先端の多目的BOアルゴリズムより優れていることが示された。
論文 参考訳(メタデータ) (2020-06-09T06:57:47Z) - Accelerating Feedforward Computation via Parallel Nonlinear Equation
Solving [106.63673243937492]
ニューラルネットワークの評価や自己回帰モデルからのサンプリングなどのフィードフォワード計算は、機械学習においてユビキタスである。
本稿では,非線形方程式の解法としてフィードフォワード計算の課題を定式化し,ジャコビ・ガウス・シーデル固定点法とハイブリッド法を用いて解を求める。
提案手法は, 並列化可能な繰り返し回数の削減(あるいは等値化)により, 元のフィードフォワード計算と全く同じ値が与えられることを保証し, 十分な並列化計算能力を付与する。
論文 参考訳(メタデータ) (2020-02-10T10:11:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。