論文の概要: A penalisation method for batch multi-objective Bayesian optimisation
with application in heat exchanger design
- arxiv url: http://arxiv.org/abs/2206.13326v1
- Date: Mon, 27 Jun 2022 14:16:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-28 15:55:30.598914
- Title: A penalisation method for batch multi-objective Bayesian optimisation
with application in heat exchanger design
- Title(参考訳): バッチ多目的ベイズ最適化のためのペナリゼーション法と熱交換器設計への応用
- Authors: Andrei Paleyes, Henry B. Moss, Victor Picheny, Piotr Zulawski, Felix
Newman
- Abstract要約: 本稿では,並列処理資源を効率的に活用する多目的ベイズ最適化手法を提案する。
類似の予測対象値を用いて評価を行うことで,バッチの多様性を高めることにより,HIPPOは大量の情報ポイントを安価に構築できることを示す。
- 参考スコア(独自算出の注目度): 3.867356784754811
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present HIghly Parallelisable Pareto Optimisation (HIPPO) -- a batch
acquisition function that enables multi-objective Bayesian optimisation methods
to efficiently exploit parallel processing resources. Multi-Objective Bayesian
Optimisation (MOBO) is a very efficient tool for tackling expensive black-box
problems. However, most MOBO algorithms are designed as purely sequential
strategies, and existing batch approaches are prohibitively expensive for all
but the smallest of batch sizes. We show that by encouraging batch diversity
through penalising evaluations with similar predicted objective values, HIPPO
is able to cheaply build large batches of informative points. Our extensive
experimental validation demonstrates that HIPPO is at least as efficient as
existing alternatives whilst incurring an order of magnitude lower
computational overhead and scaling easily to batch sizes considerably higher
than currently supported in the literature. Additionally, we demonstrate the
application of HIPPO to a challenging heat exchanger design problem, stressing
the real-world utility of our highly parallelisable approach to MOBO.
- Abstract(参考訳): 本稿では,並列処理資源を効率的に活用する多目的ベイズ最適化法を実現するバッチ取得関数HIghly Parallelisable Pareto Optimisation (HIPPO)を提案する。
マルチオブジェクトベイズ最適化(MOBO)は高価なブラックボックス問題に対処するための非常に効率的なツールである。
しかし、ほとんどのmoboアルゴリズムは、純粋にシーケンシャルな戦略として設計されており、既存のバッチアプローチは、最小のバッチサイズ以外は、非常に高価である。
類似の予測対象値を用いて評価を行うことで,バッチの多様性を高めることにより,HIPPOは大量の情報ポイントを安価に構築できることを示す。
実験により,HIPPOは計算オーバーヘッドの桁違いを小さくし,バッチサイズにスケールアップし易い一方で,既存の代替品と同程度の効率性を示した。
さらに,熱交換器設計問題へのHIPPOの適用を実証し,MOBOへの並列性の高いアプローチの現実的有用性を強調した。
関連論文リスト
- Optima: Optimizing Effectiveness and Efficiency for LLM-Based Multi-Agent System [75.25394449773052]
大規模言語モデル (LLM) に基づくマルチエージェントシステム (MAS) は協調的問題解決において顕著な可能性を示している。
通信効率の低下、スケーラビリティの低下、効果的なパラメータ更新方法の欠如などです。
本稿では,コミュニケーション効率とタスク効率を両立させ,これらの課題に対処する新しいフレームワークOptimaを提案する。
論文 参考訳(メタデータ) (2024-10-10T17:00:06Z) - Training Greedy Policy for Proposal Batch Selection in Expensive Multi-Objective Combinatorial Optimization [52.80408805368928]
本稿では,バッチ取得のための新しいグリーディ型サブセット選択アルゴリズムを提案する。
赤蛍光タンパク質に関する実験により,提案手法は1.69倍少ないクエリでベースライン性能を達成できることが判明した。
論文 参考訳(メタデータ) (2024-06-21T05:57:08Z) - Cost-Sensitive Multi-Fidelity Bayesian Optimization with Transfer of Learning Curve Extrapolation [55.75188191403343]
各ユーザが事前に定義した機能であるユーティリティを導入し,BOのコストと性能のトレードオフについて述べる。
このアルゴリズムをLCデータセット上で検証した結果,従来のマルチファイルBOや転送BOベースラインよりも優れていた。
論文 参考訳(メタデータ) (2024-05-28T07:38:39Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Adaptive Batch Sizes for Active Learning A Probabilistic Numerics
Approach [28.815294991377645]
アクティブな学習並列化は広く使われているが、一般的には実験全体を通してバッチサイズの修正に依存している。
この固定されたアプローチは、コストとスピードの間の動的なトレードオフのため、非効率である。
本稿では,バッチサイズを適応的に変更する新しい確率論フレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-09T12:17:18Z) - Large-Batch, Iteration-Efficient Neural Bayesian Design Optimization [37.339567743948955]
本稿では,BOの限界に対処するための新しいベイズ最適化フレームワークを提案する。
我々の重要な貢献は、高度にスケーラブルでサンプルベースの取得機能であり、非支配的な目的のソートを実行する。
我々は,ベイズ型ニューラルネットワークサロゲートと組み合わせることで,最小限の反復数でデータ集約環境に有効であることを示す。
論文 参考訳(メタデータ) (2023-06-01T19:10:57Z) - Advancing Model Pruning via Bi-level Optimization [89.88761425199598]
イテレーティブ・マグニチュード・プルーニング(IMP)は,「入賞券」の発見に成功するプルーニング法である
ワンショットプルーニング法が開発されているが、これらのスキームは通常IMPほど勝利のチケットを見つけることができない。
提案手法は,双線形問題構造を持つBLO問題の特別なクラスであることを示す。
論文 参考訳(メタデータ) (2022-10-08T19:19:29Z) - Multi-objective hyperparameter optimization with performance uncertainty [62.997667081978825]
本稿では,機械学習アルゴリズムの評価における不確実性を考慮した多目的ハイパーパラメータ最適化の結果について述べる。
木構造型Parzen Estimator(TPE)のサンプリング戦略と、ガウス過程回帰(GPR)と異種雑音の訓練後に得られたメタモデルを組み合わせる。
3つの解析的テスト関数と3つのML問題の実験結果は、多目的TPEとGPRよりも改善したことを示している。
論文 参考訳(メタデータ) (2022-09-09T14:58:43Z) - Enhancing Explainability of Hyperparameter Optimization via Bayesian
Algorithm Execution [13.037647287689438]
部分依存プロットのような解釈可能な機械学習(IML)手法とHPOの組み合わせについて検討する。
我々は,最適大域的予測性能を効率的に探索する改良HPO法を提案する。
提案手法は,最適化性能を損なうことなく,ブラックボックスの信頼性の高い説明を返す。
論文 参考訳(メタデータ) (2022-06-11T07:12:04Z) - Batch Sequential Adaptive Designs for Global Optimization [5.825138898746968]
効率的なグローバル最適化(EGO)は、高価なブラックボックス最適化問題に対する最も一般的なSAD手法の1つである。
これらの複数点のEGO法では、重い計算とポイントのクラスタリングが障害となる。
本研究では, 改良されたサンプリング/インポータンス・リサンプリング(SIR)法を用いて, 「加速EGO」と呼ばれる新しいバッチSAD法を転送する。
提案したSADの効率は,次元が2~12の9つの古典的テスト関数によって検証される。
論文 参考訳(メタデータ) (2020-10-21T01:11:35Z) - Differentiable Expected Hypervolume Improvement for Parallel
Multi-Objective Bayesian Optimization [11.956059322407437]
我々は、期待されるハイパー改善(EHVI)を用いた多目的BOのプログラミングモデルとハードウェアアクセラレーションの最近の進歩を活用する。
我々は、EHVIを並列な制約付き評価設定に拡張する取得関数であるq-Expected Hyper Improvement (qEHVI) の新規な定式化を導出する。
実験により,qEHVIは実運用シナリオの多くで計算可能であり,壁面時間のごく一部で最先端の多目的BOアルゴリズムより優れていることが示された。
論文 参考訳(メタデータ) (2020-06-09T06:57:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。