論文の概要: Diverse Expected Improvement (DEI): Diverse Bayesian Optimization of Expensive Computer Simulators
- arxiv url: http://arxiv.org/abs/2410.01196v1
- Date: Wed, 2 Oct 2024 02:59:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-04 22:40:58.357372
- Title: Diverse Expected Improvement (DEI): Diverse Bayesian Optimization of Expensive Computer Simulators
- Title(参考訳): Diverse expected Improvement (DEI): 費用対効果型計算機シミュレータの逆ベイズ最適化
- Authors: John Joshua Miller, Simon Mak, Benny Sun, Sai Ranjeet Narayanan, Suo Yang, Zongxuan Sun, Kenneth S. Kim, Chol-Bum Mike Kweon,
- Abstract要約: そこで我々は,多種多様な ''$epsilon$-optimal''' ソリューションを探索する新しい Diverse expected Improvement (DEI) 法を提案する。
DeI はガウス過程シュロゲートモデルの下で閉形式獲得関数が得られることを示す。
数値実験の組において,既存手法よりもDeIの改善を実証する。
- 参考スコア(独自算出の注目度): 2.047741767160237
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The optimization of expensive black-box simulators arises in a myriad of modern scientific and engineering applications. Bayesian optimization provides an appealing solution, by leveraging a fitted surrogate model to guide the selection of subsequent simulator evaluations. In practice, however, the objective is often not to obtain a single good solution, but rather a ''basket'' of good solutions from which users can choose for downstream decision-making. This need arises in our motivating application for real-time control of internal combustion engines for flight propulsion, where a diverse set of control strategies is essential for stable flight control. There has been little work on this front for Bayesian optimization. We thus propose a new Diverse Expected Improvement (DEI) method that searches for diverse ''$\epsilon$-optimal'' solutions: locally-optimal solutions within a tolerance level $\epsilon > 0$ from a global optimum. We show that DEI yields a closed-form acquisition function under a Gaussian process surrogate model, which facilitates efficient sequential queries via automatic differentiation. This closed form further reveals a novel exploration-exploitation-diversity trade-off, which incorporates the desired diversity property within the well-known exploration-exploitation trade-off. We demonstrate the improvement of DEI over existing methods in a suite of numerical experiments, then explore the DEI in two applications on rover trajectory optimization and engine control for flight propulsion.
- Abstract(参考訳): 高価なブラックボックスシミュレーターの最適化は、現代の科学や工学の応用の無数に存在する。
ベイズ最適化(Bayesian optimization)は、飽和代理モデルを利用して、その後のシミュレータ評価の選択を導出することにより、魅力的な解を提供する。
しかし、実際には、1つの良いソリューションを得るのではなく、ユーザーが下流の意思決定を選択できる優れたソリューションの「バスケット」を得るのが目的であることが多い。
このニーズは、安定した飛行制御に様々な制御戦略が不可欠である飛行推進用内燃機関のリアルタイム制御に、我々のモチベーション応用に現れます。
ベイジアン最適化のこの面での作業はほとんど行われていない。
そこで我々は,多種多様な ''$\epsilon$-optimal'' ソリューションを探索する新たな Diverse expecteded Improvement (DEI) 法を提案する。
本稿では,DIEがガウス過程サロゲートモデルの下でクローズドフォーム取得関数を出力し,自動微分による効率的なシーケンシャルクエリを容易にすることを示す。
この閉じた形態はさらに、探索・探索・多様性のトレードオフを新たに明らかにし、よく知られた探検・探索のトレードオフに望ましい多様性特性を取り入れている。
本研究では, 従来の手法よりも優れたDIEを数値実験で示し, ローバー軌道最適化とエンジン制御の2つの応用でDIEを探索する。
関連論文リスト
- Indirect Query Bayesian Optimization with Integrated Feedback [17.66813850517961]
我々は,未知関数の条件付き期待値$f$を最適化することで,統合されたフィードバックが与えられるような,ベイズ最適化の新たなクラスを開発する。
目的は、条件分布によって変換された空間を適応的にクエリし、観察することで、$f$のグローバルな最適値を見つけることである。
これは、プライバシ、ハードウェア、計算上の制約による直接的なフィードバックにアクセスできない現実世界のアプリケーションによって動機付けられている。
論文 参考訳(メタデータ) (2024-12-18T07:20:33Z) - Synergistic Development of Perovskite Memristors and Algorithms for Robust Analog Computing [53.77822620185878]
本稿では,ペロブスカイト・メムリスタの製作を同時に最適化し,ロバストなアナログDNNを開発するための相乗的手法を提案する。
BO誘導ノイズインジェクションを利用したトレーニング戦略であるBayesMultiを開発した。
我々の統合されたアプローチは、より深くより広いネットワークでのアナログコンピューティングの使用を可能にし、最大100倍の改善を実現します。
論文 参考訳(メタデータ) (2024-12-03T19:20:08Z) - Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate [105.86576388991713]
正規化勾配差(NGDiff)アルゴリズムを導入し、目的間のトレードオフをよりよく制御できるようにする。
本研究では,TOFUおよびMUSEデータセットにおける最先端の未学習手法において,NGDiffの優れた性能を実証的に実証し,理論的解析を行った。
論文 参考訳(メタデータ) (2024-10-29T14:41:44Z) - Controllable Unlearning for Image-to-Image Generative Models via $\varepsilon$-Constrained Optimization [30.54462829263857]
画像合成モデル(I2I)における機械学習問題について検討する。
従来の研究は主に、単独のソリューションを提供する単一目的最適化問題として扱われていた。
本稿では、制御係数$varepsilon$を用いてトレードオフを制御する制御可能なアンラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-08-03T07:04:55Z) - Optimizing Diffusion Models for Joint Trajectory Prediction and Controllable Generation [49.49868273653921]
拡散モデルは、自律運転における共同軌道予測と制御可能な生成を約束する。
最適ガウス拡散(OGD)と推定クリーンマニフォールド(ECM)誘導を導入する。
提案手法は生成過程の合理化を図り,計算オーバーヘッドを低減した実用的な応用を実現する。
論文 参考訳(メタデータ) (2024-08-01T17:59:59Z) - Evolutionary Solution Adaption for Multi-Objective Metal Cutting Process
Optimization [59.45414406974091]
我々は,従来の最適化タスクから解を転送するアルゴリズムの能力を研究することのできる,システムの柔軟性のためのフレームワークを提案する。
NSGA-IIの柔軟性を2つの変種で検討し,1)2つのタスクの解を同時に最適化し,より適応性が高いと期待されるソース間の解を得る,2)活性化あるいは非活性化の異なる可能性に対応する能動的非アクティブなジェノタイプについて検討した。
その結果,標準NSGA-IIによる適応は目標目標への最適化に必要な評価回数を大幅に削減し,提案した変種は適応コストをさらに向上することがわかった。
論文 参考訳(メタデータ) (2023-05-31T12:07:50Z) - Sample-Efficient and Surrogate-Based Design Optimization of Underwater Vehicle Hulls [0.4543820534430522]
本稿では,BO-LCBアルゴリズムが最もサンプリング効率のよい最適化フレームワークであり,最適収束挙動を有することを示す。
また, DNN に基づく代理モデルでは, CFD シミュレーションと密に一致し, 平均絶対パーセンテージ誤差 (MAPE) が 1.85% であることを示す。
本稿では,サロゲートモデルを用いた設計最適化の2次高速化について述べる。
論文 参考訳(メタデータ) (2023-04-24T19:52:42Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳(メタデータ) (2022-10-27T01:58:10Z) - Bayesian Optimization and Deep Learning forsteering wheel angle
prediction [58.720142291102135]
本研究の目的は,自動走行システムにおける操舵角度予測の精度の高いモデルを得ることである。
BOは限られた試行数で、BOST-LSTMと呼ばれるモデルを特定し、古典的なエンドツーエンド駆動モデルと比較して最も正確な結果を得た。
論文 参考訳(メタデータ) (2021-10-22T15:25:14Z) - Multi-Fidelity Multi-Objective Bayesian Optimization: An Output Space
Entropy Search Approach [44.25245545568633]
複数目的のブラックボックス最適化の新たな課題を多要素関数評価を用いて検討する。
いくつかの総合的および実世界のベンチマーク問題に対する実験により、MF-OSEMOは両者の近似により、最先端の単一忠実度アルゴリズムよりも大幅に改善されていることが示された。
論文 参考訳(メタデータ) (2020-11-02T06:59:04Z) - Uncertainty aware Search Framework for Multi-Objective Bayesian
Optimization with Constraints [44.25245545568633]
高価な関数評価を用いた制約付きマルチオブジェクト(MO)ブラックボックス最適化の問題点を考察する。
本稿では,制約付き多目的最適化のための不確実性認識検索フレームワークを提案する。
UeMOCは最適化回路の探索に必要なシミュレーション数を90%以上削減できることを示す。
論文 参考訳(メタデータ) (2020-08-16T23:34:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。