論文の概要: Diverse Expected Improvement (DEI): Diverse Bayesian Optimization of Expensive Computer Simulators

• arxiv url: http://arxiv.org/abs/2410.01196v1
• Date: Wed, 2 Oct 2024 02:59:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-04 22:40:58.357372
• Title: Diverse Expected Improvement (DEI): Diverse Bayesian Optimization of Expensive Computer Simulators
• Title（参考訳）: Diverse expected Improvement (DEI): 費用対効果型計算機シミュレータの逆ベイズ最適化
• Authors: John Joshua Miller, Simon Mak, Benny Sun, Sai Ranjeet Narayanan, Suo Yang, Zongxuan Sun, Kenneth S. Kim, Chol-Bum Mike Kweon,
• Abstract要約: そこで我々は,多種多様な ''$epsilon$-optimal''' ソリューションを探索する新しい Diverse expected Improvement (DEI) 法を提案する。 DeI はガウス過程シュロゲートモデルの下で閉形式獲得関数が得られることを示す。 数値実験の組において,既存手法よりもDeIの改善を実証する。
• 参考スコア（独自算出の注目度）: 2.047741767160237
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The optimization of expensive black-box simulators arises in a myriad of modern scientific and engineering applications. Bayesian optimization provides an appealing solution, by leveraging a fitted surrogate model to guide the selection of subsequent simulator evaluations. In practice, however, the objective is often not to obtain a single good solution, but rather a ''basket'' of good solutions from which users can choose for downstream decision-making. This need arises in our motivating application for real-time control of internal combustion engines for flight propulsion, where a diverse set of control strategies is essential for stable flight control. There has been little work on this front for Bayesian optimization. We thus propose a new Diverse Expected Improvement (DEI) method that searches for diverse ''$\epsilon$-optimal'' solutions: locally-optimal solutions within a tolerance level $\epsilon > 0$ from a global optimum. We show that DEI yields a closed-form acquisition function under a Gaussian process surrogate model, which facilitates efficient sequential queries via automatic differentiation. This closed form further reveals a novel exploration-exploitation-diversity trade-off, which incorporates the desired diversity property within the well-known exploration-exploitation trade-off. We demonstrate the improvement of DEI over existing methods in a suite of numerical experiments, then explore the DEI in two applications on rover trajectory optimization and engine control for flight propulsion.
• Abstract（参考訳）: 高価なブラックボックスシミュレーターの最適化は、現代の科学や工学の応用の無数に存在する。 ベイズ最適化(Bayesian optimization)は、飽和代理モデルを利用して、その後のシミュレータ評価の選択を導出することにより、魅力的な解を提供する。 しかし、実際には、1つの良いソリューションを得るのではなく、ユーザーが下流の意思決定を選択できる優れたソリューションの「バスケット」を得るのが目的であることが多い。 このニーズは、安定した飛行制御に様々な制御戦略が不可欠である飛行推進用内燃機関のリアルタイム制御に、我々のモチベーション応用に現れます。 ベイジアン最適化のこの面での作業はほとんど行われていない。 そこで我々は,多種多様な ''$\epsilon$-optimal'' ソリューションを探索する新たな Diverse expecteded Improvement (DEI) 法を提案する。 本稿では,DIEがガウス過程サロゲートモデルの下でクローズドフォーム取得関数を出力し,自動微分による効率的なシーケンシャルクエリを容易にすることを示す。 この閉じた形態はさらに、探索・探索・多様性のトレードオフを新たに明らかにし、よく知られた探検・探索のトレードオフに望ましい多様性特性を取り入れている。 本研究では, 従来の手法よりも優れたDIEを数値実験で示し, ローバー軌道最適化とエンジン制御の2つの応用でDIEを探索する。

関連論文リスト

• Advancements in Multimodal Differential Evolution: A Comprehensive Review and Future Perspectives [0.6749750044497731]
  マルチモーダル最適化は、関数の複数の大域的および局所的最適化を識別することを含み、探索空間内の多様な最適解に関する貴重な洞察を提供する。 微分進化(DE)は連続したパラメータ空間に対して強力で汎用的である。 マルチモーダル最適化のためのDECの最近の進歩は、ニッチ手法、パラメータ適応、機械学習を含む他のアルゴリズムとのハイブリダイゼーション、および様々な領域にわたる応用に焦点を当てている。
  論文  参考訳（メタデータ） (2025-04-01T12:30:07Z)
• Preference-Guided Diffusion for Multi-Objective Offline Optimization [64.08326521234228]
  オフライン多目的最適化のための優先誘導拡散モデルを提案する。 我々の指導は、ある設計が他の設計を支配する確率を予測するために訓練された選好モデルである。 本結果は,多種多様な高品質な解を生成する上での分類器誘導拡散モデルの有効性を浮き彫りにした。
  論文  参考訳（メタデータ） (2025-03-21T16:49:38Z)
• Synergistic Development of Perovskite Memristors and Algorithms for Robust Analog Computing [53.77822620185878]
  本稿では,ペロブスカイト・メムリスタの製作を同時に最適化し,ロバストなアナログDNNを開発するための相乗的手法を提案する。 BO誘導ノイズインジェクションを利用したトレーニング戦略であるBayesMultiを開発した。 我々の統合されたアプローチは、より深くより広いネットワークでのアナログコンピューティングの使用を可能にし、最大100倍の改善を実現します。
  論文  参考訳（メタデータ） (2024-12-03T19:20:08Z)
• Model Fusion through Bayesian Optimization in Language Model Fine-Tuning [16.86812534268461]
  下流タスクのための微調整された事前学習モデルは、様々な領域にまたがる適応性と信頼性で広く採用されているテクニックである。 本稿では,多目的ベイズ最適化により,所望の計量と損失の両方を最適化する新しいモデル融合手法を提案する。 各種下流タスクを対象とした実験では,ベイズ最適化誘導方式による大幅な性能向上が見られた。
  論文  参考訳（メタデータ） (2024-11-11T04:36:58Z)
• Unlearning as multi-task optimization: A normalized gradient difference approach with an adaptive learning rate [105.86576388991713]
  正規化勾配差(NGDiff)アルゴリズムを導入し、目的間のトレードオフをよりよく制御できるようにする。 本研究では,TOFUおよびMUSEデータセットにおける最先端の未学習手法において,NGDiffの優れた性能を実証的に実証し,理論的解析を行った。
  論文  参考訳（メタデータ） (2024-10-29T14:41:44Z)
• Controllable Unlearning for Image-to-Image Generative Models via $\varepsilon$-Constrained Optimization [30.54462829263857]
  画像合成モデル(I2I)における機械学習問題について検討する。 従来の研究は主に、単独のソリューションを提供する単一目的最適化問題として扱われていた。 本稿では、制御係数$varepsilon$を用いてトレードオフを制御する制御可能なアンラーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-03T07:04:55Z)
• Optimizing Diffusion Models for Joint Trajectory Prediction and Controllable Generation [49.49868273653921]
  拡散モデルは、自律運転における共同軌道予測と制御可能な生成を約束する。 最適ガウス拡散(OGD)と推定クリーンマニフォールド(ECM)誘導を導入する。 提案手法は生成過程の合理化を図り,計算オーバーヘッドを低減した実用的な応用を実現する。
  論文  参考訳（メタデータ） (2024-08-01T17:59:59Z)
• Human-Algorithm Collaborative Bayesian Optimization for Engineering Systems [0.0]
  我々は、協調ベイズ最適化のためのアプローチを概説することで、データ駆動意思決定ループに人間を再導入する。 我々の手法は、人間は連続的な選択よりも離散的な選択をより効率的に行うことができるという仮説を生かしている。 本稿では, バイオプロセス最適化やリアクトル幾何設計を含む, 応用および数値ケーススタディにまたがるアプローチを実証する。
  論文  参考訳（メタデータ） (2024-04-16T23:17:04Z)
• Evolutionary Solution Adaption for Multi-Objective Metal Cutting Process Optimization [59.45414406974091]
  我々は,従来の最適化タスクから解を転送するアルゴリズムの能力を研究することのできる,システムの柔軟性のためのフレームワークを提案する。 NSGA-IIの柔軟性を2つの変種で検討し,1)2つのタスクの解を同時に最適化し,より適応性が高いと期待されるソース間の解を得る,2)活性化あるいは非活性化の異なる可能性に対応する能動的非アクティブなジェノタイプについて検討した。 その結果,標準NSGA-IIによる適応は目標目標への最適化に必要な評価回数を大幅に削減し,提案した変種は適応コストをさらに向上することがわかった。
  論文  参考訳（メタデータ） (2023-05-31T12:07:50Z)
• Sample-Efficient and Surrogate-Based Design Optimization of Underwater Vehicle Hulls [0.4543820534430522]
  本稿では,BO-LCBアルゴリズムが最もサンプリング効率のよい最適化フレームワークであり,最適収束挙動を有することを示す。 また, DNN に基づく代理モデルでは, CFD シミュレーションと密に一致し, 平均絶対パーセンテージ誤差 (MAPE) が 1.85% であることを示す。 本稿では,サロゲートモデルを用いた設計最適化の2次高速化について述べる。
  論文  参考訳（メタデータ） (2023-04-24T19:52:42Z)
• Transfer Learning for Bayesian Optimization: A Survey [29.229660973338145]
  ブラックボックス最適化は、このような高価なブラックボックス機能をモデル化し、最適化する強力なツールである。 BOコミュニティの研究者たちは、最適化プロセスの高速化にトランスファーラーニングの精神を取り入れることを提案する。
  論文  参考訳（メタデータ） (2023-02-12T14:37:25Z)
• An Empirical Evaluation of Zeroth-Order Optimization Methods on AI-driven Molecule Optimization [78.36413169647408]
  分子目的を最適化するための様々なZO最適化手法の有効性について検討する。 ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。 本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
  論文  参考訳（メタデータ） (2022-10-27T01:58:10Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Multi-Agent Deep Reinforcement Learning in Vehicular OCC [14.685237010856953]
  我々は車載OCCにおけるスペクトル効率最適化手法を提案する。 我々は最適化問題をマルコフ決定プロセス(MDP)としてモデル化し、オンラインで適用可能なソリューションの利用を可能にする。 提案手法の性能を広範囲なシミュレーションにより検証し,提案手法の様々な変種とランダムな手法との比較を行った。
  論文  参考訳（メタデータ） (2022-05-05T14:25:54Z)
• Bayesian Optimization and Deep Learning forsteering wheel angle prediction [58.720142291102135]
  本研究の目的は,自動走行システムにおける操舵角度予測の精度の高いモデルを得ることである。 BOは限られた試行数で、BOST-LSTMと呼ばれるモデルを特定し、古典的なエンドツーエンド駆動モデルと比較して最も正確な結果を得た。
  論文  参考訳（メタデータ） (2021-10-22T15:25:14Z)
• Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
  我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。 このアプローチは多くの実装と最適化の課題をもたらします。 提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
  論文  参考訳（メタデータ） (2021-03-18T14:26:26Z)
• Multi-Fidelity Multi-Objective Bayesian Optimization: An Output Space Entropy Search Approach [44.25245545568633]
  複数目的のブラックボックス最適化の新たな課題を多要素関数評価を用いて検討する。 いくつかの総合的および実世界のベンチマーク問題に対する実験により、MF-OSEMOは両者の近似により、最先端の単一忠実度アルゴリズムよりも大幅に改善されていることが示された。
  論文  参考訳（メタデータ） (2020-11-02T06:59:04Z)
• Uncertainty aware Search Framework for Multi-Objective Bayesian Optimization with Constraints [44.25245545568633]
  高価な関数評価を用いた制約付きマルチオブジェクト(MO)ブラックボックス最適化の問題点を考察する。 本稿では,制約付き多目的最適化のための不確実性認識検索フレームワークを提案する。 UeMOCは最適化回路の探索に必要なシミュレーション数を90%以上削減できることを示す。
  論文  参考訳（メタデータ） (2020-08-16T23:34:09Z)
• Bayesian Optimization for Selecting Efficient Machine Learning Models [53.202224677485525]
  本稿では,予測効率とトレーニング効率の両面において,モデルを協調最適化するための統一ベイズ最適化フレームワークを提案する。 レコメンデーションタスクのためのモデル選択の実験は、この方法で選択されたモデルがモデルのトレーニング効率を大幅に改善することを示している。
  論文  参考訳（メタデータ） (2020-08-02T02:56:30Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)
• Localized active learning of Gaussian process state space models [63.97366815968177]
  多くの共通制御アプリケーションにおいて、優れた性能を達成するためには、グローバルに正確なモデルを必要としない。 本稿では,状態-作用空間の有界部分集合上の正確なモデルを得ることを目的としたガウス過程状態空間モデルに対する能動的学習戦略を提案する。 モデル予測制御を用いることで、探索中に収集した情報を統合し、探索戦略を適応的に改善する。
  論文  参考訳（メタデータ） (2020-05-04T05:35:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。