論文の概要: Safe Multi-Task Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2312.07281v2
- Date: Mon, 8 Jan 2024 11:34:42 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-09 21:57:11.992333
- Title: Safe Multi-Task Bayesian Optimization
- Title（参考訳）: 安全なマルチタスクベイズ最適化
- Authors: Jannis O. L\"ubsen, Christian Hespe, Annika Eichler
- Abstract要約: マルチタスク設定を満たすために、ロバストなガウス過程の一様誤差境界を拡張する。
モデルの忠実度に応じて最適化を著しく高速化できることを示す。
- 参考スコア（独自算出の注目度）: 1.534667887016089
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian optimization has become a powerful tool for safe online optimization
of systems, due to its high sample efficiency and noise robustness. For further
speed-up reduced physical models of the system can be incorporated into the
optimization to accelerate the process, since the models are able to offer an
approximation of the actual system, and sampling from them is significantly
cheaper. The similarity between model and reality is represented by additional
hyperparameters and learned within the optimization process. Safety is an
important criteria for online optimization methods like Bayesian optimization,
which has been addressed by recent literature, which provide safety guarantees
under the assumption of known hyperparameters. However, in practice this is not
applicable. Therefore, we extend the robust Gaussian process uniform error
bounds to meet the multi-task setting, which involves the calculation of a
confidence region from the hyperparameter posterior distribution utilizing
Markov chain Monte Carlo methods. Then, using the robust safety bounds,
Bayesian optimization is applied to safely optimize the system while
incorporating measurements of the models. Simulations show that the
optimization can be significantly accelerated compared to other
state-of-the-art safe Bayesian optimization methods depending on the fidelity
of the models.
- Abstract（参考訳）: ベイズ最適化は、高いサンプル効率とノイズロバスト性のため、システムの安全なオンライン最適化のための強力なツールとなっている。
さらなる高速化のために、システムの物理的モデルを最適化に組み込むことができ、実際のシステムの近似を提供することができ、それらからのサンプリングは大幅に安価である。
モデルと現実の類似性は、追加のハイパーパラメータによって表現され、最適化プロセスで学習される。
安全性はベイズ最適化のようなオンライン最適化手法の重要な基準であり、既知のハイパーパラメータを仮定した安全性保証を提供する最近の文献によって取り扱われている。
しかし、実際にはこれは適用されない。
そこで我々は,マルコフ連鎖モンテカルロ法による高パラメータ後方分布からの信頼領域の計算を含むマルチタスク設定を満たすために,ロバストなガウス過程の一様誤差境界を拡張した。
そして、ロバストな安全性境界を用いて、ベイジアン最適化を適用し、モデルの測定を取り入れながら安全な最適化を行う。
シミュレーションにより、モデルの忠実度に応じて、他の最先端の安全なベイズ最適化手法と比較して、最適化が大幅に加速できることが示されている。
関連論文リスト
- Model Fusion through Bayesian Optimization in Language Model Fine-Tuning [16.86812534268461]
下流タスクのための微調整された事前学習モデルは、様々な領域にまたがる適応性と信頼性で広く採用されているテクニックである。
本稿では,多目的ベイズ最適化により,所望の計量と損失の両方を最適化する新しいモデル融合手法を提案する。
各種下流タスクを対象とした実験では,ベイズ最適化誘導方式による大幅な性能向上が見られた。
論文 参考訳（メタデータ） (2024-11-11T04:36:58Z) - CMA-ES for Safe Optimization [9.130749109828717]
本研究は,効率的な進化アルゴリズムとしてCMA-ESに着目し,安全なCMA-ESと呼ばれる最適化手法を提案する。
安全なCMA-ESは、安全な最適化において安全性と効率の両方を達成するように設計されている。
論文 参考訳（メタデータ） (2024-05-17T04:24:56Z) - Adaptive Bayesian Optimization for High-Precision Motion Systems [2.073673208115137]
低レベル制御パラメータをオンラインチューニングすることで、適応制御のためのリアルタイム純粋データ駆動モデルフリーアプローチを提案する。
我々は安全かつサンプル効率のよいベイズ最適化アルゴリズムであるGoOSEをベースとした。
半導体産業に応用した実精度運動システムにおけるアルゴリズムの性能評価を行った。
論文 参考訳（メタデータ） (2024-04-22T21:58:23Z) - End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳（メタデータ） (2024-02-12T16:33:35Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳（メタデータ） (2022-10-04T04:43:58Z) - Safe Real-Time Optimization using Multi-Fidelity Gaussian Processes [0.0]
本稿では,不確実なプロセスのシステムミスマッチを克服するリアルタイム最適化手法を提案する。
提案方式では, 既知のプロセスモデルをエミュレートする2つのガウス過程と, 測定による真のシステムを用いる。
論文 参考訳（メタデータ） (2021-11-10T09:31:10Z) - Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。
本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
論文 参考訳（メタデータ） (2021-05-17T08:36:18Z) - Real-Time Optimization Meets Bayesian Optimization and Derivative-Free
Optimization: A Tale of Modifier Adaptation [0.0]
本稿では,不確実なプロセスのリアルタイム最適化において,プラントモデルミスマッチを克服するための修飾子適応方式について検討する。
提案したスキームは物理モデルを組み込んでおり、探査中のリスクを最小限に抑えるために信頼領域のアイデアに依存している。
取得関数の使用、プロセスノイズレベルを知る、または名目上のプロセスモデルを指定する利点を図示する。
論文 参考訳（メタデータ） (2020-09-18T12:57:17Z) - Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。
これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
論文 参考訳（メタデータ） (2020-09-01T19:12:11Z) - Bayesian Optimization for Selecting Efficient Machine Learning Models [53.202224677485525]
本稿では,予測効率とトレーニング効率の両面において,モデルを協調最適化するための統一ベイズ最適化フレームワークを提案する。
レコメンデーションタスクのためのモデル選択の実験は、この方法で選択されたモデルがモデルのトレーニング効率を大幅に改善することを示している。
論文 参考訳（メタデータ） (2020-08-02T02:56:30Z) - Bilevel Optimization for Differentially Private Optimization in Energy
Systems [53.806512366696275]
本稿では,入力に敏感な制約付き最適化問題に対して,差分プライバシーを適用する方法について検討する。
本稿は, 自然仮定の下では, 大規模非線形最適化問題に対して, 双レベルモデルを効率的に解けることを示す。
論文 参考訳（メタデータ） (2020-01-26T20:15:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。