論文の概要: Towards Safe Multi-Task Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2312.07281v3
• Date: Mon, 17 Jun 2024 07:05:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-19 09:12:15.828195
• Title: Towards Safe Multi-Task Bayesian Optimization
• Title（参考訳）: 安全なマルチタスクベイズ最適化に向けて
• Authors: Jannis O. Lübsen, Christian Hespe, Annika Eichler,
• Abstract要約: システムの物理モデルを減らすことは最適化プロセスに組み込むことができ、それを加速することができる。 これらのモデルは実際のシステムの近似を提供することができ、それらの評価は極めて安価である。 安全はベイズ最適化のようなオンライン最適化手法にとって重要な基準である。
• 参考スコア（独自算出の注目度）: 1.3654846342364308
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian optimization has emerged as a highly effective tool for the safe online optimization of systems, due to its high sample efficiency and noise robustness. To further enhance its efficiency, reduced physical models of the system can be incorporated into the optimization process, accelerating it. These models are able to offer an approximation of the actual system, and evaluating them is significantly cheaper. The similarity between the model and reality is represented by additional hyperparameters, which are learned within the optimization process. Safety is a crucial criterion for online optimization methods such as Bayesian optimization, which has been addressed by recent works that provide safety guarantees under the assumption of known hyperparameters. In practice, however, this does not apply. Therefore, we extend the robust Gaussian process uniform error bounds to meet the multi-task setting, which involves the calculation of a confidence region from the hyperparameter posterior distribution utilizing Markov chain Monte Carlo methods. Subsequently, the robust safety bounds are employed to facilitate the safe optimization of the system, while incorporating measurements of the models. Simulation results indicate that the optimization can be significantly accelerated for expensive to evaluate functions in comparison to other state-of-the-art safe Bayesian optimization methods, contingent on the fidelity of the models.
• Abstract（参考訳）: ベイズ最適化は、高サンプリング効率とノイズロバスト性のために、システムの安全なオンライン最適化のための非常に効果的なツールとして登場した。 効率をさらに高めるため、システムの物理モデルを最適化プロセスに組み込むことができ、高速化することができる。 これらのモデルは実際のシステムの近似を提供することができ、それらの評価は極めて安価である。 モデルと現実の類似性は、最適化プロセス内で学習される追加のハイパーパラメータによって表現される。 安全はベイズ最適化のようなオンライン最適化手法にとって重要な基準であり、既知のハイパーパラメータの仮定の下で安全保証を提供する最近の研究によって解決されている。 しかし実際には、これは適用されない。 そこで我々は,マルコフ連鎖モンテカルロ法によるハイパーパラメータ後部分布からの信頼領域の計算を含むマルチタスク設定を満たすために,ロバストなガウス過程の一様誤差境界を拡張した。 その後、モデルの測定を取り入れつつ、システムの安全な最適化を容易にするために堅牢な安全性境界が採用される。 シミュレーションの結果,従来のベイズ最適化法に比べて高コストで性能評価を行うことが可能であることが示唆された。

関連論文リスト

• Model Fusion through Bayesian Optimization in Language Model Fine-Tuning [16.86812534268461]
  下流タスクのための微調整された事前学習モデルは、様々な領域にまたがる適応性と信頼性で広く採用されているテクニックである。 本稿では,多目的ベイズ最適化により,所望の計量と損失の両方を最適化する新しいモデル融合手法を提案する。 各種下流タスクを対象とした実験では,ベイズ最適化誘導方式による大幅な性能向上が見られた。
  論文  参考訳（メタデータ） (2024-11-11T04:36:58Z)
• CMA-ES for Safe Optimization [9.130749109828717]
  本研究は,効率的な進化アルゴリズムとしてCMA-ESに着目し,安全なCMA-ESと呼ばれる最適化手法を提案する。 安全なCMA-ESは、安全な最適化において安全性と効率の両方を達成するように設計されている。
  論文  参考訳（メタデータ） (2024-05-17T04:24:56Z)
• Adaptive Bayesian Optimization for High-Precision Motion Systems [2.073673208115137]
  低レベル制御パラメータをオンラインチューニングすることで、適応制御のためのリアルタイム純粋データ駆動モデルフリーアプローチを提案する。 我々は安全かつサンプル効率のよいベイズ最適化アルゴリズムであるGoOSEをベースとした。 半導体産業に応用した実精度運動システムにおけるアルゴリズムの性能評価を行った。
  論文  参考訳（メタデータ） (2024-04-22T21:58:23Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Safe Real-Time Optimization using Multi-Fidelity Gaussian Processes [0.0]
  本稿では,不確実なプロセスのシステムミスマッチを克服するリアルタイム最適化手法を提案する。 提案方式では, 既知のプロセスモデルをエミュレートする2つのガウス過程と, 測定による真のシステムを用いる。
  論文  参考訳（メタデータ） (2021-11-10T09:31:10Z)
• Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
  ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。 本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
  論文  参考訳（メタデータ） (2021-05-17T08:36:18Z)
• Real-Time Optimization Meets Bayesian Optimization and Derivative-Free Optimization: A Tale of Modifier Adaptation [0.0]
  本稿では,不確実なプロセスのリアルタイム最適化において,プラントモデルミスマッチを克服するための修飾子適応方式について検討する。 提案したスキームは物理モデルを組み込んでおり、探査中のリスクを最小限に抑えるために信頼領域のアイデアに依存している。 取得関数の使用、プロセスノイズレベルを知る、または名目上のプロセスモデルを指定する利点を図示する。
  論文  参考訳（メタデータ） (2020-09-18T12:57:17Z)
• Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
  また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。 これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
  論文  参考訳（メタデータ） (2020-09-01T19:12:11Z)
• Bayesian Optimization for Selecting Efficient Machine Learning Models [53.202224677485525]
  本稿では,予測効率とトレーニング効率の両面において,モデルを協調最適化するための統一ベイズ最適化フレームワークを提案する。 レコメンデーションタスクのためのモデル選択の実験は、この方法で選択されたモデルがモデルのトレーニング効率を大幅に改善することを示している。
  論文  参考訳（メタデータ） (2020-08-02T02:56:30Z)
• Bilevel Optimization for Differentially Private Optimization in Energy Systems [53.806512366696275]
  本稿では,入力に敏感な制約付き最適化問題に対して,差分プライバシーを適用する方法について検討する。 本稿は, 自然仮定の下では, 大規模非線形最適化問題に対して, 双レベルモデルを効率的に解けることを示す。
  論文  参考訳（メタデータ） (2020-01-26T20:15:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。