論文の概要: Efficient Robust Bayesian Optimization for Arbitrary Uncertain inputs

• arxiv url: http://arxiv.org/abs/2310.20145v1
• Date: Tue, 31 Oct 2023 03:29:31 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-01 16:47:49.726172
• Title: Efficient Robust Bayesian Optimization for Arbitrary Uncertain inputs
• Title（参考訳）: 任意不確かさ入力に対する効率的なロバスト・ベイズ最適化
• Authors: Lin Yang, Junlong Lyu, Wenlong Lyu, and Zhitang Chen
• Abstract要約: 本稿では,任意の入力不確実性の下で一貫して動作するロバストな最適化アルゴリズムであるAIRBOを提案する。 提案手法は,最大平均離散度(MMD)を用いてガウス過程を有効化することにより任意の分布の不確実な入力を直接モデル化し,さらにNystrom近似による後部推論を高速化する。 MMD推定誤差と合成関数および実問題に関する広範な実験により,本手法が様々な入力不確実性に対処し,最先端の性能を実現することができることを示す。
• 参考スコア（独自算出の注目度）: 13.578262325229161
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Bayesian Optimization (BO) is a sample-efficient optimization algorithm widely employed across various applications. In some challenging BO tasks, input uncertainty arises due to the inevitable randomness in the optimization process, such as machining errors, execution noise, or contextual variability. This uncertainty deviates the input from the intended value before evaluation, resulting in significant performance fluctuations in the final result. In this paper, we introduce a novel robust Bayesian Optimization algorithm, AIRBO, which can effectively identify a robust optimum that performs consistently well under arbitrary input uncertainty. Our method directly models the uncertain inputs of arbitrary distributions by empowering the Gaussian Process with the Maximum Mean Discrepancy (MMD) and further accelerates the posterior inference via Nystrom approximation. Rigorous theoretical regret bound is established under MMD estimation error and extensive experiments on synthetic functions and real problems demonstrate that our approach can handle various input uncertainties and achieve state-of-the-art performance.
• Abstract（参考訳）: ベイズ最適化 (bayesian optimization, bo) は、様々なアプリケーションで広く使われているサンプル効率の最適化アルゴリズムである。 いくつかの難解なBOタスクにおいて、入力の不確実性は、加工誤差、実行ノイズ、文脈変動など、最適化プロセスの必然的ランダム性によって生じる。 この不確実性は、評価前に意図した値から入力を逸脱させ、最終結果において著しい性能変動を引き起こす。 本稿では,任意の入力の不確実性下で一貫して機能するロバスト最適アルゴリズムを効果的に特定できる,新しいロバストベイズ最適化アルゴリズムairboを提案する。 提案手法は,最大平均離散度(MMD)でガウス過程を有効化することにより任意の分布の不確実な入力を直接モデル化し,Nystrom近似による後部推論を高速化する。 MMD推定誤差と合成関数および実問題に関する広範な実験により,本手法が様々な入力不確実性に対処し,最先端の性能を実現することを示す。

関連論文リスト

• BO4IO: A Bayesian optimization approach to inverse optimization with uncertainty quantification [5.031974232392534]
  この研究はデータ駆動逆最適化(IO)に対処する。 目的は最適化モデルにおける未知のパラメータを、最適あるいは準最適と仮定できる観測された決定から推定することである。
  論文  参考訳（メタデータ） (2024-05-28T06:52:17Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Robust Multi-Objective Bayesian Optimization Under Input Noise [27.603887040015888]
  多くの製造プロセスにおいて、設計パラメータはランダムな入力ノイズを受けており、結果として製品は期待よりも性能が低い。 本研究では,入力雑音に頑健な最初の多目的BO法を提案する。
  論文  参考訳（メタデータ） (2022-02-15T16:33:48Z)
• Outlier-Robust Sparse Estimation via Non-Convex Optimization [73.18654719887205]
  空間的制約が存在する場合の高次元統計量と非破壊的最適化の関連について検討する。 これらの問題に対する新規で簡単な最適化法を開発した。 結論として、効率よくステーションに収束する一階法は、これらのタスクに対して効率的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-09-23T17:38:24Z)
• High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
  アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。 非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。 そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
  論文  参考訳（メタデータ） (2021-06-10T17:54:21Z)
• Amortized Conditional Normalized Maximum Likelihood: Reliable Out of Distribution Uncertainty Estimation [99.92568326314667]
  本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。 提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。 我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
  論文  参考訳（メタデータ） (2020-11-05T08:04:34Z)
• Bayesian Optimization with Output-Weighted Optimal Sampling [0.0]
  我々は、探索アルゴリズムを最小化すべき目的関数が異常に小さい値を仮定する入力空間の領域へ誘導する可能性比の利用を提唱する。 この研究で導入された "likelihood-weighted" 取得関数は、多くのアプリケーションにおいて、その非重みのないものよりも優れていることが判明した。
  論文  参考訳（メタデータ） (2020-04-22T14:38:39Z)
• Distributionally Robust Bayesian Optimization [121.71766171427433]
  そこで本研究では,ゼロ次雑音最適化のための分散ロバストなベイズ最適化アルゴリズム(DRBO)を提案する。 提案アルゴリズムは, 種々の設定において, 線形に頑健な後悔を確実に得る。 提案手法は, 実世界のベンチマークと実世界のベンチマークの両方において, 頑健な性能を示す。
  論文  参考訳（メタデータ） (2020-02-20T22:04:30Z)
• Noisy-Input Entropy Search for Efficient Robust Bayesian Optimization [5.836533862551427]
  ノイズ・インプット・エントロピー探索(NES)は、入力ノイズと測定ノイズの両方の問題に対して頑健な最適性を求めるように設計されている。 NESは、すべてのベンチマークで既存の手法よりも優れた、堅牢な最適化を確実に見つける。
  論文  参考訳（メタデータ） (2020-02-07T14:48:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。