論文の概要: Risk-averse Heteroscedastic Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2111.03637v1
• Date: Fri, 5 Nov 2021 17:38:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-08 15:46:45.304778
• Title: Risk-averse Heteroscedastic Bayesian Optimization
• Title（参考訳）: リスク-逆ヘテロセダスティックベイズ最適化
• Authors: Anastasiia Makarova, Ilnura Usmanova, Ilija Bogunovic, Andreas Krause
• Abstract要約: リスク回避型ヘテロセダスティックベイズ最適化アルゴリズム(RAHBO)を提案する。 RAHBOは、ハイリターンと低ノイズ分散の解を、ハエの騒音分布を学習しながら同定することを目的としている。 単一のソリューションのみを識別しなければならないアプリケーションに対して、最終的な決定ポイントを報告するための堅牢なルールを提供します。
• 参考スコア（独自算出の注目度）: 45.12421486836736
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many black-box optimization tasks arising in high-stakes applications require risk-averse decisions. The standard Bayesian optimization (BO) paradigm, however, optimizes the expected value only. We generalize BO to trade mean and input-dependent variance of the objective, both of which we assume to be unknown a priori. In particular, we propose a novel risk-averse heteroscedastic Bayesian optimization algorithm (RAHBO) that aims to identify a solution with high return and low noise variance, while learning the noise distribution on the fly. To this end, we model both expectation and variance as (unknown) RKHS functions, and propose a novel risk-aware acquisition function. We bound the regret for our approach and provide a robust rule to report the final decision point for applications where only a single solution must be identified. We demonstrate the effectiveness of RAHBO on synthetic benchmark functions and hyperparameter tuning tasks.
• Abstract（参考訳）: 高スループットアプリケーションで発生する多くのブラックボックス最適化タスクは、リスク回避の決定を必要とする。 しかし、標準的なベイズ最適化(BO)パラダイムは期待値のみを最適化する。 我々は、boを取引平均と目的の入力依存分散に一般化し、どちらも優先順位が不明であると仮定する。 特に,高利得かつ低雑音分散の解をフライ時の雑音分布を学習しながら同定することを目的とした,リスク逆ヘテロセダスティックベイズ最適化アルゴリズム(RAHBO)を提案する。 この目的のために、予測と分散を(未知の)RKHS関数としてモデル化し、新しいリスク認識獲得関数を提案する。 当社のアプローチを後悔しており、単一のソリューションのみを特定すべきアプリケーションの最終決定ポイントを報告するための堅牢なルールを提供しています。 本稿では,合成ベンチマーク関数とハイパーパラメータチューニングタスクにおけるrahboの有効性を示す。

関連論文リスト

• Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
  モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。 我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。 本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
  論文  参考訳（メタデータ） (2023-12-07T15:55:58Z)
• Risk-Controlling Model Selection via Guided Bayesian Optimization [35.53469358591976]
  他の競合するメトリクスに対して有用でありながら、特定のリスクに対するユーザ指定の制限に固執する構成を見つけます。 提案手法は,指定された関心領域に属する最適構成の集合を同定する。 提案手法は,低誤差率,等式予測,スプリアス相関処理,生成モデルにおける速度と歪みの管理,計算コストの削減など,複数のデシダラタを用いたタスクに対する有効性を示す。
  論文  参考訳（メタデータ） (2023-12-04T07:29:44Z)
• Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
  確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。 本手法は, 精度の高い問題に特に適している。 提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
  論文  参考訳（メタデータ） (2023-11-08T00:10:21Z)
• Inducing Point Allocation for Sparse Gaussian Processes in High-Throughput Bayesian Optimisation [9.732863739456036]
  提案手法では,既存のポイント割当手法が最適化性能を著しく損なうことを示す。 決定点プロセスの品質・多様性の分解を利用して,BOにおける最初のポイント割り当て戦略を提案する。
  論文  参考訳（メタデータ） (2023-01-24T16:43:29Z)
• Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
  統計的決定論の研究からシャノンエントロピーの一般化を考える。 まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。 次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
  論文  参考訳（メタデータ） (2022-10-04T04:43:58Z)
• Robust Multi-Objective Bayesian Optimization Under Input Noise [27.603887040015888]
  多くの製造プロセスにおいて、設計パラメータはランダムな入力ノイズを受けており、結果として製品は期待よりも性能が低い。 本研究では,入力雑音に頑健な最初の多目的BO法を提案する。
  論文  参考訳（メタデータ） (2022-02-15T16:33:48Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)
• Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
  我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。 このアプローチは多くの実装と最適化の課題をもたらします。 提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
  論文  参考訳（メタデータ） (2021-03-18T14:26:26Z)
• Bayesian Quantile and Expectile Optimisation [3.3878745408530833]
  本研究では,非定常雑音設定に適したベイズ量子と予測回帰の新しい変分モデルを提案する。 我々の戦略は、観測の複製やノイズのパラメトリック形式を仮定することなく、量子と予測を直接最適化することができる。 実験セクションで示されるように、提案手法は異端性非ガウス的ケースにおいて、明らかに芸術の状態を上回ります。
  論文  参考訳（メタデータ） (2020-01-12T20:51:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。