論文の概要: Bayesian Optimization of CVaR with Unknown Hyperparameters
- arxiv url: http://arxiv.org/abs/2610.18306v1
- Date: Tue, 13 Oct 2026 12:51:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:30:50.815483
- Title: Bayesian Optimization of CVaR with Unknown Hyperparameters
- Title(参考訳): 未知のハイパーパラメータを持つCVaRのベイズ最適化
- Abstract要約: 本稿では,未知のGPハイパーパラメータを持つCVaRベイズ最適化のための,最初のノンレグレットアルゴリズムであるHE-CV-UCBを提案する。
本研究は,CV-UCBのオラクル率を,候補集合の大きさのみに比例して累積的後悔が得られることを証明した。
- 参考スコア(独自算出の注目度): 30.948636474128744
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study Bayesian optimization of the Conditional Value-at-Risk (CVaR) of an expensive black-box function that depends on a decision and an environmental variable. Existing no-regret algorithms assume that the correct Gaussian process (GP) kernel and its hyperparameters are known. In practice, however, they must be estimated from limited data, often yielding a misspecified surrogate. This is especially damaging for CVaR because misspecification can distort the estimated tail-risk and thus lead to catastrophic decisions. We propose HE-CV-UCB, the first no-regret algorithm for CVaR Bayesian optimization with unknown GP hyperparameters. Given a finite candidate set containing a well-specified model, HE-CV-UCB adaptively eliminates those inconsistent with the observed data, actively queries where the survivors disagree, and returns a design that is robust across the surviving candidates. We prove that it attains cumulative regret matching the oracle rate of CV-UCB up to a factor depending only on the candidate set's size. Across synthetic benchmarks and three real-world applications, HE-CV-UCB achieves competitive performance and frequently outperforms existing CVaR Bayesian optimization methods.
- Abstract(参考訳): 決定と環境変数に依存する高価なブラックボックス関数の条件付き値-アット・リスク(CVaR)のベイズ最適化について検討する。
既存の非回帰アルゴリズムは、正しいガウス過程(GP)カーネルとそのハイパーパラメータが知られていると仮定する。
しかし実際には、それらは限られたデータから推定されなければならない。
これはCVaRにとって特に有害であり、不特定性は推定された尾のリスクを歪め、破滅的な決定につながる可能性がある。
我々は,未知のGPハイパーパラメータを持つCVaRベイズ最適化のための,最初のノンレグレットアルゴリズムであるHE-CV-UCBを提案する。
HE-CV-UCBは、よく特定されたモデルを含む有限候補セットを与えられた場合、観測されたデータと矛盾するものを適応的に排除し、生存者が同意する場所を積極的にクエリし、生き残った候補間で堅牢な設計を返す。
本研究は,CV-UCBのオラクル率を,候補集合の大きさのみに比例して累積的後悔が得られることを証明した。
HE-CV-UCBは、合成ベンチマークと実世界の3つの応用を通じて、競合性能を達成し、既存のCVaRベイズ最適化手法よりも頻繁に性能を向上する。
関連論文リスト
- Boosting CVaR Policy Optimization with Quantile Gradients [10.868006419885601]
政策勾配(CVaR-PG)を用いた条件付き値付きリスク(CVaR)の改善
量子最適化は、全てのサンプルデータを活用する動的プログラミングの定式化を認め、それによってサンプル効率が向上する。
リスク逆挙動が検証可能な領域における実証結果から,マルコフ政策クラス内のアルゴリズムはCVaR-PGにより大幅に改善されることが示された。
論文 参考訳(メタデータ) (2026-01-29T18:33:46Z) - DRAUC: An Instance-wise Distributionally Robust AUC Optimization
Framework [133.26230331320963]
ROC曲線のエリア(AUC)は、長い尾の分類のシナリオにおいて広く用いられている指標である。
本研究では,分散ロバストAUC(DRAUC)のインスタンスワイドサロゲート損失を提案し,その上に最適化フレームワークを構築した。
論文 参考訳(メタデータ) (2023-11-06T12:15:57Z) - Provably Efficient Bayesian Optimization with Unknown Gaussian Process Hyperparameter Estimation [44.53678257757108]
目的関数の大域的最適値にサブ線形収束できる新しいBO法を提案する。
本手法では,BOプロセスにランダムなデータポイントを追加するために,マルチアームバンディット法 (EXP3) を用いる。
提案手法は, 様々な合成および実世界の問題に対して, 既存の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-12T03:35:45Z) - Blocked Cross-Validation: A Precise and Efficient Method for
Hyperparameter Tuning [0.0]
本稿では,ブロッククロスバリデーション(BCV)と呼ばれる新しい手法を提案し,CV分割と学習者のランダムな振る舞いに関して繰り返しをブロックする。
BCVは、実行回数が大幅に減少しても、RCVよりも正確な誤差推定を提供する。
論文 参考訳(メタデータ) (2023-06-11T04:58:47Z) - Model-based Causal Bayesian Optimization [78.120734120667]
モデルに基づく因果ベイズ最適化(MCBO)を提案する。
MCBOは介入と逆のペアをモデリングするのではなく、完全なシステムモデルを学ぶ。
標準的なベイズ最適化とは異なり、我々の取得関数は閉形式では評価できない。
論文 参考訳(メタデータ) (2022-11-18T14:28:21Z) - Risk-Sensitive Markov Decision Processes with Long-Run CVaR Criterion [9.792654108885676]
本研究では,長期CVaR基準による無限水平離散時間マルコフ決定過程(MDP)について検討する。
長周期CVaRの差分を2つのポリシーで定量化する擬似CVaR差分式を導出する。
本研究では, CVaRを効率的に最適化するポリシ型アルゴリズムを開発し, 混合ポリシ空間において局所最適に収束することを示す。
論文 参考訳(メタデータ) (2022-10-17T04:29:14Z) - Generalizing Bayesian Optimization with Decision-theoretic Entropies [102.82152945324381]
統計的決定論の研究からシャノンエントロピーの一般化を考える。
まず,このエントロピーの特殊なケースがBO手順でよく用いられる獲得関数に繋がることを示す。
次に、損失に対する選択肢の選択が、どのようにして柔軟な獲得関数の族をもたらすかを示す。
論文 参考訳(メタデータ) (2022-10-04T04:43:58Z) - Stochastic Optimization of Areas Under Precision-Recall Curves with
Provable Convergence [66.83161885378192]
ROC(AUROC)と精度リコール曲線(AUPRC)の下の領域は、不均衡問題に対する分類性能を評価するための一般的な指標である。
本稿では,深層学習のためのAUPRCの最適化手法を提案する。
論文 参考訳(メタデータ) (2021-04-18T06:22:21Z) - Large-Scale Methods for Distributionally Robust Optimization [53.98643772533416]
我々のアルゴリズムは、トレーニングセットのサイズとパラメータの数によらず、多くの評価勾配を必要とすることを証明している。
MNIST と ImageNet の実験により,本手法の 9-36 倍の効率性を持つアルゴリズムの理論的スケーリングが確認された。
論文 参考訳(メタデータ) (2020-10-12T17:41:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。