論文の概要: Prequential E-Values for Selected-GP Near-Optimality Certificates
- arxiv url: http://arxiv.org/abs/2609.39123v1
- Date: Wed, 30 Sep 2026 06:56:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.301014
- Title: Prequential E-Values for Selected-GP Near-Optimality Certificates
- Title(参考訳): Selected-GP Near-Optimality Certificates の逐次E値
- Abstract要約: GP-UCBスタイルの停止ルールは、カーネルとこのエンベロープを定義する定数が実行前に固定されるときに有効である。
私たちは、この選択を監査可能にするために、事前e値を使用します。
偽証明のリスクを、同等のパワーとフィット・テイン・サーティフィケーションで埋める。
- 参考スコア(独自算出の注目度): 1.0742675209112622
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When optimizing an expensive black-box function sequentially, as in hyperparameter optimization, we may want to stop once the best evaluated value is certified within $\varepsilon$ of the global optimum. Such a certificate needs two ingredients: a lower confidence bound for the selected value and an upper confidence envelope over the domain, typically supplied by a Gaussian process (GP). GP-UCB-style stopping rules are valid when the kernel and constants defining this envelope are fixed before the run, but the practical temptation is to tune the envelope from the same adaptive evaluations and then certify as if it had been fixed. We use prequential e-values to make this selection auditable: starting from a predeclared set of fully specified GP/RKHS envelopes, each candidate is tested by its own one-step-ahead e-process, contradicted candidates are deleted, and certification uses the largest upper bound among the survivors. With a valid selected-point lower bound and one declared candidate having valid latent coverage and noise calibration, the rule is anytime-valid. On a 512-seed noisy RBF stress sweep, it roughly halves false-certification risk at comparable power versus fit-then-certify. Relative to random fixed GP precommitment on smooth $d=3,4$ objectives, each additional false certificate is accompanied by 3.0 and 13.5 additional correct certificates, respectively.
- Abstract(参考訳): 高価なブラックボックス関数を逐次最適化する場合、ハイパーパラメータ最適化のように、最高の評価値が大域最適化の$\varepsilon$で証明されれば、停止するかもしれない。
このような証明書には、選択された値に対する低い信頼度と、通常ガウス過程(GP)によって供給されるドメイン上の上位信頼度という2つの要素が必要である。
GP-UCBスタイルの停止規則は、カーネルとこのエンベロープを定義する定数が実行前に固定されたときに有効であるが、実際の誘惑は、エンベロープを同じ適応評価からチューニングし、固定されたかのように認証することである。
我々は、この選択を監査するために、事前宣言されたGP/RKHSエンベロープセットから出発し、各候補を独自の1ステップのe-headプロセスでテストし、矛盾した候補を削除し、生存者の中で最大の上限を認証する。
有効な選択点下限と、有効な遅延カバレッジとノイズキャリブレーションを有する1つの宣言された候補により、規則はいつでも有効である。
512シードのRBFストレススイープでは、同等のパワーで偽確認リスクをほぼ半分に抑えている。
スムーズな$d=3,4$の目的に対するランダムな固定GPプリコミットとは対照的に、それぞれの追加の偽証明書には、それぞれ3.0と13.5の追加の正しい証明書が付属している。
関連論文リスト
- $(\text{DNN})^2$: Doubly Non-Negative Relaxations for Deep Neural Networks [6.796081662087122]
そこで本研究では,有効証明のための非特異乗算器空間を探索する新しい固有値対応手法を提案する。
実験により,本手法は標準SDP法よりも一貫した境界を生成することが示された。
論文 参考訳(メタデータ) (2026-08-25T15:48:32Z) - CASP: Learning-Augmented Offline Approximation with Verifiable Certificates and Bounded-Loss PAC Guarantees [1.7545090618311434]
マシンが学習した予測は、オフラインNPハード最適化を高速化するが、予測者にその問題を解決するために何をすべきかを尋ねる。
CASP (Certificate-Augmented Solution Pruning) は代わりに、どの部分の検索空間を無視するかを尋ね、サウンドタイム検証器がチェックした後のみ、各回答を受け入れる。
トレーニングされた予測器では、未検証プルーニングは配布シフト時の最適値の最大26%を失うが、検証された同じ予測のデプロイでは、何も失われることはない。
論文 参考訳(メタデータ) (2026-07-16T04:02:15Z) - A Joint Finite-Sample Certificate for Adaptive Selective Conformal Risk Control [0.9668407688201359]
選択したリスクを直接比率として扱うことにより、有界、おそらくは非単調な損失の証明を与える。
1/pmin$から1/sqrtpmin$への受け入れフロア依存を鋭くする。
この証明書は、Hoeffding--CRCに対する認証受け入れフロンティアを$+22$ ppで開く。
論文 参考訳(メタデータ) (2026-06-07T08:55:44Z) - Certificate-Guided Pruning for Stochastic Lipschitz Optimization [6.908972852063454]
雑音評価の下で,リプシッツ関数のブラックボックス最適化について検討した。
既存の適応的な離散化手法は、暗黙的に最適領域を避けるが、最適性や測定可能な進捗保証の明確な証明書は提供していない。
本稿では、アダプティブテキストbf-Guided Pruning (CGP)を導入し、信頼調整リプシッツエンベロープによる潜在的最適点の集合A_t$を明示的に維持する。
論文 参考訳(メタデータ) (2026-01-28T04:02:22Z) - Stopping Rules for Stochastic Gradient Descent via Anytime-Valid Confidence Sequences [51.56484100374058]
凸最適化のための勾配降下(SGD)の停止規則について検討した。
我々は、投影されたSGDの重み付き平均準最適度に対して、任意の有意、データ依存の高信頼シーケンスを開発する。
これらは、厳格でタイムユニフォームなパフォーマンス保証と、有限時間$varepsilon$-optimality証明書である。
論文 参考訳(メタデータ) (2025-12-15T09:26:45Z) - Robust Conformal Prediction with a Single Binary Certificate [58.450154976190795]
コンフォーマル予測(CP)は、任意のモデルの出力を、真のラベルを(調整可能な)高い確率でカバーすることを保証した予測セットに変換する。
我々は,MCサンプルが著しく低い場合でも,より小さな集合を生成する頑健な共形予測を提案する。
論文 参考訳(メタデータ) (2025-03-07T08:41:53Z) - Certified Error Control of Candidate Set Pruning for Two-Stage Relevance
Ranking [57.42241521034744]
本稿では、妥当性ランキングのための候補セットプルーニングの認証エラー制御の概念を提案する。
提案手法は,第1段階から抽出した候補集合を抽出し,第2段階の復位速度を向上する。
論文 参考訳(メタデータ) (2022-05-19T16:00:13Z) - Near-linear Time Gaussian Process Optimization with Adaptive Batching
and Resparsification [119.41129787351092]
BBKBは非回帰GP最適化アルゴリズムで、ほぼ直線的に実行し、バッチで候補を選択する。
また,同じバウンダリを用いて,スパルスGP近似の更新コストを適応的に遅延させることで,ステップ毎の償却コストをほぼ一定に抑えることができることを示した。
論文 参考訳(メタデータ) (2020-02-23T17:43:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。