論文の概要: Statistically Valid Hyperparameter Selection: From Tuning to Guarantees
- arxiv url: http://arxiv.org/abs/2606.25601v1
- Date: Wed, 24 Jun 2026 09:07:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 17:05:30.291236
- Title: Statistically Valid Hyperparameter Selection: From Tuning to Guarantees
- Title（参考訳）: 統計的に妥当なハイパーパラメータ選択:チューニングから保証まで
- Abstract要約: ハイパーパラメータの選択は、現代の人工知能システムの展開における重要なステップである。
ハイパーパラメータの選択は通常、最良の経験的手法を用いて行われる。
本書では,信頼度の高いハイパーパラメータ選択のための統一統計フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 31.006941545235396
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hyperparameter selection is a critical step in the deployment of modern artificial intelligence systems, given the need to tune degrees of freedom such as inference-time parameters, implementation-level settings, and thresholds driving decision rules. Despite its practical importance, hyperparameter selection is typically performed using best-effort empirical methods such as grid search or Bayesian optimization, which provide no formal statistical guarantees on reliability or safety. This monograph presents a unified statistical framework for reliable hyperparameter selection, centered on the learn-then-test (LTT) paradigm, which formulates the problem as multiple hypothesis testing over a candidate set of hyperparameters. The framework enables the selection of hyperparameters that provably satisfy application-specific reliability requirements -- such as bounds on average risk, quantile risk, or information-theoretic constraints -- with explicit, finite-sample control of error probabilities. The supporting statistical machinery, namely p-values, e-values, and concentration inequalities, is developed from first principles in a dedicated appendix.
- Abstract（参考訳）: ハイパーパラメータの選択は、推論時間パラメータ、実装レベルの設定、決定ルールを駆動するしきい値などの自由度を調整する必要があるため、現代の人工知能システムのデプロイにおける重要なステップである。
その実用的重要性にもかかわらず、ハイパーパラメータの選択は通常、グリッド探索やベイズ最適化のような最良の実験手法を用いて行われ、信頼性や安全性に関する公式な統計的保証は提供されない。
このモノグラフは、高パラメータの候補集合に対する多重仮説テストとして問題を定式化するLearning-then-test (LTT)パラダイムを中心に、信頼性の高いハイパーパラメータ選択のための統一的な統計フレームワークを示す。
このフレームワークは、平均リスク、量子リスク、情報理論上の制約など、アプリケーション固有の信頼性要件を確実に満たすハイパーパラメータの選択を可能にする。
支持する統計機械、すなわちp値、e値、濃度不等式は、専用付録の第一原理から発展する。
関連論文リスト
- COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳（メタデータ） (2025-06-25T07:04:49Z) - Ensuring Reliability via Hyperparameter Selection: Review and Advances [35.59201763567714]
本稿では、Learning-Then-Test(LTT)フレームワークをレビューし、エンジニアリング関連シナリオに適したいくつかの拡張について検討する。
これらの拡張には、異なるリスク測度と統計的保証、多目的最適化、事前の知識と依存構造の導入が含まれる。
本稿は,コミュニケーションシステムへの実証的な応用についても紹介する。
論文 参考訳（メタデータ） (2025-02-06T16:47:21Z) - Multi-Objective Hyperparameter Selection via Hypothesis Testing on Reliability Graphs [35.59201763567714]
本稿では信頼性グラフに基づくPareto Testing(RG-PT)を紹介する。
RG-PTは偽発見率(FDR)の観点から正式な信頼性保証を維持する
これは有向非巡回グラフを通してハイパーパラメータ間の既知の関係を説明できる。
論文 参考訳（メタデータ） (2025-01-22T17:05:38Z) - Adaptive Learn-then-Test: Statistically Valid and Efficient Hyperparameter Selection [36.407171992845456]
本稿では,AIモデルの集団リスクに対する有限サンプル統計保証を実現するために,適応型学習仮説テスト(aLTT)を導入する。
既存のLearning-then-test(LTT)技術とは異なり、aLTTは、eプロセスを活用することで早期終了を伴うシーケンシャルなデータ依存型多重仮説テスト(MHT)を実装している。
論文 参考訳（メタデータ） (2024-09-24T08:14:26Z) - Quantile Learn-Then-Test: Quantile-Based Risk Control for Hyperparameter Optimization [36.14499894307206]
この研究は、リスク尺度の量子化に関する統計的保証を提供するために設計された、Learning-then-test (LTT)の変種を導入する。
本稿では,提案アルゴリズムを無線アクセススケジューリング問題に適用することにより,本手法の実用的利点について述べる。
論文 参考訳（メタデータ） (2024-07-24T15:30:12Z) - Information-Theoretic Safe Bayesian Optimization [59.758009422067005]
そこでは、未知の(安全でない)制約に反するパラメータを評価することなく、未知の関数を最適化することを目的としている。
現在のほとんどのメソッドはドメインの離散化に依存しており、連続ケースに直接拡張することはできない。
本稿では,GP後部を直接利用して,最も情報に富む安全なパラメータを識別する情報理論的安全な探索基準を提案する。
論文 参考訳（メタデータ） (2024-02-23T14:31:10Z) - Online Constraint Tightening in Stochastic Model Predictive Control: A
Regression Approach [49.056933332667114]
確率制約付き最適制御問題に対する解析解は存在しない。
制御中の制約強調パラメータをオンラインで学習するためのデータ駆動型アプローチを提案する。
提案手法は, 確率制約を厳密に満たす制約強調パラメータを導出する。
論文 参考訳（メタデータ） (2023-10-04T16:22:02Z) - Error Bounds for Kernel-Based Linear System Identification with Unknown
Hyperparameters [0.38073142980733]
カーネルベースの手法は、安定なカーネル設計を用いた線形システム同定に成功している。
ガウス過程から、同定されたモデルに対する確率的誤差境界が自動的に提供される。
論文 参考訳（メタデータ） (2023-03-17T08:52:16Z) - Probabilities Are Not Enough: Formal Controller Synthesis for Stochastic
Dynamical Models with Epistemic Uncertainty [68.00748155945047]
複雑な力学系のモデルにおける不確実性を捉えることは、安全なコントローラの設計に不可欠である。
いくつかのアプローチでは、安全と到達可能性に関する時間的仕様を満たすポリシーを形式的な抽象化を用いて合成する。
我々の貢献は、ノイズ、不確実なパラメータ、外乱を含む連続状態モデルに対する新しい抽象的制御法である。
論文 参考訳（メタデータ） (2022-10-12T07:57:03Z) - A Theoretical Framework of Almost Hyperparameter-free Hyperparameter
Selection Methods for Offline Policy Evaluation [2.741266294612776]
オフライン強化学習(OPE)は、環境シミュレーターを使わずに、データ駆動型決定最適化のための中核技術である。
最適性(選択基準と呼ばれる)の概念を定量的かつ解釈可能な方法で定義するOPEのための近似ハイパーパラメータ選択フレームワークを提案する。
収束率や時間複雑性などの異なる特徴を持つ4つのAHS法を導出する。
論文 参考訳（メタデータ） (2022-01-07T02:23:09Z) - Differential privacy and robust statistics in high dimensions [49.50869296871643]
高次元Propose-Test-Release (HPTR) は指数的メカニズム、頑健な統計、Propose-Test-Release メカニズムという3つの重要なコンポーネントの上に構築されている。
本論文では,HPTRが複数のシナリオで最適サンプル複雑性をほぼ達成していることを示す。
論文 参考訳（メタデータ） (2021-11-12T06:36:40Z) - Gaussian Process Uniform Error Bounds with Unknown Hyperparameters for
Safety-Critical Applications [71.23286211775084]
未知のハイパーパラメータを持つ設定において、ロバストなガウス過程の均一なエラー境界を導入する。
提案手法はハイパーパラメータの空間における信頼領域を計算し,モデル誤差に対する確率的上限を求める。
実験により、バニラ法やベイズ法よりもバニラ法の方がはるかに優れていることが示された。
論文 参考訳（メタデータ） (2021-09-06T17:10:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。