論文の概要: An analysis of binary isotonic regression: degrees of freedom and implications for calibration
- arxiv url: http://arxiv.org/abs/2607.27301v1
- Date: Wed, 29 Jul 2026 16:53:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.287544
- Title: An analysis of binary isotonic regression: degrees of freedom and implications for calibration
- Title(参考訳): 二元性等方性回帰の解析--自由度と校正の意義
- Abstract要約: 等調回帰によって生成される異なる適合値の数を最大化する二進列を同定する。
我々は解析的数論を用いて、$frac3(42) 1/3 n2/3$という先行項で自由度に鋭い有界を発達させる。
アイソトニック回帰の予測誤差(ECE)に対する非自明な分布自由保証を導出する。
- 参考スコア(独自算出の注目度): 11.823728812515839
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Isotonic regression is a canonical tool for estimating monotone functions and calibrating probabilistic predictors. We provide a fully sharp finite-sample characterization of its worst-case degrees of freedom on binary samples. Specifically, we identify the binary sequences that maximize the number of distinct fitted values produced by isotonic regression. We develop a sharp bound on the degrees of freedom with a leading term of $\frac{3}{(4π^2)^{1/3}} n^{2/3}$ using analytic number theory, improving on previous bounds. We then apply this result to calibration. Calibration is a central requirement for probabilistic prediction, and isotonic regression is a widely used post-processing method for improving calibration. Building on deterministic degrees-of-freedom bounds, we derive, to our knowledge, the first nontrivial distribution-free guarantee on the Expected Calibration Error (ECE) of isotonic regression. This ECE bound is fully model-free and distribution-free, only assuming $Y \in \{0,1\}$.
- Abstract(参考訳): 等調回帰は単調関数を推定し、確率予測器を校正するための標準ツールである。
2進検体におけるその最悪の自由度を、完全にシャープな有限サンプルで特徴づける。
具体的には、等調回帰によって生成される異なる適合値の数を最大化する二進列を同定する。
我々は解析的数論を用いて$\frac{3}{(4π^2)^{1/3}} n^{2/3}$の先頭項で自由度に鋭い有界を発達させ、以前の有界性を改善する。
次に、この結果を校正に適用する。
キャリブレーションは確率的予測の中心的要件であり、イソトニック回帰はキャリブレーションを改善するために広く使われている後処理法である。
決定論的自由度境界(deterministic degree-of-freedom bounds)に基づく構築は、イソトニック回帰の期待された校正誤差(ECE)に対する最初の非自明な分布自由保証である。
この ECE 境界は完全にモデル自由かつ分布自由であり、$Y \in \{0,1\}$ を仮定するのみである。
関連論文リスト
- The Minimax Rate of Second-Order Calibration [8.791341107339637]
二項分類における二階キャリブレーション誤差を推定するミニマックス速度を特徴付ける。
結論として、二階プラッツスケーリングに対する最初の有限サンプル保証を与える。
論文 参考訳(メタデータ) (2026-05-08T14:41:56Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳(メタデータ) (2026-02-19T17:21:15Z) - Information Hidden in Gradients of Regression with Target Noise [2.8911861322232686]
勾配だけでヘッセンが明らかになることを示す。
我々はガウス以下の入力の下で非漸近作用素ノルム保証を提供する。
論文 参考訳(メタデータ) (2026-01-26T14:50:16Z) - $L_2$-Regularized Empirical Risk Minimization Guarantees Small Smooth Calibration Error [10.968987566851263]
この研究は、標準$L_2$-regularized empirical risk minimizationがスムーズなキャリブレーション誤差(smCE)を直接制御しているという最初の理論的証明を提供する。
次に、この理論を再現されたカーネルヒルベルト空間のモデルに対してインスタンス化し、カーネルリッジとロジスティック回帰の具体的な保証を導出する。
実験によりこれらの保証が確認され、例えば$L_2$-regularized ERMは、保温後再校正を行なわずによく校正されたモデルを提供できることを示した。
論文 参考訳(メタデータ) (2025-10-15T11:49:58Z) - Test Set Sizing for the Ridge Regression [51.56484100374058]
訓練行数mが大きくなる限界において、リッジ回帰のための理想的な列車/試験分割を高精度に導出する。
このような分割が、大規模なデータ制限下で機械学習モデルに対して数学的に計算されるのは、これが初めてである。
論文 参考訳(メタデータ) (2025-04-27T13:17:18Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Dimension free ridge regression [10.434481202633458]
我々は、リッジ回帰のバイアスとばらつきの観点から、すなわちデータ上のリッジ回帰を再考し、等価なシーケンスモデルのバイアスとばらつきの観点から、リッジ回帰のバイアスとばらつきを考察する。
新しい応用として、定期的に変化するスペクトルを持つヒルベルト共変量に対して、完全に明示的で鋭い尾根回帰特性を得る。
論文 参考訳(メタデータ) (2022-10-16T16:01:05Z) - A Consistent and Differentiable Lp Canonical Calibration Error Estimator [21.67616079217758]
ディープニューラルネットワークは校正が不十分で、自信過剰な予測を出力する傾向がある。
ディリクレ核密度推定に基づく低バイアス・トレーニング可能な校正誤差推定器を提案する。
提案手法はカーネルの自然な選択であり,他の量の一貫した推定値を生成するのに利用できる。
論文 参考訳(メタデータ) (2022-10-13T15:11:11Z) - T-Cal: An optimal test for the calibration of predictive models [49.11538724574202]
有限検証データセットを用いた予測モデルの誤校正を仮説検証問題として検討する。
誤校正の検出は、クラスの条件付き確率が予測の十分滑らかな関数である場合にのみ可能である。
我々は、$ell$-Expected Error(ECE)のデバイアスドプラグイン推定器に基づくキャリブレーションのためのミニマックステストであるT-Calを提案する。
論文 参考訳(メタデータ) (2022-03-03T16:58:54Z) - Online nonparametric regression with Sobolev kernels [99.12817345416846]
我々は、ソボレフ空間のクラス上の後悔の上限を$W_pbeta(mathcalX)$, $pgeq 2, beta>fracdp$ とする。
上界は minimax regret analysis で支えられ、$beta> fracd2$ または $p=infty$ の場合、これらの値は(本質的に)最適である。
論文 参考訳(メタデータ) (2021-02-06T15:05:14Z) - Individual Calibration with Randomized Forecasting [116.2086707626651]
予測値がランダムに設定された場合,各サンプルのキャリブレーションは回帰設定で可能であることを示す。
我々は、個別の校正を強制する訓練目標を設計し、それをランダム化された回帰関数の訓練に使用する。
論文 参考訳(メタデータ) (2020-06-18T05:53:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。