論文の概要: Optimal Recalibration of an Online Predictor

• arxiv url: http://arxiv.org/abs/2607.19689v1
• Date: Wed, 22 Jul 2026 02:36:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-23 18:51:37.953283
• Title: Optimal Recalibration of an Online Predictor
• Title（参考訳）: オンライン予測器の最適校正
• Abstract要約: オンライン予測器(KE17, OKS24)のリカバリ問題について検討し、任意の予測列が与えられた場合、学習者は、元の予測に対して小さな過大なエラーを発生させながら、適切な損失を被ることなく、キャリブレーションされた新しい予測を出力しなければならない。 我々は、Lipschitzの適切な損失に対する$(varepsilon calibrated varepsilon2)$-recalibrationを$T approx varepsilon-3$ラウンドで達成するオンラインアルゴリズムを提供する。 このトレードオフは、正方形に対する再帰のための一致した下界を証明することで最適であることを示す。
• 参考スコア（独自算出の注目度）: 17.79426749489757
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the problem of recalibrating an online predictor [KE17, OKS24]: given an arbitrary "hint" sequence of forecasts, the learner must output new predictions that are calibrated while incurring small excess error relative to the original forecasts, under a proper loss. We give an online algorithm that achieves $(\varepsilon, \varepsilon^2)$-recalibration for Lipschitz proper losses in $T \approx \varepsilon^{-3}$ rounds, using an imbalanced extension of the recent simultaneous Blackwell approachability reduction framework of [HTY26]. We show that this tradeoff is optimal by proving a matching lower bound for recalibrating against the squared loss. We also prove a companion $\mathcal{K}_2$-recalibration theorem that obtains the same tradeoffs up to a logarithmic factor. As our main application, we show how our recalibration algorithms can be combined with the online refinement method of [FH23] to obtain simultaneous $\varepsilon$-calibration and $\varepsilon^2$-calibeating for smooth proper losses at the same asymptotic rate, improving upon prior works that achieved these properties separately or with a worse $\varepsilon$ dependence. In particular, the $\mathcal{K}_2$ variant answers a question of [CHJL26] on simultaneously achieving near-optimal calibeating and calibration rates. We also derive extensions to settings with multiple hint sequences. Finally, we empirically evaluate our algorithms on a classification dataset undergoing distribution shift.
• Abstract（参考訳）: 我々は,オンライン予測器[KE17, OKS24]のリカバリ問題について検討する: 任意の予測列が与えられた場合,学習者は,元の予測に対して小さな過大な誤差を発生させながら,校正された新しい予測を適切な損失で出力しなければならない。 我々は,最近の[HTY26]のブラックウェル接近性低減フレームワークの不均衡拡張を用いて,Lipschitzの適切な損失に対する$(\varepsilon, \varepsilon^2)$-recalibrationを$T \approx \varepsilon^{-3}$ラウンドで達成するオンラインアルゴリズムを提案する。 このトレードオフは、正方形損失に対する補償として、一致した下限を証明することによって最適であることを示す。 また、対数係数まで同じトレードオフが得られる$\mathcal{K}_2$-recalibration定理も証明する。 主な応用として、我々の再校正アルゴリズムを、[FH23]のオンライン精錬手法と組み合わせて、同時に$\varepsilon$-calibrationと$\varepsilon^2$-calibeatingを同時に得る方法を示します。 特に$\mathcal{K}_2$ variant は、[CHJL26] がほぼ最適の校正速度と校正速度を同時に達成する際の疑問に答える。 また、複数のヒントシーケンスを持つ設定の拡張も導きます。 最後に,分布シフト中の分類データセットを用いて,アルゴリズムを実験的に評価する。

関連論文リスト

• Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
  本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。 鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。 我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
  論文  参考訳（メタデータ） (2026-05-21T08:57:38Z)
• The Minimax Rate of Second-Order Calibration [8.791341107339637]
  二項分類における二階キャリブレーション誤差を推定するミニマックス速度を特徴付ける。 結論として、二階プラッツスケーリングに対する最初の有限サンプル保証を与える。
  論文  参考訳（メタデータ） (2026-05-08T14:41:56Z)
• Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
  自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。 任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。 本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
  論文  参考訳（メタデータ） (2026-02-19T17:21:15Z)
• Near-optimal Swap Regret Minimization for Convex Losses [21.006993033547708]
  我々は、ほぼ最適の$widetilde O(sqrt T)$期待スワップリミスを保証するランダム化されたオンラインアルゴリズムを、単位区間において適応的に選択されたLipschitz凸損失の任意の列に対して与える。
  論文  参考訳（メタデータ） (2026-02-09T16:26:34Z)
• A Polynomial-time Algorithm for Online Sparse Linear Regression with Improved Regret Bound under Weaker Conditions [75.69959433669244]
  オンラインスパース線形回帰(OSLR)では,予測のために1インスタンスあたり$d$あたり$k$しかアクセスできない。 提案手法では, 過去の後悔点を大幅に改善する拡張時間アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-10-31T05:02:33Z)
• High dimensional online calibration in polynomial time [17.45683822446751]
  オンライン(シークエンシャル)キャリブレーションでは、予測器は有限結果空間上の確率分布を予測し、T$dayのシーケンス上で$[d]$を予測する。 最もよく知られたアルゴリズムは、非自明なキャリブレーションを達成するのに$exp(d)$dayが必要である。 本稿では,複数のラウンドの後に,非自明なアルゴリズムキャリブレーションを保証する第1のキャリブレーション戦略を提案する。
  論文  参考訳（メタデータ） (2025-04-12T06:28:05Z)
• A Stochastic Proximal Method for Nonsmooth Regularized Finite Sum Optimization [7.014966911550542]
  スパースサブ構造を検索するために,非滑らかな正規化を伴うディープニューラルネットワークをトレーニングする問題を考察する。 我々は、収束と最悪のケースの複雑さが勾配のリプシッツ定数の知識や近似なしで確立されるSR2と呼ばれる新しい解法を導出する。 CIFAR-10とCIFAR-100で訓練されたネットワークインスタンスの実験により、SR2はProxGENやProxSGDのような関連する手法よりも常に高い空間性と精度を達成することが示された。
  論文  参考訳（メタデータ） (2022-06-14T00:28:44Z)
• Statistical Inference of Constrained Stochastic Optimization via Sketched Sequential Quadratic Programming [53.63469275932989]
  制約付き非線形最適化問題のオンライン統計的推測を考察する。 これらの問題を解決するために、逐次二次計画法(StoSQP)を適用する。
  論文  参考訳（メタデータ） (2022-05-27T00:34:03Z)
• Scale-free Unconstrained Online Learning for Curved Losses [1.5147172044848798]
  コンパレータのノルム$U$と勾配の最大ノルム$G$に同時に適応する可能性を検討する。 意外なことに、最近の研究では1ドル=Lipschitz損失の特定のケースにおいて、適応性に対するそのような価格が不要であることが示されている。
  論文  参考訳（メタデータ） (2022-02-11T14:10:35Z)
• High-probability Bounds for Non-Convex Stochastic Optimization with Heavy Tails [55.561406656549686]
  我々は、勾配推定が末尾を持つ可能性のある一階アルゴリズムを用いたヒルベルト非最適化を考える。 本研究では, 勾配, 運動量, 正規化勾配勾配の収束を高確率臨界点に収束させることと, 円滑な損失に対する最もよく知られた繰り返しを示す。
  論文  参考訳（メタデータ） (2021-06-28T00:17:01Z)
• Large-Scale Methods for Distributionally Robust Optimization [53.98643772533416]
  我々のアルゴリズムは、トレーニングセットのサイズとパラメータの数によらず、多くの評価勾配を必要とすることを証明している。 MNIST と ImageNet の実験により,本手法の 9-36 倍の効率性を持つアルゴリズムの理論的スケーリングが確認された。
  論文  参考訳（メタデータ） (2020-10-12T17:41:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。