論文の概要: Scalable and adaptive prediction bands with kernel sum-of-squares

• arxiv url: http://arxiv.org/abs/2505.21039v1
• Date: Tue, 27 May 2025 11:21:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-28 17:05:58.602147
• Title: Scalable and adaptive prediction bands with kernel sum-of-squares
• Title（参考訳）: カーネルの総和を持つスケーラブルで適応的な予測帯域
• Authors: Louis Allain, Sébastien da Veiga, Brian Staber,
• Abstract要約: Conformal Prediction (CP) は、有限サンプルで有効なカバレッジを持つ予測帯域を構築するための一般的なフレームワークである。 我々は,CP問題を統計的学習問題として再放送し,適用範囲と適応率を直接ターゲットとした最近の考え方を構築した。
• 参考スコア（独自算出の注目度）: 0.5530212768657544
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Conformal Prediction (CP) is a popular framework for constructing prediction bands with valid coverage in finite samples, while being free of any distributional assumption. A well-known limitation of conformal prediction is the lack of adaptivity, although several works introduced practically efficient alternate procedures. In this work, we build upon recent ideas that rely on recasting the CP problem as a statistical learning problem, directly targeting coverage and adaptivity. This statistical learning problem is based on reproducible kernel Hilbert spaces (RKHS) and kernel sum-of-squares (SoS) methods. First, we extend previous results with a general representer theorem and exhibit the dual formulation of the learning problem. Crucially, such dual formulation can be solved efficiently by accelerated gradient methods with several hundreds or thousands of samples, unlike previous strategies based on off-the-shelf semidefinite programming algorithms. Second, we introduce a new hyperparameter tuning strategy tailored specifically to target adaptivity through bounds on test-conditional coverage. This strategy, based on the Hilbert-Schmidt Independence Criterion (HSIC), is introduced here to tune kernel lengthscales in our framework, but has broader applicability since it could be used in any CP algorithm where the score function is learned. Finally, extensive experiments are conducted to show how our method compares to related work. All figures can be reproduced with the accompanying code.
• Abstract（参考訳）: Conformal Prediction (CP) は、有限サンプルで有効なカバレッジを持つ予測帯域を構築するための一般的なフレームワークである。 共形予測のよく知られた制限は適応性の欠如である。 本研究では,CP問題を統計的学習問題として再放送し,適用範囲と適応率を直接ターゲットとした近年の考え方を構築した。 この統計学習問題は、再現可能なカーネルヒルベルト空間(RKHS)とカーネルの総和(SoS)法に基づいている。 まず、従来の結果を一般的な表現定理で拡張し、学習問題の二重定式化を示す。 重要なことに、そのような双対の定式化は、数百から数千のサンプルを持つ加速勾配法によって効率的に解ける。 第2に、テスト条件カバレッジのバウンダリによる適応性を目標とする、新しいハイパーパラメータチューニング戦略を導入する。 Hilbert-Schmidt Independence Criterion (HSIC) に基づくこの戦略は,我々のフレームワークでカーネル長スケールをチューニングするために導入されたが,スコア関数が学習される任意のCPアルゴリズムで使用できるため,適用性は広い。 最後に,本手法が関連する作業とどのように比較されるかを示すため,広範囲な実験を行った。 すべての数字は付随するコードで再生できる。

関連論文リスト

• Epistemic Uncertainty in Conformal Scores: A Unified Approach [2.449909275410288]
  等角予測法は、分布のない保証を持つ予測帯域を生成するが、不確実性を明示的に捉えることはできない。 モデルに依存しないアプローチである $texttEPICSCORE$ を導入する。 $texttEPICSCORE$は、限られたデータを持つ領域の予測間隔を適応的に拡張し、データが豊富であるコンパクト間隔を維持します。
  論文  参考訳（メタデータ） (2025-02-10T19:42:54Z)
• Optimal Transport-based Conformal Prediction [8.302146576157497]
  コンフォーマル予測(CP)は、ブラックボックス学習モデルにおける不確実性のための原則化されたフレームワークである。 レンズを通して予測スコア関数を処理する新しいCPプロシージャを提案する。 次に,マルチ出力回帰とマルチクラス分類の定量化に本手法を適用した。
  論文  参考訳（メタデータ） (2025-01-31T09:48:28Z)
• Achieving $\widetilde{\mathcal{O}}(\sqrt{T})$ Regret in Average-Reward POMDPs with Known Observation Models [56.92178753201331]
  平均逆無限水平POMDPを未知の遷移モデルで扱う。 この障壁を克服する斬新でシンプルな推定器を提示する。
  論文  参考訳（メタデータ） (2025-01-30T22:29:41Z)
• An Efficient Rehearsal Scheme for Catastrophic Forgetting Mitigation during Multi-stage Fine-tuning [55.467047686093025]
  このような忘れを緩和するための一般的なアプローチは、微調整中に以前のタスクからサンプルをリハーサルすることである。 側方損傷のリハーサルを優先するサンプリング手法である textttbf mix-cd を提案する。 我々の手法は計算効率が高く、実装が容易で、計算制約のある設定においていくつかの主要な連続学習手法より優れています。
  論文  参考訳（メタデータ） (2024-02-12T22:32:12Z)
• Stochastic Gradient Methods with Preconditioned Updates [47.23741709751474]
  このような問題に対するアルゴリズムはいくつかあるが、既存の手法は、スケールが悪く、あるいは条件が悪ければ、しばしばうまく機能しない。 ここではハッチンソンの対角ヘッセン近似のアプローチに基づく前提条件を含む。 我々は滑らかさとPL条件が仮定されるときの収束性を証明する。
  論文  参考訳（メタデータ） (2022-06-01T07:38:08Z)
• Efficient and Differentiable Conformal Prediction with General Function Classes [96.74055810115456]
  本稿では,複数の学習可能なパラメータに対する共形予測の一般化を提案する。 本研究は, クラス内において, ほぼ有効な人口被覆率, ほぼ最適効率を実現していることを示す。 実験の結果,提案アルゴリズムは有効な予測セットを学習し,効率を著しく向上できることがわかった。
  論文  参考訳（メタデータ） (2022-02-22T18:37:23Z)
• Root-finding Approaches for Computing Conformal Prediction Set [18.405645120971496]
  共形予測は、以前の同一分布および交換可能な観測に基づいて、特徴ベクトルの未観測応答に対する信頼領域を構築する。 我々は,共形予測集合が古典的ルートフィンディングソフトウェアによって効率的に近似できる区間であるという事実を活用する。
  論文  参考訳（メタデータ） (2021-04-14T06:41:12Z)
• Large-Scale Methods for Distributionally Robust Optimization [53.98643772533416]
  我々のアルゴリズムは、トレーニングセットのサイズとパラメータの数によらず、多くの評価勾配を必要とすることを証明している。 MNIST と ImageNet の実験により,本手法の 9-36 倍の効率性を持つアルゴリズムの理論的スケーリングが確認された。
  論文  参考訳（メタデータ） (2020-10-12T17:41:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。