論文の概要: Improving Adaptive Conformal Prediction Using Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2302.12238v1
• Date: Thu, 23 Feb 2023 18:57:14 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-24 14:04:01.718222
• Title: Improving Adaptive Conformal Prediction Using Self-Supervised Learning
• Title（参考訳）: 自己教師付き学習による適応型共形予測の改善
• Authors: Nabeel Seedat, Alan Jeffares, Fergus Imrie, Mihaela van der Schaar
• Abstract要約: 我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。 合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
• 参考スコア（独自算出の注目度）: 72.2614468437919
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conformal prediction is a powerful distribution-free tool for uncertainty quantification, establishing valid prediction intervals with finite-sample guarantees. To produce valid intervals which are also adaptive to the difficulty of each instance, a common approach is to compute normalized nonconformity scores on a separate calibration set. Self-supervised learning has been effectively utilized in many domains to learn general representations for downstream predictors. However, the use of self-supervision beyond model pretraining and representation learning has been largely unexplored. In this work, we investigate how self-supervised pretext tasks can improve the quality of the conformal regressors, specifically by improving the adaptability of conformal intervals. We train an auxiliary model with a self-supervised pretext task on top of an existing predictive model and use the self-supervised error as an additional feature to estimate nonconformity scores. We empirically demonstrate the benefit of the additional information using both synthetic and real data on the efficiency (width), deficit, and excess of conformal prediction intervals.
• Abstract（参考訳）: 共形予測は不確実性定量化のための強力な分布フリーツールであり、有限サンプル保証による有効な予測間隔を確立する。 各インスタンスの難易度にも適応する有効区間を生成するには、正規化された非整合性のスコアを別のキャリブレーションセットで計算するのが一般的な方法である。 自己教師付き学習は多くの領域で、下流の予測者の一般的な表現を学ぶために効果的に利用されている。 しかし、モデルの事前学習や表現学習を超えた自己スーパービジョンの使用は、ほとんど未開拓である。 本研究では, 自己教師付きプリテキストタスクが, 適合区間の適応性を向上させることにより, 適合レグレッサの品質を向上させる方法について検討する。 既存の予測モデルの上に自己教師付きプリテキストタスクで補助モデルをトレーニングし、自己教師付きエラーを追加機能として使用することで、非コンフォーマンティスコアを推定する。 提案手法は, 合成データと実データの両方を用いて, 効率(width), 欠陥, コンフォーメーショナル予測間隔の超過に関する付加情報の有効性を実証的に実証する。

関連論文リスト

• Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
  ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。 トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
  論文  参考訳（メタデータ） (2024-02-13T11:25:20Z)
• Self-Calibrating Conformal Prediction [16.606421967131524]
  本稿では,これらの予測に対して有限サンプル妥当性条件付き予測間隔とともに,校正点予測を実現するための自己校正等式予測を提案する。 本手法は,モデルキャリブレーションによりキャリブレーション間隔効率を向上し,特徴条件の妥当性に対して実用的な代替手段を提供する。
  論文  参考訳（メタデータ） (2024-02-11T21:12:21Z)
• Absolute convergence and error thresholds in non-active adaptive sampling [0.27624021966289597]
  非アクティブ適応サンプリングは、トレーニングベースから機械学習モデルを構築する方法である。 絶対収束と誤差しきい値を計算するための提案について述べる。 テストは私たちの期待に応え、自然言語処理の領域における提案を説明する。
  論文  参考訳（メタデータ） (2024-02-04T15:10:34Z)
• Adaptive scheduling for adaptive sampling in POS taggers construction [0.27624021966289597]
  音声タグ作成における機械学習の新たな手法として適応的サンプリングのための適応的スケジューリングを提案する。 本研究では,関数モデルとともに幾何学的に学習曲線の形状を分析し,任意のタイミングで学習曲線を増減する。 また,評価の一時的なインフレーションを受けるトレーニングデータベースの領域に注意を払い,サンプリングの堅牢性も向上する。
  論文  参考訳（メタデータ） (2024-02-04T15:02:17Z)
• Calibration-Aware Bayesian Learning [37.82259435084825]
  本稿では、キャリブレーション対応ベイズニューラルネットワーク(CA-BNN)と呼ばれる統合フレームワークを提案する。 ベイズ学習のように変分分布を最適化しながら、データ依存あるいはデータ非依存の正則化をそれぞれ適用する。 予測キャリブレーション誤差(ECE)と信頼性図を用いて,提案手法の利点を検証した。
  論文  参考訳（メタデータ） (2023-05-12T14:19:15Z)
• Learning Sample Difficulty from Pre-trained Models for Reliable Prediction [55.77136037458667]
  本稿では,大規模事前学習モデルを用いて,サンプル難易度を考慮したエントロピー正規化による下流モデルトレーニングを指導する。 我々は、挑戦的なベンチマークで精度と不確実性の校正を同時に改善する。
  論文  参考訳（メタデータ） (2023-04-20T07:29:23Z)
• Conformal prediction for the design problem [72.14982816083297]
  機械学習の現実的な展開では、次にテストすべきデータを選択するために予測アルゴリズムを使用します。 このような設定では、トレーニングデータとテストデータの間には、異なるタイプの分散シフトがある。 このような環境で予測の不確実性を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2022-02-08T02:59:12Z)
• Test-time Collective Prediction [73.74982509510961]
  マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。 エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。 我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
  論文  参考訳（メタデータ） (2021-06-22T18:29:58Z)
• Learning Prediction Intervals for Model Performance [1.433758865948252]
  モデル性能の予測間隔を計算する手法を提案する。 我々は,幅広いドリフト条件におけるアプローチを評価し,競合ベースラインよりも大幅に改善することを示す。
  論文  参考訳（メタデータ） (2020-12-15T21:32:03Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。