論文の概要: PAC Prediction Sets for Meta-Learning
- arxiv url: http://arxiv.org/abs/2207.02440v1
- Date: Wed, 6 Jul 2022 05:12:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-07 12:48:54.237355
- Title: PAC Prediction Sets for Meta-Learning
- Title(参考訳): メタラーニングのためのPAC予測セット
- Authors: Sangdon Park and Edgar Dobriban and Insup Lee and Osbert Bastani
- Abstract要約: 不確実性定量化は、安全クリティカルシステムを対象とした機械学習モデルの鍵となるコンポーネントである。
我々はこの問題をメタ学習の文脈で研究し、そこでは予測器を新しいタスクに迅速に適応させることが目的である。
本稿では,ラベルの集合を通して不確実性を捕捉するEmphPAC予測セットを構築するための新しいアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 41.1425071910884
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Uncertainty quantification is a key component of machine learning models
targeted at safety-critical systems such as in healthcare or autonomous
vehicles. We study this problem in the context of meta learning, where the goal
is to quickly adapt a predictor to new tasks. In particular, we propose a novel
algorithm to construct \emph{PAC prediction sets}, which capture uncertainty
via sets of labels, that can be adapted to new tasks with only a few training
examples. These prediction sets satisfy an extension of the typical PAC
guarantee to the meta learning setting; in particular, the PAC guarantee holds
with high probability over future tasks. We demonstrate the efficacy of our
approach on four datasets across three application domains: mini-ImageNet and
CIFAR10-C in the visual domain, FewRel in the language domain, and the CDC
Heart Dataset in the medical domain. In particular, our prediction sets satisfy
the PAC guarantee while having smaller size compared to other baselines that
also satisfy this guarantee.
- Abstract(参考訳): 不確実性定量化は、医療や自動運転車のような安全クリティカルなシステムをターゲットにした機械学習モデルの重要なコンポーネントである。
我々は,新しいタスクに予測器を迅速に適応させることを目的として,メタ学習の文脈でこの問題を研究する。
特に,ラベルの集合を通して不確実性を捕捉し,少数のトレーニング例で新しいタスクに適応できるような,emph{PAC prediction set} を構築する新しいアルゴリズムを提案する。
これらの予測セットは、典型的なpac保証のメタ学習設定への拡張を満たす;特に、pac保証は、将来のタスクよりも高い確率で保持される。
視覚領域の mini-ImageNet と CIFAR10-C ,言語領域の FewRel ,医療領域の CDC Heart Dataset という,3つのアプリケーション領域にわたる4つのデータセットに対するアプローチの有効性を示す。
特に、我々の予測セットは、この保証を満足する他のベースラインよりもサイズを小さくしながら、pac保証を満たす。
関連論文リスト
- Probably Approximately Precision and Recall Learning [62.912015491907994]
精度とリコールは機械学習の基本的な指標である。
一方的なフィードバック – トレーニング中にのみ肯定的な例が観察される – は,多くの実践的な問題に固有のものだ。
PAC学習フレームワークでは,各仮説をグラフで表現し,エッジは肯定的な相互作用を示す。
論文 参考訳(メタデータ) (2024-11-20T04:21:07Z) - Uncertainty Quantification for Neurosymbolic Programs via Compositional Conformal Prediction [36.88661670156255]
コンフォーマル予測は、機械学習における不確実性を定量化するための有望な戦略として登場した。
本稿では,共形予測をニューロシンボリックプログラムに適用するための新しい枠組みを提案する。
MNISTとMS-COCOの画像を入力として利用するプログラムについて,本手法の評価を行った。
論文 参考訳(メタデータ) (2024-05-24T20:15:53Z) - Skeleton2vec: A Self-supervised Learning Framework with Contextualized
Target Representations for Skeleton Sequence [56.092059713922744]
予測対象として高レベルな文脈化機能を使用することで,優れた性能が得られることを示す。
具体的には、シンプルで効率的な3D行動表現学習フレームワークであるSkeleton2vecを提案する。
提案するSkeleton2vecは,従来の手法より優れ,最先端の結果が得られる。
論文 参考訳(メタデータ) (2024-01-01T12:08:35Z) - PAC Prediction Sets Under Label Shift [52.30074177997787]
予測セットは、個々のラベルではなくラベルのセットを予測することによって不確実性を捉える。
ラベルシフト設定においてPAC保証付き予測セットを構築するための新しいアルゴリズムを提案する。
提案手法を5つのデータセットで評価する。
論文 参考訳(メタデータ) (2023-10-19T17:57:57Z) - Computably Continuous Reinforcement-Learning Objectives are
PAC-learnable [12.700911432945151]
強化学習では、割引と有限水平累積報酬を最大化する古典的な目的はPAC学習可能である。
近年、研究者は古典的な累積報酬を超える目的とそれに対応する強化学習アルゴリズムを導入している。
本研究は, 汎用強化学習目標のPAC学習性を示す。
論文 参考訳(メタデータ) (2023-03-09T16:05:10Z) - Scalable PAC-Bayesian Meta-Learning via the PAC-Optimal Hyper-Posterior:
From Theory to Practice [54.03076395748459]
メタラーニング文学の中心的な疑問は、目に見えないタスクへの一般化を保証するために、いかに正規化するかである。
本稿では,Rothfussらによって最初に導かれたメタラーニングの一般化について述べる。
PAC-Bayesian per-task 学習境界におけるメタラーニングの条件と程度について,理論的解析および実証事例研究を行った。
論文 参考訳(メタデータ) (2022-11-14T08:51:04Z) - Towards PAC Multi-Object Detection and Tracking [26.19794470266982]
我々は、単一のラベルではなくラベルの集合を予測する、共形予測として知られる戦略を考える。
本稿では,多目的検出・追跡アルゴリズムを提案する。
我々は,COCOおよびMOT-17データセット上でPAC保証付きオブジェクトを検出・追跡できることを実証的に実証した。
論文 参考訳(メタデータ) (2022-04-15T14:33:42Z) - Few-shot Conformal Prediction with Auxiliary Tasks [29.034390810078172]
対象タスクがトレーニングに利用可能なデータに制限がある場合に,コンフォメーション予測を行うための新しい手法を開発した。
共形予測をメタラーニングパラダイムとしてキャスティングすることで、望ましい限界保証を維持しつつ、より厳密な予測セットを得る。
本手法は,自然言語処理,コンピュータビジョン,薬物発見のための計算化学において,数発の分類と回帰タスクにまたがる効果を示す。
論文 参考訳(メタデータ) (2021-02-17T17:46:57Z) - PACOH: Bayes-Optimal Meta-Learning with PAC-Guarantees [77.67258935234403]
PAC-Bayesianフレームワークを用いた理論的解析を行い、メタ学習のための新しい一般化境界を導出する。
我々は、性能保証と原則付きメタレベル正規化を備えたPAC最適メタ学習アルゴリズムのクラスを開発する。
論文 参考訳(メタデータ) (2020-02-13T15:01:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。