論文の概要: Selective classification using a robust meta-learning approach
- arxiv url: http://arxiv.org/abs/2212.05987v2
- Date: Tue, 2 Jan 2024 20:03:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-04 17:20:25.599399
- Title: Selective classification using a robust meta-learning approach
- Title(参考訳): ロバストなメタラーニングアプローチによる選択的分類
- Authors: Nishant Jain, Karthikeyan Shanmugam and Pradeep Shenoy
- Abstract要約: 本稿では,補助ネットワークを用いて予測不確実性を捉えるインスタンス条件の再重み付け手法を提案する。
制御された実験において、このメタオブジェクトを通して様々な不確実性の概念を効果的に捉えていることを示す。
糖尿病網膜症では、最大3.4%/3.3%の精度でSOTAを上回り、選択的分類ではAUCが上昇する。
- 参考スコア(独自算出の注目度): 28.460912135533988
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Predictive uncertainty-a model's self awareness regarding its accuracy on an
input-is key for both building robust models via training interventions and for
test-time applications such as selective classification. We propose a novel
instance-conditioned reweighting approach that captures predictive uncertainty
using an auxiliary network and unifies these train- and test-time applications.
The auxiliary network is trained using a meta-objective in a bilevel
optimization framework. A key contribution of our proposal is the
meta-objective of minimizing the dropout variance, an approximation of Bayesian
Predictive uncertainty. We show in controlled experiments that we effectively
capture the diverse specific notions of uncertainty through this
meta-objective, while previous approaches only capture certain aspects. These
results translate to significant gains in real-world settings-selective
classification, label noise, domain adaptation, calibration-and across
datasets-Imagenet, Cifar100, diabetic retinopathy, Camelyon, WILDs,
Imagenet-C,-A,-R, Clothing1M, etc. For Diabetic Retinopathy, we see upto
3.4%/3.3% accuracy and AUC gains over SOTA in selective classification. We also
improve upon large-scale pretrained models such as PLEX.
- Abstract(参考訳): 予測的不確実性-モデルの入力精度に関する自己認識は、トレーニング介入によるロバストモデルの構築と、選択的分類のようなテストタイムアプリケーションの両方に有効である。
補助ネットワークを用いて予測の不確かさをキャプチャし,これらのトレインとテストタイムのアプリケーションを統合する,新しいインスタンス条件付き再重み付け手法を提案する。
補助ネットワークは、二レベル最適化フレームワークでメタ目的を使って訓練される。
本提案の重要な貢献は,ベイズ予測の不確かさの近似であるドロップアウト分散を最小化するメタ目的である。
我々は制御された実験において、このメタオブジェクトを通して様々な特定の不確実性の概念を効果的に捉え、従来のアプローチは特定の側面しか捉えていないことを示す。
これらの結果は、実世界の設定選択型分類、ラベルノイズ、ドメイン適応、キャリブレーション、データセット全体にわたるキャリブレーション、—Imagenet、Cifar100、糖尿病網膜症、Camelyon、WILDs、Imagenet-C、-A、-R、Cloting1Mなど。
糖尿病網膜症では、最大3.4%/3.3%の精度でSOTAを上回り、選択的分類ではAUCが上昇する。
PLEXのような大規模事前学習モデルも改善する。
関連論文リスト
- Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。
データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
論文 参考訳(メタデータ) (2024-07-26T10:49:14Z) - Towards Robust and Interpretable EMG-based Hand Gesture Recognition using Deep Metric Meta Learning [37.21211404608413]
本稿では,意味的かつ解釈可能な表現の作成を監督するために,EMG PRにおける深層メートル法メタラーニングへのシフトを提案する。
我々は、不正確な決定をよりよく拒否する頑健なクラス近接性に基づく信頼度推定器を導出する。
論文 参考訳(メタデータ) (2024-04-17T23:37:50Z) - Uncertainty-aware Sampling for Long-tailed Semi-supervised Learning [89.98353600316285]
擬似ラベルサンプリングのモデル化プロセスに不確実性を導入し、各クラスにおけるモデル性能が異なる訓練段階によって異なることを考慮した。
このアプローチにより、モデルは異なる訓練段階における擬似ラベルの不確かさを認識でき、それによって異なるクラスの選択閾値を適応的に調整できる。
FixMatchのような他の手法と比較して、UDTSは自然シーン画像データセットの精度を少なくとも5.26%、1.75%、9.96%、1.28%向上させる。
論文 参考訳(メタデータ) (2024-01-09T08:59:39Z) - ASPEST: Bridging the Gap Between Active Learning and Selective
Prediction [56.001808843574395]
選択予測は、不確実な場合の予測を棄却する信頼性のあるモデルを学ぶことを目的としている。
アクティブラーニングは、最も有意義な例を問うことで、ラベリングの全体、すなわち人間の依存度を下げることを目的としている。
本研究では,移動対象領域からより情報のあるサンプルを検索することを目的とした,新たな学習パラダイムである能動的選択予測を導入する。
論文 参考訳(メタデータ) (2023-04-07T23:51:07Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Post-hoc Uncertainty Learning using a Dirichlet Meta-Model [28.522673618527417]
本研究では,不確実性定量化能力の優れた事前学習モデルを構築するための新しいベイズメタモデルを提案する。
提案手法は追加のトレーニングデータを必要としないため,不確かさの定量化に十分な柔軟性がある。
提案するメタモデルアプローチの柔軟性と,これらのアプリケーションに対する優れた経験的性能を実証する。
論文 参考訳(メタデータ) (2022-12-14T17:34:11Z) - Adaptive Dimension Reduction and Variational Inference for Transductive
Few-Shot Classification [2.922007656878633]
適応次元の削減によりさらに改善された変分ベイズ推定に基づく新しいクラスタリング法を提案する。
提案手法は,Few-Shotベンチマークにおける現実的非バランスなトランスダクティブ設定の精度を大幅に向上させる。
論文 参考訳(メタデータ) (2022-09-18T10:29:02Z) - Calibrated Selective Classification [34.08454890436067]
そこで我々は,「不確か」な不確実性のある例を拒否する手法を提案する。
本稿では,選択的校正モデル学習のためのフレームワークを提案する。そこでは,任意のベースモデルの選択的校正誤差を改善するために,個別のセレクタネットワークを訓練する。
われわれは,複数画像分類と肺癌リスク評価におけるアプローチの実証的効果を実証した。
論文 参考訳(メタデータ) (2022-08-25T13:31:09Z) - Boosting the Generalization Capability in Cross-Domain Few-shot Learning
via Noise-enhanced Supervised Autoencoder [23.860842627883187]
我々は、新しいノイズ強調型教師付きオートエンコーダ(NSAE)を用いて、特徴分布のより広範なバリエーションを捉えるようモデルに教える。
NSAEは入力を共同で再構築し、入力のラベルと再構成されたペアを予測することによってモデルを訓練する。
また、NSAE構造を利用して、より適応性を高め、対象領域の分類性能を向上させる2段階の微調整手順を提案する。
論文 参考訳(メタデータ) (2021-08-11T04:45:56Z) - Rectified Meta-Learning from Noisy Labels for Robust Image-based Plant
Disease Diagnosis [64.82680813427054]
植物病は食料安全保障と作物生産に対する主要な脅威の1つである。
1つの一般的なアプローチは、葉画像分類タスクとしてこの問題を変換し、強力な畳み込みニューラルネットワーク(CNN)によって対処できる。
本稿では,正規化メタ学習モジュールを共通CNNパラダイムに組み込んだ新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-03-17T09:51:30Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳(メタデータ) (2020-02-27T10:22:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。