論文の概要: Benchmark for Uncertainty & Robustness in Self-Supervised Learning
- arxiv url: http://arxiv.org/abs/2212.12411v1
- Date: Fri, 23 Dec 2022 15:46:23 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-26 16:27:05.881719
- Title: Benchmark for Uncertainty & Robustness in Self-Supervised Learning
- Title（参考訳）: 自己監督型学習における不確実性とロバスト性のベンチマーク
- Authors: Ha Manh Bui and Iliana Maifeld-Carucci
- Abstract要約: セルフ・スーパーバイザード・ラーニングは現実世界のアプリケーション、特に医療や自動運転車のようなデータ・ハングリーな分野に不可欠である。
本稿では Jigsaw Puzzles, Context, Rotation, Geometric Transformations Prediction for vision や BERT や GPT for Language Task など,SSL メソッドの変種について検討する。
我々のゴールは、実験から出力されたベンチマークを作成し、信頼性のある機械学習で新しいSSLメソッドの出発点を提供することです。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-Supervised Learning (SSL) is crucial for real-world applications,
especially in data-hungry domains such as healthcare and self-driving cars. In
addition to a lack of labeled data, these applications also suffer from
distributional shifts. Therefore, an SSL method should provide robust
generalization and uncertainty estimation in the test dataset to be considered
a reliable model in such high-stakes domains. However, existing approaches
often focus on generalization, without evaluating the model's uncertainty. The
ability to compare SSL techniques for improving these estimates is therefore
critical for research on the reliability of self-supervision models. In this
paper, we explore variants of SSL methods, including Jigsaw Puzzles, Context,
Rotation, Geometric Transformations Prediction for vision, as well as BERT and
GPT for language tasks. We train SSL in auxiliary learning for vision and
pre-training for language model, then evaluate the generalization (in-out
classification accuracy) and uncertainty (expected calibration error) across
different distribution covariate shift datasets, including MNIST-C, CIFAR-10-C,
CIFAR-10.1, and MNLI. Our goal is to create a benchmark with outputs from
experiments, providing a starting point for new SSL methods in Reliable Machine
Learning. All source code to reproduce results is available at
https://github.com/hamanhbui/reliable_ssl_baselines.
- Abstract（参考訳）: 自己監視学習(SSL)は、現実世界のアプリケーション、特に医療や自動運転車などのデータ処理分野において、不可欠である。
ラベル付きデータの欠如に加えて、これらのアプリケーションは分散シフトにも苦しむ。
したがって、SSL方式は、テストデータセットにおける堅牢な一般化と不確実性評価を提供し、そのような高信頼領域における信頼性モデルと見なす必要がある。
しかし、既存のアプローチはしばしばモデルの不確実性を評価することなく一般化に焦点を当てる。
したがって、これらの推定値を改善するためにSSL技術を比較する能力は、自己超越モデルの信頼性の研究に不可欠である。
本稿では Jigsaw Puzzles, Context, Rotation, Geometric Transformations Prediction for vision や BERT や GPT for Language Task など,SSL メソッドのバリエーションについて検討する。
言語モデルの視覚および事前学習のための補助学習においてsslを訓練し、mnist-c、cifar-10-c、cifar-10.1、mnliを含む異なる分布共変量シフトデータセットにおける一般化(内分類精度)と不確実性(予測校正誤差)を評価する。
我々のゴールは、実験から出力されたベンチマークを作成し、信頼性のある機械学習で新しいSSLメソッドの出発点を提供することです。
結果を再現するすべてのソースコードはhttps://github.com/hamanhbui/reliable_ssl_baselinesで入手できる。
関連論文リスト
- A Closer Look at Benchmarking Self-Supervised Pre-training with Image Classification [51.35500308126506]
自己教師付き学習(SSL)は、データ自体が監視を提供する機械学習アプローチであり、外部ラベルの必要性を排除している。
SSLの分類に基づく評価プロトコルがどのように相関し、異なるデータセットのダウンストリーム性能を予測するかを検討する。
論文 参考訳（メタデータ） (2024-07-16T23:17:36Z) - Uncertainty Aware Learning for Language Model Alignment [97.36361196793929]
異なるタスクシナリオのモデルアライメントを改善するために,不確実性認識学習(UAL)を提案する。
トレーニングのラベルの平滑化値を個々のサンプルの不確実性に応じて適応的に設定する。
広く使われているベンチマーク実験では、我々のUALは標準教師あり微調整よりも著しく優れています。
論文 参考訳（メタデータ） (2024-06-07T11:37:45Z) - Reinforcement Learning-Guided Semi-Supervised Learning [20.599506122857328]
本稿では,SSLを片腕バンディット問題として定式化する新しい強化学習ガイド型SSL手法 RLGSSL を提案する。
RLGSSLは、ラベル付きデータとラベルなしデータのバランスを保ち、一般化性能を向上させるために、慎重に設計された報酬関数を組み込んでいる。
我々は,複数のベンチマークデータセットに対する広範な実験を通じてRCGSSLの有効性を実証し,我々の手法が最先端のSSL手法と比較して一貫した優れた性能を実現することを示す。
論文 参考訳（メタデータ） (2024-05-02T21:52:24Z) - Semi-Supervised Class-Agnostic Motion Prediction with Pseudo Label
Regeneration and BEVMix [59.55173022987071]
クラス非依存動作予測のための半教師あり学習の可能性について検討する。
我々のフレームワークは一貫性に基づく自己学習パラダイムを採用しており、ラベルのないデータからモデルを学習することができる。
本手法は,弱さと完全教師付き手法に匹敵する性能を示す。
論文 参考訳（メタデータ） (2023-12-13T09:32:50Z) - Progressive Feature Adjustment for Semi-supervised Learning from
Pretrained Models [39.42802115580677]
半教師付き学習(SSL)はラベル付きデータとラベルなしデータの両方を利用して予測モデルを構築することができる。
近年の文献では、事前訓練されたモデルで最先端のSSLを適用しても、トレーニングデータの潜在能力を最大限に発揮できないことが示唆されている。
本稿では,ラベルの誤りに敏感でない特徴抽出器を更新するために,非ラベルデータから擬似ラベルを使用することを提案する。
論文 参考訳（メタデータ） (2023-09-09T01:57:14Z) - Improving Open-Set Semi-Supervised Learning with Self-Supervision [13.944469874692459]
オープンセット半教師あり学習(OSSL)は、半教師あり学習における実践的なシナリオを具現化する。
我々は,自己スーパービジョンを通じて,ラベルのないすべてのデータから学習を容易にするOSSLフレームワークを提案する。
提案手法は, 評価されたベンチマーク問題の多くに対して, 最先端の結果をもたらす。
論文 参考訳（メタデータ） (2023-01-24T16:46:37Z) - Federated Zero-Shot Learning for Visual Recognition [55.65879596326147]
本稿では,Federated Zero-Shot Learning FedZSLフレームワークを提案する。
FedZSLは、エッジデバイス上の分散データから中心的なモデルを学ぶ。
FedZSLの有効性と堅牢性は、3つのゼロショットベンチマークデータセットで実施された広範な実験によって実証された。
論文 参考訳（メタデータ） (2022-09-05T14:49:34Z) - Semi-supervised Learning with Deterministic Labeling and Large Margin
Projection [25.398314796157933]
ラベル付きデータの集中度と多様性は、半教師付き学習(SSL)の性能に非常に影響を与える
本研究は,OCF構造に基づいて認識される最小の安定かつ最も分散したデータに対して,カーネル化された大規模マージン計量を学習することを目的とする。
OLFに基づくSSLモデルの精度と性能の安定性は, ベースライン法に比べて大幅に向上した。
論文 参考訳（メタデータ） (2022-08-17T04:09:35Z) - OpenLDN: Learning to Discover Novel Classes for Open-World
Semi-Supervised Learning [110.40285771431687]
半教師付き学習(SSL)は、教師付き学習のアノテーションボトルネックに対処する主要なアプローチの1つである。
最近のSSLメソッドは、ラベルなしデータの大規模なリポジトリを有効活用して、ラベル付きデータの小さなセットに依存しながら、パフォーマンスを向上させることができる。
この研究は、ペアワイズ類似度損失を利用して新しいクラスを発見するOpenLDNを導入している。
論文 参考訳（メタデータ） (2022-07-05T18:51:05Z) - DATA: Domain-Aware and Task-Aware Pre-training [94.62676913928831]
我々は、自己教師付き学習(SSL)に特化した、シンプルで効果的なNASアプローチであるDataを提示する。
提案手法は,画像分類,オブジェクト検出,セマンティックセグメンテーションなど,下流タスクにおける計算コストの広い範囲にわたる有望な結果を実現する。
論文 参考訳（メタデータ） (2022-03-17T02:38:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。