論文の概要: Entropic Open-set Active Learning
- arxiv url: http://arxiv.org/abs/2312.14126v1
- Date: Thu, 21 Dec 2023 18:47:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-22 13:43:17.403037
- Title: Entropic Open-set Active Learning
- Title(参考訳): エントロピー的オープンセットアクティブラーニング
- Authors: Bardia Safaei, Vibashan VS, Celso M. de Melo, Vishal M. Patel
- Abstract要約: アクティブラーニング(AL)は、ラベルなしデータのプールから最も有用なアノテーションサンプルを選択することで、ディープモデルの性能を向上させることを目的としている。
クローズドセット設定での優れたパフォーマンスにもかかわらず、ほとんどのALメソッドは、ラベルなしデータが未知のカテゴリを含む実世界のシナリオで失敗する。
本稿では,未知分布と未知分布の両方を効果的に活用して,ALラウンド中の情報的サンプルを選択するエントロピー的オープンセットALフレームワークを提案する。
- 参考スコア(独自算出の注目度): 30.91182106918793
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Active Learning (AL) aims to enhance the performance of deep models by
selecting the most informative samples for annotation from a pool of unlabeled
data. Despite impressive performance in closed-set settings, most AL methods
fail in real-world scenarios where the unlabeled data contains unknown
categories. Recently, a few studies have attempted to tackle the AL problem for
the open-set setting. However, these methods focus more on selecting known
samples and do not efficiently utilize unknown samples obtained during AL
rounds. In this work, we propose an Entropic Open-set AL (EOAL) framework which
leverages both known and unknown distributions effectively to select
informative samples during AL rounds. Specifically, our approach employs two
different entropy scores. One measures the uncertainty of a sample with respect
to the known-class distributions. The other measures the uncertainty of the
sample with respect to the unknown-class distributions. By utilizing these two
entropy scores we effectively separate the known and unknown samples from the
unlabeled data resulting in better sampling. Through extensive experiments, we
show that the proposed method outperforms existing state-of-the-art methods on
CIFAR-10, CIFAR-100, and TinyImageNet datasets. Code is available at
\url{https://github.com/bardisafa/EOAL}.
- Abstract(参考訳): アクティブラーニング(AL)は、ラベルなしデータのプールから最も有用なアノテーションサンプルを選択することで、ディープモデルの性能を向上させることを目的としている。
クローズドセット設定での優れたパフォーマンスにもかかわらず、ほとんどのALメソッドは、ラベルなしデータが未知のカテゴリを含む実世界のシナリオで失敗する。
近年、いくつかの研究がオープンセット設定のal問題に取り組み始めている。
しかし、これらの手法は既知のサンプルの選択に重点を置いており、alラウンド中に得られた未知のサンプルを効率的に利用しない。
本研究では,未知の分布と未知の分布を効果的に活用し,ALラウンド中の情報的サンプルを選択するEntropic Open-set AL (EOAL) フレームワークを提案する。
具体的には、2つの異なるエントロピースコアを用いる。
既知のクラス分布に対するサンプルの不確実性を測定する。
他方は、未知のクラス分布に対するサンプルの不確かさを測定する。
これら2つのエントロピースコアを利用することで、既知のサンプルと未知のサンプルをラベルのないデータから効果的に分離し、より良いサンプリングを行う。
CIFAR-10, CIFAR-100, TinyImageNetデータセットにおいて, 提案手法が既存の最先端手法よりも優れていることを示す。
コードは \url{https://github.com/bardisafa/EOAL} で入手できる。
関連論文リスト
- Dirichlet-Based Coarse-to-Fine Example Selection For Open-Set Annotation [37.33424244520009]
本稿では,ディリクレに基づく大まかな実例選択(DCFS)戦略を提案する。
本手法では, 翻訳の不変性を損なうために, 単純なx-based obviousial Deep Learning (EDL)を導入している。
様々なオープンネス比データセットの実験は、DCFSが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2024-09-26T07:47:50Z) - Bidirectional Uncertainty-Based Active Learning for Open Set Annotation [28.624321743629825]
オープンセットのシナリオにおけるアクティブな学習は、最も価値のある例を特定するという、新たな課題を示している。
従来の手法では、信頼性の低い情報的事例の選択が優先されていた。
最近の手法は、最も可能性の高い既知の例を好んでいる。
双方向不確実性に基づくアクティブラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-02-23T08:59:04Z) - MyriadAL: Active Few Shot Learning for Histopathology [10.652626309100889]
我々は、Myriad Active Learning (MAL)という、アクティブな数個のショットラーニングフレームワークを導入する。
MALには、コントラスト学習エンコーダ、擬似ラベル生成、ループ内の新しいクエリサンプル選択が含まれている。
2つの公的な病理組織学データセットの実験により、MALは以前の研究に比べてテスト精度、マクロF1スコア、ラベル効率が優れていることが示された。
論文 参考訳(メタデータ) (2023-10-24T20:08:15Z) - Adaptive Negative Evidential Deep Learning for Open-set Semi-supervised Learning [69.81438976273866]
オープンセット半教師付き学習(Open-set SSL)は、ラベル付きデータ(inliers)で観測されない新しいカテゴリ(outliers)を含むラベル付きデータとテストデータを含む、より実践的なシナリオである。
本研究では,様々な不確かさを定量化するための外乱検出器として顕在的深層学習(EDL)を導入し,自己学習と推論のための異なる不確実性指標を設計する。
Inlierとoutlierの両方を含むラベルなしデータセットに適合するように、新しい適応的負の最適化戦略を提案する。
論文 参考訳(メタデータ) (2023-03-21T09:07:15Z) - Prompt-driven efficient Open-set Semi-supervised Learning [52.30303262499391]
オープンセット半教師付き学習(OSSL)は関心を集めており、未ラベルデータにのみOOD(Out-of-distribution)サンプルが組み込まれているというより実践的なシナリオを調査している。
我々はOpenPromptと呼ばれる,プロンプト駆動の効率的なOSSLフレームワークを提案する。
論文 参考訳(メタデータ) (2022-09-28T16:25:08Z) - Pareto Optimization for Active Learning under Out-of-Distribution Data
Scenarios [79.02009938011447]
本研究では,未ラベルデータプールからバッチサイズを固定した未ラベルサンプルの最適なサブセットを選択するサンプリング手法を提案する。
実験の結果,従来の機械学習(ML)タスクとディープラーニング(DL)タスクの両方において,その効果が示された。
論文 参考訳(メタデータ) (2022-07-04T04:11:44Z) - UNICON: Combating Label Noise Through Uniform Selection and Contrastive
Learning [89.56465237941013]
UNICONは,高ラベル雑音に対して頑健な,シンプルで効果的なサンプル選択法である。
90%のノイズレートでCIFAR100データセットの最先端データよりも11.4%改善した。
論文 参考訳(メタデータ) (2022-03-28T07:36:36Z) - Active Learning by Feature Mixing [52.16150629234465]
本稿では,ALFA-Mixと呼ばれるバッチ能動学習手法を提案する。
予測の不整合を求めることにより,不整合な特徴を持つインスタンスを同定する。
これらの予測の不整合は、モデルが未認識のインスタンスで認識できない特徴を発見するのに役立ちます。
論文 参考訳(メタデータ) (2022-03-14T12:20:54Z) - Minimax Active Learning [61.729667575374606]
アクティブラーニングは、人間のアノテーションによってラベル付けされる最も代表的なサンプルをクエリすることによって、ラベル効率の高いアルゴリズムを開発することを目指している。
現在のアクティブラーニング技術は、最も不確実なサンプルを選択するためにモデルの不確実性に頼るか、クラスタリングを使うか、最も多様なラベルのないサンプルを選択するために再構築する。
我々は,不確実性と多様性を両立させる半教師付きミニマックスエントロピーに基づく能動学習アルゴリズムを開発した。
論文 参考訳(メタデータ) (2020-12-18T19:03:40Z) - Deep Active Learning via Open Set Recognition [0.0]
多くのアプリケーションでは、データは簡単に取得できるが、顕著な例を示すのに高価で時間がかかる。
オープンセット認識問題として能動的学習を定式化する。
現在のアクティブな学習方法とは異なり、我々のアルゴリズムはタスクラベルを必要とせずにタスクを学習することができる。
論文 参考訳(メタデータ) (2020-07-04T22:09:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。