論文の概要: Convergence of Uncertainty Sampling for Active Learning
- arxiv url: http://arxiv.org/abs/2110.15784v1
- Date: Fri, 29 Oct 2021 13:51:30 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-01 18:03:51.761421
- Title: Convergence of Uncertainty Sampling for Active Learning
- Title(参考訳): アクティブラーニングのための不確かさサンプリングの収束性
- Authors: Anant Raj and Francis Bach
- Abstract要約: 複数のクラスに拡張する二項分類のための効率的な不確実性推定器を提案する。
我々は,二項分類と多項分類のタスクにおいて,雑音の影響下でのアルゴリズムの理論的保証を提供する。
- 参考スコア(独自算出の注目度): 11.115182142203711
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Uncertainty sampling in active learning is heavily used in practice to reduce
the annotation cost. However, there has been no wide consensus on the function
to be used for uncertainty estimation in binary classification tasks and
convergence guarantees of the corresponding active learning algorithms are not
well understood. The situation is even more challenging for multi-category
classification. In this work, we propose an efficient uncertainty estimator for
binary classification which we also extend to multiple classes, and provide a
non-asymptotic rate of convergence for our uncertainty sampling-based active
learning algorithm in both cases under no-noise conditions (i.e., linearly
separable data). We also extend our analysis to the noisy case and provide
theoretical guarantees for our algorithm under the influence of noise in the
task of binary and multi-class classification.
- Abstract(参考訳): アクティブラーニングにおける不確かさのサンプリングは、アノテーションのコストを削減するために広く使われている。
しかし、二分分類タスクにおける不確実性推定に使用する関数に関する広いコンセンサスはなく、対応するアクティブラーニングアルゴリズムの収束保証はよく分かっていない。
この状況は多カテゴリ分類においてさらに困難である。
本研究では,複数のクラスにまたがる二項分類のための効率的な不確実性推定器を提案し,不確実性サンプリングに基づく能動学習アルゴリズムの非漸近的な収束率を示す。
また,この解析を雑音ケースにまで拡張し,二分分類と多類分類のタスクにおける雑音の影響下でのアルゴリズムの理論的保証を提供する。
関連論文リスト
- Robust optimization for adversarial learning with finite sample complexity guarantees [1.8434042562191815]
本稿では,線形・非線形な分類問題に着目し,ロバストな分類器に対する新しい逆学習法を提案する。
データ駆動型レンズの下ではロバスト性があり、線形および非線形の分類器の2進および複数クラスシナリオにおける有限標本複雑性境界を導出する。
線形および非線形モデルに対する線形計画法 (LP) と2次コーン計画法 (SOCP) を用いて, 最悪のサロゲート損失を最小限に抑えるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-22T13:49:53Z) - Understanding Uncertainty Sampling [7.32527270949303]
不確実性サンプリングは、データサンプルのアノテーションを逐次クエリする一般的なアクティブラーニングアルゴリズムである。
使用済みの不確実性尺度と元の損失関数に依存する等価損失の概念を提案する。
ストリームベースとプールベースの両方の設定下で、不確実性サンプリングアルゴリズムに拘束される最初の一般化を提供する。
論文 参考訳(メタデータ) (2023-07-06T01:57:37Z) - Benchmarking common uncertainty estimation methods with
histopathological images under domain shift and label noise [62.997667081978825]
リスクの高い環境では、深層学習モデルは不確実性を判断し、誤分類の可能性がかなり高い場合に入力を拒否しなければなりません。
我々は,全スライド画像の分類において,最もよく使われている不確実性と頑健さの厳密な評価を行う。
我々は一般的に,手法のアンサンブルが,ドメインシフトやラベルノイズに対するロバスト性の向上とともに,より良い不確実性評価につながることを観察する。
論文 参考訳(メタデータ) (2023-01-03T11:34:36Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Continual Learning For On-Device Environmental Sound Classification [63.81276321857279]
デバイス上での環境音の分類のための簡易かつ効率的な連続学習法を提案する。
本手法は,サンプルごとの分類の不確実性を測定することにより,トレーニングの履歴データを選択する。
論文 参考訳(メタデータ) (2022-07-15T12:13:04Z) - BALanCe: Deep Bayesian Active Learning via Equivalence Class Annealing [7.9107076476763885]
BALanCeは、不確実性推定の効果を緩和する、深いアクティブな学習フレームワークである。
Batch-BALanCeは、逐次アルゴリズムのバッチ設定への一般化である。
Batch-BALanCeは、アクティブな学習のためのいくつかのベンチマークデータセット上で最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-12-27T15:38:27Z) - A Boosting Approach to Reinforcement Learning [59.46285581748018]
複雑度が状態数に依存しない意思決定プロセスにおける強化学習のための効率的なアルゴリズムについて検討する。
このような弱い学習手法の精度を向上させることができる効率的なアルゴリズムを提供する。
論文 参考訳(メタデータ) (2021-08-22T16:00:45Z) - MCDAL: Maximum Classifier Discrepancy for Active Learning [74.73133545019877]
近年の最先端のアクティブラーニング手法は, 主にGAN(Generative Adversarial Networks)をサンプル取得に活用している。
本稿では,MCDAL(Maximum Discrepancy for Active Learning)と呼ぶ新しいアクティブラーニングフレームワークを提案する。
特に,両者の差分を最大化することにより,より厳密な決定境界を学習する2つの補助的分類層を利用する。
論文 参考訳(メタデータ) (2021-07-23T06:57:08Z) - A General Method for Robust Learning from Batches [56.59844655107251]
本稿では,バッチから頑健な学習を行う一般的なフレームワークについて考察し,連続ドメインを含む任意の領域に対する分類と分布推定の限界について考察する。
本手法は,一括分節分類,一括分節,単調,対数凹,ガウス混合分布推定のための,最初の頑健な計算効率の学習アルゴリズムを導出する。
論文 参考訳(メタデータ) (2020-02-25T18:53:25Z) - On Last-Layer Algorithms for Classification: Decoupling Representation
from Uncertainty Estimation [27.077741143188867]
本稿では,分類課題を表現学習と不確実性推定の2段階に分けたアルゴリズム群を提案する。
選択的分類(リスクカバレッジ)および分布外サンプルの検出能力の観点から,それらの性能を評価する。
論文 参考訳(メタデータ) (2020-01-22T15:08:30Z) - Noise-tolerant, Reliable Active Classification with Comparison Queries [25.725730509014355]
本研究では,大規模なデータプールにアクセス可能なアルゴリズムが,どのサンプルにラベルを付けるかを適応的に選択できる,アクティブラーニングのパラダイムについて検討する。
本研究では,有界(マサート)雑音に頑健な非同次線形分離器を学習するためのアルゴリズムを初めて提案する。
論文 参考訳(メタデータ) (2020-01-15T19:00:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。