論文の概要: Deep Learning From Crowdsourced Labels: Coupled Cross-entropy Minimization, Identifiability, and Regularization

• arxiv url: http://arxiv.org/abs/2306.03288v1
• Date: Mon, 5 Jun 2023 22:21:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-07 17:59:33.615236
• Title: Deep Learning From Crowdsourced Labels: Coupled Cross-entropy Minimization, Identifiability, and Regularization
• Title（参考訳）: クラウドソースラベルからの深層学習: 結合したクロスエントロピー最小化、識別可能性、正規化
• Authors: Shahana Ibrahim, Tri Nguyen, Xiao Fu
• Abstract要約: ディープラーニングベースのエンドツーエンド(E2E)システムは、複数のアノテーションからノイズの多いクラウドソースラベルを使用する。 多くのE2Eシステムは、複数のアノテータ特異的ラベル混乱'層でニューラル分類器を共同で訓練する。 本研究は、CCEM基準とCCEMの2つの規則化された変種の性能保証を示す。
• 参考スコア（独自算出の注目度）: 21.32957828106532
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Using noisy crowdsourced labels from multiple annotators, a deep learning-based end-to-end (E2E) system aims to learn the label correction mechanism and the neural classifier simultaneously. To this end, many E2E systems concatenate the neural classifier with multiple annotator-specific ``label confusion'' layers and co-train the two parts in a parameter-coupled manner. The formulated coupled cross-entropy minimization (CCEM)-type criteria are intuitive and work well in practice. Nonetheless, theoretical understanding of the CCEM criterion has been limited. The contribution of this work is twofold: First, performance guarantees of the CCEM criterion are presented. Our analysis reveals for the first time that the CCEM can indeed correctly identify the annotators' confusion characteristics and the desired ``ground-truth'' neural classifier under realistic conditions, e.g., when only incomplete annotator labeling and finite samples are available. Second, based on the insights learned from our analysis, two regularized variants of the CCEM are proposed. The regularization terms provably enhance the identifiability of the target model parameters in various more challenging cases. A series of synthetic and real data experiments are presented to showcase the effectiveness of our approach.
• Abstract（参考訳）: 複数の注釈子からのノイズの多いクラウドソーシングラベルを使用することで、ディープラーニングベースのエンドツーエンド(e2e)システムは、ラベル補正機構と神経分類器を同時に学習することを目指している。 この目的のために、多くのE2Eシステムは、ニューラル分類器を複数のアノテータ固有の ``label confusion'' 層に結合し、パラメータ結合された方法で2つの部分を協調訓練する。 定式化されたクロスエントロピー最小化(CCEM)型基準は直感的であり、実際はうまく機能する。 それでも、CCEM基準に関する理論的理解は限られている。 第一に、ccem基準のパフォーマンス保証が提示されます。 本解析により,ccemは,例えば不完全アノテーションラベリングや有限サンプルが利用可能である場合など,現実的条件下で,アノテータの混乱特性や所望の'接地-真実'の神経分類器を正しく識別できることが明らかとなった。 次に,本分析から得られた知見をもとに,CCEMの2つの正規化変種を提案する。 正規化項は、様々なより困難な場合において、対象モデルパラメータの識別性を高める。 提案手法の有効性を示すために, 一連の合成および実データ実験を行った。

関連論文リスト

• Ultrasound Nodule Segmentation Using Asymmetric Learning with Simple Clinical Annotation [25.459627476201646]
  自動結節分割法における超音波診断から直接, 簡単なアスペクト比アノテーションを用いることを提案する。 アスペクト比アノテーションを2種類の擬似ラベルで拡張することにより、非対称学習フレームワークを開発する。 臨床的に収集した2つの超音波データセット(甲状腺と乳房)を用いた実験により,提案手法の優れた性能が示された。
  論文  参考訳（メタデータ） (2024-04-23T09:07:04Z)
• Ambiguity-Resistant Semi-Supervised Learning for Dense Object Detection [98.66771688028426]
  本研究では,一段階検出器のためのAmbiguity-Resistant Semi-supervised Learning (ARSL)を提案する。 擬似ラベルの分類とローカライズ品質を定量化するために,JCE(Joint-Confidence Estimation)を提案する。 ARSLは、曖昧さを効果的に軽減し、MS COCOおよびPASCALVOC上で最先端のSSOD性能を達成する。
  論文  参考訳（メタデータ） (2023-03-27T07:46:58Z)
• A Theoretical Understanding of Shallow Vision Transformers: Learning, Generalization, and Sample Complexity [71.11795737362459]
  自己注意モジュールを持つViTは、最近多くのタスクで経験的な成功を収めた。 しかし、理論学習の一般化分析は、ほとんどノイズが多く、解答的である。 本稿では,分類タスクのための浅いViTの理論的解析を行った。
  論文  参考訳（メタデータ） (2023-02-12T22:12:35Z)
• Learning Classifiers of Prototypes and Reciprocal Points for Universal Domain Adaptation [79.62038105814658]
  Universal Domainは、ドメインシフトとカテゴリシフトという2つのシフトを処理して、データセット間で知識を転送することを目的としている。 主な課題は、既知のクラス知識の分布をソースからターゲットに適応させながら、未知のターゲットサンプルを正しく識別することである。 既存のほとんどの手法は、まずターゲットが適応した既知の知識を訓練し、次に未知のターゲットサンプルを識別するために単一のしきい値に依存することでこの問題に対処する。
  論文  参考訳（メタデータ） (2022-12-16T09:01:57Z)
• On Robust Learning from Noisy Labels: A Permutation Layer Approach [53.798757734297986]
  本稿では、深層ニューラルネットワーク(DNN)のトレーニング過程を動的に校正するPermLLと呼ばれる置換層学習手法を提案する。 本稿では,PermLLの2つの変種について述べる。一方はモデルの予測に置換層を適用し,他方は与えられた雑音ラベルに直接適用する。 我々はPermLLを実験的に検証し、実際のデータセットと合成データセットの両方で最先端のパフォーマンスを実現することを示す。
  論文  参考訳（メタデータ） (2022-11-29T03:01:48Z)
• Parametric Classification for Generalized Category Discovery: A Baseline Study [70.73212959385387]
  Generalized Category Discovery (GCD)は、ラベル付きサンプルから学習した知識を用いて、ラベルなしデータセットで新しいカテゴリを発見することを目的としている。 パラメトリック分類器の故障を調査し,高品質な監視が可能であった場合の過去の設計選択の有効性を検証し,信頼性の低い疑似ラベルを重要課題として同定する。 エントロピー正規化の利点を生かし、複数のGCDベンチマークにおける最先端性能を実現し、未知のクラス数に対して強いロバスト性を示す、単純で効果的なパラメトリック分類法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T18:47:11Z)
• The Overlooked Classifier in Human-Object Interaction Recognition [82.20671129356037]
  クラス間の意味的相関を分類ヘッドにエンコードし,重みをHOIの言語埋め込みで初期化する。 我々は,LSE-Sign という新しい損失を,長い尾を持つデータセット上でのマルチラベル学習を強化するために提案する。 我々は,物体検出と人間のポーズを明確なマージンで求める最先端技術よりも優れた,検出不要なHOI分類を可能にする。
  論文  参考訳（メタデータ） (2022-03-10T23:35:00Z)
• Robust Neural Network Classification via Double Regularization [2.41710192205034]
  本稿では、分類モデルの複雑さに対するペナルティと、学習観察の最適な再重み付けを組み合わせた、ニューラルネットワークトレーニング損失の新しい二重正則化を提案する。 我々は, (i) MNIST と (ii) CIFAR-10 のニューラルネット分類のための DRFit について, 両者の相違点について実証した。
  論文  参考訳（メタデータ） (2021-12-15T13:19:20Z)
• Robust Classification of High-Dimensional Spectroscopy Data Using Deep Learning and Data Synthesis [0.5801044612920815]
  分光データのバイナリ分類における局所接続型ニューラルネットワーク(NN)の新たな応用を提案する。 2段階の分類プロセスは、2段階の分類パラダイムと1段階の分類パラダイムの代替として提示される。
  論文  参考訳（メタデータ） (2020-03-26T11:33:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。