論文の概要: Uncertainty-Aware Label Refinement for Sequence Labeling

• arxiv url: http://arxiv.org/abs/2012.10608v1
• Date: Sat, 19 Dec 2020 06:56:59 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-01 11:13:48.431805
• Title: Uncertainty-Aware Label Refinement for Sequence Labeling
• Title（参考訳）: シーケンスラベリングのための不確実性認識ラベルの精密化
• Authors: Tao Gui, Jiacheng Ye, Qi Zhang, Zhengyan Li, Zichu Fei, Yeyun Gong and Xuanjing Huang
• Abstract要約: 長期ラベル依存性をモデル化する新しい2段階ラベルデコードフレームワークを提案する。 ベースモデルはまずドラフトラベルを予測し、次に新しい2ストリーム自己アテンションモデルはこれらのドラフト予測を洗練します。
• 参考スコア（独自算出の注目度）: 47.67853514765981
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Conditional random fields (CRF) for label decoding has become ubiquitous in sequence labeling tasks. However, the local label dependencies and inefficient Viterbi decoding have always been a problem to be solved. In this work, we introduce a novel two-stage label decoding framework to model long-term label dependencies, while being much more computationally efficient. A base model first predicts draft labels, and then a novel two-stream self-attention model makes refinements on these draft predictions based on long-range label dependencies, which can achieve parallel decoding for a faster prediction. In addition, in order to mitigate the side effects of incorrect draft labels, Bayesian neural networks are used to indicate the labels with a high probability of being wrong, which can greatly assist in preventing error propagation. The experimental results on three sequence labeling benchmarks demonstrated that the proposed method not only outperformed the CRF-based methods but also greatly accelerated the inference process.
• Abstract（参考訳）: ラベルデコードのための条件付きランダムフィールド(CRF)は、シーケンスラベリングタスクにおいてユビキタスになっている。 しかし、ローカルラベルの依存関係と非効率なビタビ復号化は常に解決すべき問題であった。 本稿では,長期間のラベル依存をモデル化する新しい2段階のラベル復号フレームワークを提案する。 ベースモデルは、まずドラフトラベルを予測し、次に、新しい2ストリームの自己アテンションモデルにより、長距離ラベル依存に基づいてこれらのドラフトラベルの予測を洗練し、高速な予測のために並列デコードを実現する。 さらに、誤ったドラフトラベルの副作用を軽減するために、ベイズニューラルネットワークは、誤りの確率が高いラベルを示すために使用され、エラー伝播の防止に大いに役立つ。 3つのシークエンスラベリングベンチマーク実験の結果,提案手法はCRF法に勝るだけでなく,推論プロセスを大幅に高速化した。

関連論文リスト

• Online Multi-Label Classification under Noisy and Changing Label Distribution [9.17381554071824]
  本稿では,Nuisy and Changing Label Distribution (NCLD) に基づくオンラインマルチラベル分類アルゴリズムを提案する。 NCLDへの頑健さは3つの新作の恩恵を受けるため,ラベルスコアとラベルランキングを高い精度で同時にモデル化することを目的としている。
  論文  参考訳（メタデータ） (2024-10-03T11:16:43Z)
• Generating Unbiased Pseudo-labels via a Theoretically Guaranteed Chebyshev Constraint to Unify Semi-supervised Classification and Regression [57.17120203327993]
  分類におけるしきい値と擬似ラベルプロセス(T2L)は、ラベルの品質を決定するために信頼性を使用する。 本質的には、レグレッションは高品質なラベルを生成するためにバイアスのない方法も必要である。 チェビシェフの不等式に基づく不偏ラベルを生成するための理論的に保証された制約を提案する。
  論文  参考訳（メタデータ） (2023-11-03T08:39:35Z)
• All Points Matter: Entropy-Regularized Distribution Alignment for Weakly-supervised 3D Segmentation [67.30502812804271]
  擬似ラベルは、弱い教師付き3Dセグメンテーションタスクに広く使われており、学習に使えるのはスパース・グラウンド・トラス・ラベルのみである。 本稿では,生成した擬似ラベルを正規化し,擬似ラベルとモデル予測とのギャップを効果的に狭めるための新しい学習戦略を提案する。
  論文  参考訳（メタデータ） (2023-05-25T08:19:31Z)
• Exploiting Completeness and Uncertainty of Pseudo Labels for Weakly Supervised Video Anomaly Detection [149.23913018423022]
  弱教師付きビデオ異常検出は、ビデオレベルのラベルのみを用いて、ビデオ内の異常事象を特定することを目的としている。 2段階の自己学習法は擬似ラベルの自己生成によって著しく改善されている。 本稿では,自己学習のための完全性と不確実性を利用した強化フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-08T05:53:53Z)
• Dist-PU: Positive-Unlabeled Learning from a Label Distribution Perspective [89.5370481649529]
  本稿では,PU学習のためのラベル分布視点を提案する。 そこで本研究では,予測型と基底型のラベル分布間のラベル分布の整合性を追求する。 提案手法の有効性を3つのベンチマークデータセットで検証した。
  論文  参考訳（メタデータ） (2022-12-06T07:38:29Z)
• CLS: Cross Labeling Supervision for Semi-Supervised Learning [9.929229055862491]
  Cross Labeling Supervision (CLS) は、典型的な擬似ラベル処理を一般化するフレームワークである。 CLSは擬似ラベルと相補ラベルの両方を作成でき、正と負の両方の学習をサポートする。
  論文  参考訳（メタデータ） (2022-02-17T08:09:40Z)
• Learning with Noisy Labels by Targeted Relabeling [52.0329205268734]
  クラウドソーシングプラットフォームは、ディープニューラルネットワークをトレーニングするためのデータセット収集によく使用される。 本稿では,少数のアノテーションを予約して,高い確率でラベル付け可能なエラーを明示的に緩和する手法を提案する。
  論文  参考訳（メタデータ） (2021-10-15T20:37:29Z)
• Modeling Diagnostic Label Correlation for Automatic ICD Coding [37.79764232289666]
  ラベル相関をキャプチャして自動ICD符号化を改善するための2段階フレームワークを提案する。 具体的には,ラベル集合分布推定器を訓練し,各ラベル集合候補の確率を再評価する。 実験では,提案フレームワークはMIMICベンチマークデータセット上で最高の性能の予測器を改善することができる。
  論文  参考訳（メタデータ） (2021-06-24T07:26:30Z)
• Enhancing Label Correlation Feedback in Multi-Label Text Classification via Multi-Task Learning [6.1538971100140145]
  ラベル相関フィードバックを高めるために,マルチタスク学習を用いた新しい手法を提案する。 本稿では,ラベル相関学習を強化するための2つの補助ラベル共起予測タスクを提案する。
  論文  参考訳（メタデータ） (2021-06-06T12:26:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。