論文の概要: Denoising Enhanced Distantly Supervised Ultrafine Entity Typing

• arxiv url: http://arxiv.org/abs/2210.09599v1
• Date: Tue, 18 Oct 2022 05:20:16 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-19 14:40:25.390913
• Title: Denoising Enhanced Distantly Supervised Ultrafine Entity Typing
• Title（参考訳）: 遠隔監視型超微細エンティティタイピングの低騒音化
• Authors: Yue Zhang, Hongliang Fei, Ping Li
• Abstract要約: 本研究では,未知のラベル付き雑音分布を入力コンテキストおよび雑音型ラベル上で推定するノイズモデルを構築した。 ノイズモデルにより、推定ノイズを入力から減じることで、より信頼できるラベルを復元することができる。 本稿では,バイエンコーダアーキテクチャを採用したエンティティ型付けモデルを提案する。
• 参考スコア（独自算出の注目度）: 36.14308856513851
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, the task of distantly supervised (DS) ultra-fine entity typing has received significant attention. However, DS data is noisy and often suffers from missing or wrong labeling issues resulting in low precision and low recall. This paper proposes a novel ultra-fine entity typing model with denoising capability. Specifically, we build a noise model to estimate the unknown labeling noise distribution over input contexts and noisy type labels. With the noise model, more trustworthy labels can be recovered by subtracting the estimated noise from the input. Furthermore, we propose an entity typing model, which adopts a bi-encoder architecture, is trained on the denoised data. Finally, the noise model and entity typing model are trained iteratively to enhance each other. We conduct extensive experiments on the Ultra-Fine entity typing dataset as well as OntoNotes dataset and demonstrate that our approach significantly outperforms other baseline methods.
• Abstract（参考訳）: 近年, 遠方教師付き(ds)超微細エンティティタイピングの課題が注目されている。 しかし、dsデータはノイズが多く、精度が低く、リコールが低く、ラベルの誤りがしばしば発生する。 本稿では,雑音化機能を有する超微細エンティティ型付けモデルを提案する。 具体的には,入力コンテキストと雑音タイプラベル上で未知のラベリングノイズ分布を推定するノイズモデルを構築する。 ノイズモデルにより、推定ノイズを入力から減じることで、より信頼できるラベルを復元することができる。 さらに,バイエンコーダアーキテクチャを採用したエンティティ型付けモデルを提案する。 最後に、ノイズモデルとエンティティ型付けモデルを反復的に訓練して互いに強化する。 我々は,Ultra-Fineエンティティ型付けデータセットとOntoNotesデータセットについて広範な実験を行い,本手法が他のベースライン手法よりも優れていることを示す。

関連論文リスト

• NoiseBench: Benchmarking the Impact of Real Label Noise on Named Entity Recognition [3.726602636064681]
  そこで本研究では,実雑音がシミュレーションノイズよりもはるかに難易度が高いことを示す。 ノイズロスト学習の最先端モデルが理論的に達成可能な上限よりもはるかに低くなることを示す。
  論文  参考訳（メタデータ） (2024-05-13T10:20:31Z)
• Noisy Label Processing for Classification: A Survey [2.8821062918162146]
  長い、退屈なデータアノテーションのプロセスでは、アノテーションはミスをしがちで、画像のラベルが正しくない。 コンピュータビジョンタスク、特に分類タスクにおいて、ノイズの多いラベルと戦うことが不可欠である。 実世界のデータで導かれる合成ラベルノイズパターンを生成するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-04-05T15:11:09Z)
• SoftPatch: Unsupervised Anomaly Detection with Noisy Data [67.38948127630644]
  本稿では,画像センサ異常検出におけるラベルレベルのノイズを初めて考察する。 本稿では,メモリベースの非教師付きAD手法であるSoftPatchを提案する。 既存の手法と比較して、SoftPatchは通常のデータの強力なモデリング能力を維持し、コアセットにおける過信問題を軽減する。
  論文  参考訳（メタデータ） (2024-03-21T08:49:34Z)
• Robust Tiny Object Detection in Aerial Images amidst Label Noise [50.257696872021164]
  本研究は,ノイズラベル管理下での微小物体検出の問題に対処する。 本稿では,DN-TOD(Denoising Tiny Object Detector)を提案する。 本手法は,1段と2段の両方のオブジェクト検出パイプラインにシームレスに統合できる。
  論文  参考訳（メタデータ） (2024-01-16T02:14:33Z)
• Improving a Named Entity Recognizer Trained on Noisy Data with a Few Clean Instances [55.37242480995541]
  クリーンなインスタンスの小さなセットから,ノイズの多いNERデータを誘導することで,ノイズを発生させる手法を提案する。 メインのNERモデルとともに、判別器モデルをトレーニングし、その出力を使用してサンプルの重み付けを校正します。 クラウドソーシングと遠隔監視データセットの結果から,提案手法は少ないガイダンスセットで継続的に性能を向上させることができることが示された。
  論文  参考訳（メタデータ） (2023-10-25T17:23:37Z)
• Learning to Correct Noisy Labels for Fine-Grained Entity Typing via Co-Prediction Prompt Tuning [9.885278527023532]
  FETにおける雑音補正のためのコプレディション・プロンプト・チューニングを提案する。 ラベル付きラベルをリコールするために予測結果を統合し、区別されたマージンを用いて不正確なラベルを識別する。 広範に使われている3つのFETデータセットの実験結果から,我々のノイズ補正アプローチはトレーニングサンプルの品質を著しく向上させることが示された。
  論文  参考訳（メタデータ） (2023-10-23T06:04:07Z)
• Improving the Robustness of Summarization Models by Detecting and Removing Input Noise [50.27105057899601]
  本研究では,様々な種類の入力ノイズから,様々なデータセットやモデルサイズに対する性能損失を定量化する大規模な実験的検討を行った。 本稿では,モデル推論中の入力中のそのようなノイズを検出し,除去するための軽量な手法を提案する。
  論文  参考訳（メタデータ） (2022-12-20T00:33:11Z)
• Is BERT Robust to Label Noise? A Study on Learning with Noisy Labels in Text Classification [23.554544399110508]
  トレーニングデータの誤りラベルは、人間のアノテータがミスをしたときや、弱いまたは遠い監視によってデータが生成されるときに発生する。 複雑なノイズハンドリング技術は、モデルがこのラベルノイズに収まらないようにする必要があることが示されている。 BERTのような現代のNLPモデルを用いたテキスト分類タスクにおいて、様々なノイズタイプに対して、既存のノイズハンドリング手法は必ずしも性能を向上せず、さらに劣化する可能性があることを示す。
  論文  参考訳（メタデータ） (2022-04-20T10:24:19Z)
• Analysing the Noise Model Error for Realistic Noisy Label Data [14.766574408868806]
  本研究では,ノイズモデルの予測誤差を導出して,理論的な側面から推定ノイズモデルの品質について検討する。 NLPドメインから新たなノイズラベルデータセットであるNoisyNERも公開しています。
  論文  参考訳（メタデータ） (2021-01-24T17:45:15Z)
• Tackling Instance-Dependent Label Noise via a Universal Probabilistic Model [80.91927573604438]
  本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。 合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
  論文  参考訳（メタデータ） (2021-01-14T05:43:51Z)
• Deep k-NN for Noisy Labels [55.97221021252733]
  予備モデルのロジット層上での単純な$k$-nearest近傍フィルタリング手法により、ラベルの誤りを除去し、最近提案された多くの手法よりも正確なモデルを生成することができることを示す。
  論文  参考訳（メタデータ） (2020-04-26T05:15:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。