論文の概要: A Practical Framework for Relation Extraction with Noisy Labels Based on Doubly Transitional Loss

• arxiv url: http://arxiv.org/abs/2004.13786v1
• Date: Tue, 28 Apr 2020 19:38:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-08 21:48:21.725279
• Title: A Practical Framework for Relation Extraction with Noisy Labels Based on Doubly Transitional Loss
• Title（参考訳）: 二重遷移損失に基づく雑音ラベルによる関係抽出の実践的枠組み
• Authors: Shanchan Wu and Kai Fan
• Abstract要約: 自動ラベリングのための実践的なエンドツーエンドのディープラーニングフレームワークを提案する。 1つの遷移は、隠れた層間の非線形変換によってパラメータ化される。 もう1つは、ラベル間の直接変換をキャプチャする明示的な確率遷移行列である。
• 参考スコア（独自算出の注目度）: 14.121872633596452
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Either human annotation or rule based automatic labeling is an effective method to augment data for relation extraction. However, the inevitable wrong labeling problem for example by distant supervision may deteriorate the performance of many existing methods. To address this issue, we introduce a practical end-to-end deep learning framework, including a standard feature extractor and a novel noisy classifier with our proposed doubly transitional mechanism. One transition is basically parameterized by a non-linear transformation between hidden layers that implicitly represents the conversion between the true and noisy labels, and it can be readily optimized together with other model parameters. Another is an explicit probability transition matrix that captures the direct conversion between labels but needs to be derived from an EM algorithm. We conduct experiments on the NYT dataset and SemEval 2018 Task 7. The empirical results show comparable or better performance over state-of-the-art methods.
• Abstract（参考訳）: 人間のアノテーションやルールに基づく自動ラベリングは関係抽出のためのデータ強化に有効な方法である。 しかし、例えば遠方の監督による不注意なラベル付け問題は、既存の多くの手法の性能を悪化させる可能性がある。 この問題に対処するために,提案する2つの遷移機構を備えた標準特徴抽出器と新しい雑音分類器を含む,実用的なエンドツーエンドディープラーニングフレームワークを導入する。 1つの遷移は基本的に、真と雑音のラベル間の変換を暗黙的に表す隠された層間の非線形変換によってパラメータ化され、他のモデルパラメータと共に容易に最適化できる。 もう1つは、ラベル間の直接変換をキャプチャする明示的な確率遷移行列であるが、EMアルゴリズムから導出する必要がある。 私たちはNYTデータセットとSemEval 2018 Task 7で実験を行います。 実験の結果は、最先端の手法よりも同等か良い性能を示している。

関連論文リスト

• On Robust Learning from Noisy Labels: A Permutation Layer Approach [53.798757734297986]
  本稿では、深層ニューラルネットワーク(DNN)のトレーニング過程を動的に校正するPermLLと呼ばれる置換層学習手法を提案する。 本稿では,PermLLの2つの変種について述べる。一方はモデルの予測に置換層を適用し,他方は与えられた雑音ラベルに直接適用する。 我々はPermLLを実験的に検証し、実際のデータセットと合成データセットの両方で最先端のパフォーマンスを実現することを示す。
  論文  参考訳（メタデータ） (2022-11-29T03:01:48Z)
• Instance-Dependent Label-Noise Learning with Manifold-Regularized Transition Matrix Estimation [172.81824511381984]
  遷移行列 T(x) は、インスタンス依存ノイズ(IDN)の下では特定できない 我々は、T(x) の幾何学について、「より近い2つのインスタンスは、それに対応する遷移行列がより類似している」という仮定を提案する。 本手法は,難解なIDNの下でのラベルノイズ学習において,最先端の手法よりも優れている。
  論文  参考訳（メタデータ） (2022-06-06T04:12:01Z)
• Learning Noise Transition Matrix from Only Noisy Labels via Total Variation Regularization [88.91872713134342]
  本稿では,雑音遷移行列を推定し,同時に分類器を学習する理論的基礎付け手法を提案する。 提案手法の有効性を,ベンチマークおよび実世界のデータセットを用いた実験により示す。
  論文  参考訳（メタデータ） (2021-02-04T05:09:18Z)
• Extended T: Learning with Mixed Closed-set and Open-set Noisy Labels [86.5943044285146]
  ラベルノイズ遷移行列$T$は、真のラベルがノイズのあるものへと反転する確率を反映する。 本稿では,閉集合と開集合の混在したラベル雑音下での学習に着目した。 本手法は,従来の最先端のラベル雑音学習法よりも頑健な性能を追求し,混合ラベル雑音をモデル化する。
  論文  参考訳（メタデータ） (2020-12-02T02:42:45Z)
• Dual T: Reducing Estimation Error for Transition Matrix in Label-noise Learning [157.2709657207203]
  遷移行列を推定する既存の方法は、ノイズのあるクラス後部を推定することに大きく依存している。 雑音のクラス後部を直接推定するのを避けるために中間クラスを導入する。 この中間クラスにより、元の遷移行列は2つの容易に推定できる遷移行列の積に分解できる。
  論文  参考訳（メタデータ） (2020-06-14T05:48:20Z)
• Meta Transition Adaptation for Robust Deep Learning with Noisy Labels [61.8970957519509]
  本研究では,新しいメタ遷移学習戦略を提案する。 具体的には、クリーンなラベル付きメタデータの小さなセットのサウンドガイダンスにより、ノイズ遷移行列と分類器パラメータを相互に改善することができる。 本手法は, 従来技術よりも頑健な性能で, 遷移行列をより正確に抽出することができる。
  論文  参考訳（メタデータ） (2020-06-10T07:27:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。