論文の概要: E-NER: Evidential Deep Learning for Trustworthy Named Entity Recognition
- arxiv url: http://arxiv.org/abs/2305.17854v1
- Date: Mon, 29 May 2023 02:36:16 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-30 16:17:50.449821
- Title: E-NER: Evidential Deep Learning for Trustworthy Named Entity Recognition
- Title(参考訳): E-NER:信頼できるエンティティ認識のための情報深層学習
- Authors: Zhen Zhang, Mengting Hu, Shiwan Zhao, Minlie Huang, Haotian Wang,
Lemao Liu, Zhirui Zhang, Zhe Liu and Bingzhe Wu
- Abstract要約: ほとんどの名前付きエンティティ認識(NER)システムは、モデル不確実性を定量化する必要性を無視して、モデルパフォーマンスの改善に重点を置いている。
Evidential Deep Learning (EDL) は、最近、分類タスクの予測不確実性を明示的にモデル化するための有望な解決策として提案されている。
本稿では、従来のEDLに2つの不確実性誘導損失条件を導入し、一連の不確実性誘導訓練戦略を導入することにより、E-NERという信頼性の高いNERフレームワークを提案する。
- 参考スコア(独自算出の注目度): 69.87816981427858
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Most named entity recognition (NER) systems focus on improving model
performance, ignoring the need to quantify model uncertainty, which is critical
to the reliability of NER systems in open environments. Evidential deep
learning (EDL) has recently been proposed as a promising solution to explicitly
model predictive uncertainty for classification tasks. However, directly
applying EDL to NER applications faces two challenges, i.e., the problems of
sparse entities and OOV/OOD entities in NER tasks. To address these challenges,
we propose a trustworthy NER framework named E-NER by introducing two
uncertainty-guided loss terms to the conventional EDL, along with a series of
uncertainty-guided training strategies. Experiments show that E-NER can be
applied to multiple NER paradigms to obtain accurate uncertainty estimation.
Furthermore, compared to state-of-the-art baselines, the proposed method
achieves a better OOV/OOD detection performance and better generalization
ability on OOV entities.
- Abstract(参考訳): ほとんどの名前付きエンティティ認識(NER)システムは、オープン環境におけるNERシステムの信頼性に重要なモデル不確実性を定量化する必要性を無視して、モデル性能の改善に焦点を当てている。
Evidential Deep Learning (EDL)は、最近、分類タスクの予測不確実性を明示的にモデル化するための有望なソリューションとして提案されている。
しかしながら、EDLをNERアプリケーションに直接適用することは、スパースエンティティとNERタスクにおけるOOV/OODエンティティという2つの課題に直面している。
これらの課題に対処するために、従来のEDLに2つの不確実性誘導損失項を導入し、一連の不確実性誘導訓練戦略を導入することにより、E-NERという信頼できるNERフレームワークを提案する。
実験により、E-NERは複数のNERパラダイムに適用でき、正確な不確実性推定が得られることが示された。
さらに, 最先端のベースラインと比較して, 提案手法によりoov/ood検出性能が向上し, oovエンティティの一般化能力も向上した。
関連論文リスト
- SCANNER: Knowledge-Enhanced Approach for Robust Multi-modal Named Entity Recognition of Unseen Entities [10.193908215351497]
3つのNER変種を効果的に扱えるモデルであるSCANNERを提案する。
SCANNERは2段階構造であり、最初の段階でエンティティ候補を抽出し、知識を得るためにクエリとして使用する。
NERデータセットのノイズの多いアノテーションから生じる課題に対処するために,新しい自己蒸留法を提案する。
論文 参考訳(メタデータ) (2024-04-02T13:05:41Z) - LinkNER: Linking Local Named Entity Recognition Models to Large Language
Models using Uncertainty [12.32180790849948]
名前付きエンティティ認識は、自然言語理解の基本的なタスクとして機能する。
ファインチューニングされたNERモデルは標準のNERベンチマークで満足な性能を示す。
しかし、微調整データに制限があり、知識が不足しているため、見当たらないエンティティ認識では不十分である。
論文 参考訳(メタデータ) (2024-02-16T11:02:29Z) - Self-Improving Interference Management Based on Deep Learning With
Uncertainty Quantification [10.403513606082067]
本稿では,無線通信に適した自己改善型干渉管理フレームワークを提案する。
提案手法は,従来の最適化アルゴリズムに固有の計算課題に対処する。
私たちのフレームワークのブレークスルーは、データ駆動モデルに固有の制限を認識することです。
論文 参考訳(メタデータ) (2024-01-24T03:28:48Z) - Diversifying the Mixture-of-Experts Representation for Language Models
with Orthogonal Optimizer [62.41501243027603]
The Mixture of Experts (MoE)は、ディープラーニングにおいて非常に成功したテクニックとして登場した。
本研究では,MoEの専門家が多様性の専門化や欠如に失敗した同質表現問題に光を当てた。
我々は,エキスパートエンティティであるOMoEという,単純かつ高効率なソリューションを提案する。
論文 参考訳(メタデータ) (2023-10-15T07:20:28Z) - Rational Decision-Making Agent with Internalized Utility Judgment [91.80700126895927]
大規模言語モデル(LLM)は目覚ましい進歩を示し、従来のNLPアプリケーションを超えて複雑な多段階決定タスクを実行できるエージェントにLLMを開発するための重要な努力を惹きつけている。
本稿では,RadAgentを提案する。このRadAgentは,経験探索とユーティリティ学習を含む反復的なフレームワークを通じて,合理性の発展を促進する。
ToolBenchデータセットの実験結果は、RadAgentがベースラインよりも優れていることを示している。
論文 参考訳(メタデータ) (2023-08-24T03:11:45Z) - A Confidence-based Partial Label Learning Model for Crowd-Annotated
Named Entity Recognition [74.79785063365289]
名前付きエンティティ認識(NER)のための既存のモデルは、主に大規模ラベル付きデータセットに基づいている。
我々は,クラウドアノテートNERに対する先行信頼度(アノテータによる提案)と後続信頼度(モデルによる学習)を統合するために,信頼に基づく部分ラベル学習(CPLL)手法を提案する。
論文 参考訳(メタデータ) (2023-05-21T15:31:23Z) - MINER: Improving Out-of-Vocabulary Named Entity Recognition from an
Information Theoretic Perspective [57.19660234992812]
NERモデルは標準のNERベンチマークで有望な性能を達成した。
近年の研究では、従来のアプローチはエンティティ参照情報に過度に依存し、OoV(out-of-vocabulary)エンティティ認識の性能が劣っていることが示されている。
我々は、情報理論の観点からこの問題を改善するための新しいNER学習フレームワークであるMINERを提案する。
論文 参考訳(メタデータ) (2022-04-09T05:18:20Z) - Distantly Supervised Named Entity Recognition via Confidence-Based
Multi-Class Positive and Unlabeled Learning [9.674267150358789]
我々は,多クラス正・非ラベル学習(MPU)を用いて,Distantly Supervised NER (DS-NER)問題を定式化する。
不完全なアノテーションを扱うための理論的かつ実用的なMPU(Conf-MPU)アプローチを提案する。
論文 参考訳(メタデータ) (2022-03-03T17:55:35Z) - Distantly-Supervised Named Entity Recognition with Noise-Robust Learning
and Language Model Augmented Self-Training [66.80558875393565]
遠距離ラベル付きデータのみを用いて、名前付きエンティティ認識(NER)モデルを訓練する際の課題について検討する。
本稿では,新しい損失関数と雑音ラベル除去ステップからなるノイズロスバスト学習手法を提案する。
提案手法は,既存の遠隔教師付きNERモデルよりも優れた性能を実現する。
論文 参考訳(メタデータ) (2021-09-10T17:19:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。