論文の概要: Learning "O" Helps for Learning More: Handling the Concealed Entity
Problem for Class-incremental NER
- arxiv url: http://arxiv.org/abs/2210.04676v2
- Date: Mon, 24 Jul 2023 09:00:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-26 00:53:04.852787
- Title: Learning "O" Helps for Learning More: Handling the Concealed Entity
Problem for Class-incremental NER
- Title（参考訳）: o"の学習はもっと学ぶのに役立つ:クラスインクリメンタル・ナーのための隠されたエンティティの扱い
- Authors: Ruotian Ma, Xuanting Chen, Lin Zhang, Xin Zhou, Junzhe Wang, Tao Gui,
Qi Zhang, Xiang Gao, Yunwen Chen
- Abstract要約: 「ラベルなしエンティティ問題」は「O」と「エンティティ」の間に深刻な混乱をもたらす。
我々は「O」におけるエンティティクラスタを適応的に検出するエンティティ対応コントラスト学習手法を提案する。
クラスインクリメンタルなNERに対して,より現実的で挑戦的なベンチマークを導入する。
- 参考スコア（独自算出の注目度）: 23.625741716498037
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As the categories of named entities rapidly increase, the deployed NER models
are required to keep updating toward recognizing more entity types, creating a
demand for class-incremental learning for NER. Considering the privacy concerns
and storage constraints, the standard paradigm for class-incremental NER
updates the models with training data only annotated with the new classes, yet
the entities from other entity classes are unlabeled, regarded as "Non-entity"
(or "O"). In this work, we conduct an empirical study on the "Unlabeled Entity
Problem" and find that it leads to severe confusion between "O" and entities,
decreasing class discrimination of old classes and declining the model's
ability to learn new classes. To solve the Unlabeled Entity Problem, we propose
a novel representation learning method to learn discriminative representations
for the entity classes and "O". Specifically, we propose an entity-aware
contrastive learning method that adaptively detects entity clusters in "O".
Furthermore, we propose two effective distance-based relabeling strategies for
better learning the old classes. We introduce a more realistic and challenging
benchmark for class-incremental NER, and the proposed method achieves up to
10.62\% improvement over the baseline methods.
- Abstract（参考訳）: 名前付きエンティティのカテゴリが急速に増加するにつれて、デプロイされたNERモデルは、より多くのエンティティタイプを認識し続けるために更新され、NERのためのクラス増分学習の需要が生じる。
プライバシの懸念とストレージの制約を考慮すると、class-incremental nerの標準パラダイムは、新しいクラスにのみアノテートされたトレーニングデータをモデルに更新するが、他のエンティティクラスのエンティティはラベルされていない。
本研究では,「ラベル付きエンティティ問題」に関する実証研究を行い,o」と「エンティティ」の間に深刻な混乱が生じ,古いクラスのクラス差別が減少し,新しいクラスを学習するモデルの能力が低下することを発見した。
未ラベルのエンティティ問題を解決するために,エンティティクラスと"O"の識別表現を学習するための新しい表現学習手法を提案する。
具体的には、「O」のエンティティクラスタを適応的に検出するエンティティ認識コントラスト学習手法を提案する。
さらに,古いクラスをよりよく学習するための2つの効果的な距離ベースリラベリング戦略を提案する。
クラス増分NERのより現実的で挑戦的なベンチマークを導入し,提案手法はベースライン法よりも最大10.62\%向上する。
関連論文リスト
- Covariance-based Space Regularization for Few-shot Class Incremental Learning [25.435192867105552]
FSCIL(Few-shot Class Incremental Learning)では,ラベル付きデータに制限のあるクラスを継続的に学習する必要がある。
インクリメンタルセッションにおける限られたデータのため、モデルは新しいクラスを過度に適合させ、ベースクラスの破滅的な忘れを苦しむ傾向にある。
最近の進歩は、基本クラス分布を制約し、新しいクラスの識別的表現を学習するプロトタイプベースのアプローチに頼っている。
論文 参考訳（メタデータ） (2024-11-02T08:03:04Z) - Towards Non-Exemplar Semi-Supervised Class-Incremental Learning [33.560003528712414]
クラス増分学習は、古いクラスの識別性を保ちながら、新しいクラスを徐々に認識することを目的としている。
コントラスト学習と半教師付きインクリメンタルプロトタイプ分類器(Semi-IPC)を用いた非経験的半教師付きCILフレームワークを提案する。
Semi-IPCは教師なしの正規化で各クラスのプロトタイプを学習し、部分的にラベル付けされた新しいデータからモデルを漸進的に学習することを可能にする。
論文 参考訳（メタデータ） (2024-03-27T06:28:19Z) - Distilling Causal Effect from Miscellaneous Other-Class for Continual
Named Entity Recognition [23.25929285468311]
新しいエンティティタイプと同じ方法で他クラスを学ぶことは、破滅的な忘れを増幅し、大幅なパフォーマンス低下につながる。
我々は新しいエンティティタイプと他クラスの両方から因果関係を取得するための統一因果関係フレームワークを提案する。
3つのベンチマークデータセットによる実験結果から,本手法は最先端の手法よりも大きなマージンで優れていることが示された。
論文 参考訳（メタデータ） (2022-10-08T09:37:06Z) - Class-incremental Novel Class Discovery [76.35226130521758]
クラス増進型新規クラス発見(class-iNCD)の課題について検討する。
基本クラスに関する過去の情報を忘れないようにする,クラスiNCDのための新しい手法を提案する。
3つの共通ベンチマークで実施した実験により,本手法が最先端の手法を著しく上回ることを示した。
論文 参考訳（メタデータ） (2022-07-18T13:49:27Z) - Multi-Granularity Regularized Re-Balancing for Class Incremental
Learning [32.52884416761171]
ディープラーニングモデルは、新しいタスクを学ぶときに破滅的な忘れに苦しむ。
古いクラスと新しいクラスのデータの不均衡は、モデルのパフォーマンスが低下する鍵となる問題である。
この問題を解決するために,仮定に依存しないマルチグラニュラリティ正規化再バランシング法を提案する。
論文 参考訳（メタデータ） (2022-06-30T11:04:51Z) - The Overlooked Classifier in Human-Object Interaction Recognition [82.20671129356037]
クラス間の意味的相関を分類ヘッドにエンコードし,重みをHOIの言語埋め込みで初期化する。
我々は,LSE-Sign という新しい損失を,長い尾を持つデータセット上でのマルチラベル学習を強化するために提案する。
我々は,物体検出と人間のポーズを明確なマージンで求める最先端技術よりも優れた,検出不要なHOI分類を可能にする。
論文 参考訳（メタデータ） (2022-03-10T23:35:00Z) - Novel Class Discovery in Semantic Segmentation [104.30729847367104]
セマンティックにおける新しいクラス発見(NCDSS)について紹介する。
ラベル付き非結合クラスの集合から事前の知識を与えられた新しいクラスを含むラベル付きイメージのセグメンテーションを目的としている。
NCDSSでは、オブジェクトと背景を区別し、画像内の複数のクラスの存在を処理する必要があります。
本稿では,エントロピーに基づく不確実性モデリングと自己学習(EUMS)フレームワークを提案し,ノイズの多い擬似ラベルを克服する。
論文 参考訳（メタデータ） (2021-12-03T13:31:59Z) - Self-Supervised Class Incremental Learning [51.62542103481908]
既存のクラスインクリメンタルラーニング(CIL)手法は、データラベルに敏感な教師付き分類フレームワークに基づいている。
新しいクラスデータに基づいて更新する場合、それらは破滅的な忘れがちである。
本稿では,SSCILにおける自己指導型表現学習のパフォーマンスを初めて考察する。
論文 参考訳（メタデータ） (2021-11-18T06:58:19Z) - Distantly-Supervised Named Entity Recognition with Noise-Robust Learning
and Language Model Augmented Self-Training [66.80558875393565]
遠距離ラベル付きデータのみを用いて、名前付きエンティティ認識(NER)モデルを訓練する際の課題について検討する。
本稿では,新しい損失関数と雑音ラベル除去ステップからなるノイズロスバスト学習手法を提案する。
提案手法は,既存の遠隔教師付きNERモデルよりも優れた性能を実現する。
論文 参考訳（メタデータ） (2021-09-10T17:19:56Z) - Learning Adaptive Embedding Considering Incremental Class [55.21855842960139]
CIL(Class-Incremental Learning)は,未知のクラスを逐次生成するストリーミングデータを用いて,信頼性の高いモデルをトレーニングすることを目的としている。
従来のクローズドセット学習とは異なり、CILには2つの大きな課題がある。
新たなクラスが検出された後、以前のデータ全体を使用して再トレーニングすることなく、モデルを更新する必要がある。
論文 参考訳（メタデータ） (2020-08-31T04:11:24Z) - Class-Incremental Learning for Semantic Segmentation Re-Using Neither
Old Data Nor Old Labels [35.586031601299034]
本稿では,モデルが当初トレーニングしたラベル付きデータを用いることなく,セマンティックセグメンテーションのためのクラスインクリメンタル学習を実装する手法を提案する。
本稿では,新しいクラスにのみラベルを必要とする新しいクラス増分学習手法を用いて,これらの問題を克服する方法を示す。
本手法をCityscapesデータセット上で評価し,全ベースラインのmIoU性能を3.5%絶対的に上回る結果を得た。
論文 参考訳（メタデータ） (2020-05-12T21:03:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。