論文の概要: CONTaiNER: Few-Shot Named Entity Recognition via Contrastive Learning

• arxiv url: http://arxiv.org/abs/2109.07589v1
• Date: Wed, 15 Sep 2021 21:41:16 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-17 14:04:32.124137
• Title: CONTaiNER: Few-Shot Named Entity Recognition via Contrastive Learning
• Title（参考訳）: CON TaiNER:コントラスト学習によるエンティティ認識
• Authors: Sarkar Snigdha Sarathi Das, Arzoo Katiyar, Rebecca J. Passonneau, Rui Zhang
• Abstract要約: 既存のアプローチでは、ソースドメインからクラス固有のセマンティック機能と中間表現しか学ばない。 本研究では,Few-Shot NERのトークン間分布距離を最適化する新しいコントラスト学習手法であるCon TaiNERを提案する。 従来のテスト領域 (OntoNotes, CoNLL'03, WNUT '17, GUM) と新しい大規模Few-Shot NERデータセット (Few-NERD) を用いて行った実験では, CON TaiNER が従来の手法よりも3%-13%の絶対F1点で優れていた。
• 参考スコア（独自算出の注目度）: 11.289324473201614
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Named Entity Recognition (NER) in Few-Shot setting is imperative for entity tagging in low resource domains. Existing approaches only learn class-specific semantic features and intermediate representations from source domains. This affects generalizability to unseen target domains, resulting in suboptimal performances. To this end, we present CONTaiNER, a novel contrastive learning technique that optimizes the inter-token distribution distance for Few-Shot NER. Instead of optimizing class-specific attributes, CONTaiNER optimizes a generalized objective of differentiating between token categories based on their Gaussian-distributed embeddings. This effectively alleviates overfitting issues originating from training domains. Our experiments in several traditional test domains (OntoNotes, CoNLL'03, WNUT '17, GUM) and a new large scale Few-Shot NER dataset (Few-NERD) demonstrate that on average, CONTaiNER outperforms previous methods by 3%-13% absolute F1 points while showing consistent performance trends, even in challenging scenarios where previous approaches could not achieve appreciable performance.
• Abstract（参考訳）: 少数ショット設定のエンティティ認識(ner)は、低リソースドメインのエンティティタグ付けに必須である。 既存のアプローチは、ソースドメインからクラス固有の意味的特徴と中間表現のみを学ぶ。 これは対象領域を認識できない一般化に影響を与え、結果として準最適性能をもたらす。 そこで本研究では,Few-Shot NERのトークン間分布距離を最適化するコントラスト学習手法であるCon TaiNERを提案する。 クラス固有の属性を最適化する代わりに、Con TaiNERはガウス分布の埋め込みに基づいてトークンカテゴリを区別する一般化された目的を最適化する。 これにより、訓練領域から生じる過度な問題を軽減することができる。 従来のテスト領域 (OntoNotes, CoNLL'03, WNUT '17, GUM) と新しい大規模Few-Shot NERデータセット (Few-NERD) での実験を行ったところ, CON TaiNER は従来の手法を平均して3%-13%の絶対F1ポイントで上回り, 従来手法では達成できなかった性能の傾向を示した。

関連論文リスト

• FsPONER: Few-shot Prompt Optimization for Named Entity Recognition in Domain-specific Scenarios [0.5106912532044251]
  FsPONERは、少数ショットプロンプトを最適化するための新しいアプローチであり、ドメイン固有のNERデータセットの性能を評価する。 FsPONERは、ランダムサンプリングとTF-IDFとの組み合わせに基づく3つのショット選択法で構成されている。 データ不足を考慮した実世界のシナリオでは、TF-IDFを用いたFsPONERは、F1スコアで約10%の微調整モデルを上回っている。
  論文  参考訳（メタデータ） (2024-07-10T20:32:50Z)
• PromptNER: Prompting For Named Entity Recognition [27.501500279749475]
  本稿では,少数ショットとクロスドメインNERのための最先端アルゴリズムであるPromptNERを紹介する。 PromptNERは、ConLLデータセットのF1スコアの4%(絶対)改善、GENIAデータセットの9%(絶対)改善、FewNERDデータセットの4%(絶対)改善を実現している。
  論文  参考訳（メタデータ） (2023-05-24T07:38:24Z)
• Self-training through Classifier Disagreement for Cross-Domain Opinion Target Extraction [62.41511766918932]
  オピニオンターゲット抽出(OTE)またはアスペクト抽出(AE)は意見マイニングの基本的な課題である。 最近の研究は、現実世界のシナリオでよく見られるクロスドメインのOTEに焦点を当てている。 そこで本稿では,ドメイン固有の教師と学生のネットワークから出力されるモデルが未学習のターゲットデータと一致しない対象サンプルを選択するためのSSLアプローチを提案する。
  論文  参考訳（メタデータ） (2023-02-28T16:31:17Z)
• FactMix: Using a Few Labeled In-domain Examples to Generalize to Cross-domain Named Entity Recognition [42.32824906747491]
  本稿では,モデルの一般化能力を向上させるために,2段階の有理中心データ拡張手法を提案する。 いくつかのデータセットの結果から,モデルに依存しない手法はドメイン間NERタスクの性能を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2022-08-24T12:12:38Z)
• Focusing on Potential Named Entities During Active Label Acquisition [0.0]
  名前付きエンティティ認識(NER)は、構造化されていないテキスト中の名前付きエンティティの参照を識別することを目的としている。 多くのドメイン固有のNERアプリケーションは、まだかなりの量のラベル付きデータを要求する。 本稿では,長すぎるか短すぎる文をペナル化するための,データ駆動正規化手法を提案する。
  論文  参考訳（メタデータ） (2021-11-06T09:04:16Z)
• Contrastive Learning and Self-Training for Unsupervised Domain Adaptation in Semantic Segmentation [71.77083272602525]
  UDAはラベル付きソースドメインからラベルなしターゲットドメインへの効率的な知識伝達を試みている。 本稿では,領域にまたがるカテゴリ別センタロイドを適応させるコントラスト学習手法を提案する。 提案手法を自己学習で拡張し,メモリ効率の良い時間アンサンブルを用いて一貫性と信頼性の高い擬似ラベルを生成する。
  論文  参考訳（メタデータ） (2021-05-05T11:55:53Z)
• Surprisingly Simple Semi-Supervised Domain Adaptation with Pretraining and Consistency [93.89773386634717]
  ビジュアルドメイン適応は、異なるソースドメインで利用可能なラベルを使用して、ターゲットのビジュアルドメインからイメージを分類する学習を含む。 いくつかの目標ラベルが存在する場合、(回転予測による)自己スーパービジョンや整合正則化といった単純な手法が、適切な目標分類器を学習するための対角アライメントなしで有効であることを示す。 我々の事前学習と一貫性(PAC)アプローチは、この半教師付きドメイン適応タスクにおいて、複数のデータセットにまたがる複数の対向的なドメインアライメント手法を超越して、技術精度を達成することができる。
  論文  参考訳（メタデータ） (2021-01-29T18:40:17Z)
• CrossNER: Evaluating Cross-Domain Named Entity Recognition [47.9831214875796]
  ドメイン間のエンティティ認識モデルは、ターゲットドメインにおけるNERサンプルの不足問題に対処することができる。 既存のNERベンチマークのほとんどはドメイン特化エンティティタイプを持たないか、特定のドメインにフォーカスしていないため、クロスドメイン評価の効率が低下する。 CrossNER(クロスドメインNERデータセット)は、5つの異なるドメインにまたがるNERデータのフルラベルコレクションで、異なるドメインのための専門エンティティカテゴリがあります。
  論文  参考訳（メタデータ） (2020-12-08T11:31:55Z)
• Cross-Domain Facial Expression Recognition: A Unified Evaluation Benchmark and Adversarial Graph Learning [85.6386289476598]
  我々は,クロスドメイン全体的特徴共適応のための新しい逆グラフ表現適応(AGRA)フレームワークを開発した。 我々は,いくつかの一般的なベンチマークで広範囲かつ公平な評価を行い,提案したAGRAフレームワークが従来の最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-08-03T15:00:31Z)
• Towards Fair Cross-Domain Adaptation via Generative Learning [50.76694500782927]
  ドメイン適応(DA)は、よくラベル付けされたソースドメイン上でトレーニングされたモデルを、異なる分散に横たわる未ラベルのターゲットドメインに適応することを目的としています。 本研究では,新規な生成的Few-shot Cross-Domain Adaptation (GFCA) アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-03-04T23:25:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。