論文の概要: Large-Scale Label Interpretation Learning for Few-Shot Named Entity Recognition

• arxiv url: http://arxiv.org/abs/2403.14222v1
• Date: Thu, 21 Mar 2024 08:22:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-22 15:07:37.444769
• Title: Large-Scale Label Interpretation Learning for Few-Shot Named Entity Recognition
• Title（参考訳）: ファウショット名前付きエンティティ認識のための大規模ラベル解釈学習
• Authors: Jonas Golde, Felix Hamborg, Alan Akbik,
• Abstract要約: 名前付きエンティティ認識(NER)は、わずかな例だけでテキスト内の名前付きエンティティを検出する。 有望な研究の1つの行は、各エンティティタイプの自然言語記述を活用することである。 本稿では,新しい実体型の言語化を解釈する前に,強い意味が与える影響について考察する。
• 参考スコア（独自算出の注目度）: 5.262708162539423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-shot named entity recognition (NER) detects named entities within text using only a few annotated examples. One promising line of research is to leverage natural language descriptions of each entity type: the common label PER might, for example, be verbalized as ''person entity.'' In an initial label interpretation learning phase, the model learns to interpret such verbalized descriptions of entity types. In a subsequent few-shot tagset extension phase, this model is then given a description of a previously unseen entity type (such as ''music album'') and optionally a few training examples to perform few-shot NER for this type. In this paper, we systematically explore the impact of a strong semantic prior to interpret verbalizations of new entity types by massively scaling up the number and granularity of entity types used for label interpretation learning. To this end, we leverage an entity linking benchmark to create a dataset with orders of magnitude of more distinct entity types and descriptions as currently used datasets. We find that this increased signal yields strong results in zero- and few-shot NER in in-domain, cross-domain, and even cross-lingual settings. Our findings indicate significant potential for improving few-shot NER through heuristical data-based optimization.
• Abstract（参考訳）: NER (Few-shot named entity recognition) は、いくつかの注釈付き例を使ってテキスト内の名前付きエンティティを検出する。 例えば、共通ラベルPERは、初期のラベル解釈学習フェーズにおいて、モデルは、エンティティタイプの言語化された記述を解釈することを学ぶ。 その後の数発のタグセット拡張フェーズでは、このモデルには、未確認のエンティティタイプ('音楽アルバム'など)が記述され、オプションでこのタイプのために少数発のNERを実行するためのいくつかのトレーニング例が提供される。 本稿では,ラベル解釈学習に使用されるエンティティの個数と粒度を大規模にスケールアップすることにより,新しいエンティティ型の言語化を解釈する前に,強い意味が与える影響を体系的に検討する。 この目的のために、エンティティリンクベンチマークを活用して、現在使用されているデータセットのように、より異なるエンティティタイプと記述の桁数のデータセットを作成します。 この増大した信号は、ドメイン内、ドメイン間、さらには言語間設定においてゼロおよび少数ショットのNERに強い結果をもたらす。 以上の結果から,ヒューリスティックなデータベース最適化により,NERが向上する可能性が示唆された。

関連論文リスト

• Evaluating Named Entity Recognition Using Few-Shot Prompting with Large Language Models [0.0]
  Few-Shot PromptingやIn-context Learningは、モデルが最小限の例でエンティティを認識できるようにする。 NERタスクにおけるGPT-4のような最先端モデルの評価を行い、その数ショットのパフォーマンスと完全に教師付きベンチマークを比較した。
  論文  参考訳（メタデータ） (2024-08-28T13:42:28Z)
• Seed-Guided Fine-Grained Entity Typing in Science and Engineering Domains [51.02035914828596]
  科学・工学分野において,シード誘導型細粒度エンティティタイピングの課題について検討する。 まず、ラベルのないコーパスから各タイプのエンティティを抽出し、弱い監視力を高めるSETypeを提案する。 そして、リッチなエンティティをラベルなしのテキストにマッチさせ、擬似ラベル付きサンプルを取得し、見知らぬ型と見えない型の両方に推論できるテキストエンテリメントモデルを訓練する。
  論文  参考訳（メタデータ） (2024-01-23T22:36:03Z)
• PromptNER: A Prompting Method for Few-shot Named Entity Recognition via k Nearest Neighbor Search [56.81939214465558]
  本稿では,近距離探索による数発NERの新規プロンプト法であるPromptNERを提案する。 我々は、エンティティカテゴリ情報を含むプロンプトを使用してラベルのプロトタイプを構築する。 Few-NERDデータセットとCrossNERデータセットの広範な実験により,本モデルが最先端手法よりも優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2023-05-20T15:47:59Z)
• Disambiguation of Company names via Deep Recurrent Networks [101.90357454833845]
  企業名文字列の埋め込みである教師付き学習を通じて,Siamese LSTM Network を抽出する手法を提案する。 私たちは、ラベル付けされるサンプルを優先するActive Learningアプローチが、より効率的な全体的な学習パイプラインをもたらす方法を分析します。
  論文  参考訳（メタデータ） (2023-03-07T15:07:57Z)
• Few-Shot Fine-Grained Entity Typing with Automatic Label Interpretation and Instance Generation [36.541309948222306]
  各エンティティタイプに対して,アノテーション付きエンティティ参照が付与される場合,FET(Fall-shot Fine-fine Entity Typing)の問題について検討する。 そこで本稿では,(1) エンティティ型ラベル解釈モジュールが,少数ショットインスタンスとラベル階層を併用することで,タイプラベルと語彙の関連付けを自動的に学習し,(2) 型ベースのコンテキスト化インスタンス生成器は,与えられたインスタンスに基づいて新しいインスタンスを生成して,より一般化のためにトレーニングセットを拡大する,という,2つのモジュールからなる新しいFETフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-28T04:05:40Z)
• A Realistic Study of Auto-regressive Language Models for Named Entity Typing and Recognition [7.345578385749421]
  メタ学習装置を用いて、名前付きエンティティ認識のための事前学習言語モデルについて検討する。 まず、ゼロショット転送シナリオにおいて、名前付きエンティティ型付け(NET)をテストする。次に、推論の例をいくつか挙げて、NERを実行する。 本稿では,事前学習したモデルにのみアクセス可能で,これらのグループについて報告する際,見知らぬ名前や稀な名前を選択する手法を提案する。
  論文  参考訳（メタデータ） (2021-08-26T15:29:00Z)
• Prototypical Representation Learning for Relation Extraction [56.501332067073065]
  本論文では, 遠隔ラベルデータから予測可能, 解釈可能, 堅牢な関係表現を学習することを目的とする。 文脈情報から各関係のプロトタイプを学習し,関係の本質的意味を最善に探求する。 いくつかの関係学習タスクの結果,本モデルが従来の関係モデルを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-03-22T08:11:43Z)
• Interpretable Entity Representations through Large-Scale Typing [61.4277527871572]
  本稿では,人間の読みやすいエンティティ表現を作成し,箱から高パフォーマンスを実現する手法を提案する。 我々の表現は、微粒な実体型に対する後続確率に対応するベクトルである。 特定のドメインに対して,学習に基づく方法で,型セットのサイズを縮小できることを示す。
  論文  参考訳（メタデータ） (2020-04-30T23:58:03Z)
• Interpretability Analysis for Named Entity Recognition to Understand System Predictions and How They Can Improve [49.878051587667244]
  名前付きエンティティ認識のためのLSTM-CRFアーキテクチャの性能について検討する。 文脈表現はシステムの性能に寄与するが、ハイパフォーマンスを駆動する主な要因は、名前トークン自体を学習することにある。 我々は、コンテキストのみからエンティティタイプを推測する可能性を評価するために、人間アノテーションを登録し、コンテキストのみのシステムによるエラーの大部分に対してエンティティタイプを推論することはできないが、改善の余地はいくつかある。
  論文  参考訳（メタデータ） (2020-04-09T14:37:12Z)
• Fine-Grained Named Entity Typing over Distantly Supervised Data Based on Refined Representations [16.30478830298353]
  Fine-Grained Named Entity Typing (FG-NET) は自然言語処理(NLP)の鍵となるコンポーネントである 本稿では,コーパスレベルの文脈的手がかりをエンド分類に先立ち,ノイズの多い参照表現を洗練させるエッジ重み付き注意グラフ畳み込みネットワークを提案する。 実験により,提案モデルではマクロf1とマイクロf1の相対スコアが10.2%,マクロf1が8.3%であった。
  論文  参考訳（メタデータ） (2020-04-07T17:26:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。