論文の概要: Learning from Language Description: Low-shot Named Entity Recognition
via Decomposed Framework
- arxiv url: http://arxiv.org/abs/2109.05357v1
- Date: Sat, 11 Sep 2021 19:52:09 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-17 08:13:02.299191
- Title: Learning from Language Description: Low-shot Named Entity Recognition
via Decomposed Framework
- Title(参考訳): 言語記述から学ぶ:分解フレームワークによる低ショット名前付きエンティティ認識
- Authors: Yaqing Wang, Haoda Chu, Chao Zhang, Jing Gao
- Abstract要約: 本研究では,自然言語の監視から学習し,目に見えないエンティティクラスの識別を可能にする新しいNERフレームワークであるSpanNERを提案する。
筆者らは5つのベンチマークデータセットについて広範な実験を行い、提案手法を数ショットの学習、ドメイン転送、ゼロショットの学習設定で評価した。
実験結果から,提案手法は, 最良ベースラインの10%, 23%, 26%を, 最良ベースライン, ドメイン転送, ゼロショット学習設定でそれぞれ改善できることがわかった。
- 参考スコア(独自算出の注目度): 23.501276952950366
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work, we study the problem of named entity recognition (NER) in a low
resource scenario, focusing on few-shot and zero-shot settings. Built upon
large-scale pre-trained language models, we propose a novel NER framework,
namely SpanNER, which learns from natural language supervision and enables the
identification of never-seen entity classes without using in-domain labeled
data. We perform extensive experiments on 5 benchmark datasets and evaluate the
proposed method in the few-shot learning, domain transfer and zero-shot
learning settings. The experimental results show that the proposed method can
bring 10%, 23% and 26% improvements in average over the best baselines in
few-shot learning, domain transfer and zero-shot learning settings
respectively.
- Abstract(参考訳): 本研究では,低リソースシナリオにおける名前付きエンティティ認識(NER)の問題について検討し,ほとんどショットやゼロショットの設定に焦点をあてる。
大規模な事前学習型言語モデルに基づいて,自然言語の監視から学習し,ドメイン内のラベル付きデータを用いることなく,見つからないエンティティクラスを識別できる新しいNERフレームワークであるSpanNERを提案する。
5つのベンチマークデータセットを広範囲に実験し,提案手法を小数点学習,ドメイン転送,ゼロショット学習で評価した。
実験の結果,提案手法は,単発学習,ドメイン転送,ゼロショット学習において,最良ベースラインよりも10%,23%,26%改善できることがわかった。
関連論文リスト
- Less is More: A Closer Look at Semantic-based Few-Shot Learning [11.724194320966959]
Few-shot Learningは、利用可能な画像の数が非常に限られている新しいカテゴリを学習し、区別することを目的としている。
本稿では,テキスト情報と言語モデルを活用することを目的とした,数ショットの学習タスクのための,シンプルだが効果的なフレームワークを提案する。
広範に使われている4つのショットデータセットで実施した実験は、我々の単純なフレームワークが印象的な結果をもたらすことを示した。
論文 参考訳(メタデータ) (2024-01-10T08:56:02Z) - Ensemble Transfer Learning for Multilingual Coreference Resolution [60.409789753164944]
非英語で作業する場合に頻繁に発生する問題は、注釈付きトレーニングデータの不足である。
我々は,様々なトランスファー学習技術を組み合わせた,シンプルだが効果的なアンサンブルベースのフレームワークを設計する。
また、ウィキペディアアンカーテキストを利用して、コア参照解決モデルをブートストラップする低コストのTL手法を提案する。
論文 参考訳(メタデータ) (2023-01-22T18:22:55Z) - TOKEN is a MASK: Few-shot Named Entity Recognition with Pre-trained
Language Models [19.26653302753129]
名前付きエンティティ認識(NER)の文脈におけるドメイン適応のための新しい数ショットアプローチを提案する。
本稿では,変数ベースモジュールとテンプレートモジュールからなる2段階のアプローチを提案する。
このアプローチは単純だが汎用的であり、少数ショットやゼロショットの設定に適用できる。
論文 参考訳(メタデータ) (2022-06-15T22:49:14Z) - A Comparative Study of Pre-trained Encoders for Low-Resource Named
Entity Recognition [10.0731894715001]
我々は、エンコーダ評価フレームワークを導入し、それを用いて、低リソースNERのタスクにおける最先端の事前訓練された表現の性能を比較する。
我々は、様々な戦略、モデルアーキテクチャ、中間タスクの微調整、コントラスト学習で事前訓練された幅広いエンコーダを分析する。
論文 参考訳(メタデータ) (2022-04-11T09:48:26Z) - IGLUE: A Benchmark for Transfer Learning across Modalities, Tasks, and
Languages [87.5457337866383]
画像認識言語理解評価ベンチマークについて紹介する。
IGLUEは、視覚的質問応答、クロスモーダル検索、グラウンドド推論、20言語にわたるグラウンドドエンターテイメントタスクをまとめて提供する。
翻訳-テストの転送はゼロショットの転送よりも優れており、少数ショットの学習は多くのタスクに役立てることが難しい。
論文 参考訳(メタデータ) (2022-01-27T18:53:22Z) - Reinforced Iterative Knowledge Distillation for Cross-Lingual Named
Entity Recognition [54.92161571089808]
言語間NERは、知識をリッチリソース言語から低リソース言語に転送する。
既存の言語間NERメソッドは、ターゲット言語でリッチなラベル付けされていないデータをうまく利用しない。
半教師付き学習と強化学習のアイデアに基づく新しいアプローチを開発する。
論文 参考訳(メタデータ) (2021-06-01T05:46:22Z) - Self-Learning for Zero Shot Neural Machine Translation [13.551731309506874]
本研究は、並列データを共有するピボット言語を仮定せずに学習するゼロショットNMTモデリング手法を提案する。
教師なしNMTと比較して、ドメインミスマッチ設定でも一貫した改善が観察される。
論文 参考訳(メタデータ) (2021-03-10T09:15:19Z) - Making Pre-trained Language Models Better Few-shot Learners [11.90626040104822]
最近のGPT-3モデルは、自然言語プロンプトといくつかのタスクデモンストレーションを入力コンテキストとして活用することで、驚くべき数ショットパフォーマンスを実現します。
これらの知見に触発されて,より実用的なシナリオで,微調整が計算効率のよい小型言語モデルを用いて,小数点学習の研究を行った。
LM-BFF - 少数の注釈付き例で、言語モデルの微調整のためのシンプルで補完的な技術のスイート - 言語モデルのより良い少数ショット微調整を提示します。
論文 参考訳(メタデータ) (2020-12-31T17:21:26Z) - Few-Shot Named Entity Recognition: A Comprehensive Study [92.40991050806544]
マルチショット設定のモデル一般化能力を向上させるための3つの手法を検討する。
ラベル付きデータの比率の異なる10の公開nerデータセットについて経験的比較を行う。
マルチショットとトレーニングフリーの両方の設定で最新の結果を作成します。
論文 参考訳(メタデータ) (2020-12-29T23:43:16Z) - Region Comparison Network for Interpretable Few-shot Image
Classification [97.97902360117368]
新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。
本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。
また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
論文 参考訳(メタデータ) (2020-09-08T07:29:05Z) - Building Low-Resource NER Models Using Non-Speaker Annotation [58.78968578460793]
言語横断的な手法はこれらの懸念に対処する上で顕著な成功を収めた。
本稿では,Non-Speaker''(NS)アノテーションを用いた低リソース名前付きエンティティ認識(NER)モデル構築のための補完的アプローチを提案する。
NSアノテータの使用は、現代の文脈表現上に構築された言語間メソッドよりも、一貫した結果が得られることを示す。
論文 参考訳(メタデータ) (2020-06-17T03:24:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。