論文の概要: Target-Oriented Fine-tuning for Zero-Resource Named Entity Recognition

• arxiv url: http://arxiv.org/abs/2107.10523v1
• Date: Thu, 22 Jul 2021 08:48:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-23 12:56:09.132874
• Title: Target-Oriented Fine-tuning for Zero-Resource Named Entity Recognition
• Title（参考訳）: ゼロソース名前付きエンティティ認識のためのターゲット指向微調整
• Authors: Ying Zhang, Fandong Meng, Yufeng Chen, Jinan Xu, and Jie Zhou
• Abstract要約: 本稿では,知識伝達とタスク微調整をガイドする4つの実践的ガイドラインを提案する。 これらのガイドラインに基づいて、我々は3つの側面から様々なデータを統一的な訓練方法で活用するターゲット指向微調整(TOF)フレームワークを設計する。
• 参考スコア（独自算出の注目度）: 25.662899487595524
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Zero-resource named entity recognition (NER) severely suffers from data scarcity in a specific domain or language. Most studies on zero-resource NER transfer knowledge from various data by fine-tuning on different auxiliary tasks. However, how to properly select training data and fine-tuning tasks is still an open problem. In this paper, we tackle the problem by transferring knowledge from three aspects, i.e., domain, language and task, and strengthening connections among them. Specifically, we propose four practical guidelines to guide knowledge transfer and task fine-tuning. Based on these guidelines, we design a target-oriented fine-tuning (TOF) framework to exploit various data from three aspects in a unified training manner. Experimental results on six benchmarks show that our method yields consistent improvements over baselines in both cross-domain and cross-lingual scenarios. Particularly, we achieve new state-of-the-art performance on five benchmarks.
• Abstract（参考訳）: ゼロリソースのエンティティ認識(NER)は、特定のドメインや言語のデータの不足に苦しむ。 各種補助タスクの微調整による各種データからのゼロリソースNER転送知識に関する研究がほとんどである。 しかし、トレーニングデータと微調整タスクを適切に選択する方法はまだ未解決の問題である。 本稿では,ドメイン,言語,タスクの3つの側面から知識を伝達し,それらの相互関係を強化することで,この問題に対処する。 具体的には,知識伝達とタスク微調整をガイドする4つの実践的ガイドラインを提案する。 これらのガイドラインに基づいて、我々は3つの側面から様々なデータを統一的な訓練方法で活用するターゲット指向微調整(TOF)フレームワークを設計する。 6つのベンチマーク実験の結果,クロスドメインシナリオとクロスリンガルシナリオの両方において,ベースラインに対して一貫した改善が得られた。 特に,5つのベンチマークで最先端性能を実現する。

関連論文リスト

• IXA/Cogcomp at SemEval-2023 Task 2: Context-enriched Multilingual Named Entity Recognition using Knowledge Bases [53.054598423181844]
  3つのステップからなる新しいNERカスケードアプローチを提案する。 我々は、細粒度および新興物質を正確に分類する上で、外部知識基盤の重要性を実証的に示す。 本システムは,低リソース言語設定においても,マルチコネラ2共有タスクにおいて頑健な性能を示す。
  論文  参考訳（メタデータ） (2023-04-20T20:30:34Z)
• Compositional Zero-Shot Domain Transfer with Text-to-Text Models [65.32821642379066]
  ゼロショットドメイン転送のための新しい合成転写学習フレームワーク(DoT5)を提案する。 ドメイン内のラベルにアクセスすることなく、DoT5はドメイン知識とタスク知識をマルチタスクで共同で学習する。 DoT5はマルチタスク学習による合成伝達学習の有効性を示す。 特にDoT5は、現在のSOTAを7以上の絶対点の精度でゼロショット転送で上回る。
  論文  参考訳（メタデータ） (2023-03-23T15:58:41Z)
• Characterization of effects of transfer learning across domains and languages [0.0]
  事前学習されたニューラルネットワークモデルからのトランスファーラーニング(TL)は、長年にわたって強力なテクニックとして現れてきた。 本研究では,TLが3つの自然言語処理(NLP)タスクに対して,一般的な事前学習モデルの性能にどのように影響するかを検討する。
  論文  参考訳（メタデータ） (2022-10-03T17:17:07Z)
• Learning from Language Description: Low-shot Named Entity Recognition via Decomposed Framework [23.501276952950366]
  本研究では,自然言語の監視から学習し,目に見えないエンティティクラスの識別を可能にする新しいNERフレームワークであるSpanNERを提案する。 筆者らは5つのベンチマークデータセットについて広範な実験を行い、提案手法を数ショットの学習、ドメイン転送、ゼロショットの学習設定で評価した。 実験結果から,提案手法は, 最良ベースラインの10%, 23%, 26%を, 最良ベースライン, ドメイン転送, ゼロショット学習設定でそれぞれ改善できることがわかった。
  論文  参考訳（メタデータ） (2021-09-11T19:52:09Z)
• SSDL: Self-Supervised Domain Learning for Improved Face Recognition [0.0]
  制約のない環境での顔認識は、照明のバリエーション、知覚の質、動きのぼやけなどにより困難である。 本研究では,非競合データから抽出した三重項を学習する自己教師付きドメイン学習手法を提案する。
  論文  参考訳（メタデータ） (2020-11-26T15:55:59Z)
• Knowledge-driven Data Construction for Zero-shot Evaluation in Commonsense Question Answering [80.60605604261416]
  本稿では,共通認識課題にまたがるゼロショット質問応答のための新しいニューラルシンボリック・フレームワークを提案する。 言語モデル、トレーニング体制、知識ソース、データ生成戦略のセットを変えて、タスク間の影響を測定します。 個別の知識グラフは特定のタスクに適しているが、グローバルな知識グラフはさまざまなタスクに対して一貫した利得をもたらす。
  論文  参考訳（メタデータ） (2020-11-07T22:52:21Z)
• Unsupervised Transfer Learning with Self-Supervised Remedy [60.315835711438936]
  手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。 事前学習された知識は、学習されたドメインや新しいドメインについて強い仮定をしなければ、うまく伝達しない。 本研究は,ラベル付き関連ドメインからの知識伝達により,新規ドメインにおける未ラベル対象データの識別潜在空間を学習することを目的とする。
  論文  参考訳（メタデータ） (2020-06-08T16:42:17Z)
• An Iterative Multi-Knowledge Transfer Network for Aspect-Based Sentiment Analysis [73.7488524683061]
  本稿では,エンド・ツー・エンドABSAのための新しいIterative Multi-Knowledge Transfer Network (IMKTN)を提案する。 我々のIMKTNは、よく設計されたルーティングアルゴリズムを用いて、3つのサブタスクのうち2つのタスク固有の知識をトークンレベルで別のタスクに転送する。 3つのベンチマークデータセットの実験結果は、我々のアプローチの有効性と優位性を示している。
  論文  参考訳（メタデータ） (2020-04-04T13:49:54Z)
• Domain Adaption for Knowledge Tracing [65.86619804954283]
  本稿では,DAKT問題に対処するための新しい適応型フレームワーク,すなわち知識追跡(AKT)を提案する。 まず,Deep Knowledge Trace(DKT)に基づく教育的特徴(スリップ,推測,質問文など)を取り入れ,優れた知識追跡モデルを得る。 第2の側面として、3つのドメイン適応プロセスを提案し、採用する。まず、ターゲットモデルトレーニングに有用なソースインスタンスを選択するために、自動エンコーダを事前訓練する。
  論文  参考訳（メタデータ） (2020-01-14T15:04:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。