論文の概要: Class-Incremental Few-Shot Event Detection

• arxiv url: http://arxiv.org/abs/2404.01767v1
• Date: Tue, 2 Apr 2024 09:31:14 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-03 17:09:01.473873
• Title: Class-Incremental Few-Shot Event Detection
• Title（参考訳）: クラスインクリメンタルFew-Shotイベント検出
• Authors: Kailin Zhao, Xiaolong Jin, Long Bai, Jiafeng Guo, Xueqi Cheng,
• Abstract要約: 本稿では,クラスインクリメンタルなイベント検出と呼ばれる新しいタスクを提案する。 このタスクは、古い知識の忘れと新しいクラスオーバーフィットという2つの問題に直面している。 そこで本研究では,Prompt-KDと呼ばれる新しい知識蒸留法と迅速な学習手法を提案する。
• 参考スコア（独自算出の注目度）: 68.66116956283575
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Event detection is one of the fundamental tasks in information extraction and knowledge graph. However, a realistic event detection system often needs to deal with new event classes constantly. These new classes usually have only a few labeled instances as it is time-consuming and labor-intensive to annotate a large number of unlabeled instances. Therefore, this paper proposes a new task, called class-incremental few-shot event detection. Nevertheless, this task faces two problems, i.e., old knowledge forgetting and new class overfitting. To solve these problems, this paper further presents a novel knowledge distillation and prompt learning based method, called Prompt-KD. Specifically, to handle the forgetting problem about old knowledge, Prompt-KD develops an attention based multi-teacher knowledge distillation framework, where the ancestor teacher model pre-trained on base classes is reused in all learning sessions, and the father teacher model derives the current student model via adaptation. On the other hand, in order to cope with the few-shot learning scenario and alleviate the corresponding new class overfitting problem, Prompt-KD is also equipped with a prompt learning mechanism. Extensive experiments on two benchmark datasets, i.e., FewEvent and MAVEN, demonstrate the superior performance of Prompt-KD.
• Abstract（参考訳）: イベント検出は、情報抽出と知識グラフにおける基本的なタスクの1つである。 しかし、現実的なイベント検出システムは、しばしば新しいイベントクラスを常に扱う必要がある。 これらの新しいクラスは通常、ラベル付けされていない多数のインスタンスに注釈をつけるのに時間がかかり、労力がかかるため、ラベル付けされたインスタンスがいくつかしか持たない。 そこで本稿では,クラスインクリメンタルなイベント検出と呼ばれる新しいタスクを提案する。 それにもかかわらず、このタスクは、古い知識の忘れと新しいクラスオーバーフィッティングという2つの問題に直面している。 本稿では,これらの問題を解決するために,Prompt-KDと呼ばれる新しい知識蒸留法と迅速な学習手法を提案する。 具体的には,従来の知識を忘れる問題に対処するため,Prompt-KDは,すべての学習セッションにおいて,ベースクラスで事前学習された祖先教師モデルを再利用する,注目に基づく多教師知識蒸留フレームワークを開発し,父親教師モデルは適応を通じて現在の学生モデルを導出する。 一方,数発の学習シナリオに対処し,それに対応する新しいクラスオーバーフィッティング問題を緩和するために,Prompt-KDには即時学習機構も備えている。 FewEventとMAVENという2つのベンチマークデータセットに対する大規模な実験は、Prompt-KDの優れた性能を示している。

関連論文リスト

• Few-Shot Class Incremental Learning with Attention-Aware Self-Adaptive Prompt [58.880105981772324]
  ASP(Attention-Aware Self-Adaptive Prompt)という新しいフレームワークを提案する。 ASP.NETはタスク不変のプロンプトを奨励し、注意点から特定の情報を減らすことで共有知識をキャプチャする。 要約すると、ASPはベースタスクの過度な適合を防ぎ、数秒のインクリメンタルタスクで膨大なデータを必要としない。
  論文  参考訳（メタデータ） (2024-03-14T20:34:53Z)
• Hierarchical Prompts for Rehearsal-free Continual Learning [67.37739666753008]
  継続的な学習は、過去のタスク知識の忘れを軽減しつつ、現在のタスク知識を統合する能力をモデルに装備する。 プロンプトチューニングによってインスパイアされたプロンプトベースのメソッドは、凍結したバックボーンを維持し、わずかに学習可能なプロンプトでトレーニングする。 本稿では,H-Prompts(H-Prompts)と呼ばれる連続学習のための新しいリハーサルフリーパラダイムを提案する。
  論文  参考訳（メタデータ） (2024-01-21T16:59:44Z)
• Fine-Grained Knowledge Selection and Restoration for Non-Exemplar Class Incremental Learning [64.14254712331116]
  非典型的なクラスインクリメンタル学習は、過去のトレーニングデータにアクセスすることなく、新しいタスクと古いタスクの両方を学ぶことを目的としている。 本稿では, きめ細かい知識選択と復元のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2023-12-20T02:34:11Z)
• Few-shot Incremental Event Detection [3.508346077709686]
  イベント検出タスクは、テキストからのイベントの迅速な検出を可能にする。 古いクラスを検出する能力を失うことなく、新しいクラスを検出するよう拡張するには、スクラッチからモデルを再トレーニングする必要がある。 我々は、限られたデータで新しいイベントクラスを検出する学習に焦点を当てた、新しいタスク、数発のインクリメンタルイベント検出を定義する。
  論文  参考訳（メタデータ） (2022-09-05T14:21:26Z)
• Towards Generalized and Incremental Few-Shot Object Detection [9.033533653482529]
  新規なインクリメンタルFew-Shot Object Detection (iFSOD) 法を提案する。 具体的には、ベースクラスと新規クラスの特徴表現を分離するために、DBF(Double-Branch Framework)を提案する。 我々はPascal VOCとMS-COCOの両方で実験を行い、この手法がインクリメンタル・ショット検出の問題を効果的に解決できることを実証した。
  論文  参考訳（メタデータ） (2021-09-23T12:38:09Z)
• Extensively Matching for Few-shot Learning Event Detection [66.31312496170139]
  超視覚的な学習設定下でのイベント検出モデルは、新しいイベントタイプへの転送に失敗する。 イベント検出では、あまり画像学習は行われていない。 sup-port の例にマッチする2つのノベルロス因子を提案し,モデルにより多くのトレーニング信号を与える。
  論文  参考訳（メタデータ） (2020-06-17T18:30:30Z)
• Self-Supervised Learning Aided Class-Incremental Lifelong Learning [17.151579393716958]
  クラスインクリメンタルラーニング(Class-IL)における破滅的忘れの問題について検討する。 クラスILの訓練手順では、モデルが次のタスクについて知識を持っていないため、これまで学習してきたタスクに必要な特徴のみを抽出し、その情報は共同分類に不十分である。 本稿では,ラベルを必要とせずに効果的な表現を提供する自己教師型学習と,この問題を回避するためのクラスILを組み合わせることを提案する。
  論文  参考訳（メタデータ） (2020-06-10T15:15:27Z)
• Exploiting the Matching Information in the Support Set for Few Shot Event Classification [66.31312496170139]
  数ショットの学習セットに基づくイベント分類について検討する。 本稿では,学習過程におけるサポートセットを効果的に活用する新たなトレーニング手法を提案する。 2つのベンチマークECデータセットを用いた実験の結果,提案手法は,イベント分類の精度を最大10%向上できることがわかった。
  論文  参考訳（メタデータ） (2020-02-13T00:40:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。