論文の概要: Causal Interventions-based Few-Shot Named Entity Recognition

• arxiv url: http://arxiv.org/abs/2305.01914v1
• Date: Wed, 3 May 2023 06:11:39 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-04 15:51:42.042217
• Title: Causal Interventions-based Few-Shot Named Entity Recognition
• Title（参考訳）: 因果干渉に基づくファウショットによるエンティティ認識
• Authors: Zhen Yang, Yongbin Liu, Chunping Ouyang
• Abstract要約: 名前付きエンティティ認識(NER)システムは、いくつかのラベル付きサンプルに基づいて新しいエンティティのクラスを認識することを目的としている。 少数ショット学習における過度なオーバーフィッティングは主に、少数のサンプル選択バイアスによって引き起こされる刺激的な相関によって導かれる。 本稿では,因果的介入に基づく複数ショットNER法を提案する。
• 参考スコア（独自算出の注目度）: 5.961427870758681
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-shot named entity recognition (NER) systems aims at recognizing new classes of entities based on a few labeled samples. A significant challenge in the few-shot regime is prone to overfitting than the tasks with abundant samples. The heavy overfitting in few-shot learning is mainly led by spurious correlation caused by the few samples selection bias. To alleviate the problem of the spurious correlation in the few-shot NER, in this paper, we propose a causal intervention-based few-shot NER method. Based on the prototypical network, the method intervenes in the context and prototype via backdoor adjustment during training. In particular, intervening in the context of the one-shot scenario is very difficult, so we intervene in the prototype via incremental learning, which can also avoid catastrophic forgetting. Our experiments on different benchmarks show that our approach achieves new state-of-the-art results (achieving up to 29% absolute improvement and 12% on average for all tasks).
• Abstract（参考訳）: 名前付きエンティティ認識(NER)システムは、いくつかのラベル付きサンプルに基づいて新しいエンティティのクラスを認識することを目的としている。 少数ショット体制における重要な課題は、豊富なサンプルを持つタスクよりも過剰にフィットする傾向があることである。 少数ショット学習における過大な過剰は, 少数のサンプル選択バイアスによって引き起こされる散発的な相関が主因である。 本稿では,数発NERにおけるスプリアス相関の問題を軽減するために,因果介入に基づく数発NER法を提案する。 原型的なネットワークに基づいて、この手法はトレーニング中にバックドア調整を通じてコンテキストとプロトタイプに介入する。 特に、ワンショットシナリオのコンテキストでの介入は非常に難しいため、私たちはインクリメンタルな学習を通じてプロトタイプに介入します。 異なるベンチマーク実験により、我々の手法は、新しい最先端の成果(全タスクで最大29%、平均12%の絶対改善を達成する)を達成することが示された。

関連論文リスト

• Towards Fast and Stable Federated Learning: Confronting Heterogeneity via Knowledge Anchor [18.696420390977863]
  本稿では,異なる通信ラウンド間の局所訓練において,各クラスを忘れる程度を系統的に分析する。 これらの知見に触発され,FedKA(Federated Knowledge Anchor)と呼ばれる新しい,簡単なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-05T01:12:56Z)
• Fast Hierarchical Learning for Few-Shot Object Detection [57.024072600597464]
  転送学習アプローチは、最近、数ショット検出タスクで有望な結果を得た。 これらのアプローチは、ベース検出器の微調整による破滅的な忘れ込みの問題に悩まされる。 この作業における上記の問題に対処する。
  論文  参考訳（メタデータ） (2022-10-10T20:31:19Z)
• Few-shot Forgery Detection via Guided Adversarial Interpolation [56.59499187594308]
  既存の偽造検出手法は、見知らぬ新しい偽造手法に適用した場合、大幅な性能低下に悩まされる。 本稿では,数発の偽造検出問題を克服するために,GAI(Guid Adversarial Interpolation)を提案する。 我々の手法は、多数派と少数派の偽造アプローチの選択に対して堅牢であることが検証されている。
  論文  参考訳（メタデータ） (2022-04-12T16:05:10Z)
• An Investigation of Replay-based Approaches for Continual Learning [79.0660895390689]
  連続学習(CL)は機械学習(ML)の大きな課題であり、破滅的忘れ(CF)を伴わずに連続的に複数のタスクを学習する能力を記述する。 いくつかの解クラスが提案されており、その単純さと堅牢性から、いわゆるリプレイベースのアプローチは非常に有望であるように思われる。 連続学習におけるリプレイに基づくアプローチを実証的に検討し,応用の可能性を評価する。
  論文  参考訳（メタデータ） (2021-08-15T15:05:02Z)
• Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
  Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。 具体的には、対照的な学習方法でネットワークをトレーニングする。 各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
  論文  参考訳（メタデータ） (2021-03-24T07:26:07Z)
• Few-shot Action Recognition with Prototype-centered Attentive Learning [88.10852114988829]
  2つの新しい構成要素からなるプロトタイプ中心型注意学習(pal)モデル。 まず,従来のクエリ中心学習目標を補完するために,プロトタイプ中心のコントラスト学習損失を導入する。 第二に、PALは注意深いハイブリッド学習機構を統合しており、アウトレーヤの負の影響を最小限に抑えることができる。
  論文  参考訳（メタデータ） (2021-01-20T11:48:12Z)
• Multi-Scale Positive Sample Refinement for Few-Shot Object Detection [61.60255654558682]
  Few-shot Object Detection (FSOD) は、ディテクターがトレーニングインスタンスをほとんど持たない未確認のクラスに適応するのに役立つ。 FSODにおけるオブジェクトスケールを拡張化するためのMPSR(Multi-scale Positive Sample Refinement)アプローチを提案する。 MPSRは、オブジェクトピラミッドとして多スケールの正のサンプルを生成し、様々なスケールで予測を洗練させる。
  論文  参考訳（メタデータ） (2020-07-18T09:48:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。