論文の概要: Decoupling Representation and Knowledge for Few-Shot Intent Classification and Slot Filling

• arxiv url: http://arxiv.org/abs/2312.13495v1
• Date: Thu, 21 Dec 2023 00:16:21 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-22 16:13:45.674716
• Title: Decoupling Representation and Knowledge for Few-Shot Intent Classification and Slot Filling
• Title（参考訳）: ショットインテント分類とスロットフィリングのためのデカップリング表現と知識
• Authors: Jie Han, Yixiong Zou, Haozhao Wang, Jun Wang, Wei Liu, Yao Wu, Tao Zhang, Ruixuan Li
• Abstract要約: 本稿では,汎用意味表現関連体験とドメイン固有知識関連体験を明示的に分離する手法を提案する。 Snips と FewJoint のデータセットを用いた実験により,本手法が最先端の性能を実現することを示す。
• 参考スコア（独自算出の注目度）: 23.68998225846554
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-shot intent classification and slot filling are important but challenging tasks due to the scarcity of finely labeled data. Therefore, current works first train a model on source domains with sufficiently labeled data, and then transfer the model to target domains where only rarely labeled data is available. However, experience transferring as a whole usually suffers from gaps that exist among source domains and target domains. For instance, transferring domain-specific-knowledge-related experience is difficult. To tackle this problem, we propose a new method that explicitly decouples the transferring of general-semantic-representation-related experience and the domain-specific-knowledge-related experience. Specifically, for domain-specific-knowledge-related experience, we design two modules to capture intent-slot relation and slot-slot relation respectively. Extensive experiments on Snips and FewJoint datasets show that our method achieves state-of-the-art performance. The method improves the joint accuracy metric from 27.72% to 42.20% in the 1-shot setting, and from 46.54% to 60.79% in the 5-shot setting.
• Abstract（参考訳）: インテント分類とスロットフィリングは重要だが、細かなラベル付きデータの不足のため難しい課題である。 したがって、現在の作業は、まず十分なラベル付きデータを持つソースドメイン上でモデルをトレーニングし、次に、稀にラベル付きデータしか利用できないターゲットドメインにモデルを転送する。 しかしながら、全体としての経験の伝達は通常、ソースドメインとターゲットドメインの間に存在するギャップに悩まされる。 例えば、ドメイン固有の知識関連エクスペリエンスの転送は困難です。 そこで本研究では, 一般表現関連体験とドメイン固有知識関連体験の伝達を明示的に分離する新しい手法を提案する。 具体的には、ドメイン固有の知識に関する経験として、インテント・スロット関係とスロット・スロット関係をそれぞれキャプチャする2つのモジュールを設計する。 snips と fewjoint データセットを広範囲に実験した結果,本手法は最先端の性能を達成できた。 この方法は、1ショット設定で27.72%から42.20%に、そして5ショット設定で46.54%から60.79%に改善する。

関連論文リスト

• Learning to Discover Knowledge: A Weakly-Supervised Partial Domain Adaptation Approach [20.899013563493202]
  ドメイン適応は、リッチアノテーションでソースドメインからの知識を活用することで、魅力的なパフォーマンスを示している。 特定の目標タスクに対して、関連するおよび高品質なソースドメインを収集するのは煩雑である。 本稿では、自己ペースト転送分類器学習(SP-TCL)と呼ばれる、単純で効果的なドメイン適応手法を提案する。
  論文  参考訳（メタデータ） (2024-06-20T12:54:07Z)
• Adapting to Distribution Shift by Visual Domain Prompt Generation [34.19066857066073]
  いくつかのラベルのないデータを使って、テスト時にモデルを適応し、分散シフトに対処する。 ソースドメインから移行可能な知識を学ぶための知識銀行を構築します。 提案手法は,WILDSやDomainNetを含む5つの大規模ベンチマークにおいて,従来よりも優れている。
  論文  参考訳（メタデータ） (2024-05-05T02:44:04Z)
• Prior Knowledge Guided Unsupervised Domain Adaptation [82.9977759320565]
  本稿では,対象とするクラス分布に関する事前知識を利用できる知識誘導型非教師付きドメイン適応(KUDA)設定を提案する。 特に,対象領域におけるクラス分布に関する2種類の事前知識について考察する。 このような事前知識を用いて生成した擬似ラベルを精査する修正モジュールを提案する。
  論文  参考訳（メタデータ） (2022-07-18T18:41:36Z)
• Prior Omission of Dissimilar Source Domain(s) for Cost-Effective Few-Shot Learning [24.647313693814798]
  ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル・ナチュラル(NLU)の分野における新たな研究課題 ソースドメインからの十分なアノテートされたデータによって、重要な課題は、モデルを少数のラベルしか持たない別のターゲットドメインにトレーニングし、適応する方法である。
  論文  参考訳（メタデータ） (2021-09-11T09:30:59Z)
• Domain Adaptation for Learning Generator from Paired Few-Shot Data [72.04430033118426]
  十分なソースデータと少数のターゲットデータを持つジェネレータを学習するためのペアドフェーショットGAN(PFS-GAN)モデルを提案する。 提案手法は,複数のベースラインと比較して,より多様性の高い生成対象ドメインデータに対して,定量的,定性的な結果が得られる。
  論文  参考訳（メタデータ） (2021-02-25T10:11:44Z)
• Domain Adaptation for Semantic Parsing [68.81787666086554]
  本稿では,ドメイン適応のための新しいセマンティクスを提案する。このセマンティクスでは,ソースドメインと比較して,対象ドメインのアノテーション付きデータがはるかに少ない。 我々のセマンティックな利点は、2段階の粗大なフレームワークから得ており、2段階の異なる正確な処理を提供できる。 ベンチマークデータセットの実験により、我々の手法はいくつかの一般的なドメイン適応戦略より一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2020-06-23T14:47:41Z)
• Inductive Unsupervised Domain Adaptation for Few-Shot Classification via Clustering [16.39667909141402]
  ショットの分類は、多様なドメインに適応する必要がある場合、苦労する傾向があります。 本稿では、ClusteringによるFew-shot分類のためのドメイン適応性能を改善するためのフレームワークDaFeCを紹介する。 提案手法は, 絶対利得(分類精度)が4.95%, 9.55%, 3.99%, 11.62%であった。
  論文  参考訳（メタデータ） (2020-06-23T08:17:48Z)
• Unsupervised Transfer Learning with Self-Supervised Remedy [60.315835711438936]
  手動ラベルのない新しいドメインにディープネットワークを一般化することは、ディープラーニングにとって難しい。 事前学習された知識は、学習されたドメインや新しいドメインについて強い仮定をしなければ、うまく伝達しない。 本研究は,ラベル付き関連ドメインからの知識伝達により,新規ドメインにおける未ラベル対象データの識別潜在空間を学習することを目的とする。
  論文  参考訳（メタデータ） (2020-06-08T16:42:17Z)
• Domain Adaption for Knowledge Tracing [65.86619804954283]
  本稿では,DAKT問題に対処するための新しい適応型フレームワーク,すなわち知識追跡(AKT)を提案する。 まず,Deep Knowledge Trace(DKT)に基づく教育的特徴(スリップ,推測,質問文など)を取り入れ,優れた知識追跡モデルを得る。 第2の側面として、3つのドメイン適応プロセスを提案し、採用する。まず、ターゲットモデルトレーニングに有用なソースインスタンスを選択するために、自動エンコーダを事前訓練する。
  論文  参考訳（メタデータ） (2020-01-14T15:04:48Z)
• Multi-source Domain Adaptation for Visual Sentiment Classification [92.53780541232773]
  マルチソース・ドメイン適応(MDA)手法をMSGAN(Multi-source Sentiment Generative Adversarial Network)と呼ぶ。 複数のソースドメインからのデータを扱うために、MSGANはソースドメインとターゲットドメインの両方のデータが同じ分布を共有する、統一された感情潜在空間を見つけることを学ぶ。 4つのベンチマークデータセットで実施された大規模な実験により、MSGANは視覚的感情分類のための最先端のMDAアプローチよりも大幅に優れていることが示された。
  論文  参考訳（メタデータ） (2020-01-12T08:37:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。