論文の概要: Exploring the Limits of Natural Language Inference Based Setup for
Few-Shot Intent Detection
- arxiv url: http://arxiv.org/abs/2112.07434v2
- Date: Tue, 26 Dec 2023 06:59:28 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-27 23:28:23.326670
- Title: Exploring the Limits of Natural Language Inference Based Setup for
Few-Shot Intent Detection
- Title(参考訳): Few-Shot Intent Detectionのための自然言語推論に基づくセットアップの限界探索
- Authors: Ayush Kumar, Vijit Malik, Jithendra Vepa
- Abstract要約: 汎用的なFewショットインテント検出は、より現実的だが難しいセットアップである。
自然言語推論に基づくシンプルで効果的な手法を用いる。
提案手法は,1ショットと5ショットのインテント検出タスクにおいて,最先端の処理結果を実現する。
- 参考スコア(独自算出の注目度): 13.971616443394474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Intent Detection is one of the core tasks of dialog systems. Few-shot Intent
Detection is challenging due to limited number of annotated utterances for
novel classes. Generalized Few-shot intent detection is more realistic but
challenging setup which aims to discriminate the joint label space of both
novel intents which have few examples each and existing intents consisting of
enough labeled data. Large label spaces and fewer number of shots increase the
complexity of the task. In this work, we employ a simple and effective method
based on Natural Language Inference that leverages the semantics in the
class-label names to learn and predict the novel classes. Our method achieves
state-of-the-art results on 1-shot and 5-shot intent detection task with gains
ranging from 2-8\% points in F1 score on four benchmark datasets. Our method
also outperforms existing approaches on a more practical setting of generalized
few-shot intent detection with gains up to 20% F1 score. We show that the
suggested approach performs well across single and multi domain datasets with
the number of class labels from as few as 7 to as high as 150.
- Abstract(参考訳): Intent Detectionはダイアログシステムのコアタスクの1つである。
新規クラスに対する注釈付き発話の数が限られているため,インテント検出は困難である。
一般化されたFewショットインテント検出はより現実的であるが、十分なラベル付きデータからなるサンプルがほとんどない新規インテントと既存のインテントの両方のジョイントラベル空間を識別することを目的としている。
大きなラベルスペースと少ないショットによって、タスクの複雑さが増す。
本研究では,クラスラベル名のセマンティクスを活用して新しいクラスを学習し,予測する,自然言語推論に基づくシンプルで効果的な手法を用いる。
提案手法は,F1の2~8ポイントから4つのベンチマークデータセットのゲインを含む1ショット5ショットインテント検出タスクにおける最先端結果を実現する。
また,本手法は,最大20%のF1スコアを獲得して,より実践的な数ショットインテント検出の手法よりも優れている。
提案手法は,クラスラベル数を最大7から150まで,単一ドメインと複数ドメインのデータセットにまたがって良好に機能することを示す。
関連論文リスト
- All Labels Together: Low-shot Intent Detection with an Efficient Label
Semantic Encoding Paradigm [48.02790193676742]
インテント検出タスクでは、インテントラベルから意味のあるセマンティック情報を活用することは、いくつかのシナリオで特に有用である。
本稿では,全てのラベル候補に対する入力音声の比較が可能なエンドツーエンドのワン・ツー・オールシステムを提案する。
数発のインテント検出タスクの実験では、トレーニングリソースが極めて少ない場合、One-to-Allが特に有効であることが示されている。
論文 参考訳(メタデータ) (2023-09-07T08:50:45Z) - New Intent Discovery with Pre-training and Contrastive Learning [21.25371293641141]
新しい意図発見は、ユーザ発話から新しい意図カテゴリーを明らかにして、サポート対象クラスのセットを拡張することを目的としている。
既存のアプローチは通常、大量のラベル付き発話に依存する。
本稿では,クラスタリングのためのラベルなしデータにおける自己超越的信号を活用するために,新たなコントラスト損失を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:07:25Z) - Few-Shot Intent Detection via Contrastive Pre-Training and Fine-Tuning [27.154414939086426]
コントラスト付き事前学習と微調整を併用した簡易かつ効果的に数発のインテント検出方式を提案する。
まず、収集した意図データセットに基づいて、自己教師付きコントラスト事前学習を行い、意味論的に類似した発話を識別することを暗黙的に学習する。
次に、教師付きコントラスト学習とともに、数発のインテント検出を行い、同じインテントから発声を明示的に引き出す。
論文 参考訳(メタデータ) (2021-09-13T22:28:58Z) - Discriminative Nearest Neighbor Few-Shot Intent Detection by
Transferring Natural Language Inference [150.07326223077405]
データ不足を緩和するためには、ほとんどショットラーニングが注目を集めている。
深部自己注意を伴う識別的近傍分類を提示する。
自然言語推論モデル(NLI)を変換することで識別能力を高めることを提案する。
論文 参考訳(メタデータ) (2020-10-25T00:39:32Z) - Few-shot Learning for Multi-label Intent Detection [59.66787898744991]
State-of-the-art work estimates label-instancelevance scores and using threshold to select multiple associated intent labels。
2つのデータセットの実験により、提案モデルが1ショットと5ショットの両方の設定において強いベースラインを著しく上回ることが示された。
論文 参考訳(メタデータ) (2020-10-11T14:42:18Z) - Dynamic Semantic Matching and Aggregation Network for Few-shot Intent
Detection [69.2370349274216]
利用可能な注釈付き発話が不足しているため、インテント検出は困難である。
セマンティック成分はマルチヘッド自己認識によって発話から蒸留される。
本手法はラベル付きインスタンスとラベルなしインスタンスの両方の表現を強化するための総合的なマッチング手段を提供する。
論文 参考訳(メタデータ) (2020-10-06T05:16:38Z) - Any-Shot Object Detection [81.88153407655334]
「アニーショット検出」とは、全く見えず、数発のカテゴリが推論中に同時に共起できる場所である。
我々は、ゼロショットと少数ショットの両方のオブジェクトクラスを同時に検出できる、統合された任意のショット検出モデルを提案する。
我々のフレームワークは、ゼロショット検出とFewショット検出タスクにのみ使用できる。
論文 参考訳(メタデータ) (2020-03-16T03:43:15Z) - Efficient Intent Detection with Dual Sentence Encoders [53.16532285820849]
本稿では,USE や ConveRT などの事前訓練された二重文エンコーダによるインテント検出手法を提案する。
提案するインテント検出器の有用性と適用性を示し,完全なBERT-Largeモデルに基づくインテント検出器よりも優れた性能を示す。
コードだけでなく、新しい挑戦的な単一ドメイン意図検出データセットもリリースしています。
論文 参考訳(メタデータ) (2020-03-10T15:33:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。