論文の概要: IntenDD: A Unified Contrastive Learning Approach for Intent Detection and Discovery

• arxiv url: http://arxiv.org/abs/2310.16761v1
• Date: Wed, 25 Oct 2023 16:50:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-26 13:30:41.120817
• Title: IntenDD: A Unified Contrastive Learning Approach for Intent Detection and Discovery
• Title（参考訳）: IntenDD: インテント検出と発見のための一貫したコントラスト学習アプローチ
• Authors: Bhavuk Singhal, Ashim Gupta, Shivasankaran V P, Amrith Krishna
• Abstract要約: バックボーンを符号化する共有発話を利用した統一手法であるIntenDDを提案する。 IntenDDは完全に教師なしのコントラスト学習戦略を用いて表現学習を行う。 当社のアプローチは,3つのタスクのすべてにおいて,競争上のベースラインを一貫して上回ります。
• 参考スコア（独自算出の注目度）: 12.905097743551774
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Identifying intents from dialogue utterances forms an integral component of task-oriented dialogue systems. Intent-related tasks are typically formulated either as a classification task, where the utterances are classified into predefined categories or as a clustering task when new and previously unknown intent categories need to be discovered from these utterances. Further, the intent classification may be modeled in a multiclass (MC) or multilabel (ML) setup. While typically these tasks are modeled as separate tasks, we propose IntenDD, a unified approach leveraging a shared utterance encoding backbone. IntenDD uses an entirely unsupervised contrastive learning strategy for representation learning, where pseudo-labels for the unlabeled utterances are generated based on their lexical features. Additionally, we introduce a two-step post-processing setup for the classification tasks using modified adsorption. Here, first, the residuals in the training data are propagated followed by smoothing the labels both modeled in a transductive setting. Through extensive evaluations on various benchmark datasets, we find that our approach consistently outperforms competitive baselines across all three tasks. On average, IntenDD reports percentage improvements of 2.32%, 1.26%, and 1.52% in their respective metrics for few-shot MC, few-shot ML, and the intent discovery tasks respectively.
• Abstract（参考訳）: 対話発話から意図を特定することは、タスク指向対話システムにおいて不可欠な要素となる。 意図に関連したタスクは、通常、分類タスクとして定式化され、発話が予め定義されたカテゴリに分類されるか、あるいはこれらの発話から新しい未知の意図のカテゴリを発見する必要がある場合にクラスタリングタスクとして分類される。 さらに、インテント分類は、マルチクラス(MC)またはマルチラベル(ML)の設定でモデル化することができる。 通常、これらのタスクは個別のタスクとしてモデル化されるが、バックボーンをコードする共有発話を利用する統一的なアプローチであるIntenDDを提案する。 IntenDDは完全に教師なしのコントラスト学習戦略を用いて表現学習を行い、その語彙的特徴に基づいてラベルなし発話の擬似ラベルを生成する。 さらに, 修正吸着を用いた分類タスクの2段階後処理機構を導入する。 まず、トレーニングデータの残余を伝播させ、その後、両者をトランスダクティブ・セッティングでモデル化したラベルを平滑化する。 様々なベンチマークデータセットに対する広範な評価により、我々のアプローチは3つのタスクの全てで競争ベースラインを一貫して上回っていることが分かりました。 平均して、IntenDDは2.32%、1.26%、1.52%の改善率を示しており、それぞれ数発のMC、数発のML、および目的発見タスクのそれぞれである。

関連論文リスト

• Auxiliary Tasks Enhanced Dual-affinity Learning for Weakly Supervised Semantic Segmentation [79.05949524349005]
  AuxSegNet+は、サリエンシマップから豊富な情報を探索する弱教師付き補助学習フレームワークである。 また,サリエンシとセグメンテーションの特徴マップから画素レベルの親和性を学習するためのクロスタスク親和性学習機構を提案する。
  論文  参考訳（メタデータ） (2024-03-02T10:03:21Z)
• Generalized Category Discovery with Clustering Assignment Consistency [56.92546133591019]
  一般化圏発見(GCD)は、最近提案されたオープンワールドタスクである。 クラスタリングの一貫性を促進するための協調学習ベースのフレームワークを提案する。 提案手法は,3つの総合的なベンチマークと3つのきめ細かい視覚認識データセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-10-30T00:32:47Z)
• Multi-Task Consistency for Active Learning [18.794331424921946]
  不整合に基づくアクティブラーニングは、アノテーションに対する情報的サンプルの選択に有効であることが証明されている。 本稿では,オブジェクト検出とセマンティックセグメンテーションという2つの複合視覚タスクのための,新しいマルチタスク能動学習戦略を提案する。 提案手法は、利用可能なデータのわずか67%を使用して、完全にトレーニングされたパフォーマンスの95%を達成している。
  論文  参考訳（メタデータ） (2023-06-21T17:34:31Z)
• IDAS: Intent Discovery with Abstractive Summarization [16.731183915325584]
  目的発見における近年の競合手法は,抽象的な要約に基づく発話のクラスタリングによってより優れることを示す。 我々は、大規模言語モデルに促すことで、記述的発話ラベルの集合を収集するIDASアプローチに貢献する。 発話とそのノイズラベルは、凍結した事前訓練されたエンコーダによって符号化され、その後クラスタ化され、潜伏した意図を回復する。
  論文  参考訳（メタデータ） (2023-05-31T12:19:40Z)
• Association Graph Learning for Multi-Task Classification with Category Shifts [68.58829338426712]
  関連する分類タスクが同じラベル空間を共有し、同時に学習されるマルチタスク分類に焦点を当てる。 我々は、不足クラスのためのタスク間で知識を伝達する関連グラフを学習する。 我々の手法は代表的基準よりも一貫して性能が良い。
  論文  参考訳（メタデータ） (2022-10-10T12:37:41Z)
• Few-shot Intent Classification and Slot Filling with Retrieved Examples [30.45269507626138]
  そこで我々は,新しいバッチソフトマックスの手法を用いて,同じラベルを持つスパンの類似した文脈表現を学習するスパンレベル検索手法を提案する。 提案手法は,CLINCおよびSNIPSベンチマークにおいて,様々な数ショット設定で過去のシステムより優れていた。
  論文  参考訳（メタデータ） (2021-04-12T18:50:34Z)
• Adaptive Prototypical Networks with Label Words and Joint Representation Learning for Few-Shot Relation Classification [17.237331828747006]
  本研究は,少ショット関係分類(FSRC)に焦点を当てる。 クラスプロトタイプの表現にラベル単語を追加するための適応的混合機構を提案する。 FewRelでは、異なる数ショット(FS)設定で実験が行われた。
  論文  参考訳（メタデータ） (2021-01-10T11:25:42Z)
• Few-shot Learning for Multi-label Intent Detection [59.66787898744991]
  State-of-the-art work estimates label-instancelevance scores and using threshold to select multiple associated intent labels。 2つのデータセットの実験により、提案モデルが1ショットと5ショットの両方の設定において強いベースラインを著しく上回ることが示された。
  論文  参考訳（メタデータ） (2020-10-11T14:42:18Z)
• Dynamic Semantic Matching and Aggregation Network for Few-shot Intent Detection [69.2370349274216]
  利用可能な注釈付き発話が不足しているため、インテント検出は困難である。 セマンティック成分はマルチヘッド自己認識によって発話から蒸留される。 本手法はラベル付きインスタンスとラベルなしインスタンスの両方の表現を強化するための総合的なマッチング手段を提供する。
  論文  参考訳（メタデータ） (2020-10-06T05:16:38Z)
• Meta-Learning with Context-Agnostic Initialisations [86.47040878540139]
  メタ学習プロセスにコンテキスト・逆成分を導入する。 これにより、コンテキストに依存しないタスクを一般化したターゲットへの微調整の初期化が実現される。 我々は,3つのメタ学習アルゴリズムと2つの問題に対するアプローチを評価した。
  論文  参考訳（メタデータ） (2020-07-29T08:08:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。