論文の概要: Analysis of Utterance Embeddings and Clustering Methods Related to
Intent Induction for Task-Oriented Dialogue
- arxiv url: http://arxiv.org/abs/2212.02021v2
- Date: Tue, 6 Dec 2022 01:54:54 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 13:09:14.094431
- Title: Analysis of Utterance Embeddings and Clustering Methods Related to
Intent Induction for Task-Oriented Dialogue
- Title(参考訳): タスク指向対話におけるインテント誘導による発話埋め込みとクラスタリング手法の解析
- Authors: Jeiyoon Park, Yoonna Jang, Chanhee Lee, Heuiseok Lim
- Abstract要約: 本稿では,タスク指向のダイアログスキーマの設計において,重要な課題を克服するための教師なしアプローチについて検討する。
意図の自動誘導には,(1)インテントラベリングのためのクラスタリングアルゴリズム,(2)ユーザ発話の埋め込み空間の2つの因果関係を仮定する。
クラスタリングによる事前学習により,NMI, ARI, F1, 精度, インテント誘導タスクにおけるサンプルカバレッジが大幅に向上したことを示す。
- 参考スコア(独自算出の注目度): 4.449841326049681
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper investigates unsupervised approaches to overcome quintessential
challenges in designing task-oriented dialog schema: assigning intent labels to
each dialog turn (intent clustering) and generating a set of intents based on
the intent clustering methods (intent induction). We postulate there are two
salient factors for automatic induction of intents: (1) clustering algorithm
for intent labeling and (2) user utterance embedding space. We compare existing
off-the-shelf clustering models and embeddings based on DSTC11 evaluation. Our
extensive experiments demonstrate that we sholud add two huge caveat that
selection of utterance embedding and clustering method in intent induction task
should be very careful. We also present that pretrained MiniLM with
Agglomerative clustering shows significant improvement in NMI, ARI, F1,
accuracy and example coverage in intent induction tasks. The source code for
reimplementation will be available at Github.
- Abstract(参考訳): 本稿では,タスク指向ダイアログスキーマの設計における非教師なしアプローチについて検討する。各ダイアログターンにインテントラベルを割り当てる(インテントクラスタリング)とともに,インテントクラスタリング手法(インテント誘導)に基づいたインテントセットを生成する。
意図の自動誘導には,(1)インテントラベリングのためのクラスタリングアルゴリズム,(2)ユーザ発話の埋め込み空間の2つの因果関係を仮定する。
既存の市販クラスタリングモデルとDSTC11評価に基づく埋め込みを比較した。
広範な実験により,インテント誘導タスクにおける発話埋め込みとクラスタリング方法の選択が非常に注意すべき2つの大きな注意点が付け加えられた。
また,Agglomerative clusteringによる事前学習したMiniLMは,NMI,ARI,F1,精度,インテント誘導タスクにおけるサンプルカバレッジを著しく向上させることを示した。
再実装のためのソースコードはgithubで入手できる。
関連論文リスト
- IntenDD: A Unified Contrastive Learning Approach for Intent Detection
and Discovery [12.905097743551774]
バックボーンを符号化する共有発話を利用した統一手法であるIntenDDを提案する。
IntenDDは完全に教師なしのコントラスト学習戦略を用いて表現学習を行う。
当社のアプローチは,3つのタスクのすべてにおいて,競争上のベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2023-10-25T16:50:24Z) - Slot Induction via Pre-trained Language Model Probing and Multi-level
Contrastive Learning [62.839109775887025]
トークンレベルのスロットアノテーションの明示的な知識なしでスロット境界を誘導することを目的としたスロットインジェクション(SI)タスク。
PLMから抽出した教師なし意味知識を活用するために、教師なし事前学習言語モデル(PLM)探索とコントラスト学習機構を活用することを提案する。
提案手法は,2つのNLUベンチマークデータセット上でトークンレベルの教師付きモデルとのギャップを埋めることができ,SIタスクに有効であることが示されている。
論文 参考訳(メタデータ) (2023-08-09T05:08:57Z) - Neural Coreference Resolution based on Reinforcement Learning [53.73316523766183]
コアレゾリューションシステムは2つのサブタスクを解決する必要がある。
ひとつのタスクは、潜在的な言及のすべてを検出することであり、もう1つは、可能な言及ごとに前者のリンクを学習することである。
本稿では,アクターをベースとした強化学習型ニューラルコア参照分解システムを提案する。
論文 参考訳(メタデータ) (2022-12-18T07:36:35Z) - New Intent Discovery with Pre-training and Contrastive Learning [21.25371293641141]
新しい意図発見は、ユーザ発話から新しい意図カテゴリーを明らかにして、サポート対象クラスのセットを拡張することを目的としている。
既存のアプローチは通常、大量のラベル付き発話に依存する。
本稿では,クラスタリングのためのラベルなしデータにおける自己超越的信号を活用するために,新たなコントラスト損失を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:07:25Z) - Dialog Intent Induction via Density-based Deep Clustering Ensemble [12.05997006407326]
リアルタイムアプリケーションでは,会話ログから新たな対話意図を誘導し,ユーザエクスペリエンスを向上させることが重要である。
ダイアログ意図誘導のための密度ベースDeep Clustering Ensemble (DDCE) 手法を提案する。
提案手法は,多数の外れ値が存在する実生活シナリオの処理に有効である。
論文 参考訳(メタデータ) (2022-01-18T04:13:26Z) - A Proposition-Level Clustering Approach for Multi-Document Summarization [82.4616498914049]
クラスタリングアプローチを再検討し、より正確な情報アライメントの提案をグループ化します。
提案手法は,有意な命題を検出し,それらをパラフラスティックなクラスタに分類し,その命題を融合して各クラスタの代表文を生成する。
DUC 2004 とTAC 2011 データセットでは,従来の最先端 MDS 法よりも要約法が優れている。
論文 参考訳(メタデータ) (2021-12-16T10:34:22Z) - Hierarchical Modeling for Out-of-Scope Domain and Intent Classification [55.23920796595698]
本稿では,対話システムにおけるスコープ外意図分類に焦点をあてる。
ドメインとインテントを同時に分類する共同モデルに基づく階層型マルチタスク学習手法を提案する。
実験により、モデルが既存の手法よりも精度、スコープ外リコール、F1で優れていることが示された。
論文 参考訳(メタデータ) (2021-04-30T06:38:23Z) - Open Intent Discovery through Unsupervised Semantic Clustering and
Dependency Parsing [44.99113692679489]
本稿では,意図発見のための教師なし2段階アプローチを提案し,ラベルなし発話の集合から意図ラベルを自動的に生成する。
提案手法が有意義なインテントラベルを自動的に生成し,発話クラスタリングやインテント発見において高精度かつリコールを実現することを示す。
論文 参考訳(メタデータ) (2021-04-25T09:36:23Z) - Discovering New Intents with Deep Aligned Clustering [19.11073686645496]
限定された既知の意図データを用いて新しい意図を発見するための効果的な方法であるDeep Aligned Clusteringを提案する。
未知の新たな意図によって、低信頼な意図的クラスタを排除し、意図的カテゴリの数を予測する。
2つのベンチマークデータセットの実験は、私たちの方法がより堅牢であり、最先端の方法よりも大幅に改善されることを示しています。
論文 参考訳(メタデータ) (2020-12-16T14:32:06Z) - AGIF: An Adaptive Graph-Interactive Framework for Joint Multiple Intent
Detection and Slot Filling [69.59096090788125]
本稿では,多目的検出とスロットフィリングを併用する適応グラフ対話フレームワーク(AGIF)を提案する。
スロットとインテントの強い相関関係をモデル化するために,インテント-スロットグラフ相互作用層を導入する。
このような相互作用層が各トークンに適応的に適用され、関連する意図情報を自動抽出する利点がある。
論文 参考訳(メタデータ) (2020-04-21T15:07:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。