論文の概要: Pseudo-Label Enhanced Prototypical Contrastive Learning for Uniformed Intent Discovery

• arxiv url: http://arxiv.org/abs/2410.20219v1
• Date: Sat, 26 Oct 2024 16:22:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-29 12:14:37.726135
• Title: Pseudo-Label Enhanced Prototypical Contrastive Learning for Uniformed Intent Discovery
• Title（参考訳）: Pseudo-Labelによる一様インテント発見のための原型コントラスト学習
• Authors: Yimin Deng, Yuxia Wu, Guoshuai Zhao, Li Zhu, Xueming Qian,
• Abstract要約: Pseudo-Label enhanced Prototypeal Contrastive Learning (PLPCL) モデルを提案する。 擬似ラベルを用いて、表現とクラスタリングのギャップを埋めるコントラスト学習のための潜在的正・負のサンプルを探索する。 提案手法は,新たな意図を発見するための2つの異なる設定において有効であることが証明されている。
• 参考スコア（独自算出の注目度）: 27.18799732585361
• License:
• Abstract: New intent discovery is a crucial capability for task-oriented dialogue systems. Existing methods focus on transferring in-domain (IND) prior knowledge to out-of-domain (OOD) data through pre-training and clustering stages. They either handle the two processes in a pipeline manner, which exhibits a gap between intent representation and clustering process or use typical contrastive clustering that overlooks the potential supervised signals from the whole data. Besides, they often individually deal with open intent discovery or OOD settings. To this end, we propose a Pseudo-Label enhanced Prototypical Contrastive Learning (PLPCL) model for uniformed intent discovery. We iteratively utilize pseudo-labels to explore potential positive/negative samples for contrastive learning and bridge the gap between representation and clustering. To enable better knowledge transfer, we design a prototype learning method integrating the supervised and pseudo signals from IND and OOD samples. In addition, our method has been proven effective in two different settings of discovering new intents. Experiments on three benchmark datasets and two task settings demonstrate the effectiveness of our approach.
• Abstract（参考訳）: 新しい意図発見はタスク指向対話システムにとって重要な機能である。 既存の方法は、事前トレーニングとクラスタリングの段階を通じて、ドメイン内(IND)の知識をドメイン外(OOD)データに転送することに焦点を当てている。 パイプライン方式で2つのプロセスを処理するか、インテント表現とクラスタリングプロセスのギャップを示すか、あるいはデータ全体から潜在的に監督された信号を見渡す典型的なコントラストクラスタリングを使用する。 さらに、オープンインテントの発見やOOD設定を個別に扱うことが多い。 そこで本研究では,Pseudo-Labelの拡張型プロトタイプコントラスト学習(PLPCL)モデルを提案する。 擬似ラベルを用いて、表現とクラスタリングのギャップを埋めるコントラスト学習のための潜在的正・負のサンプルを探索する。 より優れた知識伝達を実現するために、INDとOODのサンプルから教師付き信号と疑似信号を統合するプロトタイプ学習手法を設計する。 さらに,本手法は,新たな意図を発見するための2つの異なる設定において有効であることが証明された。 3つのベンチマークデータセットと2つのタスク設定の実験は、我々のアプローチの有効性を実証している。

関連論文リスト

• TrajSSL: Trajectory-Enhanced Semi-Supervised 3D Object Detection [59.498894868956306]
  Pseudo-labeling approach to semi-supervised learning は教師-学生の枠組みを採用する。 我々は、事前学習した動き予測モデルを活用し、擬似ラベル付きデータに基づいて物体軌跡を生成する。 提案手法は2つの異なる方法で擬似ラベル品質を向上する。
  論文  参考訳（メタデータ） (2024-09-17T05:35:00Z)
• Out-of-Domain Intent Detection Considering Multi-Turn Dialogue Contexts [91.43701971416213]
  我々は,OODインテント検出タスクにおけるマルチターンコンテキストをモデル化するためのコンテキスト認識型OODインテント検出(Caro)フレームワークを提案する。 CaroはF1-OODスコアを29%以上改善することで、マルチターンOOD検出タスクの最先端性能を確立している。
  論文  参考訳（メタデータ） (2023-05-05T01:39:21Z)
• Cluster-aware Contrastive Learning for Unsupervised Out-of-distribution Detection [0.0]
  教師なしアウト・オブ・ディストリビューション(OOD)検出は、ラベル情報なしでトレーニングデータの分布外に落下するサンプルを分離することを目的としている。 本稿では,インスタンスレベルの情報と意味レベルの情報の両方を考慮した,教師なしOOD検出のためのクラスタ対応コントラスト学習(CCL)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-02-06T07:21:03Z)
• New Intent Discovery with Pre-training and Contrastive Learning [21.25371293641141]
  新しい意図発見は、ユーザ発話から新しい意図カテゴリーを明らかにして、サポート対象クラスのセットを拡張することを目的としている。 既存のアプローチは通常、大量のラベル付き発話に依存する。 本稿では,クラスタリングのためのラベルなしデータにおける自己超越的信号を活用するために,新たなコントラスト損失を提案する。
  論文  参考訳（メタデータ） (2022-05-25T17:07:25Z)
• Towards Textual Out-of-Domain Detection without In-Domain Labels [41.23096594140221]
  この研究は、ドメイン内のデータのラベルにアクセスできないOOD検出の難しいケースに焦点を当てている。 まず、トークン列の確率を予測する異なる言語モデルに基づくアプローチを評価する。 教師なしクラスタリングとコントラスト学習を組み合わせた表現学習手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T00:11:46Z)
• Activation to Saliency: Forming High-Quality Labels for Unsupervised Salient Object Detection [54.92703325989853]
  本稿では,高品質なサリエンシキューを効果的に生成する2段階アクティベーション・ツー・サリエンシ(A2S)フレームワークを提案する。 トレーニングプロセス全体において、私たちのフレームワークにヒューマンアノテーションは関与していません。 本フレームワークは,既存のUSOD法と比較して高い性能を示した。
  論文  参考訳（メタデータ） (2021-12-07T11:54:06Z)
• Few-Shot Fine-Grained Action Recognition via Bidirectional Attention and Contrastive Meta-Learning [51.03781020616402]
  現実世界のアプリケーションで特定のアクション理解の需要が高まっているため、きめ細かいアクション認識が注目を集めている。 そこで本研究では,各クラスに付与されるサンプル数だけを用いて,新規なきめ細かい動作を認識することを目的とした,数発のきめ細かな動作認識問題を提案する。 粒度の粗い動作では進展があったが、既存の数発の認識手法では、粒度の細かい動作を扱う2つの問題に遭遇する。
  論文  参考訳（メタデータ） (2021-08-15T02:21:01Z)
• Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for Open-Set Semi-Supervised Learning [101.28281124670647]
  オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。 我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。 我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
  論文  参考訳（メタデータ） (2021-08-12T09:14:44Z)
• CSI: Novelty Detection via Contrastive Learning on Distributionally Shifted Instances [77.28192419848901]
  コントラストシフトインスタンス (CSI) という,単純かつ効果的な手法を提案する。 従来のコントラスト学習法のように,サンプルを他の例と対比することに加えて,本トレーニング手法では,サンプルを分散シフトによる拡張と対比する。 本実験は, 種々の新規検出シナリオにおける本手法の優位性を実証する。
  論文  参考訳（メタデータ） (2020-07-16T08:32:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。