論文の概要: Improving Limited Labeled Dialogue State Tracking with Self-Supervision

• arxiv url: http://arxiv.org/abs/2010.13920v1
• Date: Mon, 26 Oct 2020 21:57:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 17:55:28.234514
• Title: Improving Limited Labeled Dialogue State Tracking with Self-Supervision
• Title（参考訳）: 自己スーパービジョンによる限定ラベル付き対話状態追跡の改善
• Authors: Chien-Sheng Wu and Steven Hoi and Caiming Xiong
• Abstract要約: 既存の対話状態追跡(DST)モデルには多くのラベル付きデータが必要である。 本稿では,潜在的一貫性の維持と対話行動のモデル化という,自己指導型の2つの目的について検討する。 提案する自己教師型信号は,1%のラベル付きデータのみを使用する場合,関節ゴール精度を8.95%向上させることができる。
• 参考スコア（独自算出の注目度）: 91.68515201803986
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing dialogue state tracking (DST) models require plenty of labeled data. However, collecting high-quality labels is costly, especially when the number of domains increases. In this paper, we address a practical DST problem that is rarely discussed, i.e., learning efficiently with limited labeled data. We present and investigate two self-supervised objectives: preserving latent consistency and modeling conversational behavior. We encourage a DST model to have consistent latent distributions given a perturbed input, making it more robust to an unseen scenario. We also add an auxiliary utterance generation task, modeling a potential correlation between conversational behavior and dialogue states. The experimental results show that our proposed self-supervised signals can improve joint goal accuracy by 8.95\% when only 1\% labeled data is used on the MultiWOZ dataset. We can achieve an additional 1.76\% improvement if some unlabeled data is jointly trained as semi-supervised learning. We analyze and visualize how our proposed self-supervised signals help the DST task and hope to stimulate future data-efficient DST research.
• Abstract（参考訳）: 既存の対話状態追跡(DST)モデルには多くのラベル付きデータが必要である。 しかし、特にドメイン数が増えると、高品質なラベルの収集はコストがかかる。 本稿では,限られたラベル付きデータで効率的に学習するなど,ほとんど議論されない実践的なDST問題に対処する。 我々は,潜在一貫性の維持と会話行動のモデル化という2つの自己監視目標を提示・検討する。 我々はDSTモデルに対して、摂動入力が与えられたとき、一貫した潜伏分布を持つことを推奨する。 また、対話行動と対話状態の潜在的な相関をモデル化する補助発話生成タスクも追加する。 実験の結果,MultiWOZデータセット上でラベル付きデータのみを使用する場合,提案した自己教師型信号は関節ゴール精度を8.95 %向上できることがわかった。 ラベルのないデータを半教師付き学習として共同で訓練すれば,さらに1.76 %の改善が達成できる。 提案する自己教師付き信号がdst課題にどのように役立つかを分析し,可視化し,今後のdst研究の促進を期待する。

関連論文リスト

• Self-Training with Pseudo-Label Scorer for Aspect Sentiment Quad Prediction [54.23208041792073]
  Aspect Sentiment Quad Prediction (ASQP) は、与えられたレビューに対して全てのクワッド(アスペクト項、アスペクトカテゴリー、意見項、感情極性)を予測することを目的としている。 ASQPタスクにおける重要な課題はラベル付きデータの不足であり、既存のメソッドのパフォーマンスを制限している。 そこで我々は,擬似ラベルスコアラーを用いた自己学習フレームワークを提案し,レビューと擬似ラベルの一致をスコアラーが評価する。
  論文  参考訳（メタデータ） (2024-06-26T05:30:21Z)
• UNO-DST: Leveraging Unlabelled Data in Zero-Shot Dialogue State Tracking [54.51316566989655]
  従来のゼロショット対話状態追跡(DST)手法は、対象領域における非競合データを無視して、転送学習のみを適用した。 我々は,ゼロショットDSTを,ジョイントおよび自己学習手法による非ラベルデータを利用して,少数ショットDSTに変換する。 ゼロショットシナリオにおける汎用言語モデルに対する本手法の有効性を実証し、MultiWOZの全ドメインで平均的な共同ゴール精度を8%向上する。
  論文  参考訳（メタデータ） (2023-10-16T15:16:16Z)
• Unified Visual Relationship Detection with Vision and Language Models [89.77838890788638]
  この研究は、複数のデータセットからラベル空間の結合を予測する単一の視覚的関係検出器のトレーニングに焦点を当てている。 視覚と言語モデルを活用した統合視覚関係検出のための新しいボトムアップ手法UniVRDを提案する。 人物体間相互作用検出とシーングラフ生成の双方による実験結果から,本モデルの競合性能が示された。
  論文  参考訳（メタデータ） (2023-03-16T00:06:28Z)
• Self-Training with Purpose Preserving Augmentation Improves Few-shot Generative Dialogue State Tracking [14.709084509818474]
  対話状態追跡(DST)では、データセットのラベル付けにはかなりの人的労力がかかる。 そこで本稿では,ラベルなしデータを利用した少数ショット生成DSTのための新たな自己学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-11-17T07:13:58Z)
• CSS: Combining Self-training and Self-supervised Learning for Few-shot Dialogue State Tracking [36.18207750352937]
  DST(Few-shot dialogue state tracking)は、ラベル付きデータでDSTモデルを訓練する現実的な問題である。 自己学習と自己教師型学習を組み合わせたDSTフレームワークCSSを提案する。 また,MultiWOZデータセットを用いた実験結果から,提案したCSSはいくつかのシナリオで競合性能を達成できた。
  論文  参考訳（メタデータ） (2022-10-11T04:55:16Z)
• Robust Dialogue State Tracking with Weak Supervision and Sparse Data [2.580163308334609]
  対話状態追跡(DST)を新しいデータに一般化することは、トレーニング中の豊富なきめ細かい監督に依存しているため困難である。 サンプルの間隔、分布シフト、新しい概念やトピックの発生は、しばしば推論中に深刻なパフォーマンス劣化を引き起こす。 そこで本研究では,詳細な手動スパンラベルを必要とせず,抽出DSTモデルを構築するためのトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-07T16:58:12Z)
• Prompt Learning for Few-Shot Dialogue State Tracking [75.50701890035154]
  本稿では,限られたラベル付きデータを用いて,対話状態追跡(DST)モデルを効率的に学習する方法に焦点を当てる。 本稿では,2つの主要なコンポーネントである値ベースプロンプトと逆プロンプト機構からなる,数ショットDSTのためのプロンプト学習フレームワークを設計する。 実験により、我々のモデルは未確認のスロットを生成し、既存の最先端の数ショット法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-01-15T07:37:33Z)
• Unsupervised Domain Adaptive Learning via Synthetic Data for Person Re-identification [101.1886788396803]
  人物再識別(re-ID)は、ビデオ監視に広く応用されているため、ますます注目を集めている。 残念なことに、主流のディープラーニング手法では、モデルをトレーニングするために大量のラベル付きデータが必要です。 本稿では,コンピュータゲーム内で合成されたre-IDサンプルを自動的に生成するデータコレクタを開発し,同時にアノテートするデータラベラを構築した。
  論文  参考訳（メタデータ） (2021-09-12T15:51:41Z)
• Dual Learning for Dialogue State Tracking [44.679185483585364]
  対話状態追跡(DST)とは、各ターンの対話状態を推定することである。 複雑な対話履歴のコンテキストに依存するため、DSTデータアノテーションは単文言語理解よりも高価である。 ラベルのないデータを完全に活用するための新しい二元学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-09-22T10:15:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。