論文の概要: Efficient Dialogue State Tracking by Masked Hierarchical Transformer
- arxiv url: http://arxiv.org/abs/2106.14433v1
- Date: Mon, 28 Jun 2021 07:35:49 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-29 22:58:26.720859
- Title: Efficient Dialogue State Tracking by Masked Hierarchical Transformer
- Title（参考訳）: Masked Hierarchical Transformer による効率的な対話状態追跡
- Authors: Min Mao, Jiasheng Liu, Jingyao Zhou, Haipang Wu
- Abstract要約: 我々は、リッチリソース言語によるトレーニングセットと低リソース言語によるテストセットを備えた言語間ダイアログ状態トラッカーを構築した。
スロット操作分類タスクと状態追跡タスクを共同学習する手法を定式化する。
- 参考スコア（独自算出の注目度）: 0.3441021278275805
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper describes our approach to DSTC 9 Track 2: Cross-lingual
Multi-domain Dialog State Tracking, the task goal is to build a Cross-lingual
dialog state tracker with a training set in rich resource language and a
testing set in low resource language. We formulate a method for joint learning
of slot operation classification task and state tracking task respectively.
Furthermore, we design a novel mask mechanism for fusing contextual information
about dialogue, the results show the proposed model achieves excellent
performance on DSTC Challenge II with a joint accuracy of 62.37% and 23.96% in
MultiWOZ(en - zh) dataset and CrossWOZ(zh - en) dataset, respectively.
- Abstract（参考訳）: 本稿では,dstc 9トラック2へのアプローチについて述べる。 クロスリンガルマルチドメインダイアログ状態追跡,タスク目標は,リッチリソース言語によるトレーニングセットと低リソース言語によるテストセットを備えたクロスリンガルダイアログ状態トラッカの構築である。
スロット操作分類タスクと状態追跡タスクをそれぞれ共同学習する方法を定式化する。
さらに,対話に関する文脈情報を融合する新しいマスク機構を設計し,提案手法はDSTC Challenge IIにおいて,MultiWOZ(en - zh)データセットとCrossWOZ(zh - en)データセットで62.37%,23.96%の精度で優れた性能を発揮することを示した。
関連論文リスト
- Efficiently Aligned Cross-Lingual Transfer Learning for Conversational
Tasks using Prompt-Tuning [98.60739735409243]
英語のような高リソース言語で訓練された言語モデルの言語間移動は、多くのNLPタスクのために広く研究されている。
並列および大規模多言語会話データセットである言語間アライメント事前学習のためのXSGDを導入する。
協調的な言語間表現を容易にするために,アライメントプロンプトを学習するための効率的なプロンプトチューニング手法を開発した。
論文 参考訳（メタデータ） (2023-04-03T18:46:01Z) - OCHADAI at SemEval-2022 Task 2: Adversarial Training for Multilingual
Idiomaticity Detection [4.111899441919165]
文が慣用的表現を含むか否かを判定する多言語逆行訓練モデルを提案する。
我々のモデルは、異なる多言語変換言語モデルからの事前学習された文脈表現に依存している。
論文 参考訳（メタデータ） (2022-06-07T05:52:43Z) - Multi2WOZ: A Robust Multilingual Dataset and Conversational Pretraining
for Task-Oriented Dialog [67.20796950016735]
Multi2WOZデータセットは、中国語、ドイツ語、アラビア語、ロシア語の4つの言語にまたがる。
本稿では,任意の下流TODタスクに対する言語間移動を容易にすることを目的とした,事前学習言語モデル(PrLM)の多言語会話特化のための新しいフレームワークを提案する。
実験の結果,目標言語における(I)会話の特殊化と,(II)具体的なTODタスクのための少数ショット転送の組み合わせが,ほとんどの場合,最高の性能を示すことがわかった。
論文 参考訳（メタデータ） (2022-05-20T18:35:38Z) - Scheduled Multi-task Learning for Neural Chat Translation [66.81525961469494]
ニューラルチャット翻訳(NCT)のためのマルチタスク学習フレームワークを提案する。
具体的には、大規模なドメイン内チャット翻訳データをトレーニングに組み込むための3段階のトレーニングフレームワークを考案する。
提案手法の有効性と優越性を検証するために, 4言語方向の広範囲な実験を行った。
論文 参考訳（メタデータ） (2022-05-08T02:57:28Z) - Cross-Lingual Dialogue Dataset Creation via Outline-Based Generation [70.81596088969378]
言語間アウトラインに基づく対話データセット(COD)は、自然言語の理解を可能にする。
CODは、4つの異なる言語で対話状態の追跡とエンドツーエンドの対話モデリングと評価を可能にする。
論文 参考訳（メタデータ） (2022-01-31T18:11:21Z) - Cross-lingual Intermediate Fine-tuning improves Dialogue State Tracking [84.50302759362698]
我々は、事前訓練された多言語モデルの中間微調整により、伝達学習プロセスを強化する。
我々は、パラレルおよび会話型の映画字幕データセットを使用して、言語間中間タスクを設計する。
パラレルなMultiWoZデータセットとMultilingual WoZデータセットの精度を20%向上させる。
論文 参考訳（メタデータ） (2021-09-28T11:22:38Z) - An Empirical Study of Cross-Lingual Transferability in Generative
Dialogue State Tracker [33.2309643963072]
多言語事前学習セq2seqモデルを用いた言語間対話状態追跡システムの転送可能性について検討した。
また、我々のアプローチの低言語間移動可能性も調べ、調査と議論を行う。
論文 参考訳（メタデータ） (2021-01-27T12:45:55Z) - Cross-lingual Approaches for Task-specific Dialogue Act Recognition [1.8352113484137629]
言語間モデルを利用して、少数のアノテーションで特定のタスクに対する対話行動認識を可能にする。
対話行動認識のための伝達学習手法を設計し、2つの異なる言語とドメインで検証する。
論文 参考訳（メタデータ） (2020-05-19T07:44:48Z) - Modeling Long Context for Task-Oriented Dialogue State Generation [51.044300192906995]
本稿では,シンプルで効果的な発話タグ付け手法と双方向言語モデルを用いたマルチタスク学習モデルを提案する。
提案手法は,入力対話コンテキストシーケンスが長い場合に,ベースラインの性能が著しく低下する,という問題を解決する。
本実験では,MultiWOZ 2.0データセットにおいて,ベースラインに対して7.03%の相対的改善を実現し,新しい最先端のジョイントゴール精度を52.04%に設定した。
論文 参考訳（メタデータ） (2020-04-29T11:02:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。