論文の概要: Pre-training Multi-party Dialogue Models with Latent Discourse Inference

• arxiv url: http://arxiv.org/abs/2305.15175v1
• Date: Wed, 24 May 2023 14:06:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-25 15:30:00.043388
• Title: Pre-training Multi-party Dialogue Models with Latent Discourse Inference
• Title（参考訳）: 潜在談話推論を用いた事前学習多人数対話モデル
• Authors: Yiyang Li, Xinting Huang, Wei Bi, Hai Zhao
• Abstract要約: 我々は、多人数対話の会話構造、すなわち、各発話が応答する相手を理解するモデルを事前訓練する。 ラベル付きデータを完全に活用するために,談話構造を潜在変数として扱い,それらを共同で推論し,談話認識モデルを事前学習することを提案する。
• 参考スコア（独自算出の注目度）: 85.9683181507206
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-party dialogues are more difficult for models to understand than one-to-one two-party dialogues, since they involve multiple interlocutors, resulting in interweaving reply-to relations and information flows. To step over these obstacles, an effective way is to pre-train a model that understands the discourse structure of multi-party dialogues, namely, to whom each utterance is replying. However, due to the lack of explicitly annotated discourse labels in multi-party dialogue corpora, previous works fail to scale up the pre-training process by putting aside the unlabeled multi-party conversational data for nothing. To fully utilize the unlabeled data, we propose to treat the discourse structures as latent variables, then jointly infer them and pre-train the discourse-aware model by unsupervised latent variable inference methods. Experiments on multiple downstream tasks show that our pre-trained model outperforms strong baselines by large margins and achieves state-of-the-art (SOTA) results, justifying the effectiveness of our method. The official implementation of this paper is available at https://github.com/EricLee8/MPD_EMVI.
• Abstract（参考訳）: マルチパーティ対話は、複数のインターロケータを含むため、モデルにとって1対1の対話よりも理解が難しい。 これらの障害を乗り越えるためには、多人数対話の談話構造を理解するモデル、すなわち各発話が応答するモデルを事前学習することが効果的な方法である。 しかし、マルチパーティ対話コーパスにおける明示的な注釈付き談話ラベルの欠如により、それまでの作業では、ラベルなしのマルチパーティー会話データをそのままにすることで、事前学習プロセスのスケールアップに失敗している。 ラベルなしデータを完全に活用するために, 談話構造を潜在変数として扱い, 教師なし潜伏変数推論法を用いて, 共同推論を行い, 談話認識モデルを事前学習することを提案する。 複数の下流タスクの実験では、事前学習したモデルが強いベースラインを大きなマージンで上回り、最先端(SOTA)の結果が得られ、提案手法の有効性を正当化している。 本論文の公式実装はhttps://github.com/EricLee8/MPD_EMVIで公開されている。

関連論文リスト

• SPECTRUM: Speaker-Enhanced Pre-Training for Long Dialogue Summarization [48.284512017469524]
  マルチターン対話は、その長さとターンテイクな会話の存在によって特徴づけられる。 伝統的な言語モデルは、しばしばそれらの対話の特徴を通常のテキストとして扱うことによって見落としている。 長文対話要約のための話者強化事前学習手法を提案する。
  論文  参考訳（メタデータ） (2024-01-31T04:50:00Z)
• EM Pre-training for Multi-party Dialogue Response Generation [86.25289241604199]
  多人数対話では、応答発話の宛先を生成前に指定する必要がある。 本稿では,アドレナラベルを生成するための期待ステップを反復的に実行する期待最大化(EM)アプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-21T09:22:41Z)
• Stabilized In-Context Learning with Pre-trained Language Models for Few Shot Dialogue State Tracking [57.92608483099916]
  大規模事前学習言語モデル(PLM)は、多くのNLPタスクにまたがる優れた性能を示している。 対話状態追跡(DST)のようなより複雑なタスクでは、望ましい意図を確実に伝達するプロンプトを設計するのは簡単ではない。 対話文の長さを制限するためのサリエンシモデルを導入し、クエリ毎に多くの例を含めることができます。
  論文  参考訳（メタデータ） (2023-02-12T15:05:10Z)
• Collaborative Reasoning on Multi-Modal Semantic Graphs for Video-Grounded Dialogue Generation [53.87485260058957]
  本研究では,対話コンテキストと関連ビデオに基づいて応答を生成するビデオグラウンド・ダイアログ生成について検討する。 本課題の主な課題は,(1)事前学習言語モデル(PLM)に映像データを統合することの難しさである。 異なるモーダルの推論を協調的に行うマルチエージェント強化学習法を提案する。
  論文  参考訳（メタデータ） (2022-10-22T14:45:29Z)
• GRASP: Guiding model with RelAtional Semantics using Prompt [3.1275060062551208]
  本稿では Prompt (GRASP) を用いたRelAtional Semantics を用いた誘導モデルを提案する。 我々は、プロンプトベースの微調整アプローチを採用し、引数を意識したプロンプトマーカー戦略を用いて、ある対話における関係意味的手がかりをキャプチャする。 実験では、DialogREデータセット上でのF1とF1cのスコアの観点から、GRASPの最先端のパフォーマンスが評価された。
  論文  参考訳（メタデータ） (2022-08-26T08:19:28Z)
• Representation Learning for Conversational Data using Discourse Mutual Information Maximization [9.017156603976915]
  構造を意識しない単語・バイ・ワード生成は効果的な会話モデリングには適さないと我々は主張する。 対話表現モデルの学習のための構造認識型相互情報に基づく損失関数DMIを提案する。 本モデルでは,対話評価タスクであるDailyDialog++において,ランダムな負のシナリオと逆のシナリオの両方において,最も有望な性能を示す。
  論文  参考訳（メタデータ） (2021-12-04T13:17:07Z)
• Self- and Pseudo-self-supervised Prediction of Speaker and Key-utterance for Multi-party Dialogue Reading Comprehension [46.69961067676279]
  マルチパーティ対話機械読解(MRC)は,複数の話者が対話を行うため,大きな課題をもたらす。 従来のモデルは、複雑なグラフベースのモジュールを使用して話者情報フローを組み込む方法に重点を置いていた。 本稿では、話者情報の流れを暗黙的にモデル化するために、話者とキー発話における2つの労働自由自助的・疑似自己監督型予測タスクを設計する。
  論文  参考訳（メタデータ） (2021-09-08T16:51:41Z)
• DialogBERT: Discourse-Aware Response Generation via Learning to Recover and Rank Utterances [18.199473005335093]
  本稿では,従来の PLM に基づく対話モデルを強化した対話応答生成モデルである DialogBERT を提案する。 発話間の談話レベルのコヒーレンスを効果的に把握するために,マスク付き発話回帰を含む2つの訓練目標を提案する。 3つのマルチターン会話データセットの実験により、我々のアプローチがベースラインを著しく上回ることを示した。
  論文  参考訳（メタデータ） (2020-12-03T09:06:23Z)
• Filling the Gap of Utterance-aware and Speaker-aware Representation for Multi-turn Dialogue [76.88174667929665]
  マルチターン対話は、2つ以上の異なる話者の役割から複数の発話からなる。 既存の検索に基づくマルチターン対話モデルでは、事前訓練された言語モデル(PrLM)をエンコーダとして、対話を粗く表現する。 本稿では,対話履歴に係わる効果的な発話認識表現と話者認識表現をモデル化することにより,そのようなギャップを埋める新しいモデルを提案する。
  論文  参考訳（メタデータ） (2020-09-14T15:07:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。