論文の概要: Structured Attention for Unsupervised Dialogue Structure Induction
- arxiv url: http://arxiv.org/abs/2009.08552v2
- Date: Fri, 9 Oct 2020 18:33:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 08:15:57.294354
- Title: Structured Attention for Unsupervised Dialogue Structure Induction
- Title（参考訳）: 教師なし対話構造誘導のための構造的注意
- Authors: Liang Qiu, Yizhou Zhao, Weiyan Shi, Yuan Liang, Feng Shi, Tao Yuan,
Zhou Yu, Song-Chun Zhu
- Abstract要約: 本稿では、構造化された注意層を離散潜在状態を持つ変化型リカレントニューラルネットワーク(VRNN)モデルに組み込んで、教師なしの方法で対話構造を学ぶことを提案する。
バニラVRNNと比較して、構造化された注意は、構造的帰納バイアスを強制しながら、ソース文の埋め込みの異なる部分にフォーカスすることができる。
- 参考スコア（独自算出の注目度）: 110.12561786644122
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inducing a meaningful structural representation from one or a set of
dialogues is a crucial but challenging task in computational linguistics.
Advancement made in this area is critical for dialogue system design and
discourse analysis. It can also be extended to solve grammatical inference. In
this work, we propose to incorporate structured attention layers into a
Variational Recurrent Neural Network (VRNN) model with discrete latent states
to learn dialogue structure in an unsupervised fashion. Compared to a vanilla
VRNN, structured attention enables a model to focus on different parts of the
source sentence embeddings while enforcing a structural inductive bias.
Experiments show that on two-party dialogue datasets, VRNN with structured
attention learns semantic structures that are similar to templates used to
generate this dialogue corpus. While on multi-party dialogue datasets, our
model learns an interactive structure demonstrating its capability of
distinguishing speakers or addresses, automatically disentangling dialogues
without explicit human annotation.
- Abstract（参考訳）: 1つまたは1つの対話から有意義な構造表現を誘導することは、計算言語学において重要だが挑戦的なタスクである。
この分野での進歩は対話システムの設計と談話分析に不可欠である。
文法的推論を解くために拡張することもできる。
本研究では,構造化された注意層を離散的潜在状態を持つ可変リカレントニューラルネットワーク(vrnn)モデルに統合し,教師なしの方法で対話構造を学ぶことを提案する。
バニラVRNNと比較して、構造化された注意は、構造的帰納バイアスを強制しながら、ソース文の埋め込みの異なる部分にフォーカスすることができる。
実験により、構造化された注意を持つVRNNは、この対話コーパスを生成するために使用されるテンプレートに似た意味構造を学ぶ。
マルチパーティ対話データセットでは,話者や住所を識別する対話的構造を学習し,明示的な人間的アノテーションを伴わずに対話を自動的に分離する。
関連論文リスト
- Unsupervised Mutual Learning of Dialogue Discourse Parsing and Topic Segmentation [38.956438905614256]
修辞構造とトピック構造は、主に別々にモデル化されるか、または以前の作業で他方を補助する。
本稿では,グローバル・ローカル・コネクティビティを活用した2つの構造物の教師なし相互学習フレームワークを提案する。
また、局所コヒーレンス整合性を確保するために、グラフニューラルネットワークモデルを用いて、レトリック構造をトピック構造に組み込む。
論文 参考訳（メタデータ） (2024-05-30T08:10:50Z) - Revisiting Conversation Discourse for Dialogue Disentanglement [88.3386821205896]
本稿では,対話談話特性を最大限に活用し,対話の絡み合いを高めることを提案する。
我々は,会話の意味的文脈をより良くモデル化するために,リッチな構造的特徴を統合する構造認識フレームワークを開発した。
我々の研究は、より広範なマルチスレッド対話アプリケーションを促進する大きな可能性を秘めている。
論文 参考訳（メタデータ） (2023-06-06T19:17:47Z) - CTRLStruct: Dialogue Structure Learning for Open-Domain Response
Generation [38.60073402817218]
十分に構造化されたトピックフローは、バックグラウンド情報を活用し、将来のトピックを予測することで、制御可能で説明可能な応答を生成する。
本稿では,話題レベルの対話クラスタを効果的に探索する対話構造学習のための新しいフレームワークを提案する。
2つの人気のあるオープンドメイン対話データセットの実験は、優れた対話モデルと比較して、我々のモデルはより一貫性のある応答を生成できることを示している。
論文 参考訳（メタデータ） (2023-03-02T09:27:11Z) - Unsupervised Learning of Hierarchical Conversation Structure [50.29889385593043]
ゴール指向の会話は、しばしば意味のあるサブ対話構造を持つが、ドメインに依存しやすい。
この研究は、ターンやサブダイアログのセグメントラベルを含む階層的な会話構造を学習するための教師なしのアプローチを導入する。
復号化構造は3つの会話レベル理解タスクのための言語ニューラルネットワークの強化に有用であることが示されている。
論文 参考訳（メタデータ） (2022-05-24T17:52:34Z) - Structure Extraction in Task-Oriented Dialogues with Slot Clustering [94.27806592467537]
タスク指向対話では、対話構造はしばしば対話状態間の遷移グラフと見なされている。
本稿では,タスク指向対話における構造抽出のための簡易かつ効果的な手法を提案する。
論文 参考訳（メタデータ） (2022-02-28T20:18:12Z) - DSBERT:Unsupervised Dialogue Structure learning with BERT [4.171523157658394]
本稿では,Bert を用いた教師なし対話構造学習アルゴリズム DSBERT (Dialogue Structure BERT) を提案する。
従来のSOTAモデルであるVRNNとSVRNNとは異なり、BERTとAutoEncoderを組み合わせることで、コンテキスト情報を効果的に組み合わせることができる。
実験の結果,DSBERTは実構造に近い対話構造を生成でき,意味の異なる文を識別し,異なる隠れ状態にマッピングすることができることがわかった。
論文 参考訳（メタデータ） (2021-11-09T03:31:18Z) - Speaker-Oriented Latent Structures for Dialogue-Based Relation
Extraction [10.381257436462116]
そこで我々は,話者指向の潜在構造を明瞭に誘導し,DiaREを改善する新しいモデルSOLSを提案する。
具体的には,発話境界を超えたトークン間の関係を捉えるために,潜在構造を学習する。
学習過程において、話者固有の正規化手法は、話者に関連するキーキーを徐々に強調し、無関係なキーを消去する。
論文 参考訳（メタデータ） (2021-09-11T04:24:51Z) - Discovering Dialog Structure Graph for Open-Domain Dialog Generation [51.29286279366361]
chitchat corporaの対話構造を無監督で発見します。
次に、下流システムでのダイアログ生成を容易にするために利用します。
本稿では,グラフニューラルネットワーク(DVAE-GNN)を用いた離散変分自動エンコーダを提案する。
論文 参考訳（メタデータ） (2020-12-31T10:58:37Z) - Variational Hierarchical Dialog Autoencoder for Dialog State Tracking
Data Augmentation [59.174903564894954]
本研究では,この手法を,ゴール指向対話のための対話状態追跡タスクに拡張する。
目的指向ダイアログの完全な側面をモデル化するための変分階層型ダイアログオートエンコーダ(VHDA)を提案する。
各種ダイアログデータセットを用いた実験により、生成データ拡張による下流ダイアログトラッカーのロバスト性の向上が示された。
論文 参考訳（メタデータ） (2020-01-23T15:34:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。