Fugu-MT 論文翻訳(概要): Mixture of Decoders for Diverse Dialog Response Generation

論文の概要: Mixture of Decoders for Diverse Dialog Response Generation

arxiv url: http://arxiv.org/abs/2610.00621v1
Date: Wed, 30 Sep 2026 19:23:41 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-03 01:19:23.730355
Title: Mixture of Decoders for Diverse Dialog Response Generation
Title（参考訳）: ダイアログ応答生成のためのデコーダの混合
Abstract要約: 本稿では,デコーダの混合物をシーケンス・ツー・シーケンス・モデルに組み込むことを提案する。我々のモデルは条件付き変分オートエンコーダ(CVAE)の枠組みで開発されている。
参考スコア（独自算出の注目度）: 3.731168012111834
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Mixture modeling is a long established machine learning technique for learning large sets of multi-modal data. While it is known that sequence-to-sequence models for dialog response generation suffer from the problem of low diversity, we hypothesize that it is because sequence-to-sequence models tend to learn a degenerate uni-modal distribution of responses. We then propose to incorporate a mixture of decoders into sequence-to-sequence models and try to make each decoder learn specialized topics in order to improve the diversity of generated responses. Our model is developed under the framework of conditional variational autoencoder (CVAE). We evaluate our approach on an open domain chat corpus and show improvement over strong baselines in quantitative measures and human evaluation.
Abstract（参考訳）: 混合モデリングは、マルチモーダルデータの大規模な集合を学習するための、長年確立されてきた機械学習技術である。ダイアログ応答生成のためのシーケンス・ツー・シーケンスモデルが多様性の低い問題に悩まされていることは知られているが、シーケンス・ツー・シーケンスモデルが応答の退化の一様分布を学習する傾向があるためであると仮説を立てる。次に、デコーダの混合物をシーケンス・ツー・シーケンスモデルに組み込んで、各デコーダに特殊トピックを学習させて、生成した応答の多様性を向上させることを提案する。本モデルは,条件付き変分オートエンコーダ(CVAE)の枠組みで開発されている。オープンなドメインチャットコーパスに対する我々のアプローチを評価し,定量化と人的評価において,強力なベースラインよりも改善したことを示す。

関連論文リスト

HybridCodec: Modeling Discrete and Continuous Representations for Efficient Speech Language Models [15.857004573762575]
本稿では,時間圧縮された離散トークンと次元再現された連続残差を組み合わせた新しい手法を提案する。実験結果から,本手法は個別手法に比べて話者特性の保持率を著しく向上させることが示された。
論文参考訳（メタデータ） (2026-06-26T00:53:49Z)
Bridging the inference gap in Mutimodal Variational Autoencoders [6.246098300155483]
マルチモーダル変分オートエンコーダは、観測されたモダリティから観測されていないモダリティを生成するための多目的でスケーラブルな方法を提供する。エキスパートの混合集合を用いた最近のモデルは、複雑なデータセットにおける生成品質を制限する理論的に基礎的な制限に悩まされている。本稿では,混合アグリゲーションを導入することなく,結合分布と条件分布の両方を学習できる新しい解釈可能なモデルを提案する。
論文参考訳（メタデータ） (2025-02-06T10:43:55Z)
Multi-Resolution Generative Modeling of Human Motion from Limited Data [3.5229503563299915]
限られたトレーニングシーケンスから人間の動きを合成することを学ぶ生成モデルを提案する。このモデルは、骨格の畳み込み層とマルチスケールアーキテクチャを統合することで、人間の動きパターンを順応的にキャプチャする。
論文参考訳（メタデータ） (2024-11-25T15:36:29Z)
VOLTA: Improving Generative Diversity by Variational Mutual Information Maximizing Autoencoder [38.35049378875308]
VOLTAは,VAEでトランスフォーマーをブリッジすることで,遺伝子多様性を高めるフレームワークである。 6つのデータセット上で2種類のトランスフォーマーを用いた総合的な実験を行い、生成品質を維持しながら生成の多様性を著しく向上させることができることを示す。
論文参考訳（メタデータ） (2023-07-03T08:45:42Z)
SequenceMatch: Imitation Learning for Autoregressive Sequence Modelling with Backtracking [60.109453252858806]
MLE(Maxum-likelihood)の目的は、高品質なシーケンスを自動回帰的に生成する下流のユースケースと一致しない。我々は、模倣学習(IL)問題としてシーケンス生成を定式化する。これにより、自己回帰モデルによって生成されるシーケンスの分布とデータセットからのシーケンスとの差異を最小化できる。得られた手法であるSequenceMatchは、敵の訓練やアーキテクチャの変更なしに実装できる。
論文参考訳（メタデータ） (2023-06-08T17:59:58Z)
Improving Multimodal Joint Variational Autoencoders through Normalizing Flows and Correlation Analysis [0.0]
一方向後部はディープ・カノニカル・相関解析(英語版)の埋め込みで条件付けされている。また、正規化フローを使用して、単調な後部を豊かにし、より多様なデータ生成を実現しています。
論文参考訳（メタデータ） (2023-05-19T17:15:34Z)
Twist Decoding: Diverse Generators Guide Each Other [116.20780037268801]
様々なモデルの恩恵を受けながらテキストを生成するシンプルで一般的な推論アルゴリズムであるTwist decodingを導入する。我々の方法は、語彙、トークン化、あるいは生成順序が共有されていると仮定しない。
論文参考訳（メタデータ） (2022-05-19T01:27:53Z)
Hierarchical Sketch Induction for Paraphrase Generation [79.87892048285819]
本稿では、高密度符号化の分解を学習するHRQ-VAE(Hierarchical Refinement Quantized Variational Autoencoders)を紹介する。 HRQ-VAEを用いて、入力文の構文形式を階層化の経路としてエンコードすることで、テスト時の構文スケッチをより容易に予測できる。
論文参考訳（メタデータ） (2022-03-07T15:28:36Z)
Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation [25.37244686572865]
本稿では、逐次レコメンデーションのためのAdversarial and Contrastive Variational Autoencoder (ACVAE) と呼ばれる新しい手法を提案する。まず,本モデルが高品質な潜在変数を生成することを可能にするadversarial variational bayesフレームワークの下で,シーケンス生成のためのadversarial trainingを導入する。さらに、シーケンスをエンコードする場合、シーケンス内のグローバルおよびローカルの関係をキャプチャするために、繰り返しおよび畳み込み構造を適用します。
論文参考訳（メタデータ） (2021-03-19T09:01:14Z)
Automated and Formal Synthesis of Neural Barrier Certificates for Dynamical Models [70.70479436076238]
バリア証明書(BC)の自動的,形式的,反例に基づく合成手法を提案する。このアプローチは、ニューラルネットワークとして構造化されたBCの候補を操作する誘導的フレームワークと、その候補の有効性を認証するか、反例を生成する音検証器によって支えられている。その結果,音のBCsを最大2桁の速度で合成できることがわかった。
論文参考訳（メタデータ） (2020-07-07T07:39:42Z)
Variational Hyper RNN for Sequence Modeling [69.0659591456772]
本稿では,時系列データにおける高変数の取得に優れる新しい確率的シーケンスモデルを提案する。提案手法では,時間潜時変数を用いて基礎となるデータパターンに関する情報をキャプチャする。提案手法の有効性を,合成および実世界のシーケンシャルデータに示す。
論文参考訳（メタデータ） (2020-02-24T19:30:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。