論文の概要: Sequential Neural Networks for Noetic End-to-End Response Selection
- arxiv url: http://arxiv.org/abs/2003.02126v1
- Date: Tue, 3 Mar 2020 04:36:33 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-26 22:42:11.661094
- Title: Sequential Neural Networks for Noetic End-to-End Response Selection
- Title（参考訳）: 固有終端応答選択のための逐次ニューラルネットワーク
- Authors: Qian Chen, Wen Wang
- Abstract要約: 本稿では,この課題の下で両データセットの上位1位にランクされたシステムについて述べる。
多ターン応答選択のための連鎖列のみに基づく逐次マッチングモデルについて検討する。
この結果から, 逐次マッチング手法のポテンシャルは, 多ターン応答選択においてまだ十分に活用されていないことが示唆された。
- 参考スコア（独自算出の注目度）: 4.996858281980058
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The noetic end-to-end response selection challenge as one track in the 7th
Dialog System Technology Challenges (DSTC7) aims to push the state of the art
of utterance classification for real world goal-oriented dialog systems, for
which participants need to select the correct next utterances from a set of
candidates for the multi-turn context. This paper presents our systems that are
ranked top 1 on both datasets under this challenge, one focused and small
(Advising) and the other more diverse and large (Ubuntu). Previous
state-of-the-art models use hierarchy-based (utterance-level and token-level)
neural networks to explicitly model the interactions among different turns'
utterances for context modeling. In this paper, we investigate a sequential
matching model based only on chain sequence for multi-turn response selection.
Our results demonstrate that the potentials of sequential matching approaches
have not yet been fully exploited in the past for multi-turn response
selection. In addition to ranking top 1 in the challenge, the proposed model
outperforms all previous models, including state-of-the-art hierarchy-based
models, on two large-scale public multi-turn response selection benchmark
datasets.
- Abstract（参考訳）: 第7回対話システム技術チャレンジ(DSTC7)の1トラックとして、参加者が正しい次の発話を選択する必要がある実世界の目標指向対話システムにおいて、発話分類の最先端を推し進めることを目的としている。
本稿では,この課題において,集中型および小規模(管理型)とより多様で大規模(ubuntu)の2つのデータセットにおいて,上位1位にランクされたシステムを提案する。
従来の最先端モデルは、階層ベースの(発話レベルとトークンレベル)ニューラルネットワークを使用して、コンテキストモデリングのために異なるターンの発話間のインタラクションを明示的にモデル化する。
本稿では,マルチターン応答選択のための連鎖列のみに基づく逐次マッチングモデルについて検討する。
その結果, 逐次マッチングアプローチのポテンシャルは, マルチターン応答選択にはまだ十分に活用されていないことがわかった。
チャレンジの上位1位に加え、提案されたモデルは2つの大規模パブリックマルチターン応答選択ベンチマークデータセットで、最先端の階層ベースモデルを含む、以前のすべてのモデルを上回る。
関連論文リスト
- Towards Fundamentally Scalable Model Selection: Asymptotically Fast Update and Selection [40.85209520973634]
理想的なモデル選択スキームは、候補モデルの大きなプール上で2つの操作を効率的にサポートすべきである。
モデル選択に対する従来の解決策は、これらの2つの操作のうちの少なくとも1つに対して高い計算複雑性を必要とする。
モデル埋め込みを実証的に実現したStandardized Embedderを提案する。
論文 参考訳（メタデータ） (2024-06-11T17:57:49Z) - A Two-Phase Recall-and-Select Framework for Fast Model Selection [13.385915962994806]
本稿では,2相モデル選択フレームワークを提案する。
これは、ベンチマークデータセット上でモデルのトレーニングパフォーマンスを活用することにより、堅牢なモデルを選択する効率を高めることを目的としている。
提案手法は,従来のベースライン法に比べて約3倍の速度でハイパフォーマンスモデルの選択を容易にすることが実証された。
論文 参考訳（メタデータ） (2024-03-28T14:44:44Z) - WLD-Reg: A Data-dependent Within-layer Diversity Regularizer [98.78384185493624]
ニューラルネットワークは、勾配に基づく最適化と共同で訓練された階層構造に配置された複数の層で構成されている。
我々は、この従来の「中間層」フィードバックを補うために、同じ層内での活性化の多様性を促進するために、追加の「中間層」フィードバックを補うことを提案する。
本稿では,提案手法が複数のタスクにおける最先端ニューラルネットワークモデルの性能を向上させることを実証した広範な実証研究を提案する。
論文 参考訳（メタデータ） (2023-01-03T20:57:22Z) - Sequential Ensembling for Semantic Segmentation [4.030520171276982]
我々は、複数の独立に訓練された最先端モデルの予測を組み合わせる一般的なアンサンブルアプローチをベンチマークする。
そこで本研究では,素なアンサンブルベースラインを大幅に上回る,逐次アンサンブルネットワークの強化にインスパイアされた新しい手法を提案する。
論文 参考訳（メタデータ） (2022-10-08T22:13:59Z) - Continuous-Time and Multi-Level Graph Representation Learning for
Origin-Destination Demand Prediction [52.0977259978343]
本稿では,原位置需要予測(CMOD)のための連続時間および多段階動的グラフ表現学習法を提案する。
状態ベクトルは、過去のトランザクション情報を保持し、最近発生したトランザクションに従って継続的に更新される。
北京地下鉄とニューヨークタクシーの2つの実世界のデータセットを用いて実験を行い、そのモデルが最先端のアプローチに対して優れていることを実証した。
論文 参考訳（メタデータ） (2022-06-30T03:37:50Z) - Structured Reordering for Modeling Latent Alignments in Sequence
Transduction [86.94309120789396]
本稿では,分離可能な置換の辺りを正確に推定する効率的な動的プログラミングアルゴリズムを提案する。
結果のSeq2seqモデルは、合成問題やNLPタスクの標準モデルよりも体系的な一般化が優れている。
論文 参考訳（メタデータ） (2021-06-06T21:53:54Z) - A Multi-Size Neural Network with Attention Mechanism for Answer
Selection [3.310455595316906]
応答選択タスクには,アテンション機構を備えたマルチサイズニューラルネットワーク(AM-MSNN)が効果的に導入されている。
単一層CNNや多層CNNと比較してフィルタのサイズが多様であるため、並列でより多くの言語粒度をキャプチャする。
注意機構によって文表現を拡張し、様々な種類の質問についてより多くの情報を含む。
論文 参考訳（メタデータ） (2021-04-24T02:13:26Z) - Learning an Effective Context-Response Matching Model with
Self-Supervised Tasks for Retrieval-based Dialogues [88.73739515457116]
我々は,次のセッション予測,発話復元,不整合検出,一貫性判定を含む4つの自己教師型タスクを導入する。
我々はPLMに基づく応答選択モデルとこれらの補助タスクをマルチタスク方式で共同で訓練する。
実験結果から,提案した補助的自己教師型タスクは,多ターン応答選択において大きな改善をもたらすことが示された。
論文 参考訳（メタデータ） (2020-09-14T08:44:46Z) - SRQA: Synthetic Reader for Factoid Question Answering [21.28441702154528]
我々はSRQAと呼ばれる新しいモデルを導入し、これはFactoid Question AnsweringのためのSynthetic Readerを意味する。
このモデルは,多文書シナリオにおける質問応答システムを3つの側面から強化する。
WebQAデータセット上でSRQAを行い、実験により、我々のモデルが最先端のモデルより優れていることを示す。
論文 参考訳（メタデータ） (2020-09-02T13:16:24Z) - Multiscale Deep Equilibrium Models [162.15362280927476]
マルチスケールディープ均衡モデル(MDEQ)を新たに提案する。
MDEQは、複数の特徴分解の平衡点を直接解き、同時に伝播する。
本稿では,Cityscapesデータセットの高解像度画像に対するイメージネット分類とセマンティックセグメンテーションの2つの大規模ビジョンタスクにおけるこのアプローチの有効性について述べる。
論文 参考訳（メタデータ） (2020-06-15T18:07:44Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳（メタデータ） (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。