論文の概要: Neural Sentence Ordering Based on Constraint Graphs
- arxiv url: http://arxiv.org/abs/2101.11178v2
- Date: Thu, 28 Jan 2021 14:22:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-01 19:41:46.241965
- Title: Neural Sentence Ordering Based on Constraint Graphs
- Title(参考訳): 制約グラフに基づくニューラル文順序付け
- Authors: Yutao Zhu, Kun Zhou, Jian-Yun Nie, Shengchao Liu, Zhicheng Dou
- Abstract要約: 文順序付けは、正しい順序で文のリストを整理することを目的としている。
文間の多粒性順序に基づく新しいアプローチを考案する。
これらの順序は複数の制約グラフを形成し、グラフ同型ネットワークによって符号化され、文表現に融合される。
- 参考スコア(独自算出の注目度): 32.14555157902546
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sentence ordering aims at arranging a list of sentences in the correct order.
Based on the observation that sentence order at different distances may rely on
different types of information, we devise a new approach based on
multi-granular orders between sentences. These orders form multiple constraint
graphs, which are then encoded by Graph Isomorphism Networks and fused into
sentence representations. Finally, sentence order is determined using the
order-enhanced sentence representations. Our experiments on five benchmark
datasets show that our method outperforms all the existing baselines
significantly, achieving a new state-of-the-art performance. The results
demonstrate the advantage of considering multiple types of order information
and using graph neural networks to integrate sentence content and order
information for the task. Our code is available at
https://github.com/DaoD/ConstraintGraph4NSO.
- Abstract(参考訳): 文順序付けは、正しい順序で文のリストを整理することを目的としている。
異なる距離の文順が異なる種類の情報に依存する可能性があるという観測に基づいて、文間の多粒秩序に基づく新しいアプローチを考案する。
これらの順序は複数の制約グラフを形成し、グラフ同型ネットワークによってエンコードされ、文表現に融合される。
最後に、順序付き文表現を用いて文順を決定する。
5つのベンチマークデータセットを用いた実験により,提案手法は既存のベースラインを著しく上回り,新しい最先端性能を実現していることがわかった。
その結果,複数の順序情報を考慮したグラフニューラルネットワークを用いて文の内容と順序情報を統合するという利点が得られた。
私たちのコードはhttps://github.com/DaoD/ConstraintGraph4NSOで利用可能です。
関連論文リスト
- Pruned Graph Neural Network for Short Story Ordering [0.7087237546722617]
コヒーレンスを最大化する順序に文を整理することは、文の順序付けとして知られている。
そこで本研究では,文章間のエッジを生成するために,短い物語の文中心グラフを構築する手法を提案する。
また,代名詞を代名詞の代名詞に置き換えることによって,文中心性グラフの文を効果的にエンコードすることが観察された。
論文 参考訳(メタデータ) (2022-03-13T22:25:17Z) - Reinforcement Learning Based Query Vertex Ordering Model for Subgraph
Matching [58.39970828272366]
グラフマッチングアルゴリズムは、クエリグラフの埋め込みをデータグラフGに列挙する。
マッチング順序は、これらのバックトラックに基づくサブグラフマッチングアルゴリズムの時間効率において重要な役割を果たす。
本稿では,Reinforcement Learning (RL) と Graph Neural Networks (GNN) 技術を適用して,グラフマッチングアルゴリズムの高品質なマッチング順序を生成する。
論文 参考訳(メタデータ) (2022-01-25T00:10:03Z) - Discovering Non-monotonic Autoregressive Orderings with Variational
Inference [67.27561153666211]
我々は、訓練データから高品質な生成順序を純粋に検出する、教師なし並列化可能な学習装置を開発した。
エンコーダを非因果的注意を持つトランスフォーマーとして実装し、1つのフォワードパスで置換を出力する。
言語モデリングタスクにおける経験的結果から,我々の手法は文脈認識であり,一定の順序と競合する,あるいはより優れた順序を見つけることができる。
論文 参考訳(メタデータ) (2021-10-27T16:08:09Z) - Improving Graph-based Sentence Ordering with Iteratively Predicted
Pairwise Orderings [38.91604447717656]
本稿では,2つの分類器を導入し,グラフに基づく文順序付けのためのペア順序付けを効果的に活用する新しい文順序付けフレームワークを提案する。
本モデルは,BERTとFHDecoderを搭載した場合の最先端性能を実現する。
論文 参考訳(メタデータ) (2021-10-13T02:18:16Z) - STaCK: Sentence Ordering with Temporal Commonsense Knowledge [34.64198104134244]
文順予測は、ランダムに順序付けられた文書中の文の正しい順序を見つけるタスクである。
本稿では,グラフニューラルネットワークと時間的コモンセンス知識に基づくフレームワークSTaCKを紹介する。
その結果,提案手法が自然に順序予測に適していることが実証的に証明された。
論文 参考訳(メタデータ) (2021-09-06T05:29:48Z) - Using BERT Encoding and Sentence-Level Language Model for Sentence
Ordering [0.9134244356393667]
本稿では,短い記事のコーパスにおける文順序付けのアルゴリズムを提案する。
提案手法では,アテンション機構を用いて文の依存関係をキャプチャするUniversal Transformer (UT) に基づく言語モデルを用いる。
提案モデルには文、言語モデル、Brute Force Searchによる文配列の3つのコンポーネントが含まれている。
論文 参考訳(メタデータ) (2021-08-24T23:03:36Z) - InsertGNN: Can Graph Neural Networks Outperform Humans in TOEFL Sentence
Insertion Problem? [66.70154236519186]
センテンス挿入は繊細だが基本的なNLP問題である。
文順序付け、テキストコヒーレンス、質問応答(QA)の現在のアプローチは、その解決には適さない。
本稿では,この問題をグラフとして表現し,グラフニューラルネットワーク(GNN)を用いて文間の関係を学習するモデルであるInsertGNNを提案する。
論文 参考訳(メタデータ) (2021-03-28T06:50:31Z) - BERT4SO: Neural Sentence Ordering by Fine-tuning BERT [26.050527288844005]
最近の研究では、ランキング問題として、ディープニューラルネットワークを適用している。
BERTを微調整し、文章順序付けを行う新しい方法BERT4SOを提案する。
論文 参考訳(メタデータ) (2021-03-25T03:32:32Z) - Graph-to-Sequence Neural Machine Translation [79.0617920270817]
グラフ変換器(Graph-Transformer)と呼ばれるグラフベースのSANベースのNMTモデルを提案する。
サブグラフは順番に応じて異なるグループに分類され、各サブグラフは単語間の依存度をそれぞれ異なるレベルに反映する。
提案手法は,WMT14ドイツ語データセットの1.1BLEU点,IWSLT14ドイツ語データセットの1.0BLEU点の改善により,トランスフォーマーを効果的に向上させることができる。
論文 参考訳(メタデータ) (2020-09-16T06:28:58Z) - Topological Sort for Sentence Ordering [133.05105352571715]
本稿では,この課題を制約解決問題として新たなフレーミングを提案し,その解決のための新しい手法を提案する。
4つの異なるデータセットにまたがる自動測定と人的計測の結果から、この新しい手法は文書のコヒーレンスを捉えるのに優れていることが分かる。
論文 参考訳(メタデータ) (2020-05-01T15:07:59Z) - Fact-aware Sentence Split and Rephrase with Permutation Invariant
Training [93.66323661321113]
Sentence Split と Rephrase は、複雑な文をいくつかの単純な文に分解し、その意味を保存することを目的としている。
従来の研究では、パラレル文対からのSeq2seq学習によってこの問題に対処する傾向があった。
本稿では,この課題に対するSeq2seq学習における順序分散の効果を検証するために,置換訓練を導入する。
論文 参考訳(メタデータ) (2020-01-16T07:30:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。