論文の概要: DEIM: An effective deep encoding and interaction model for sentence
matching
- arxiv url: http://arxiv.org/abs/2203.10482v1
- Date: Sun, 20 Mar 2022 07:59:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 15:58:33.053218
- Title: DEIM: An effective deep encoding and interaction model for sentence
matching
- Title(参考訳): DEIM:文マッチングのための効果的なディープエンコーディングとインタラクションモデル
- Authors: Kexin Jiang, Yahui Zhao, Rongyi Cui, and Zhenguo Zhang
- Abstract要約: 本稿では,ディープエンコーディングとインタラクションに基づく文マッチング手法を提案する。
エンコーダ層では、1つの文を符号化する過程で他の文の情報を参照し、その後、アルゴリズムを用いて情報を融合する。
インタラクション層では、双方向の注意機構と自己注意機構を用いて深い意味情報を得る。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Natural language sentence matching is the task of comparing two sentences and
identifying the relationship between them.It has a wide range of applications
in natural language processing tasks such as reading comprehension, question
and answer systems. The main approach is to compute the interaction between
text representations and sentence pairs through an attention mechanism, which
can extract the semantic information between sentence pairs well. However,this
kind of method can not gain satisfactory results when dealing with complex
semantic features. To solve this problem, we propose a sentence matching method
based on deep encoding and interaction to extract deep semantic information. In
the encoder layer,we refer to the information of another sentence in the
process of encoding a single sentence, and later use a heuristic algorithm to
fuse the information. In the interaction layer, we use a bidirectional
attention mechanism and a self-attention mechanism to obtain deep semantic
information.Finally, we perform a pooling operation and input it to the MLP for
classification. we evaluate our model on three tasks: recognizing textual
entailment, paraphrase recognition, and answer selection. We conducted
experiments on the SNLI and SciTail datasets for the recognizing textual
entailment task, the Quora dataset for the paraphrase recognition task, and the
WikiQA dataset for the answer selection task. The experimental results show
that the proposed algorithm can effectively extract deep semantic features that
verify the effectiveness of the algorithm on sentence matching tasks.
- Abstract(参考訳): 自然言語文マッチングは,2つの文を比較し,それらの関係を識別するタスクであり,理解,質問,回答システムなどの自然言語処理タスクに幅広く応用されている。
主なアプローチは、テキスト表現と文ペア間の相互作用を注意機構を通じて計算し、文ペア間の意味情報をうまく抽出することである。
しかし,このような手法は,複雑な意味的特徴を扱う場合,十分な結果を得ることができない。
そこで本研究では,ディープエンコーディングとインタラクションに基づく文マッチング手法を提案し,深い意味情報を抽出する。
エンコーダ層では、1つの文を符号化する過程で他の文の情報を参照し、後にヒューリスティックアルゴリズムを用いて情報を融合する。
インタラクション層では,双方向注意機構と自己注意機構を用いて深い意味情報を取得し,最後にプール操作を行い,mlpに入力して分類を行う。
本研究は,テキストの包含認識,パラフレーズ認識,回答選択の3つの課題について評価した。
本研究では,SNLIデータセットとSciTailデータセットの認識タスク,パラフレーズ認識タスクのQuoraデータセット,回答選択タスクのWikiQAデータセットについて実験を行った。
実験の結果,提案手法は文マッチングタスクにおけるアルゴリズムの有効性を検証する深い意味的特徴を効果的に抽出できることがわかった。
関連論文リスト
- Narrative Action Evaluation with Prompt-Guided Multimodal Interaction [60.281405999483]
ナラティブ・アクション・アセスメント(NAE)は、行動の実行を評価する専門家のコメントを作成することを目的としている。
NAEは、物語の柔軟性と評価の厳格さの両方を必要とするため、より困難なタスクです。
本稿では,様々な情報モダリティ間のインタラクションを容易にするための,プロンプト誘導型マルチモーダルインタラクションフレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-22T17:55:07Z) - Explaining Interactions Between Text Spans [50.70253702800355]
入力の異なる部分からのトークンのスパンに対する推論は、自然言語理解に不可欠である。
NLUタスク2つのタスク(NLIとFC)に対する人間間相互作用の説明データセットであるSpanExを紹介する。
次に,複数の微調整された大言語モデルの決定過程を,スパン間の相互接続の観点から検討する。
論文 参考訳(メタデータ) (2023-10-20T13:52:37Z) - KETM:A Knowledge-Enhanced Text Matching method [0.0]
知識強化テキストマッチングモデル(KETM)と呼ばれるテキストマッチングの新しいモデルを提案する。
テキストワード定義を外部知識として検索するために、Wiktionaryを使用します。
我々は、ゲーティング機構を用いてテキストと知識を融合させ、テキストと知識融合の比率を学習する。
論文 参考訳(メタデータ) (2023-08-11T17:08:14Z) - Relational Sentence Embedding for Flexible Semantic Matching [86.21393054423355]
文埋め込みの可能性を明らかにするための新しいパラダイムとして,文埋め込み(Sentence Embedding, RSE)を提案する。
RSEは文関係のモデル化に有効で柔軟性があり、一連の最先端の埋め込み手法より優れている。
論文 参考訳(メタデータ) (2022-12-17T05:25:17Z) - Textual Entailment Recognition with Semantic Features from Empirical
Text Representation [60.31047947815282]
テキストが仮説を包含するのは、仮説の真の価値がテキストに従う場合に限る。
本稿では,テキストと仮説のテキストの包含関係を同定する新しい手法を提案する。
本手法では,テキスト・ハイブリッド・ペア間の意味的含意関係を識別できる要素ワイド・マンハッタン距離ベクトルベースの特徴を用いる。
論文 参考訳(メタデータ) (2022-10-18T10:03:51Z) - Explaining Neural Network Predictions on Sentence Pairs via Learning
Word-Group Masks [21.16662651409811]
入力テキストペアから相関語をグループ化して単語相関を暗黙的に検出するグループマスク(GMASK)手法を提案する。
提案手法は4つのデータセットにまたがる2つの異なるモデルアーキテクチャ (decomposable attention model と bert) を用いて評価した。
論文 参考訳(メタデータ) (2021-04-09T17:14:34Z) - Narrative Incoherence Detection [76.43894977558811]
本稿では,文間セマンティック理解のための新たなアリーナとして,物語不整合検出の課題を提案する。
複数文の物語を考えると、物語の流れに意味的な矛盾があるかどうかを決定します。
論文 参考訳(メタデータ) (2020-12-21T07:18:08Z) - R$^2$-Net: Relation of Relation Learning Network for Sentence Semantic
Matching [58.72111690643359]
文意味マッチングのための関係学習ネットワーク(R2-Net)を提案する。
最初にBERTを使用して、グローバルな視点から入力文をエンコードします。
次に、cnnベースのエンコーダは、ローカルな視点からキーワードやフレーズ情報をキャプチャするように設計されている。
関係情報抽出にラベルを十分に活用するために,関係分類タスクの自己教師付き関係性を導入する。
論文 参考訳(メタデータ) (2020-12-16T13:11:30Z) - Sequential Sentence Matching Network for Multi-turn Response Selection
in Retrieval-based Chatbots [45.920841134523286]
本稿では,文レベルの意味情報を用いて問題に対処する,逐次文マッチングネットワーク(S2M)を提案する。
まず、文レベルの意味情報を用いて、ネットワークが問題に対処し、マッチングを大幅に改善し、その結果、最先端のパフォーマンスが得られることがわかった。
論文 参考訳(メタデータ) (2020-05-16T09:47:19Z) - Generating Hierarchical Explanations on Text Classification via Feature
Interaction Detection [21.02924712220406]
特徴的相互作用を検出することによって階層的な説明を構築する。
このような説明は、単語とフレーズが階層の異なるレベルでどのように結合されるかを視覚化する。
実験は、モデルに忠実であり、人間に解釈可能な説明を提供する上で、提案手法の有効性を示す。
論文 参考訳(メタデータ) (2020-04-04T20:56:37Z) - Matching Text with Deep Mutual Information Estimation [0.0]
本稿では,深い相互情報推定を組み込んだ汎用テキストマッチングのためのニューラルネットワークを提案する。
提案手法は,Deep Info Max (TIM) を用いたテキストマッチングであり,表現の教師なし学習手法と統合されている。
自然言語推論,パラフレーズ識別,解答選択など,いくつかのタスクにおけるテキストマッチング手法の評価を行った。
論文 参考訳(メタデータ) (2020-03-09T15:25:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。