論文の概要: Two are Better than One: Joint Entity and Relation Extraction with
Table-Sequence Encoders
- arxiv url: http://arxiv.org/abs/2010.03851v1
- Date: Thu, 8 Oct 2020 09:10:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-09 12:06:32.529612
- Title: Two are Better than One: Joint Entity and Relation Extraction with
Table-Sequence Encoders
- Title(参考訳): 2つは1より優れている:テーブル列エンコーダによるジョイントエンティティと関係抽出
- Authors: Jue Wang and Wei Lu
- Abstract要約: 2つの異なるエンコーダは、表現学習プロセスにおいて互いに助け合うように設計されている。
実験により,エム1エンコーダよりもエム2エンコーダの利点が確認された。
- 参考スコア(独自算出の注目度): 13.999110725631672
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Named entity recognition and relation extraction are two important
fundamental problems. Joint learning algorithms have been proposed to solve
both tasks simultaneously, and many of them cast the joint task as a
table-filling problem. However, they typically focused on learning a single
encoder (usually learning representation in the form of a table) to capture
information required for both tasks within the same space. We argue that it can
be beneficial to design two distinct encoders to capture such two different
types of information in the learning process. In this work, we propose the
novel {\em table-sequence encoders} where two different encoders -- a table
encoder and a sequence encoder are designed to help each other in the
representation learning process. Our experiments confirm the advantages of
having {\em two} encoders over {\em one} encoder. On several standard datasets,
our model shows significant improvements over existing approaches.
- Abstract(参考訳): 名前付きエンティティ認識と関係抽出は2つの重要な基本問題である。
両課題を同時に解くための共同学習アルゴリズムが提案され,その多くが連立課題をテーブル充足問題とした。
しかし、彼らは通常、同じ空間内の両方のタスクに必要な情報を取得するために、単一のエンコーダ(通常はテーブルの形式で表現を学ぶ)を学ぶことに集中した。
このような2つの異なるタイプの情報を学習プロセスで捉えるために、2つの異なるエンコーダを設計することは有益であると主張する。
本研究では,2つの異なるエンコーダ -- 表エンコーダとシーケンスエンコーダ - が,表現学習プロセスにおいて互いに助け合うように設計された,新しい「emテーブルシーケンスエンコーダ」を提案する。
実験により, エンコーダを2つ以上のエンコーダを持つことの利点が確認された。
いくつかの標準データセットでは、既存のアプローチを大幅に改善しています。
関連論文リスト
- How to Make Cross Encoder a Good Teacher for Efficient Image-Text Retrieval? [99.87554379608224]
クロスエンコーダのクロスモーダル類似度スコア分布は、二重エンコーダの結果がほぼ正常である間により集中する。
強陰性間の相対的な順序だけが有効な知識を伝達する一方、容易な負性間の順序情報はほとんど意味を持たない。
本研究では, コントラスト学習を用いて, 硬質負試料間の相対的な順序を模倣することを目的とした, コントラスト部分式蒸留法を提案する。
論文 参考訳(メタデータ) (2024-07-10T09:10:01Z) - Improving Code Search with Hard Negative Sampling Based on Fine-tuning [15.341959871682981]
本稿では,クエリとコードの結合を共同で符号化するコード検索のためのクロスエンコーダアーキテクチャを提案する。
また、両エンコーダとクロスエンコーダをカスケードしたRetriever-Ranker(RR)フレームワークを導入し、評価とオンラインサービスの有効性を高める。
論文 参考訳(メタデータ) (2023-05-08T07:04:28Z) - String-based Molecule Generation via Multi-decoder VAE [56.465033997245776]
可変オートエンコーダ(VAE)による文字列型分子生成の問題点について検討する。
本稿では,そのタスクに対するVAEの性能を改善するための,シンプルで効果的なアイデアを提案する。
実験では,提案するVAEモデルを用いて,領域外分布からサンプルを生成する。
論文 参考訳(メタデータ) (2022-08-23T03:56:30Z) - LoopITR: Combining Dual and Cross Encoder Architectures for Image-Text
Retrieval [117.15862403330121]
共同学習のためのネットワークにおいて,デュアルエンコーダとクロスエンコーダを組み合わせたLoopITRを提案する。
具体的には、二重エンコーダをクロスエンコーダに強陰性を与え、より識別性の高いクロスエンコーダを用いてその予測を二重エンコーダに戻す。
論文 参考訳(メタデータ) (2022-03-10T16:41:12Z) - Auto-Encoder based Co-Training Multi-View Representation Learning [10.120166898507328]
自動エンコーダに基づくコトレーニング型マルチビュー学習(ACMVL)という新しいアルゴリズムを提案する。
アルゴリズムには2つの段階があり、第1は各ビューの自動エンコーダを訓練し、第2段階は教師付きネットワークを訓練する。
実験結果から,優れた潜在特徴表現を学習でき,各ビューの自動エンコーダは従来のオートエンコーダよりも強力な再構成能力を有することがわかった。
論文 参考訳(メタデータ) (2022-01-09T10:20:16Z) - Distilled Dual-Encoder Model for Vision-Language Understanding [50.42062182895373]
本稿では,視覚言語理解タスクのためのデュアルエンコーダモデルをトレーニングするための多モードアテンション蒸留フレームワークを提案する。
プレトレーニングと微調整の両方にクロスモーダルアテンション蒸留を適用することで,さらなる改良が期待できることを示す。
論文 参考訳(メタデータ) (2021-12-16T09:21:18Z) - Trans-Encoder: Unsupervised sentence-pair modelling through self- and
mutual-distillations [22.40667024030858]
バイエンコーダは固定次元の文表現を生成し、計算効率が良い。
クロスエンコーダは、アテンションヘッドを利用して、より優れたパフォーマンスのために文間相互作用を利用することができる。
Trans-Encoderは、2つの学習パラダイムを反復的なジョイントフレームワークに統合し、拡張されたバイ・エンコーダとクロス・エンコーダを同時に学習する。
論文 参考訳(メタデータ) (2021-09-27T14:06:47Z) - Suppress and Balance: A Simple Gated Network for Salient Object
Detection [89.88222217065858]
両問題を同時に解くための単純なゲートネットワーク(GateNet)を提案する。
多レベルゲートユニットの助けを借りて、エンコーダからの貴重なコンテキスト情報をデコーダに最適に送信することができる。
さらに,提案したFold-ASPP操作(Fold-ASPP)に基づくアトラス空間ピラミッドプーリングを用いて,様々なスケールのサリアンオブジェクトを正確に位置決めする。
論文 参考訳(メタデータ) (2020-07-16T02:00:53Z) - Auto-Encoding Twin-Bottleneck Hashing [141.5378966676885]
本稿では,効率よく適応的なコード駆動グラフを提案する。
自動エンコーダのコンテキストでデコードすることで更新される。
ベンチマークデータセットの実験は、最先端のハッシュ手法よりもフレームワークの方が優れていることを明らかに示しています。
論文 参考訳(メタデータ) (2020-02-27T05:58:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。