論文の概要: Universal Information Extraction as Unified Semantic Matching
- arxiv url: http://arxiv.org/abs/2301.03282v1
- Date: Mon, 9 Jan 2023 11:51:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-10 16:41:58.012413
- Title: Universal Information Extraction as Unified Semantic Matching
- Title(参考訳): 統一意味マッチングとしてのユニバーサル情報抽出
- Authors: Jie Lou, Yaojie Lu, Dai Dai, Wei Jia, Hongyu Lin, Xianpei Han, Le Sun,
Hua Wu
- Abstract要約: 情報抽出を,異なるタスクやスキーマで共有される構造化と概念化という,2つの能力に分割する。
このパラダイムに基づいて、統一意味マッチングフレームワークを用いて様々なIEタスクを普遍的にモデル化することを提案する。
このように、USMはスキーマと入力テキストを共同でエンコードし、サブ構造を一様に並列に抽出し、必要に応じてターゲット構造を制御できる。
- 参考スコア(独自算出の注目度): 54.19974454019611
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The challenge of information extraction (IE) lies in the diversity of label
schemas and the heterogeneity of structures. Traditional methods require
task-specific model design and rely heavily on expensive supervision, making
them difficult to generalize to new schemas. In this paper, we decouple IE into
two basic abilities, structuring and conceptualizing, which are shared by
different tasks and schemas. Based on this paradigm, we propose to universally
model various IE tasks with Unified Semantic Matching (USM) framework, which
introduces three unified token linking operations to model the abilities of
structuring and conceptualizing. In this way, USM can jointly encode schema and
input text, uniformly extract substructures in parallel, and controllably
decode target structures on demand. Empirical evaluation on 4 IE tasks shows
that the proposed method achieves state-of-the-art performance under the
supervised experiments and shows strong generalization ability in zero/few-shot
transfer settings.
- Abstract(参考訳): 情報抽出(IE)の課題は、ラベルスキーマの多様性と構造の不均一性にある。
従来の手法ではタスク固有のモデル設計が必要であり、高価な監督に依存しており、新しいスキーマへの一般化が困難である。
本稿では,IEを2つの基本的能力,構造化と概念化に分割し,異なるタスクやスキーマで共有する。
このパラダイムに基づいて,統一意味マッチング(USM)フレームワークを用いた様々なIEタスクを普遍的にモデル化し,構造化と概念化の能力をモデル化するための3つの統一トークンリンク操作を提案する。
このように、USMはスキーマと入力テキストを共同でエンコードし、サブ構造を一様に並列に抽出し、必要に応じてターゲット構造を制御できる。
4つのIEタスクに対する実証評価の結果,提案手法は教師付き実験により最先端性能を実現し,ゼロ/フェーショット転送設定において強力な一般化能力を示す。
関連論文リスト
- HCVP: Leveraging Hierarchical Contrastive Visual Prompt for Domain
Generalization [69.33162366130887]
ドメイン一般化(DG)は、不変の機能を学ぶことによって、目に見えないシナリオに優れた機械学習モデルを作成するための取り組みである。
モデルにドメインレベルとタスク固有の特性を補足する新しい手法を提案する。
このアプローチは、特定の特徴から不変な特徴をより効果的に分離し、一般化を促進することを目的としている。
論文 参考訳(メタデータ) (2024-01-18T04:23:21Z) - Unified Multi-modal Unsupervised Representation Learning for
Skeleton-based Action Understanding [62.70450216120704]
教師なしの事前訓練は骨格に基づく行動理解において大きな成功を収めた。
我々はUmURLと呼ばれる統一マルチモーダル非教師なし表現学習フレームワークを提案する。
UmURLは効率的な早期融合戦略を利用して、マルチモーダル機能を単一ストリームで共同でエンコードする。
論文 参考訳(メタデータ) (2023-11-06T13:56:57Z) - Concept-Centric Transformers: Enhancing Model Interpretability through
Object-Centric Concept Learning within a Shared Global Workspace [1.6574413179773757]
概念中心変換器は、解釈可能性のための共有グローバルワークスペースの単純かつ効果的な構成である。
本モデルでは,すべての問題に対して,すべてのベースラインの分類精度が向上することを示す。
論文 参考訳(メタデータ) (2023-05-25T06:37:39Z) - RexUIE: A Recursive Method with Explicit Schema Instructor for Universal
Information Extraction [47.89362854989252]
ユニバーサル情報抽出(Universal Information extract)は、さまざまなターゲット、異種構造、要求固有のスキーマによって引き起こされる課題によって、関心のある分野である。
これまでは、名前付きエンティティ認識(NER)や関係抽出(RE)など、いくつかのタスクを統合することで、限られた成功しか達成できなかった。
本稿では,ほぼすべての抽出スキーマを含む公式な定式化により,認証UIEを再定義する。
論文 参考訳(メタデータ) (2023-04-28T11:28:56Z) - Understanding and Constructing Latent Modality Structures in Multi-modal
Representation Learning [53.68371566336254]
優れたパフォーマンスの鍵は、完全なモダリティアライメントではなく、有意義な潜在モダリティ構造にある、と我々は主張する。
具体的には,1)モダリティ内正規化のための深い特徴分離損失,2)モダリティ間正規化のためのブラウン橋損失,3)モダリティ内正規化およびモダリティ間正規化のための幾何学的整合損失を設計する。
論文 参考訳(メタデータ) (2023-03-10T14:38:49Z) - Unified Structure Generation for Universal Information Extraction [58.89057387608414]
UIEは、異なるIEタスクを普遍的にモデル化し、ターゲット構造を適応的に生成し、異なる知識ソースから一般的なIE能力を協調的に学習することができる。
実験によると、UIEは4つのIEタスク、13のデータセット、およびすべての教師付き、低リソース、数ショット設定で最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2022-03-23T08:49:29Z) - Interpretable MTL from Heterogeneous Domains using Boosted Tree [8.095372074268685]
マルチタスク学習(MTL)は,複数のタスクの一般化性能の向上を目的としている。
本稿では,増木理論に倣って,二段階法を提案する。
ベンチマークと実世界のデータセットによる実験により,提案手法の有効性が検証された。
論文 参考訳(メタデータ) (2020-03-16T08:58:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。