論文の概要: Semantic Loss Application to Entity Relation Recognition
- arxiv url: http://arxiv.org/abs/2006.04031v2
- Date: Thu, 17 Sep 2020 22:49:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 07:20:45.756253
- Title: Semantic Loss Application to Entity Relation Recognition
- Title(参考訳): セマンティックロスのエンティティ関係認識への応用
- Authors: Venkata Sasank Pagolu
- Abstract要約: 本稿では,エンティティ関係認識のための2つの一般的なアプローチを比較する。
本論文の主な貢献は,結合実体関係抽出のためのエンドツーエンドニューラルネットワークである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Usually, entity relation recognition systems either use a pipe-lined model
that treats the entity tagging and relation identification as separate tasks or
a joint model that simultaneously identifies the relation and entities. This
paper compares these two general approaches for the entity relation
recognition. State-of-the-art entity relation recognition systems are built
using deep recurrent neural networks which often does not capture the symbolic
knowledge or the logical constraints in the problem. The main contribution of
this paper is an end-to-end neural model for joint entity relation extraction
which incorporates a novel loss function. This novel loss function encodes the
constraint information in the problem to guide the model training effectively.
We show that addition of this loss function to the existing typical loss
functions has a positive impact over the performance of the models. This model
is truly end-to-end, requires no feature engineering and easily extensible.
Extensive experimentation has been conducted to evaluate the significance of
capturing symbolic knowledge for natural language understanding. Models using
this loss function are observed to be outperforming their counterparts and
converging faster. Experimental results in this work suggest the use of this
methodology for other language understanding applications.
- Abstract(参考訳): 通常、エンティティ関係認識システムは、エンティティのタグ付けと関係の識別を別々のタスクとして扱うパイプ線モデルを使うか、関係と実体を同時に識別するジョイントモデルを使用する。
本稿では,これら2つのエンティティ関係認識手法を比較した。
最先端のエンティティ関係認識システムは、しばしば問題の記号的知識や論理的制約を捉えないディープリカレントニューラルネットワークを用いて構築される。
本論文の主な貢献は,新しい損失関数を組み込んだ結合関係抽出のためのエンドツーエンドニューラルネットワークである。
この新たな損失関数は、問題の制約情報を符号化し、モデルのトレーニングを効果的に導く。
この損失関数を既存の典型的な損失関数に追加することは、モデルの性能にプラスの影響を与えることを示す。
このモデルは本当にエンドツーエンドで、機能エンジニアリングを必要とせず、容易に拡張できます。
自然言語理解における記号的知識の獲得の重要性を評価するために,広範囲な実験が行われた。
この損失関数を用いたモデルは、そのモデルよりも優れ、より速く収束している。
本研究の実験的結果は、他の言語理解アプリケーションにこの方法論を用いることを示唆している。
関連論文リスト
- RESOLVE: Relational Reasoning with Symbolic and Object-Level Features Using Vector Symbolic Processing [1.3049516752695616]
本研究では,物体レベルの特徴と高次元空間における関係表現を組み合わせたニューロベクトルシンボルアーキテクチャRESOLVEを提案する。
この設計を活用することで、このモデルは低計算レイテンシとメモリ効率の両方を達成する。
論文 参考訳(メタデータ) (2024-11-13T02:17:03Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳(メタデータ) (2024-05-12T22:18:25Z) - Root Causing Prediction Anomalies Using Explainable AI [3.970146574042422]
本稿では,機械学習モデルにおける根源的性能劣化に対する説明可能なAI(XAI)の新たな応用法を提案する。
単一機能の破損は、カスケード機能、ラベル、コンセプトドリフトを引き起こす可能性がある。
我々は、パーソナライズされた広告に使用されるモデルの信頼性を向上させるために、この手法をうまく応用した。
論文 参考訳(メタデータ) (2024-03-04T19:38:50Z) - Multi-modal Causal Structure Learning and Root Cause Analysis [67.67578590390907]
根本原因局所化のためのマルチモーダル因果構造学習手法であるMulanを提案する。
ログ選択言語モデルを利用してログ表現学習を行い、ログシーケンスを時系列データに変換する。
また、モダリティの信頼性を評価し、最終因果グラフを共同学習するための新しいキーパフォーマンスインジケータ対応アテンション機構も導入する。
論文 参考訳(メタデータ) (2024-02-04T05:50:38Z) - A Novel Neural-symbolic System under Statistical Relational Learning [50.747658038910565]
本稿では,GBPGRと呼ばれる2段階の確率的グラフィカル推論フレームワークを提案する。
GBPGRでは、シンボル推論の結果を用いて、ディープラーニングモデルによる予測を洗練し、修正する。
提案手法は高い性能を示し, 帰納的タスクと帰納的タスクの両方において効果的な一般化を示す。
論文 参考訳(メタデータ) (2023-09-16T09:15:37Z) - The Relational Bottleneck as an Inductive Bias for Efficient Abstraction [3.19883356005403]
ニューラルネットワークはアーキテクチャを通して、個々の入力の属性ではなく、知覚的入力間の関係に焦点を絞っていることを示す。
データ効率のよい方法で抽象化を誘導するために、このアプローチを用いたモデルのファミリーをレビューする。
論文 参考訳(メタデータ) (2023-09-12T22:44:14Z) - Sparse Relational Reasoning with Object-Centric Representations [78.83747601814669]
対象中心表現の操作において,リレーショナルニューラルアーキテクチャによって学習されたソフトルールの構成可能性について検討する。
特に特徴量の増加は,いくつかのモデルの性能を向上し,より単純な関係をもたらすことが判明した。
論文 参考訳(メタデータ) (2022-07-15T14:57:33Z) - On Neural Architecture Inductive Biases for Relational Tasks [76.18938462270503]
合成ネットワーク一般化(CoRelNet)と呼ばれる類似度分布スコアに基づく簡単なアーキテクチャを導入する。
単純なアーキテクチャの選択は、分布外一般化において既存のモデルより優れていることが分かる。
論文 参考訳(メタデータ) (2022-06-09T16:24:01Z) - Leveraging Unlabeled Data for Entity-Relation Extraction through
Probabilistic Constraint Satisfaction [54.06292969184476]
シンボリックドメイン知識の存在下でのエンティティ関係抽出の問題を研究する。
本手法では,論理文の正確な意味を捉える意味的損失を用いる。
低データ体制に焦点をあてて、セマンティックな損失がベースラインをはるかに上回ることを示す。
論文 参考訳(メタデータ) (2021-03-20T00:16:29Z) - Causal Inference with Deep Causal Graphs [0.0]
パラメトリック因果モデリング技術は、カウンターファクト推定の機能を提供することはめったにない。
Deep Causal Graphsは、因果分布をモデル化するニューラルネットワークに必要な機能の抽象的な仕様である。
複雑な相互作用をモデル化する上で,その表現力を示し,機械学習の説明可能性と公正性を示す。
論文 参考訳(メタデータ) (2020-06-15T13:03:33Z) - A logic-based relational learning approach to relation extraction: The
OntoILPER system [0.9176056742068812]
論理に基づく関係学習手法OntoILPERを提案する。
OntoILPERは、例のリッチなリレーショナル表現の利益を享受し、欠点を軽減することができる。
提案手法は統計的手法よりも関係抽出に適していると考えられる。
論文 参考訳(メタデータ) (2020-01-13T12:47:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。