論文の概要: Ultra-Fine Entity Typing with Prior Knowledge about Labels: A Simple
Clustering Based Strategy
- arxiv url: http://arxiv.org/abs/2305.12802v1
- Date: Mon, 22 May 2023 08:00:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-23 17:28:55.102075
- Title: Ultra-Fine Entity Typing with Prior Knowledge about Labels: A Simple
Clustering Based Strategy
- Title(参考訳): ラベルに関する事前知識を持つ超微細エンティティ型付け:単純なクラスタリングに基づく戦略
- Authors: Na Li, Zied Bouraoui, Steven Schockaert
- Abstract要約: 既存の手法の性能は, 簡単な手法で改善できることを示す。
トレーニング済みのラベル埋め込みを使用してラベルをセマンティックドメインにクラスタ化し、これらのドメインを追加の型として扱う。
さらに,ラベルクラスタを単純な後処理手法の一部として使用することで,さらなるパフォーマンス向上を実現している。
- 参考スコア(独自算出の注目度): 44.41007607880212
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Ultra-fine entity typing (UFET) is the task of inferring the semantic types,
from a large set of fine-grained candidates, that apply to a given entity
mention. This task is especially challenging because we only have a small
number of training examples for many of the types, even with distant
supervision strategies. State-of-the-art models, therefore, have to rely on
prior knowledge about the type labels in some way. In this paper, we show that
the performance of existing methods can be improved using a simple technique:
we use pre-trained label embeddings to cluster the labels into semantic domains
and then treat these domains as additional types. We show that this strategy
consistently leads to improved results, as long as high-quality label
embeddings are used. We furthermore use the label clusters as part of a simple
post-processing technique, which results in further performance gains. Both
strategies treat the UFET model as a black box and can thus straightforwardly
be used to improve a wide range of existing models.
- Abstract(参考訳): 超微細エンティティ型付け(ultra-fine entity typing、ufet)は、与えられたエンティティ参照に適用される、多数のきめ細かい候補から意味型を推論するタスクである。
このタスクは、遠くの監督戦略であっても、多くのタイプのトレーニング例を少数持っているだけで、特に難しいです。
したがって最先端のモデルは、何らかの方法で型ラベルに関する事前の知識に依存する必要がある。
本稿では,ラベルをセマンティックドメインにクラスタ化し,それらのドメインを付加型として扱うために,事前学習されたラベル埋め込みを用いることにより,既存の手法の性能を向上させることができることを示す。
我々は,高品質のラベル埋め込みが使用される限り,この戦略が一貫して改良結果をもたらすことを示す。
さらに,ラベルクラスタを単純な後処理技術の一部として使用することで,さらなるパフォーマンス向上を実現する。
どちらの戦略もUFETモデルをブラックボックスとして扱うため、既存のモデルを広範囲に改善するために簡単に使用できる。
関連論文リスト
- Exploring Structured Semantic Prior for Multi Label Recognition with
Incomplete Labels [60.675714333081466]
不完全なラベルを持つマルチラベル認識(MLR)は非常に難しい。
最近の研究は、視覚言語モデルであるCLIPにおける画像とラベルの対応を探り、不十分なアノテーションを補うことを目指している。
我々は,MLRにおけるラベル管理の欠如を,構造化されたセマンティクスを導出することにより,不完全なラベルで修復することを提唱する。
論文 参考訳(メタデータ) (2023-03-23T12:39:20Z) - An Efficient Active Learning Pipeline for Legal Text Classification [2.462514989381979]
法律分野における事前学習言語モデルを用いて,能動的学習を効果的に活用するためのパイプラインを提案する。
我々は、知識蒸留を用いてモデルの埋め込みを意味論的意味のある空間に導く。
分類タスクに適応したContract-NLIとLEDGARベンチマークの実験により,本手法が標準AL戦略より優れていることが示された。
論文 参考訳(メタデータ) (2022-11-15T13:07:02Z) - Ground Truth Inference for Weakly Supervised Entity Matching [76.6732856489872]
弱監督タスクのための単純だが強力なラベル付けモデルを提案する。
次に、エンティティマッチングのタスクに特化してラベルモデルを調整します。
その結果,従来の手法よりもF1スコアが9%高い結果が得られた。
論文 参考訳(メタデータ) (2022-11-13T17:57:07Z) - LESS: Label-Efficient Semantic Segmentation for LiDAR Point Clouds [62.49198183539889]
我々は,LiDAR点雲を用いた屋外シーンのためのラベル効率のよいセマンティックセマンティックセマンティクスパイプラインを提案する。
本手法は,半弱教師付き学習を用いて,効率的なラベリング手法を設計する。
提案手法は,100%ラベル付き完全教師付き手法と比較して,さらに競争力が高い。
論文 参考訳(メタデータ) (2022-10-14T19:13:36Z) - A Deep Model for Partial Multi-Label Image Classification with Curriculum Based Disambiguation [42.0958430465578]
部分多重ラベル(PML)画像分類問題について検討する。
既存のPMLメソッドは通常、ノイズの多いラベルをフィルタリングするための曖昧な戦略を設計する。
本稿では,PMLの表現能力と識別能力を高めるための深層モデルを提案する。
論文 参考訳(メタデータ) (2022-07-06T02:49:02Z) - Few-Shot Fine-Grained Entity Typing with Automatic Label Interpretation
and Instance Generation [36.541309948222306]
各エンティティタイプに対して,アノテーション付きエンティティ参照が付与される場合,FET(Fall-shot Fine-fine Entity Typing)の問題について検討する。
そこで本稿では,(1) エンティティ型ラベル解釈モジュールが,少数ショットインスタンスとラベル階層を併用することで,タイプラベルと語彙の関連付けを自動的に学習し,(2) 型ベースのコンテキスト化インスタンス生成器は,与えられたインスタンスに基づいて新しいインスタンスを生成して,より一般化のためにトレーニングセットを拡大する,という,2つのモジュールからなる新しいFETフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-28T04:05:40Z) - Improving Pretrained Models for Zero-shot Multi-label Text
Classification through Reinforced Label Hierarchy Reasoning [18.531022315325583]
ラベル階層の探索は、ゼロショットのマルチラベルテキスト分類問題に取り組むための有望なアプローチとなっている。
トレーニング中の階層内のラベル間の相互依存性を促進するために,RLHR(Reinforced Label Hierarchy Reasoning)アプローチを提案する。
論文 参考訳(メタデータ) (2021-04-04T19:14:09Z) - PseudoSeg: Designing Pseudo Labels for Semantic Segmentation [78.35515004654553]
ラベルなしまたは弱いラベル付きデータを用いたトレーニングのための構造化された擬似ラベルを生成するための擬似ラベルの再設計を提案する。
提案手法の有効性を,低データと高データの両方において示す。
論文 参考訳(メタデータ) (2020-10-19T17:59:30Z) - Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
半教師付き学習における簡単なメタ学習アルゴリズムを提案する。
その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
論文 参考訳(メタデータ) (2020-07-08T08:48:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。