論文の概要: Bootleg: Chasing the Tail with Self-Supervised Named Entity Disambiguation

• arxiv url: http://arxiv.org/abs/2010.10363v3
• Date: Fri, 23 Oct 2020 16:21:13 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-05 05:35:12.024872
• Title: Bootleg: Chasing the Tail with Self-Supervised Named Entity Disambiguation
• Title（参考訳）: bootleg: 自己教師付き名前付きエンティティの曖昧さ回避で尾を追いかける
• Authors: Laurel Orr, Megan Leszczynski, Simran Arora, Sen Wu, Neel Guha, Xiao Ling, Christopher Re
• Abstract要約: 曖昧さを推論するパターンを基礎とした自己教師型NEDシステムであるBootlegを紹介する。 我々は,3つのNEDベンチマークにおいて,Bootlegが最先端のベンチマークにどのように適合するか,あるいは超えるかを示す。 我々は、一般的なTACRED関係抽出タスクにおいて、新しい最先端のタスクを1.0F1ポイント設定した。
• 参考スコア（独自算出の注目度）: 15.25839262913776
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A challenge for named entity disambiguation (NED), the task of mapping textual mentions to entities in a knowledge base, is how to disambiguate entities that appear rarely in the training data, termed tail entities. Humans use subtle reasoning patterns based on knowledge of entity facts, relations, and types to disambiguate unfamiliar entities. Inspired by these patterns, we introduce Bootleg, a self-supervised NED system that is explicitly grounded in reasoning patterns for disambiguation. We define core reasoning patterns for disambiguation, create a learning procedure to encourage the self-supervised model to learn the patterns, and show how to use weak supervision to enhance the signals in the training data. Encoding the reasoning patterns in a simple Transformer architecture, Bootleg meets or exceeds state-of-the-art on three NED benchmarks. We further show that the learned representations from Bootleg successfully transfer to other non-disambiguation tasks that require entity-based knowledge: we set a new state-of-the-art in the popular TACRED relation extraction task by 1.0 F1 points and demonstrate up to 8% performance lift in highly optimized production search and assistant tasks at a major technology company
• Abstract（参考訳）: 知識ベース内のエンティティにテキストの言及をマッピングするタスクである名前付きエンティティ曖昧化(NED)の課題は、末尾エンティティと呼ばれるトレーニングデータに稀に現れるエンティティを曖昧にする方法である。 人間は、エンティティ事実、関係、タイプに関する知識に基づいて微妙な推論パターンを使用して、不慣れなエンティティを曖昧にします。 これらのパターンにインスパイアされた自己教師型NEDシステムであるBootlegを導入する。 あいまいさに対する中核的推論パターンを定義し、自己教師型モデルにパターンを学習させる学習手順を作成し、弱い監督を用いてトレーニングデータの信号を強化する方法を示す。 単純なTransformerアーキテクチャで推論パターンをエンコードすると、Bootlegは3つのNEDベンチマークで最先端を達成または超える。 さらに、Bootlegから学んだ表現は、エンティティベースの知識を必要とする他の曖昧でないタスクへの変換に成功し、一般的なTACRED関係抽出タスクに1.0F1ポイントを新たに設定し、大手テクノロジー企業において、高度に最適化された製品検索およびアシスタントタスクにおいて最大8%のパフォーマンス向上を示す。

関連論文リスト

• Web-Scale Visual Entity Recognition: An LLM-Driven Data Approach [56.55633052479446]
  Webスケールのビジュアルエンティティ認識は、クリーンで大規模なトレーニングデータがないため、重大な課題を呈している。 本稿では,ラベル検証,メタデータ生成,合理性説明に多モーダル大言語モデル(LLM)を活用することによって,そのようなデータセットをキュレートする新しい手法を提案する。 実験により、この自動キュレートされたデータに基づいてトレーニングされたモデルは、Webスケールの視覚的エンティティ認識タスクで最先端のパフォーマンスを達成することが示された。
  論文  参考訳（メタデータ） (2024-10-31T06:55:24Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• SrTR: Self-reasoning Transformer with Visual-linguistic Knowledge for Scene Graph Generation [12.977857322594206]
  一段階のシーングラフ生成では、スパース提案セットといくつかのクエリを使ってエンティティペア間の効果的な関係を推測する。 モデルにフレキシブルな自己推論機能を加えるために,視覚言語知識を用いた自己推論変換器(SrTR)を提案する。 大規模な事前学習型画像テキスト基礎モデルに触発され、視覚言語学的な事前知識が導入された。
  論文  参考訳（メタデータ） (2022-12-19T09:47:27Z)
• Schema-aware Reference as Prompt Improves Data-Efficient Knowledge Graph Construction [57.854498238624366]
  本稿では,データ効率のよい知識グラフ構築のためのRAP(Schema-Aware Reference As Prompt)の検索手法を提案する。 RAPは、人間の注釈付きおよび弱教師付きデータから受け継いだスキーマと知識を、各サンプルのプロンプトとして動的に活用することができる。
  論文  参考訳（メタデータ） (2022-10-19T16:40:28Z)
• Representing Knowledge by Spans: A Knowledge-Enhanced Model for Information Extraction [7.077412533545456]
  本稿では,エンティティとリレーションの両方の表現を同時に学習する事前学習モデルを提案する。 スパンをスパンモジュールで効率的に符号化することで、私たちのモデルはエンティティとそれらの関係を表現できますが、既存のモデルよりもパラメータが少なくなります。
  論文  参考訳（メタデータ） (2022-08-20T07:32:25Z)
• Distantly-Supervised Named Entity Recognition with Noise-Robust Learning and Language Model Augmented Self-Training [66.80558875393565]
  遠距離ラベル付きデータのみを用いて、名前付きエンティティ認識(NER)モデルを訓練する際の課題について検討する。 本稿では,新しい損失関数と雑音ラベル除去ステップからなるノイズロスバスト学習手法を提案する。 提案手法は,既存の遠隔教師付きNERモデルよりも優れた性能を実現する。
  論文  参考訳（メタデータ） (2021-09-10T17:19:56Z)
• Learning Task Informed Abstractions [10.920599910769276]
  本稿では,報酬関連視覚的特徴を注意散らしから明確に分離する学習タスクインフォームド抽象化(TIA)を提案する。 TIAは、多くの視覚制御タスクにおける最先端の手法よりも大きなパフォーマンス向上をもたらす。
  論文  参考訳（メタデータ） (2021-06-29T17:56:11Z)
• Coarse-to-Fine Pre-training for Named Entity Recognition [26.00489191164784]
  NER固有の事前学習フレームワークを提案し、粗大から細小まで自動的に抽出された実体知識を事前学習モデルに注入する。 本フレームワークは,事前学習したベースラインに対する大幅な改善を実現し,3つのベンチマークに対して,新しい最先端のパフォーマンスを確立する。
  論文  参考訳（メタデータ） (2020-10-16T07:39:20Z)
• A Simple Approach to Case-Based Reasoning in Knowledge Bases [56.661396189466664]
  我々は,古典人工知能(AI)におけるケースベース推論を想起させる,アンフノトレーニングを必要とする知識グラフ(KG)における推論に対する驚くほど単純かつ正確なアプローチを提案する。 ソースエンティティとバイナリ関係が与えられたターゲットエンティティを見つけるタスクを考えてみましょう。 我々の非パラメトリックなアプローチは、与えられた関係を通して類似したソースエンティティを接続する複数のテキストトグラフパスパターンを見つけることによって、クエリ毎にクレープな論理ルールを導出します。
  論文  参考訳（メタデータ） (2020-06-25T06:28:09Z)
• Exploiting Structured Knowledge in Text via Graph-Guided Representation Learning [73.0598186896953]
  本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。 エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。 既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
  論文  参考訳（メタデータ） (2020-04-29T14:22:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。