論文の概要: Entity Matching using Large Language Models
- arxiv url: http://arxiv.org/abs/2310.11244v2
- Date: Thu, 1 Feb 2024 19:05:44 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-05 19:42:12.905972
- Title: Entity Matching using Large Language Models
- Title(参考訳): 大規模言語モデルを用いたエンティティマッチング
- Authors: Ralph Peeters, Christian Bizer
- Abstract要約: 最先端のエンティティマッチング手法は、BERTやRoBERTaのような事前訓練された言語モデル(PLM)に依存している。
エンティティマッチングにおけるこれらのモデルの2つの大きな欠点は、(i)モデルがタスク固有のトレーニングデータを必要とすることと、(ii)微調整されたモデルが、アウト・オブ・ディストリビューション・エンティティに関して堅牢でないことである。
PLMベースのマーカに代えて,よりタスク依存の訓練データとして,生成的大規模言語モデル(LLM)をエンティティマッチングに使用することを検討する。
- 参考スコア(独自算出の注目度): 4.94950858749529
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Entity Matching is the task of deciding whether two entity descriptions refer
to the same real-world entity. It is a central step in most data integration
pipelines and an enabler for many e-commerce applications which require to
match products offers from different vendors. State-of-the-art entity matching
methods rely on pre-trained language models (PLMs) such as BERT or RoBERTa. Two
major drawbacks of these models for entity matching are that (i) the models
require significant amounts of task-specific training data and (ii) the
fine-tuned models are not robust concerning out-of-distribution entities. We
investigate using generative large language models (LLMs) for entity matching
as a less task-specific training data dependent and more robust alternative to
PLM-based matchers. Our study covers hosted LLMs as well as open-source LLMs
which can be run locally. We evaluate these models in a zero-shot scenario as
well as a scenario where task-specific training data is available. We compare
different prompt designs as well as the prompt sensitivity of the models and
show that there is no single best prompt but the prompt is akin to a
hyperparameter that needs to be estimated for each model/dataset combination.
We further investigate (i) the selection of in-context demonstrations, (ii) the
generation of matching rules, as well as (iii) fine-tuning a hosted LLM using
the same pool of training data. Our experiments show that the best LLMs require
no or only a few training examples to reach a similar performance as fine-tuned
PLMs. They further exhibit a higher robustness to unseen entities, which makes
them especially suited to use cases where no training data is available. We
show that for use cases that do not allow data to be shared with third parties,
open-source LLMs can be a viable alternative to hosted LLMs given that a small
amount of training data or matching knowledge...
- Abstract(参考訳): エンティティマッチングは、2つのエンティティ記述が同じ現実世界のエンティティを指すかどうかを決定するタスクである。
これは、ほとんどのデータ統合パイプラインにおける中心的なステップであり、異なるベンダーの製品にマッチする必要がある多くのEコマースアプリケーションのためのイネーブラーである。
最先端のエンティティマッチング手法は、BERTやRoBERTaのような事前訓練された言語モデル(PLM)に依存している。
エンティティマッチングのためのこれらのモデルの2つの大きな欠点は
一 相当量のタスク特化訓練データを必要とするモデル
(ii) 細調整されたモデルは分布外エンティティに関して堅牢ではない。
PLMベースのマーカに代えて,よりタスク依存の訓練データとして,生成的大規模言語モデル(LLM)をエンティティマッチングに使用することを検討する。
本研究は,LLMのホストと,ローカルで実行できるオープンソースのLLMについて報告する。
タスク固有のトレーニングデータが利用可能なシナリオと同様に、ゼロショットシナリオでこれらのモデルを評価する。
異なるプロンプト設計とモデルの迅速な感度を比較し、最良のプロンプトは存在しないが、そのプロンプトはモデル/データセットの組み合わせごとに推定される必要のあるハイパーパラメータに類似していることを示す。
我々はさらに調査する
(i)文脈内デモの選択。
(二)一致規則の生成及び一致規則
三 同じトレーニングデータのプールを用いてホストLDMを微調整すること。
実験の結果,最高のLPMは微調整PLMと同じような性能を達成するために,訓練例をほとんど必要としないことがわかった。
さらに、見えないエンティティに対する堅牢性も高く、トレーニングデータが利用できないユースケースに特に適しています。
サードパーティとデータを共有できないユースケースでは、少量のトレーニングデータや知識の一致を前提として、オープンソースのLLMが、ホストされたLLMの代替となる可能性がある。
関連論文リスト
- Learning to Reduce: Optimal Representations of Structured Data in
Prompting Large Language Models [42.16047343029512]
大規模言語モデル(LLM)は汎用AIエージェントとして広く利用されている。
本稿では,入力コンテキストの縮小バージョンを生成するために,言語モデルを微調整するフレームワークであるLearning to Reduceを提案する。
入力コンテキストから関連する証拠を選択する際に,本モデルが同等の精度を達成することを示す。
論文 参考訳(メタデータ) (2024-02-22T00:41:23Z) - TAT-LLM: A Specialized Language Model for Discrete Reasoning over
Tabular and Textual Data [77.66158066013924]
我々は,言語モデル(LLM)の驚くべきパワーを活用して課題を解決することを検討する。
LLaMA2を微調整し,既存のエキスパートアノテートデータセットから自動生成したトレーニングデータを用いてTAT-LLM言語モデルを開発する。
論文 参考訳(メタデータ) (2024-01-24T04:28:50Z) - LLMaAA: Making Large Language Models as Active Annotators [32.57011151031332]
本稿では,大規模な言語モデルをアノテータとして利用し,それをアクティブな学習ループに配置して,アノテートを効率的に行うLLMaAAを提案する。
我々は、エンティティ認識と関係抽出という、2つの古典的NLPタスクの実験と分析を行う。
LLMaAAでは、LLM生成ラベルからトレーニングされたタスク固有のモデルが、数百の注釈付きサンプルで教師より優れている。
論文 参考訳(メタデータ) (2023-10-30T14:54:15Z) - Product Attribute Value Extraction using Large Language Models [56.96665345570965]
事前学習言語モデル(PLM)に基づく最先端属性/値抽出手法は2つの欠点に直面している。
我々は,大規模言語モデル(LLM)を,既存の属性/値抽出法に代わる,より訓練的なデータ効率,より堅牢な代替手段として活用する可能性を探る。
論文 参考訳(メタデータ) (2023-10-19T07:39:00Z) - LLM-augmented Preference Learning from Natural Language [19.700169351688768]
大規模言語モデル(LLM)は、より大きな文脈長を扱う。
LLM は、ターゲットテキストが大きければ SotA を一貫して上回る。
ゼロショット学習よりもパフォーマンスが向上する。
論文 参考訳(メタデータ) (2023-10-12T17:17:27Z) - Adapting Large Language Models for Content Moderation: Pitfalls in Data
Engineering and Supervised Fine-tuning [79.53130089003986]
大規模言語モデル(LLM)は、様々なドメインでタスクを処理するための実現可能なソリューションとなっている。
本稿では、コンテンツモデレーションのためにプライベートにデプロイ可能なLLMモデルを微調整する方法を紹介する。
論文 参考訳(メタデータ) (2023-10-05T09:09:44Z) - Recommender AI Agent: Integrating Large Language Models for Interactive
Recommendations [53.76682562935373]
我々は,LLMを脳として,レコメンダモデルをツールとして使用する,textbfInteRecAgentという効率的なフレームワークを紹介した。
InteRecAgentは会話レコメンデーションシステムとして満足度を達成し、汎用LLMよりも優れる。
論文 参考訳(メタデータ) (2023-08-31T07:36:44Z) - Prompt2Model: Generating Deployable Models from Natural Language
Instructions [74.19816829003729]
大規模言語モデル(LLM)により、システムビルダーはプロンプトによって有能なNLPシステムを作成することができる。
言い換えれば、LSMは従来の特殊目的のNLPモデルとは逆のステップである。
本稿では,LLMに提供されるプロンプトのように自然言語によるタスク記述を行う汎用手法であるPrompt2Modelを提案する。
論文 参考訳(メタデータ) (2023-08-23T17:28:21Z) - LLM-Pruner: On the Structural Pruning of Large Language Models [65.02607075556742]
大規模言語モデル(LLM)は、言語理解と生成において顕著な能力を示している。
タスク非依存であり、元のトレーニングデータセットへの依存を最小限に抑えるという2つの制約の範囲内でLLMの圧縮に取り組む。
LLM-Prunerという名前のこの手法は、非臨界結合構造を選択的に除去する構造プルーニングを採用する。
論文 参考訳(メタデータ) (2023-05-19T12:10:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。