論文の概要: Labeling Training Data for Entity Matching Using Large Language Models

• arxiv url: http://arxiv.org/abs/2606.28823v1
• Date: Sat, 27 Jun 2026 09:15:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.698631
• Title: Labeling Training Data for Entity Matching Using Large Language Models
• Title（参考訳）: 大規模言語モデルを用いたエンティティマッチングのためのラベル付け学習データ
• Abstract要約: 大規模言語モデル(LLM)は、タスク固有のトレーニングデータを必要とすることなく、エンティティマッチングにおいて強力なパフォーマンスを達成する。 小型言語モデル(SLM)はより高速な推論を提供するが、タスク固有のトレーニングデータを必要とする。 本稿では,知識蒸留を用いてタスク固有のトレーニングデータを提供する必要性を回避できるかどうかを検討する。
• 参考スコア（独自算出の注目度）: 3.188426002064626
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Recent large language models (LLMs) achieve strong performance on entity matching without requiring task-specific training data. However, applying these models to large sets of candidate pairs remains slow and costly. In contrast, entity matchers using traditional machine learning methods or small language models (SLMs), such as RoBERTa, offer much faster inference but require task-specific training data. This paper investigates whether the need to provide task-specific training data can be avoided by using knowledge-distillation workflows, in which an LLM serves as a teacher model to label training pairs that are subsequently used to train a smaller student model. We investigate knowledge distillation for entity matching along the following dimensions: pair-selection strategy, teacher model, label post-processing method, and student model. We evaluate the workflows using the Abt-Buy, Walmart-Amazon, WDC Products, DBLP-ACM, and DBLP-Scholar benchmarks, and compare the performance of student models trained with machine-labeled data to the performance of the same models trained using the benchmark training sets. Our experiments show that student models trained using the machine-labeled sets perform approximately on par with models trained on the benchmark training sets, with the remaining differences in both directions staying below two F1 points. Using GPT-5.2 to label the training sets for all five benchmarks costs US\$28.31 to US\$40.88, whereas manually labeling the same training sets is estimated to require 470 hours of work. At inference time, Ditto is 41.5 to 534 times faster than directly using an LLM to perform the matching tasks. These results indicate that current LLMs, when combined with a suitable pair-selection method, can substantially reduce or even eliminate the manual effort required to label use case-specific training data for entity matching.
• Abstract（参考訳）: 近年の大規模言語モデル (LLM) は,タスク固有のトレーニングデータを必要とせずに,エンティティマッチングの性能を向上している。 しかし、これらのモデルを候補ペアの大きな集合に適用することは、遅くてコストがかかるままである。 対照的に、RoBERTaのような従来の機械学習手法や小さな言語モデル(SLM)を使ったエンティティマッチングは、より高速な推論を提供するが、タスク固有のトレーニングデータを必要とする。 本稿では、LLMが教師モデルとして機能し、その後、より小さな学生モデルを訓練するために使用されるトレーニングペアのラベル付けを行う知識蒸留ワークフローを用いて、タスク固有のトレーニングデータを提供する必要性を回避できるかどうかを検討する。 本稿では, ペア選択戦略, 教師モデル, ラベル後処理手法, 学生モデルなど, エンティティマッチングのための知識蒸留について検討する。 我々は、Abt-Buy、Walmart-Amazon、WDC Products、DBLP-ACM、DBLP-Scholarベンチマークを用いて、ワークフローを評価し、マシンラベルデータでトレーニングされた学生モデルの性能と、ベンチマークトレーニングセットを用いてトレーニングされた同じモデルのパフォーマンスを比較した。 実験の結果, 機械ラベルを用いた学習モデルでは, ベンチマーク・トレーニング・セットでトレーニングしたモデルとほぼ同等の性能を示し, 両方向の差はF1点以下であることがわかった。 5つのベンチマークのトレーニングセットのラベル付けに GPT-5.2 を用いると、US$28.31 to US$40.88 となるが、同じトレーニングセットを手作業でラベル付けするには470時間を要すると見積もられている。 推論時には、DittoはLLMを直接使用してマッチングタスクを実行するよりも41.5倍から534倍高速である。 これらの結果から,現在のLCMと適切なペア選択法を組み合わせることで,エンティティマッチングのためのケース固有トレーニングデータのラベル付けに要する作業を大幅に削減する,あるいは除去することが可能になる。

関連論文リスト

• Learning Multi-Indicator Weights for Data Selection: A Joint Task-Model Adaptation Framework with Efficient Proxies [50.39041754816285]
  本稿では、下流タスクと特定のモデルの両方にデータ選択を併用する多変数重み学習フレームワークを提案する。 提案手法は,GSM8Kのトレーニングサンプルの30%しか使用せず,フルデータセットチューニングに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2026-05-10T17:30:16Z)
• Live Knowledge Tracing: Real-Time Adaptation using Tabular Foundation Models [67.75857052135154]
  ディープ・ナレッジ・トレーシング・モデルは、学生の学習軌跡をモデル化する上で大きなブレークスルーを達成している。 固定トレーニングセットでのオフライントレーニングを必要とする従来の手法では、オンライン手法でリアルタイムの'生きた'知識トレースを実行しています。 最大273倍のスピードアップで予測競合性能を達成できることを示す。
  論文  参考訳（メタデータ） (2026-02-06T09:49:28Z)
• Exploring Large Language Models for Product Attribute Value Identification [25.890927969633196]
  製品属性値識別(PAVI)は、製品情報から属性とその値を自動的に識別する。 既存の手法は、BARTやT5のような微調整済みの言語モデルに依存している。 本稿では, LLaMA や Mistral などの大規模言語モデル (LLM) をデータ効率・ロバストなPAVI 代替品として検討する。
  論文  参考訳（メタデータ） (2024-09-19T12:09:33Z)
• NV-Embed: Improved Techniques for Training LLMs as Generalist Embedding Models [38.41524186248607]
  我々はNV-Embedを導入し、アーキテクチャ設計、トレーニング手順、キュレートされたデータセットを取り入れた。 モデルアーキテクチャでは, プール埋め込みを実現するために, 潜時注意層を提案する。 学習アルゴリズムでは,2段階のコントラッシブ・インストラクション・チューニング手法を導入する。
  論文  参考訳（メタデータ） (2024-05-27T17:59:45Z)
• Efficient Grammatical Error Correction Via Multi-Task Training and Optimized Training Schedule [55.08778142798106]
  原文と修正文のアライメントを利用する補助タスクを提案する。 我々は,各タスクをシーケンス・ツー・シーケンス問題として定式化し,マルチタスク・トレーニングを行う。 トレーニングに使用されるデータセットの順序や、データセット内の個々のインスタンスでさえ、最終的なパフォーマンスに重要な影響を与える可能性があることが分かりました。
  論文  参考訳（メタデータ） (2023-11-20T14:50:12Z)
• Entity Matching using Large Language Models [3.7277730514654555]
  本稿では, PLM ベースのマーカに代わる, タスク固有の訓練データ依存モデルとして, LLM (Generative Large Language Model) を用いて検討する。 GPT4は一致判定のための構造化された説明を生成でき、一致した誤りの原因を自動的に特定できることを示す。
  論文  参考訳（メタデータ） (2023-10-17T13:12:32Z)
• Distilling Step-by-Step! Outperforming Larger Language Models with Less Training Data and Smaller Model Sizes [91.58845026796149]
  大規模言語モデルを上回る小さなモデルを訓練する新しいメカニズムであるDistilling Step-by-stepを導入する。 4つのNLPベンチマークで3つの結果を得た。
  論文  参考訳（メタデータ） (2023-05-03T17:50:56Z)
• TRAK: Attributing Model Behavior at Scale [79.56020040993947]
  本稿では,大規模な微分モデルに対して有効かつ計算的に抽出可能なデータ属性法であるTRAK(Tracing with Randomly-trained After Kernel)を提案する。
  論文  参考訳（メタデータ） (2023-03-24T17:56:22Z)
• The Right Tool for the Job: Matching Model and Instance Complexities [62.95183777679024]
  NLPモデルが大きくなればなるほど、訓練されたモデルを実行するには、金銭的・環境的なコストを発生させる重要な計算資源が必要である。 我々は、推論中、早期(かつ高速)の"exit"を可能にする文脈表現微調整の修正を提案する。 3つのテキスト分類データセットと2つの自然言語推論ベンチマークの2つのタスクで、5つの異なるデータセットに対して提案した修正を検証した。
  論文  参考訳（メタデータ） (2020-04-16T04:28:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。