論文の概要: Enhancing Knowledge Entity Relation Extraction in Abstracts and Full-text Content of Academic Articles Using Large Language Models
- arxiv url: http://arxiv.org/abs/2610.41552v2
- Date: Mon, 02 Nov 2026 11:19:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 02:41:45.025301
- Title: Enhancing Knowledge Entity Relation Extraction in Abstracts and Full-text Content of Academic Articles Using Large Language Models
- Title(参考訳): 大規模言語モデルを用いた学術論文の要約と全文内容における知識エンティティ関係抽出の強化
- Abstract要約: 本研究では,学術論文からの知識実体関係抽出における大規模事前学習言語モデル(LLM)の有効性について検討した。
本研究は,LCMベースのCoTプロンプトを含む複数の戦略について,より広範に評価する。
本研究では,NLP領域に2つの注釈付きデータセットを手動で構築し,抽象データセットとフルテキストデータセットをカバーした。
- 参考スコア(独自算出の注目度): 4.673446727094768
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This study investigates the effectiveness of large pre-trained language models (LLMs) for knowledge entity relation extraction (KERE) from academic papers. Existing studies have examined individual types of LLM-based strategies and evaluated model performance using metrics such as precision and recall. To provide a broader evaluation, this study investigates multiple strategies, including closed-source LLM-based CoT prompting, LoRA-adapted open-source LLMs, LLM-enhanced small pre-trained language models (SLMs), and SLM-enhanced closed-source LLMs. In addition, this study introduces two strategies, namely SLM-enhanced open-source LLMs and closed-source LLM-enhanced open-source LLMs. These strategies are evaluated from multiple perspectives, including metrics, their ability to mitigate errors observed in SLMs, and potential directions for model optimization. This study manually constructs two annotated datasets in the NLP domain, covering Abstract and Full-Text datasets. Experimental results show that the LoRA-adapted T5 model achieves the highest macro F1 scores of 0.7408 and 0.7013 on the Abstract and Full-Text datasets, respectively. SLMs also benefit from LLM-generated entity descriptions under the LLM-enhanced SLM strategy. Error analysis further reveals that the effectiveness of LLM-based strategies in mitigating SLM errors varies across error types. Based on the identified limitations and error patterns of these strategies, several optimization directions are proposed. In addition, combining strategies with different error patterns further improves KERE performance.
- Abstract(参考訳): 本研究では,学術論文からの知識実体関係抽出(KERE)における大規模事前学習言語モデル(LLM)の有効性について検討した。
既存の研究では, LLM ベースの戦略の個々のタイプについて検討し, 精度やリコールなどの指標を用いてモデル性能の評価を行った。
より広範に評価するために, クローズドソース LLM ベースの CoT プロンプト, LoRA 対応のオープンソース LLM , LLM 対応の小型事前学習言語モデル (SLM) , SLM 対応のクローズドソース LLM など, 複数の手法について検討した。
さらに,SLMのオープンソース LLM と,SLMのオープンソース LLM のクローズド・ソース LLM の2つの戦略を紹介する。
これらの戦略は、メトリクス、SLMで観測されたエラーを緩和する能力、モデル最適化の潜在的な方向性など、複数の観点から評価される。
本研究では,NLP領域に2つの注釈付きデータセットを手動で構築し,抽象データセットとフルテキストデータセットをカバーした。
実験結果から,LoRA適応T5モデルは抽象データセットとフルテキストデータセットでそれぞれ0.7408と0.7013のマクロF1スコアを達成できた。
SLM は LLM 強化 SLM 戦略の下で LLM の生成したエンティティ記述の恩恵を受ける。
さらに、誤り解析により、SLMエラーの軽減におけるLSMベースの戦略の有効性がエラータイプによって異なることが明らかになった。
これらの戦略の特定された制限とエラーパターンに基づいて、いくつかの最適化方向を提案する。
さらに、異なるエラーパターンと戦略を組み合わせることで、KEREのパフォーマンスがさらに向上する。
関連論文リスト
- Latent Factor Models Meets Instructions: Goal-conditioned Latent Factor Discovery without Task Supervision [50.45597801390757]
Instruct-LFはゴール指向の潜在因子発見システムである。
命令フォロー機能と統計モデルを統合して、ノイズの多いデータセットを処理する。
論文 参考訳(メタデータ) (2025-02-21T02:03:08Z) - FDLLM: A Dedicated Detector for Black-Box LLMs Fingerprinting [20.07438999071414]
大規模言語モデル(LLM)は、デジタルコンテンツ作成の風景を急速に変えつつある。
FD-Datasetは、20の有名なプロプライエタリおよびオープンソースLLMから90,000のテキストサンプルからなる総合的なバイリンガルフィンガープリントベンチマークである。
また,パラメータ効率の低いLow-Rank Adaptation (LoRA) を利用して基礎モデルの微調整を行う新しいフィンガープリント手法であるFDLLMを提案する。
論文 参考訳(メタデータ) (2025-01-27T13:18:40Z) - LLMs are Also Effective Embedding Models: An In-depth Overview [41.34518828980852]
大規模言語モデル(LLM)は、様々なタスクで最先端のパフォーマンスを達成することによって、自然言語処理に革命をもたらした。
近年、埋め込みモデルとしての有効性が注目され、ELMoやBERTのような従来のエンコーダのみのモデルから、GPT、LLaMA、Mistralのようなデコーダのみの大規模LLMへとパラダイムシフトした。
論文 参考訳(メタデータ) (2024-12-17T06:48:24Z) - EVOLvE: Evaluating and Optimizing LLMs For In-Context Exploration [76.66831821738927]
大規模言語モデル(LLM)は、不確実性の下で最適な意思決定を必要とするシナリオにおいて、未調査のままである。
多くのアプリケーションに関係のあるステートレス強化学習環境である,帯域幅を最適に決定できる LLM の (in) 能力の測定を行う。
最適な探索アルゴリズムの存在を動機として,このアルゴリズム知識をLLMに統合する効率的な方法を提案する。
論文 参考訳(メタデータ) (2024-10-08T17:54:03Z) - On Learning to Summarize with Large Language Models as References [101.79795027550959]
大型言語モデル (LLM) は、一般的な要約データセットにおける元の参照要約よりも人間のアノテーションに好まれる。
より小さなテキスト要約モデルに対するLLM-as-reference学習設定について検討し,その性能が大幅に向上するかどうかを検討する。
論文 参考訳(メタデータ) (2023-05-23T16:56:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。