論文の概要: Benchmarking Resource-Efficient LLMs for Research Topic Ontology Generation in the Biomedical Field
- arxiv url: http://arxiv.org/abs/2607.17902v1
- Date: Mon, 20 Jul 2026 12:48:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.619501
- Title: Benchmarking Resource-Efficient LLMs for Research Topic Ontology Generation in the Biomedical Field
- Title(参考訳): バイオメディカル分野における研究トピックオントロジー生成のための資源効率のベンチマーク
- Abstract要約: バイオメディカルな概念間の意味的関係を識別するために,5つの小オープンソースの大規模言語モデル(LLM)の性能を評価する。
私たちは、標準プロンプト、Chain-of-Thought、微調整の3つの適応戦略を分析します。
これらの結果から, 直接微調整がLLMのボトルネックを効果的に越えていることが確認された。
- 参考スコア(独自算出の注目度): 0.8633013637160062
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge Organization Systems like Ontologies and taxonomies are fundamental for structuring scientific knowledge, yet their manual curation presents a persistent bottleneck in knowledge management. While Large Language Models (LLMs) offer a scalable mechanism for automated ontology generation, their capacity to classify complex, domain-specific semantics requires systematic evaluation. In this paper, we assess the performance of five small, open-source LLMs (up to 9 billion parameters) in identifying semantic relationships between biomedical concepts. To support this evaluation, we introduce MeSH-Rel-4K, a dataset comprising 4K semantic relationships extracted from the Medical Subject Headings (MeSH). We analyse three adaptation strategies: standard prompting, Chain-of-Thought prompting, and fine-tuning. While parameter-constrained models traditionally struggle with the nuances of in-context logic, our results reveal that targeted fine-tuning increases the average F1-score by 34.1 percentage points. These results confirm that direct fine-tuning effectively exceeds the reasoning bottlenecks of smaller LLMs, providing an accurate, automated methodology for the construction and evolution of specialised biomedical ontologies.
- Abstract(参考訳): オントロジーや分類学のような知識組織システムは、科学的知識を構築するのに基本的なものであるが、その手作業によるカリキュラムは、知識管理において永続的なボトルネックを呈している。
大規模言語モデル(LLM)は自動オントロジー生成のためのスケーラブルなメカニズムを提供するが、複雑なドメイン固有のセマンティクスを分類する能力は体系的な評価を必要とする。
本稿では,バイオメディカルな概念間の意味的関係を識別するために,5つのオープンソースLCM(最大90億のパラメータ)の性能を評価する。
この評価を支援するために,MeSH(Messical Subject Headings)から抽出した4K意味関係からなるデータセットであるMeSH-Rel-4Kを紹介する。
標準プロンプト、Chain-of-Thoughtプロンプト、微調整の3つの適応戦略を分析します。
パラメータ制約付きモデルは、従来、文脈内論理のニュアンスに苦しむが、我々の結果は、ターゲットとなる微調整が平均F1スコアを34.1ポイント増加させることを示した。
これらの結果は, 直接微調整がより小さなLSMのボトルネックを効果的に克服し, 特殊な生物医学的オントロジーの構築と進化のための, 正確かつ自動化された方法論を提供するものであることを確認した。
関連論文リスト
- The limits of bio-molecular modeling with large language models : a cross-scale evaluation [10.137315614435176]
大規模言語モデル(LLM)は、生体分子発見にますます応用されている。
我々は,LLM性能と機械的理解の体系的なギャップを,生物分子間ベンチマークBioMol-LLM-Benchを用いて明らかにした。
論文 参考訳(メタデータ) (2026-04-03T17:38:42Z) - A Federated and Parameter-Efficient Framework for Large Language Model Training in Medicine [59.78991974851707]
大規模言語モデル(LLM)は、質問応答や診断など、医療ベンチマークにおいて強力なパフォーマンスを示している。
ほとんどの医療用LDMは、異種システムの一般化性と安全性の制限に直面している単一の機関のデータに基づいて訓練されている。
本稿では, LLMを医療応用に適用するためのモデルに依存しない, パラメータ効率のよいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-29T18:48:21Z) - Scalable Construction of a Lung Cancer Knowledge Base: Profiling Semantic Reasoning in LLMs [0.0]
オープン情報抽出(OpenIE)を用いた肺癌知識基盤構築のためのパイプラインを提案する。
結果として得られる三重項集合は、細調整された大言語モデル(LLM)のためのドメイン固有で大規模でノイズ対応のリソースを提供する。
論文 参考訳(メタデータ) (2026-01-05T23:40:00Z) - OncoReason: Structuring Clinical Reasoning in LLMs for Robust and Interpretable Survival Prediction [2.904892426557913]
大規模言語モデル (LLM) は, バイオメディカルNLPにおいて高い性能を示した。
本稿では,自己回帰型LPMと結果予測のための臨床推論を整合させる,統合型マルチタスク学習フレームワークを提案する。
マルチタスク・クリニカル・モデリングにおける推論・アライメントの重要性について検討した。
論文 参考訳(メタデータ) (2025-10-20T13:35:12Z) - Medical Reasoning in the Era of LLMs: A Systematic Review of Enhancement Techniques and Applications [59.721265428780946]
医学における大きな言語モデル(LLM)は印象的な能力を実現しているが、体系的で透明で検証可能な推論を行う能力に重大なギャップが残っている。
本稿は、この新興分野に関する最初の体系的なレビューを提供する。
本稿では,学習時間戦略とテスト時間メカニズムに分類した推論強化手法の分類法を提案する。
論文 参考訳(メタデータ) (2025-08-01T14:41:31Z) - Quantifying the Reasoning Abilities of LLMs on Real-world Clinical Cases [48.87360916431396]
MedR-Benchは1,453例の構造化患者のベンチマークデータセットで、推論基準を付した注釈付きである。
本稿では,3つの批判的診察勧告,診断決定,治療計画を含む枠組みを提案し,患者のケアジャーニー全体をシミュレートする。
このベンチマークを用いて、DeepSeek-R1、OpenAI-o3-mini、Gemini-2.0-Flash Thinkingなど、最先端の5つのLCMを評価した。
論文 参考訳(メタデータ) (2025-03-06T18:35:39Z) - Knowledge Hierarchy Guided Biological-Medical Dataset Distillation for Domain LLM Training [10.701353329227722]
学術文献から高品質なテキストトレーニングデータの蒸留を自動化する枠組みを提案する。
われわれのアプローチは、バイオメディカル領域とより密接に一致した質問を自己評価し、生成する。
本手法は,生命科学領域の事前学習モデルと比較して,質問応答タスクを大幅に改善する。
論文 参考訳(メタデータ) (2025-01-25T07:20:44Z) - Reasoning-Enhanced Healthcare Predictions with Knowledge Graph Community Retrieval [61.70489848327436]
KAREは、知識グラフ(KG)コミュニティレベルの検索と大規模言語モデル(LLM)推論を統合する新しいフレームワークである。
MIMIC-IIIでは最大10.8~15.0%、MIMIC-IVでは12.6~12.7%である。
論文 参考訳(メタデータ) (2024-10-06T18:46:28Z) - Biomedical knowledge graph-optimized prompt generation for large language models [1.6658478064349376]
大規模言語モデル(LLM)は前例のない速度で採用されているが、バイオメディシンのような知識集約ドメインでは依然として課題に直面している。
本稿では,トークン最適化およびロバストな知識グラフに基づくRetrieval Augmented Generationフレームワークを紹介する。
論文 参考訳(メタデータ) (2023-11-29T03:07:00Z) - Self-Verification Improves Few-Shot Clinical Information Extraction [73.6905567014859]
大規模言語モデル (LLMs) は、数発のテキスト内学習を通じて臨床キュレーションを加速する可能性を示している。
正確性や解釈可能性に関する問題、特に健康のようなミッションクリティカルな領域ではまだ苦戦している。
本稿では,自己検証を用いた汎用的な緩和フレームワークについて検討する。このフレームワークはLLMを利用して,自己抽出のための証明を提供し,その出力をチェックする。
論文 参考訳(メタデータ) (2023-05-30T22:05:11Z) - Knowledge-Augmented Reasoning Distillation for Small Language Models in
Knowledge-Intensive Tasks [90.11273439036455]
大規模言語モデル(LLM)は知識集約推論タスクにおいて有望なパフォーマンスを示している。
外部知識ベースから得られた知識を付加したLPMから理性を生成するための,小型LMを微調整する新しい手法であるKARDを提案する。
我々は,KARDが知識集約型推論データセットにおいて,小さなT5モデルとGPTモデルの性能を著しく向上させることを示す。
論文 参考訳(メタデータ) (2023-05-28T13:00:00Z) - Benchmarking large language models for biomedical natural language processing applications and recommendations [22.668383945059762]
大規模言語モデル(LLM)は、一般的なドメインにおいて有望であることを示している。
我々は、そのゼロショット、少数ショット、微調整性能を従来のBERTモデルやBARTモデルと比較する。
LLM出力の不足情報や幻覚といった問題を見つけます。
論文 参考訳(メタデータ) (2023-05-10T13:40:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。