論文の概要: When Does Bigger Help? A Controlled Study of LLM Scale for Ontology Learning
- arxiv url: http://arxiv.org/abs/2608.31118v1
- Date: Mon, 31 Aug 2026 17:30:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.541269
- Title: When Does Bigger Help? A Controlled Study of LLM Scale for Ontology Learning
- Title（参考訳）: ビッグガーはいつ役に立つのか? オントロジー学習のためのLLM尺度の制御研究
- Abstract要約: 我々は,Qwen3.5系およびQwen3.6系から高密度および混合スペクトルの13種類のモデルを評価する。
デンス27Bモデルはタームタイピングにおいて実質的に疎らなモデルよりも優れており、大きなMixture-of-Expertsモデルは分類発見において最強のオープンウェイトな結果が得られる。
- 参考スコア（独自算出の注目度）: 5.477826608330914
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The effect of Large Language Model (LLM) scale on ontology learning (OL) performance remains insufficiently characterized. We present a controlled evaluation of 13 models spanning dense and Mixture-of-Experts variants from the Qwen3.5 and Qwen3.6 lineages, together with proprietary GPT release variants, using the OntoLearner retrieval-augmented generation pipeline. All models are evaluated with the same embedding model, retrieval configuration, prompt templates, decoding settings, datasets, and metrics on term typing, taxonomy discovery, and non-taxonomic relationship extraction across four biomedical and materials science and engineering ontologies. Within the dense Qwen3.5 lineage, increasing parameter count primarily improves precision rather than recall, with the largest gains occurring between 9B and 27B parameters. However, the effect of scale is neither monotonic nor uniform across tasks and domains. Dense 27B models outperform substantially larger sparse models on term typing, whereas larger Mixture-of-Experts models achieve the strongest open-weight results on taxonomy discovery. Non-taxonomic relationship extraction remains difficult across model scales, particularly for the Materials Data Science ontology. Performance differences across matched Qwen variants and proprietary GPT releases further indicate that architecture and model lineage can outweigh nominal parameter count. These findings show that model size alone is an insufficient selection criterion for OL and provide empirical guidance for reproducible LLM-assisted ontology engineering.
- Abstract（参考訳）: 大規模言語モデル(LLM)のオントロジー学習(OL)性能への影響は,まだ不十分である。
OntoLearner検索拡張生成パイプラインを用いて,Qwen3.5およびQwen3.6系統の高密度および混合仕様の13モデルの制御評価を行った。
すべてのモデルは、同じ埋め込みモデル、検索設定、プロンプトテンプレート、デコード設定、データセット、用語タイピング、分類学発見、および4つの生物医学および材料科学および工学オントロジーにおける非分類学的関係抽出に関するメトリクスで評価される。
密度の高いQwen3.5系では、パラメータ数が増加することで、リコールよりも精度が向上し、最大のゲインは9Bから27Bのパラメータである。
しかし、スケールの効果は、タスクや領域全体で単調でも均一でもない。
デンス27Bモデルはタームタイピングにおいてかなり大きなスパースモデルより優れ、一方、Mixture-of-Expertsモデルは分類発見において最も強力なオープンウェイトな結果を得る。
非タコノミックな関係抽出は、特にマテリアルデータサイエンスオントロジーにおいて、モデルスケールで難しいままである。
マッチしたQwen変種とプロプライエタリなGPTリリースのパフォーマンスの違いはさらに、アーキテクチャとモデル系統がパラメータ数を上回る可能性があることを示している。
これらの結果から, モデルサイズだけではOLの選択基準が不十分であり, 再現可能なLDM支援オントロジー工学の実証的ガイダンスが得られた。
関連論文リスト
- Aggregate Models, Not Explanations: Improving Feature Importance Estimation [29.82699646128964]
モデルレベルでのアンサンブルにより、より正確な変数重要度推定が得られることを示す。
これらの知見を古典的ベンチマークおよび英国バイオバンクの大規模プロテオミクスで検証した。
論文 参考訳（メタデータ） (2026-02-12T09:36:03Z) - Towards a Comprehensive Scaling Law of Mixture-of-Experts [54.117786590884776]
本論文では,すべての重要な要因を考慮に入れた総合的かつ正確なMoEスケーリング法を提案する。
我々の結果は、$G$と$S$の最適設定が、モデルアーキテクチャとデータサイズの両方に依存しないことを示しています。
提案したMoEスケーリング法則は,将来のMoEモデル設計およびトレーニングを促進するための,正確かつ洞察に富んだガイダンスとして機能する可能性がある。
論文 参考訳（メタデータ） (2025-09-28T06:35:34Z) - The Role of Model Architecture and Scale in Predicting Molecular Properties: Insights from Fine-Tuning RoBERTa, BART, and LLaMA [0.0]
本研究では,各種ケミノフォマティクスタスクの微調整におけるLarge Language Models(LLMs)の有効性を比較するための体系的枠組みを提案する。
分子特性を予測するために,RoBERTa,BART,LLaMAの3つのモデルを評価した。
LLaMAベースのモデルは、一般的に最低限のバリデーション損失を提供しており、タスクやスケールの順応性が優れていることを示唆している。
論文 参考訳（メタデータ） (2024-05-02T02:20:12Z) - A comparative study of zero-shot inference with large language models
and supervised modeling in breast cancer pathology classification [1.4715634464004446]
大規模言語モデル(LLM)は、有望な伝達学習能力を実証している。
LLMは、大きな注釈付きデータセットをキュレートする必要性を減らし、臨床NLP研究の実行を高速化する可能性を実証した。
これは、観察臨床研究におけるNLPに基づく変数の利用と結果の増加をもたらす可能性がある。
論文 参考訳（メタデータ） (2024-01-25T02:05:31Z) - The Languini Kitchen: Enabling Language Modelling Research at Different
Scales of Compute [66.84421705029624]
本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。
私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。
この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
論文 参考訳（メタデータ） (2023-09-20T10:31:17Z) - The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease
detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。
我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。
このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文 参考訳（メタデータ） (2023-09-13T10:40:41Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳（メタデータ） (2022-06-09T17:12:32Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳（メタデータ） (2022-03-23T12:52:49Z) - Bayesian Active Learning for Discrete Latent Variable Models [19.852463786440122]
アクティブラーニングは、モデルのパラメータに適合するために必要なデータ量を削減しようとする。
潜在変数モデルは神経科学、心理学、その他の様々な工学、科学分野において重要な役割を果たす。
論文 参考訳（メタデータ） (2022-02-27T19:07:12Z) - Deep Learning Models for Knowledge Tracing: Review and Empirical
Evaluation [2.423547527175807]
我々は,オープンで広く利用されているデータセットを用いた深層学習知識追跡(DLKT)モデルをレビューし,評価する。
評価されたDLKTモデルは、以前報告した結果の再現性と評価のために再実装されている。
論文 参考訳（メタデータ） (2021-12-30T14:19:27Z) - Modeling Shared Responses in Neuroimaging Studies through MultiView ICA [94.31804763196116]
被験者の大規模なコホートを含むグループ研究は、脳機能組織に関する一般的な結論を引き出す上で重要である。
グループ研究のための新しい多視点独立成分分析モデルを提案し、各被験者のデータを共有独立音源と雑音の線形結合としてモデル化する。
まず、fMRIデータを用いて、被験者間の共通音源の同定における感度の向上を示す。
論文 参考訳（メタデータ） (2020-06-11T17:29:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。