論文の概要: Tracing the Scientific Discovery Capacity of LLMs to Their Training Data

• arxiv url: http://arxiv.org/abs/2611.03617v1
• Date: Mon, 02 Nov 2026 18:50:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.636057
• Title: Tracing the Scientific Discovery Capacity of LLMs to Their Training Data
• Title（参考訳）: LLMの科学的発見能力の学習データへの追跡
• Abstract要約: 大型言語モデル (LLM) は科学的発見への期待が高まっている。 LLMの科学的発見能力はトレーニングデータにどのようにトレースできるのか?
• 参考スコア（独自算出の注目度）: 62.94248886027262
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) show growing promise for scientific discovery, yet basic questions remain about what enables reliable discovery. How can we trace the scientific discovery capacity of LLMs to their training data? We study this question as one of missing probability mass and develop a theoretical account in which monofacts-the facts observed once during training-set the discovery capacity. In materials science and regulatory genomics, we directly manipulate monofact rates in training sets and find that more monofacts consistently yield more discoveries across two open-weight model families, sampling strategies, and reasoning budgets. Further experiments show the relationship cannot be explained by training-set diversity alone and can transfer across scientific domains when paired with in-domain data. Together, our results identify monofact rate in training data as a key factor governing discoveries in language models.
• Abstract（参考訳）: 大規模言語モデル (LLM) は科学的発見への期待が高まるが、信頼性の高い発見を実現するための基本的な疑問は残る。 LLMの科学的発見能力はトレーニングデータにどのようにトレースできるのか? 本研究では, この疑問を, 未知の確率質量の1つとして検討し, 発見能力の設定をトレーニング中に一度観測した事実を事実とする理論的説明法を開発した。 物質科学と規制ゲノミクスでは、トレーニングセットにおけるモノファクトレートを直接操作し、より多くのモノファクトが、2つのオープンウェイトモデルファミリ、サンプリング戦略、および推論予算にわたって一貫して発見されることを見つける。 さらなる実験は、トレーニングセットの多様性だけでは説明できないことを示し、ドメイン内のデータと組み合わせることで、科学領域をまたいで転送することができる。 この結果から,学習データにおけるモノファクト率を,言語モデルにおける発見を規定する重要な要因として捉えた。

関連論文リスト

• Science Edge Evaluation: SEE the Missing Step Toward Real Scientific Discovery [41.32793603340132]
  大型言語モデル(LLM)は科学的な発見にますます関与している。 それらが複雑な実験室科学を支えられるかどうかは不明だ。 19の大規模言語モデル(MLLM)の評価は、最高の性能モデルでさえ48.7%の精度しか達成していないことを示している。
  論文  参考訳（メタデータ） (2026-08-07T08:06:31Z)
• Improving Scientific Hypothesis Generation with Knowledge Grounded Large Language Models [20.648157071328807]
  大規模言語モデル(LLM)は、既存の知識を分析することによって、新しい研究の方向性を特定することができる。 LLMは幻覚を発生させる傾向がある。 我々は,知識グラフから外部構造的知識を統合することで,LLM仮説の生成を促進するシステムKG-CoIを提案する。
  論文  参考訳（メタデータ） (2024-11-04T18:50:00Z)
• A Comprehensive Survey of Scientific Large Language Models and Their Applications in Scientific Discovery [68.48094108571432]
  大規模言語モデル(LLM)は、テキストやその他のデータ処理方法に革命をもたらした。 我々は,科学LLM間のクロスフィールドおよびクロスモーダル接続を明らかにすることで,研究ランドスケープのより総合的なビューを提供することを目指している。
  論文  参考訳（メタデータ） (2024-06-16T08:03:24Z)
• LLM and Simulation as Bilevel Optimizers: A New Paradigm to Advance Physical Scientific Discovery [141.39722070734737]
  本稿では,大規模言語モデルの知識駆動型抽象推論能力をシミュレーションの計算力で強化することを提案する。 本稿では,2段階最適化フレームワークであるSGA(Scientific Generative Agent)を紹介する。 法発見と分子設計における枠組みの有効性を実証するための実験を行った。
  論文  参考訳（メタデータ） (2024-05-16T03:04:10Z)
• Large Language Models are Zero Shot Hypothesis Proposers [17.612235393984744]
  大規模言語モデル(LLM)は、情報障壁を断ち切ることを約束する、グローバルかつ学際的な知識の豊富なものである。 バイオメディカル文献から背景知識と仮説ペアからなるデータセットを構築した。 ゼロショット, 少数ショット, 微調整設定において, 最上位モデルの仮説生成能力を評価する。
  論文  参考訳（メタデータ） (2023-11-10T10:03:49Z)
• Modeling Information Change in Science Communication with Semantically Matched Paraphrases [50.67030449927206]
  SPICEDは、情報変化の度合いに注釈を付けた科学的な発見の最初のパラフレーズデータセットである。 SPICEDには、ニュース記事、ソーシャルメディアの議論、オリジナル論文の全文から抽出された6000の科学的発見ペアが含まれている。 SPICEDで訓練されたモデルは、実世界の科学的主張の事実チェックのための証拠検索において下流のパフォーマンスを改善する。
  論文  参考訳（メタデータ） (2022-10-24T07:44:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。