論文の概要: Bayesian Model Discovery with Language Models: Closing the Loop between Hypotheses and Experiments
- arxiv url: http://arxiv.org/abs/2610.25747v1
- Date: Mon, 19 Oct 2026 03:58:21 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:26:47.042751
- Title: Bayesian Model Discovery with Language Models: Closing the Loop between Hypotheses and Experiments
- Title(参考訳): 言語モデルを用いたベイズモデル発見:仮説と実験のループを閉じる
- Abstract要約: 仮説生成と実験設計のループを閉じる新しいタイプの科学的モデル発見手法を開発した。
数値エンジンはモデルファミリーのパラメータに適合し、モデルエビデンスによってそれらを重み付け、予測を平均化する。
次に、家族とそのパラメータよりも期待される情報を最大化し、更新された信念と残留診断をLSMにフィードバックし、次の提案を導くことで、次の実験条件を選択する。
文脈内学習やLLMに基づく科学エージェントよりも低い最終予測誤差を達成しつつ、正確な機能的なフォームをより頻繁に回収し、数値的なフィードバックと共同目的をサポートするアブレーションを達成している。
- 参考スコア(独自算出の注目度): 57.451457749854775
- License:
- Abstract: Scientific model discovery requires proposing candidate models of an unknown system and designing experiments that discriminate among them. However, LLM-based approaches typically rely on in-context learning to predict outcomes and select experiments, lacking explicit model evaluation to systematically guide hypothesis search, while Bayesian approaches enable principled model comparison but are confined to a predefined candidate set which results in limited search spaces. To this end, we introduce BMD, which closes the loop between LLM-driven hypothesis generation and Bayesian experimental design. Specifically, an LLM proposes model families, while a numerical engine fits their parameters, weighs them by model evidence, and averages their predictions. Then, BMD chooses the next experimental conditions by maximizing the joint expected information gain over families and their parameters, while feeding the updated beliefs and residual diagnostics back to the LLM to guide its next proposals. Across four scientific discovery benchmarks, BMD achieves lowest final prediction error than in-context learning and LLM-based scientific agents while recovering exact functional forms more often, with ablations supporting numerical feedback and the joint objective.
- Abstract(参考訳): 科学的モデル発見には、未知のシステムの候補モデルを提案し、それらを識別する実験を設計する必要がある。
しかし、LLMベースのアプローチは一般的に、結果の予測と実験の選択にコンテキスト内学習に依存しており、仮説探索を体系的に導くための明示的なモデル評価が欠如している。
この目的のために,LLM駆動仮説生成とベイズ実験設計のループを閉じるBMDを導入する。
特に、LLMはモデルファミリを提案し、数値エンジンはパラメータに適合し、モデルエビデンスによってそれらを重み付け、予測を平均化する。
次に、BMDは、家族とそれらのパラメータに対する結合期待情報の獲得を最大化し、更新された信念と残留診断をLSMにフィードバックし、次の提案を導くことで、次の実験条件を選択する。
4つの科学的発見ベンチマークで、BMDは文脈内学習やLLMベースの科学エージェントよりも低い最終予測誤差を達成し、正確な機能的なフォームをより頻繁に回収し、数値的なフィードバックと共同目的をサポートする。
関連論文リスト
- Large Discovery Models: Empirically-grounded Model-Based Open-Ended Search [32.21307731426909]
大規模言語モデル(LLM)のような生成モデルは、広大で構造化された、そしてオープンな仮説空間に対する表現力のある事前情報を提供する。
本稿では,ベイズ的非パラメトリック報酬代理モデルと生成モデルを結合した経験的基礎的再帰的アーキテクチャであるLarge Discovery Model(LDM)を紹介する。
LDMは、バリデーションBPBの大幅な削減、結合エネルギーの18.2%の相対的な減少、および分子多目的性能の60%以上の相対的なゲインを達成する。
論文 参考訳(メタデータ) (2026-08-16T10:27:06Z) - Before the Action: Benchmarking LLMs on Prospective Hypothesis Discovery [95.44432473367836]
大規模言語モデル(LLM)は、事前に特定された質問に答える能力に優れるが、未解決の未解決段階をナビゲートする能力はほとんど測定されていない。
仮説探索(PHD)を導入し,不確定な証拠から,仮説空間を自律的に構築することをモデルに求める。
本稿では,6つの科学的・分析的領域にわたる988ケースのベンチマークであるHypoArenaと,オープンエンド仮説セットの評価フレームワークであるHypoEvalを紹介する。
論文 参考訳(メタデータ) (2026-07-17T08:56:43Z) - DeepImagine: Learning Biomedical Reasoning via Successive Counterfactual Imagining [6.221068729338845]
本稿では,LLMの生物医学的推論を連続的対実的想像を通して教える枠組みを提案する。
実際の臨床試験から自然対と近似対を構築し,その結果を報告する。
DeepImagineは、未修正言語モデルと従来の相関ベースラインよりも一貫して改善されていることを示す。
論文 参考訳(メタデータ) (2026-04-24T22:48:10Z) - Evaluating Large Language Models in Scientific Discovery [91.732562776782]
大規模言語モデル (LLMs) は科学研究にますます応用されてきているが、科学ベンチマークでは非文脈化された知識を探索している。
生物, 化学, 材料, 物理にまたがるLSMを評価するシナリオグラウンドベンチマークを提案する。
このフレームワークは、(i)シナリオタイドアイテムの質問レベル精度と(ii)プロジェクトレベルのパフォーマンスの2つのレベルでモデルを評価する。
論文 参考訳(メタデータ) (2025-12-17T16:20:03Z) - Towards Locally Deployable Fine-Tuned Causal Large Language Models for Mode Choice Behaviour [1.8262547855491453]
LiTransMCは、このタスクのために開発された最初の微調整因果LLMである。
提案した3つの選好データセットに対して,11個のオープンアクセスLDM (1-12Bパラメータ) をベンチマークした。
本稿では,話題モデリングのためのBERTopicを用いたモデル生成推論と,新しい説明力指標を提案する。
論文 参考訳(メタデータ) (2025-07-29T02:03:37Z) - MOOSE-Chem2: Exploring LLM Limits in Fine-Grained Scientific Hypothesis Discovery via Hierarchical Search [102.11776494401705]
大規模言語モデル (LLM) は科学的仮説生成の自動化において有望であることを示している。
既存のアプローチは主に、批判的な方法論や実験的な詳細を欠いた粗粒の仮説を導出する。
我々は、科学的仮説発見の新しいタスクを導入し、正式に定義する。
論文 参考訳(メタデータ) (2025-05-25T16:13:46Z) - Confidence in Large Language Model Evaluation: A Bayesian Approach to Limited-Sample Challenges [13.526258635654882]
本研究では,大規模言語モデル(LLM)能力評価のためのベイズ的アプローチを提案する。
モデル機能を潜時変数として扱い、キュレートされたクエリセットを利用して識別応答を誘導する。
GPTシリーズモデルを用いた実験により,提案手法は従来の評価手法よりも優れた識別性が得られることが示された。
論文 参考訳(メタデータ) (2025-04-30T04:24:50Z) - AutoElicit: Using Large Language Models for Expert Prior Elicitation in Predictive Modelling [53.54623137152208]
我々はAutoElicitを導入し、大規模言語モデルから知識を抽出し、予測モデルのための事前構築を行う。
これらの先行情報は情報的であり、自然言語を用いて洗練できることを示す。
AutoElicitは、非形式的な事前よりもエラーを大幅に減らし、ラベルを減らし、コンテクスト内学習を一貫して上回ります。
論文 参考訳(メタデータ) (2024-11-26T10:13:39Z) - Parsimony-Enhanced Sparse Bayesian Learning for Robust Discovery of
Partial Differential Equations [5.584060970507507]
Parsimony Enhanced Sparse Bayesian Learning (PeSBL) 法は非線形力学系の部分微分方程式 (PDE) を解析するために開発された。
数値ケーススタディの結果,多くの標準力学系のPDEをPeSBL法を用いて正確に同定できることが示唆された。
論文 参考訳(メタデータ) (2021-07-08T00:56:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。