論文の概要: Large Discovery Models: Empirically-grounded Model-Based Open-Ended Search
- arxiv url: http://arxiv.org/abs/2608.15669v1
- Date: Sun, 16 Aug 2026 10:27:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.381293
- Title: Large Discovery Models: Empirically-grounded Model-Based Open-Ended Search
- Title(参考訳): 大規模発見モデル:経験的基盤モデルに基づくオープンエンデッドサーチ
- Abstract要約: 大規模言語モデル(LLM)のような生成モデルは、広大で構造化された、そしてオープンな仮説空間に対する表現力のある事前情報を提供する。
本稿では,ベイズ的非パラメトリック報酬代理モデルと生成モデルを結合した経験的基礎的再帰的アーキテクチャであるLarge Discovery Model(LDM)を紹介する。
LDMは、バリデーションBPBの大幅な削減、結合エネルギーの18.2%の相対的な減少、および分子多目的性能の60%以上の相対的なゲインを達成する。
- 参考スコア(独自算出の注目度): 32.21307731426909
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Scientific discovery often involves optimising expensive-to-evaluate objectives over vast, structured, and open-ended hypothesis spaces, such as molecules, protein sequences, and computer programs. Generative models such as large language models (LLMs) provide expressive priors over such spaces, but their likelihoods and self-assessments are unreliable proxies for the objectives and calibrated epistemic uncertainty, especially for novel candidates outside the observed data distribution. We introduce the Large Discovery Model (LDM), an empirically grounded recurrent architecture that couples a generative model with a Bayesian non-parametric reward surrogate model. The generative model proposes and refines candidate designs, while the surrogate predicts their performance and quantifies uncertainty, yielding an uncertainty-aware value that guides candidate generation, refinement, and selection. The discovery memory and the surrogate model are continually updated as each new experimental observation arrives. We evaluate LDM on three scenarios spanning different design modalities and objectives, including neural-network training, antibody design, and molecular optimisation. Compared to LLM-only reflection or traditional statistical search across these domains, LDM achieves a $2.4\times$ greater reduction in validation BPB, an $18.2\%$ relative decrease in binding energy, and more than $60\%$ relative gains in molecular multi-objective performance. These results suggests that LDM could serve as a general-purpose discovery engine for effective search over open-ended hypothesis spaces.
- Abstract(参考訳): 科学的な発見は、しばしば、分子、タンパク質配列、コンピュータプログラムのような広大な、構造化され、オープンな仮説空間に対して、費用対評価の目的を最適化することを含む。
大規模言語モデル(LLM)のような生成モデルは、そのような空間に対して表現力のある先行性を提供するが、その可能性と自己評価は、特に観測されたデータ分布外の新しい候補に対して、目的とキャリブレーションされたてんかんの不確実性に対する信頼できないプロキシである。
本稿では,ベイズ的非パラメトリック報酬代理モデルと生成モデルを結合した経験的基礎的再帰的アーキテクチャであるLarge Discovery Model(LDM)を紹介する。
生成モデルは、候補設計を提案し、洗練する一方で、サロゲートはその性能を予測し、不確実性を定量化し、候補生成、洗練、選択を導く不確実性認識値を生成する。
発見メモリとサロゲートモデルは、新しい実験観測が到着するたびに継続的に更新される。
ニューラル・ネットワーク・トレーニング, 抗体設計, 分子最適化など, 異なる設計モダリティと目的にまたがる3つのシナリオを対象としたLCMの評価を行った。
LLMのみのリフレクションや従来の統計検索と比較すると、LCMはバリデーションBPBの大幅な削減、結合エネルギーの相対的な減少、分子多目的性能の相対的なゲインの60ドル以上を達成している。
これらの結果から, LDMはオープンな仮説空間を効果的に探索するための汎用的な発見エンジンとして機能する可能性が示唆された。
関連論文リスト
- ReproMIA: A Comprehensive Analysis of Model Reprogramming for Proactive Membership Inference Attacks [9.222065816286918]
メンバーシップ推論のための統一的で効率的なフレームワークである textttReproMIA を提案する。
様々なアーキテクチャパラダイムにわたるtextttReproMIA の特殊インスタンス化を提供する。
textttReproMIAは、既存の最先端のベースラインよりも一貫して、実質的に優れています。
論文 参考訳(メタデータ) (2026-03-30T19:35:10Z) - Multi-Objective Coverage via Constraint Active Search [8.977841680385627]
我々は,代表サンプルの小さな集合を特定することを目的として,新たな多目的カバレッジ(MOC)問題を定式化する。
楽観的なサンプルを選択するために,高信頼度境界ベース獲得関数を用いた新しい検索アルゴリズムMOC-CASを提案する。
競合ベースラインと比較して,我々のMOC-CASはSARS-CoV-2および癌に対する大規模タンパク質ターゲットデータセットに対して,経験的に優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2026-02-17T14:07:16Z) - Score-based Membership Inference on Diffusion Models [3.742113529511043]
拡散モデルに対するメンバーシップ推論攻撃(MIA)は、プライバシーの懸念が強まっている。
本稿では,拡散モデルが近似することを学習する予測ノイズベクトルに着目し,スコアベースMIAの理論的,実証的研究を行う。
提案手法は, トレーニングセットに近づき, メンバシップが明らかになるような, 近隣のトレーニングサンプルのカーネル重み付き局所平均に対して, 期待されたデノイザ出力が向けられることを示す。
論文 参考訳(メタデータ) (2025-09-29T16:28:55Z) - Model Correlation Detection via Random Selection Probing [62.093777777813756]
既存の類似性に基づく手法では、モデルパラメータにアクセスしたり、しきい値なしでスコアを生成する必要がある。
本稿では,モデル相関検出を統計的テストとして定式化する仮説テストフレームワークであるランダム選択探索(RSP)を紹介する。
RSPは相関の証拠を定量化する厳密なp-値を生成する。
論文 参考訳(メタデータ) (2025-09-29T01:40:26Z) - Modèles de Substitution pour les Modèles à base d'Agents : Enjeux, Méthodes et Applications [0.0]
エージェントベースモデル(ABM)は、局所的な相互作用から生じる創発的な現象を研究するために広く用いられている。
ABMの複雑さは、リアルタイム意思決定と大規模シナリオ分析の可能性を制限する。
これらの制限に対処するため、サロゲートモデルはスパースシミュレーションデータから近似を学習することで効率的な代替手段を提供する。
論文 参考訳(メタデータ) (2025-05-17T08:55:33Z) - Steering Masked Discrete Diffusion Models via Discrete Denoising Posterior Prediction [88.65168366064061]
本稿では,確率論的推論の課題として,事前学習したMDMを操る作業を行う新しいフレームワークであるDDPPを紹介する。
私たちのフレームワークは、3つの新しい目標のファミリーにつながります。
Wet-lab Validation(ウェット・ラブ・バリデーション)を用いて,報酬最適化タンパク質配列の過渡的発現を観察する。
論文 参考訳(メタデータ) (2024-10-10T17:18:30Z) - InfoRM: Mitigating Reward Hacking in RLHF via Information-Theoretic Reward Modeling [66.3072381478251]
Reward Hacking(報酬の過度な最適化)は依然として重要な課題だ。
本稿では,報奨モデル,すなわちInfoRMのためのフレームワークを提案する。
InfoRMの過度な最適化検出機構は、有効であるだけでなく、幅広いデータセットにわたって堅牢であることを示す。
論文 参考訳(メタデータ) (2024-02-14T17:49:07Z) - On Least Square Estimation in Softmax Gating Mixture of Experts [78.3687645289918]
決定論的MoEモデルに基づく最小二乗推定器(LSE)の性能について検討する。
我々は,多種多様な専門家関数の収束挙動を特徴付けるために,強い識別可能性という条件を確立する。
本研究は,専門家の選択に重要な意味を持つ。
論文 参考訳(メタデータ) (2024-02-05T12:31:18Z) - Modeling Choice via Self-Attention [8.394221523847325]
注意に基づく選択モデルはHalo Multinomial Logit(Halo-MNL)モデルの低最適一般化であることを示す。
また、実データから選択を推定するための最初の現実的な尺度を確立し、既存のモデルの評価を行う。
論文 参考訳(メタデータ) (2023-11-11T11:13:07Z) - When to Update Your Model: Constrained Model-based Reinforcement
Learning [50.74369835934703]
モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。
続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。
さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
論文 参考訳(メタデータ) (2022-10-15T17:57:43Z) - Simplifying Model-based RL: Learning Representations, Latent-space
Models, and Policies with One Objective [142.36200080384145]
自己整合性を維持しつつ高いリターンを達成するために,潜在空間モデルとポリシーを協調的に最適化する単一目的を提案する。
得られたアルゴリズムは, モデルベースおよびモデルフリーRL手法のサンプル効率に適合するか, 改善することを示した。
論文 参考訳(メタデータ) (2022-09-18T03:51:58Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。