論文の概要: Dictionaries, Not Darwin: Set-Level Selection Beats LLM Evolution in Scientific Equation Discovery
- arxiv url: http://arxiv.org/abs/2607.04108v1
- Date: Sun, 05 Jul 2026 04:10:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.831344
- Title: Dictionaries, Not Darwin: Set-Level Selection Beats LLM Evolution in Scientific Equation Discovery
- Title(参考訳): ダーウィンではなく辞書:科学方程式発見のLLM進化に勝るセットレベル選択
- Abstract要約: PTB-Searchは、コンポーネント化科学発見のための一世代的手法である。
独立した提案を一度サンプリングし、再利用可能な用語をプロブレム単位の辞書に抽出し、列車のみのセットレベルのスパース選択を実行する。
同一の辞書とゼロのLCM呼び出しでは、セットレベルのセレクタは717細胞の165-169を解き、一方1回の還元は74--78のみを解いた。
- 参考スコア(独自算出の注目度): 9.173232861966595
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models are increasingly used as evolutionary engines for scientific discovery: generate candidates, select winners, feed them back as parents, and repeat. We audit whether this loop actually compounds discovery in scientific equation discovery, a setting where finite samples make structure underdetermined and interpolation easy. Under matched LLM-call budgets, parent-conditioned evolution is indistinguishable from fresh independent sampling: median OOD NMSE is 0.045 vs. 0.049, instructed multi-parent crossover is worse, final success is predicted by initial proposal quality, and multiple iteration schemes fail to add solved problems. Operationally, the loop reduces to what it produces: a dictionary of candidate terms. We turn that diagnosis into PTB-Search, a one-generation method for componentized scientific discovery. PTB-Search samples independent LLM proposals once, extracts reusable terms into a per-problem dictionary, and performs train-only set-level sparse selection with least-squares coefficients. Its central principle is that underdetermined data identifies the joint behavior of term sets, not reliable per-term credit. On identical dictionaries and zero additional LLM calls, set-level selectors solve 165--169 of 717 cells, while single-term reductions solve only 74--78. On the official 239-problem LLM-SRBench split, PTB-Search reaches 73.2% Acc0.1 with Llama-3.1-8B and 77.0% with a single-seed DeepSeek-V4 anchor, versus 49.2% for the best reported baseline, using one tenth of the standardized call budget. A program-domain stress test gives a scoped boundary: generation count remains unreliable, while retained external state can help in harder non-linear spaces. Across these results, LLMs are best understood as material suppliers; discovery is carried by external set-level selection over reusable components.
- Abstract(参考訳): 大規模言語モデルは、科学的発見のための進化的エンジンとして、候補を生成し、勝者を選択し、両親として送り返し、繰り返します。
このループが、有限標本が構造を過小評価し、補間し易い設定である科学方程式発見において、実際に発見を合成するかどうかを検査する。
OOD NMSE は 0.045 対 0.049 対 0.045 対 0.049 であり、マルチパーセンシャル・クロスオーバーはより悪く、最終的な成功は初期提案品質によって予測され、複数のイテレーション・スキームは解決された問題を補うことができない。
操作的には、ループは生成するもの、すなわち候補語の辞書に還元される。
我々はこの診断を、コンポーネント化科学発見の一世代的手法であるTB-Searchに変換する。
PTB-Searchは、独立LLM提案を一度サンプリングし、再利用可能な用語をプロブレム単位の辞書に抽出し、最小二乗係数で列車のみのセットレベルのスパース選択を行う。
その中心的な原理は、過度に決定されたデータは、項集合の結合挙動を識別し、項単位の信用を信頼しないことである。
同一の辞書とゼロのLCM呼び出しでは、セットレベルのセレクタは717細胞の165--169を解き、一方1回の還元は74--78のみを解いた。
公式の239-problem LLM-SRBenchスプリットでは、TB-Searchが73.2%、Llama-3.1-8Bが77.0%、シングルシードのDeepSeek-V4アンカーが49.2%、標準化された通話予算の10分の1である。
プログラムドメインのストレステストはスコープ境界を与える:生成数はまだ信頼できないが、外部の状態はより厳しい非線形空間で役立つ。
これらの結果から, LLMは材料サプライヤーとして最もよく理解されており, 再利用可能なコンポーネントに対する外部設定レベルの選択によって発見される。
関連論文リスト
- NovGauge: A Fine-Grained Benchmark for Diagnosing LLMs' Capability in Paper Novelty Assessment [54.4265627247104]
大規模言語モデル(LLM)は、主要なAIカンファレンスでピアレビューでますます使用されている。
既存のベンチマークでは、ノベルティを1つの総合的なスコアとして評価している。
本報告では,詳細なノベルティアセスメント診断のための人手によるベンチマークであるNovGaugeについて述べる。
論文 参考訳(メタデータ) (2026-09-10T08:34:56Z) - Select, Don't Train: The Benefits of Modular Entity Disambiguation with LLM-Based Selection [15.630318972190702]
共有LLM選択段階における候補生成のための検索戦略の体系的比較について述べる。
LLMセレクタと組み合わせた完全トレーニングフリーのBM25レトリバーが,ZELDAベンチマークで新たな技術状態に達することを示す。
論文 参考訳(メタデータ) (2026-08-17T16:52:05Z) - Evolutionary Algorithm-Guided LLMs for Physics-Informed Neural Network Design [10.706452586705375]
物理情報ニューラルネットワーク(PINN)は、アーキテクチャ、アクティベーション、損失重み付け、コロケーション、最適化、制約執行の相互作用に敏感である。
大規模言語モデル(LLM)はこれらの選択を提案できるが、独立したレコメンデーションは以前に訓練されたPINNからの経験を蓄積しない。
本研究では,LLMを誘導する閉ループ進化アルゴリズムを提案し,各世代にまたがる完全かつ実行可能なPINN構成を生成する。
論文 参考訳(メタデータ) (2026-07-17T02:03:11Z) - Beyond Inference-Time Search: Reinforcement Learning Synthesizes Reusable Solvers [0.0]
大規模言語モデル(LLM)は一般的に、各インスタンスを個別に解決する推論時プロシージャとして最適化にアプローチする。
本稿では,制約付きクナプサックの制御変種であるSDS(Synergistic Dependency Selection)について考察する。
Qwen2.5-Coder-14B-Instruct with Group Relative Policy Optimization using a feasibility-gated reward and light Structure scaffolding。
論文 参考訳(メタデータ) (2026-05-18T13:21:40Z) - OpenDeepThink: Parallel Reasoning via Bradley-Terry Aggregation [53.88666485159289]
OpenDeepThinkは、集団ベースのテスト時間計算フレームワークで、ペアワイズBradley-Terryの比較によって選択する。
OpenDeepThinkはGemini 3.1 ProのCodeforces Eloを8回のLCMコールラウンドで+405ポイント引き上げる。
CF-73は、国際グランドマスターアノテーションによる73の専門家評価コードフォース問題と、公式判決に対する99%の地域評価合意のキュレートされたセットである。
論文 参考訳(メタデータ) (2026-05-14T17:57:40Z) - Budget-Sensitive Discovery Scoring: A Formally Verified Framework for Evaluating AI-Guided Scientific Selection [0.0]
Budget-Sensitive Discovery Score (BSDS)は、各予算レベルで誤った発見を罰する。
Discovery Quality Score (DQS)は、チェリーピックされた予算でうまく機能することで、プロジェクタがインフレできないような、単一のサマリー統計を提供する。
フレームワークは、候補が予算制約と非対称なエラーコストの下で選択される任意の設定に適用されます。
論文 参考訳(メタデータ) (2026-03-12T18:09:53Z) - Hubble: An LLM-Driven Agentic Framework for Safe, Diverse, and Reproducible Alpha Factor Discovery [0.0]
本稿では,大規模言語モデル(LLM)とドメイン固有の演算子言語を組み合わせたエージェントファクタマイニングフレームワークであるHumbbleを紹介する。
約500株の米国株式の世界において、当社のメインランは、実行時クラッシュゼロの3ラウンドで104人の有効な候補を評価しています。
次に、上位5因子を修正し、2025-06-01から2026-03-13までの保留期間で検証する。
論文 参考訳(メタデータ) (2026-03-09T05:21:00Z) - Identifying Evidence-Based Nudges in Biomedical Literature with Large Language Models [2.2015514798912412]
我々は、非構造化バイオメディカル文献から証拠に基づく行動分類を識別し、抽出するスケーラブルなAI駆動システムを提案する。
栄養は微妙で非強制的な介入であり、選択を制限することなく行動に影響を与える。
論文 参考訳(メタデータ) (2026-02-10T22:36:07Z) - Don't Throw Away Your Beams: Improving Consistency-based Uncertainties in LLMs via Beam Search [111.6996614063716]
整合性に基づく不確実性推定の候補を生成するためにビームサーチを用いる新しい手法のファミリーを導入する。
我々は、6つのQAデータセットに対する我々のアプローチを実証的に評価し、その多項サンプリングに対する一貫した改善が最先端のUQパフォーマンスをもたらすことを発見した。
論文 参考訳(メタデータ) (2025-12-10T11:24:29Z) - FR-Spec: Accelerating Large-Vocabulary Language Models via Frequency-Ranked Speculative Sampling [59.8051705468084]
投機的サンプリングは,大規模言語モデルの自己回帰生成プロセスを促進する重要な手法として登場した。
本稿では、語彙空間圧縮によるドラフト候補選択を最適化する周波数ランクの投機的サンプリングフレームワークFR-Specを提案する。
論文 参考訳(メタデータ) (2025-02-20T18:58:10Z) - Planning In Natural Language Improves LLM Search For Code Generation [5.370466208990696]
自然言語における問題解決のための新しい探索アルゴリズムであるPlanSearchを提案する。
PlanSearchはHumanEval+、MBPP+、LiveCodeBenchで強力な結果を示している。
すべてのモデル、検索アルゴリズム、および分析されたベンチマークにおいて、検索によるパフォーマンス向上を正確に予測できることが示される。
論文 参考訳(メタデータ) (2024-09-05T17:44:49Z) - Self-Exploring Language Models: Active Preference Elicitation for Online Alignment [88.56809269990625]
本研究では, 分布域外領域を積極的に探索するために, 潜在的に高次応答に対して楽観的に偏りを呈する2段階的客観性を提案する。
実験の結果,Zephyr-7B-SFTとLlama-3-8B-Instructモデルで微調整した場合,SELM(Self-Exploring Language Models)は命令追従ベンチマークの性能を大幅に向上させることがわかった。
論文 参考訳(メタデータ) (2024-05-29T17:59:07Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-08T16:06:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。