論文の概要: Test-Time Scaling for Scientific Equation Discovery
- arxiv url: http://arxiv.org/abs/2608.28660v1
- Date: Fri, 21 Aug 2026 07:46:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-06 19:38:41.471422
- Title: Test-Time Scaling for Scientific Equation Discovery
- Title(参考訳): 科学方程式発見のためのテスト時間スケーリング
- Abstract要約: テストタイムスケーリング(TTS)は、追加のテストタイム計算を割り当てることで、言語モデルの推論を改善する。
本研究では, モデルが候補方程式を探索し, 観測されたデータポイントをフィードバックとして利用する, 自動方程式探索のためのTSについて検討する。
我々は, LLM による方程式探索を, 逐次改良, 木探索, 進化的手法を共通計算配置ビューで統一する反復探索法として定式化する。
- 参考スコア(独自算出の注目度): 9.655883330665942
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Test-time scaling (TTS) improves language model reasoning by allocating additional test-time compute, but prior work mainly studies closed-ended tasks such as math and coding. We study TTS for automated equation discovery, an open-ended setting where models search over candidate equations and rely on observed datapoints for feedback. We formulate LLM-driven equation discovery as an iterative search process that unifies Best-of-N, sequential refinement, tree search, and evolution-style methods under a common compute-allocation view. To isolate allocation effects from prompt engineering and other heuristics, we compare minimal parallel controllers under fixed budgets. On LLM-SRBench equation-discovery tasks, we find that search width is the dominant allocation parameter: the best width in our sweep generally increases with the compute budget, while the population--branching split and controller choice matter less. Appropriate width selection also improves wall-clock efficiency by increasing parallelism. These results suggest that, given an informative verifier, controlling exploration and exploitation is central to scaling LLM-based equation discovery.
- Abstract(参考訳): テストタイムスケーリング(TTS)は、追加のテストタイム計算を割り当てることで、言語モデルの推論を改善するが、以前の研究は主に数学やコーディングのような閉じたタスクを研究する。
本研究では, モデルが候補方程式を探索し, 観測されたデータポイントをフィードバックとして利用する, 自動方程式探索のためのTSについて検討する。
我々は, LLM による方程式探索を, 逐次改良, 木探索, 進化的手法を共通計算配置ビューで統一する反復探索法として定式化する。
迅速なエンジニアリングや他のヒューリスティックからアロケーション効果を分離するために、固定予算下で最小限の並列コントローラを比較する。
LLM-SRBench方程式探索タスクでは,探索幅が主割り当てパラメータであることがわかった。
適切な幅選択は、並列性を高めてウォールクロック効率を向上させる。
これらの結果から,LLMに基づく方程式発見のスケーリングにおいて,情報検証器による探索と利用の制御が重要であることが示唆された。
関連論文リスト
- LLMs Improving LLMs: Agentic Discovery for Test-Time Scaling [63.679448814185456]
テストタイムスケーリング(TTS)は,大規模言語モデルの性能向上に有効なアプローチとなっている。
既存のTS戦略は、主に手作りであり、研究者はパターンを設計し、直感で調整し、計算割り当ての空間の多くを探索していない。
環境駆動型フレームワークであるAutoTTSを提案し、研究者が設計したものを、個々のTSからTTS戦略を自動的に発見できる環境へと変更する。
論文 参考訳(メタデータ) (2026-05-08T17:59:40Z) - $\
abla$-Reasoner: LLM Reasoning via Test-Time Gradient Descent in Latent Space [71.23672814629448]
$nabla$-Reasonerは、トークンログに対する差別化可能な最適化をデコードループに統合する反復生成フレームワークである。
$nabla$-Reasonerは、挑戦的な数学的推論ベンチマークで20%以上の精度の向上を実現している。
論文 参考訳(メタデータ) (2026-03-05T08:42:54Z) - $\texttt{SPECS}$: Faster Test-Time Scaling through Speculative Drafts [55.231201692232894]
$textttSPECS$は、投機的デコードにインスパイアされた遅延対応のテスト時間スケーリングメソッドである。
我々の結果は、$textttSPECS$matchはビームサーチの精度を上回り、最大$sim$19.1%のレイテンシを削減していることを示している。
論文 参考訳(メタデータ) (2025-06-15T05:50:05Z) - LLM-First Search: Self-Guided Exploration of the Solution Space [29.780554400938335]
大規模言語モデル(LLM)は、テスト時間計算の増加による推論と計画の大幅な改善を示している。
我々は,新しいTextitLLM Self-Guided Search法である textbfLLM-First Search (LFS) を提案する。
論文 参考訳(メタデータ) (2025-06-05T16:27:49Z) - Every Rollout Counts: Optimal Resource Allocation for Efficient Test-Time Scaling [35.54816061674358]
テスト時間スケーリング(TTS)による大規模言語モデル(LLM)の性能向上
探索中に最も効果的にロールアウト予算を割り当てる方法はまだ探索されていないが、多くの場合、テスト時に計算の効率が悪くなる。
本稿では,このバイアスを緩和する最適手法として,指向性資源割当(DORA)を提案する。
論文 参考訳(メタデータ) (2025-05-30T09:05:25Z) - Scaling Test-Time Compute Without Verification or RL is Suboptimal [70.28430200655919]
RL法や検索法に基づく検証器ベース (VB) 手法による微調整は, 一定量の計算・データ予算を条件として, 蒸留・クローニングに基づく検証器フリー (VF) 手法よりもはるかに優れていることを示す。
我々は,3/8Bの事前学習型LLMのドクティクスと数学推論の両問題に対して,我々の理論を実証的に相関させ,テスト時間計算のスケーリングには検証が不可欠であることを確認した。
論文 参考訳(メタデータ) (2025-02-17T18:43:24Z) - Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters [27.656263126925815]
LLMにおける推論時間計算のスケーリングについて検討する。
どちらの場合も、テスト時間計算のスケーリングに対する異なるアプローチの有効性は、プロンプトの難しさによって大きく異なることがわかった。
論文 参考訳(メタデータ) (2024-08-06T17:35:05Z) - A Training Data Recipe to Accelerate A* Search with Language Models [3.037409201025504]
A*のような検索アルゴリズムを備えた大規模言語モデル(LLM)は、拡張された推論とスケーラブルな推論の約束を持っている。
我々は,A*探索アルゴリズムの要件を LLM の要件から実験的に切り離して,この課題を一般化する。
提案手法は,解を見つけるのに要する反復回数を最大15倍に削減し,壁面通過速度を最大5倍に向上させる。
論文 参考訳(メタデータ) (2024-07-13T19:21:44Z) - AsySQN: Faster Vertical Federated Learning Algorithms with Better
Computation Resource Utilization [159.75564904944707]
垂直連合学習(VFL)のための非同期準ニュートン(AsySQN)フレームワークを提案する。
提案アルゴリズムは、逆ヘッセン行列を明示的に計算することなく、近似して降下ステップをスケールする。
本稿では,非同期計算を採用することにより,計算資源の有効利用が期待できることを示す。
論文 参考訳(メタデータ) (2021-09-26T07:56:10Z) - Sublinear Least-Squares Value Iteration via Locality Sensitive Hashing [49.73889315176884]
本稿では、実行時の複雑さをアクション数にサブリニアに持つ最初の証明可能なLeast-Squares Value Iteration(LSVI)アルゴリズムを提示する。
我々は, 近似最大内積探索理論と強化学習の後悔分析との関係を構築する。
論文 参考訳(メタデータ) (2021-05-18T05:23:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。