論文の概要: Training Large Language Models for Small-Molecule Design with Synthetic Task Scaling
- arxiv url: http://arxiv.org/abs/2609.04735v1
- Date: Fri, 04 Sep 2026 05:05:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:23.916652
- Title: Training Large Language Models for Small-Molecule Design with Synthetic Task Scaling
- Title(参考訳): タスクスケーリングによる小分子設計のための大規模言語モデルの訓練
- Abstract要約: 大規模言語モデル(LLM)は、この問題に先立って有用な生成を提供する。
多くの化学的に関連するスコアリング機能は、評価に数時間または数日を要するため、オンライントレーニング中に直接使うのが違法に高価である。
我々は,LLMが高価な分子リード最適化設定に一般化する安価な合成タスクから分子設計戦略を学習できるかどうかを検討する。
- 参考スコア(独自算出の注目度): 11.750407280528272
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Designing viable drug candidates requires searching a combinatorially large and rugged chemical space for molecules that satisfy multiple, often competing, objectives. Large language models (LLMs) provide a useful generative prior for this problem because of their representational capacity, reasoning ability, and flexibility when incorporating information from the external environment. While reinforcement learning from verifiable rewards (RLVR) can be used to improve the capabilities of LLMs, many chemically relevant scoring functions require hours or even days per evaluation, making them prohibitively expensive to use directly during online training. Here, we investigate whether LLMs can learn molecular design strategies from cheaper synthetic tasks that generalize to expensive molecular lead optimization settings. We find that curriculum-based training recipes that gradually incorporate more challenging synthetic design tasks enable strong performance that surpasses that of much larger frontier models on structure-based lead optimization. Our results suggest that scaling post-training using synthetic tasks is an effective strategy for adapting LLMs to high-cost experimental scenarios that are too expensive to directly train on.
- Abstract(参考訳): 有効な薬物候補を設計するには、複数の、しばしば競合する目的を満たす分子の組合せ的に大きく頑丈な化学空間を探す必要がある。
大規模言語モデル(LLM)は、その表現能力、推論能力、外部環境からの情報を組み込む際の柔軟性のために、この問題に先立って有用な生成を提供する。
検証可能な報酬(RLVR)からの強化学習はLLMの能力向上に役立てることができるが、化学的に関連する多くのスコアリング機能は評価に数時間や数日を要するため、オンライントレーニング中に直接使うのが違法に高価である。
本稿では,LLMがより安価な合成タスクから高価な分子リード最適化設定まで,分子設計戦略を学習できるかどうかを検討する。
より難しい合成設計タスクを徐々に取り入れたカリキュラムベースのトレーニングレシピは、構造ベースのリード最適化において、はるかに大きなフロンティアモデルを上回る強力なパフォーマンスを実現する。
以上の結果から, 合成タスクを用いたポストトレーニングのスケーリングは, 直接トレーニングするにはコストがかかりすぎる高コストな実験シナリオにLCMを適用する上で有効な戦略であることが示唆された。
関連論文リスト
- My Chemical Harness: Evolutionary Molecular Design over Synthetic Pathways with Large Language Model Agents [2.0798270860482964]
My Chemical Harnessは、ゴール指向分子設計のためのルートネイティブ進化フレームワークです。
それぞれの経路は、購入可能なビルディングブロックと反応テンプレートから構築され、決定論的化学ツールによって実行され、タスク固有の分子のオラクルによってスコア付けされる。
大規模言語モデル(LLM)は、ルート長、移動型、反応族、モチーフ、探索圧よりも高いレベルの優先順位を選択する戦略コントローラとしてのみ使用される。
論文 参考訳(メタデータ) (2026-06-08T23:52:52Z) - Evaluating the Progression of Large Language Model Capabilities for Small-Molecule Drug Design [5.312232639944646]
分子特性予測, 分子表現変換, 分子設計を対象とする, 化学的に座屈した一連のタスクについて紹介する。
我々はこれらのタスクを強化学習環境として定式化し、評価とポストトレーニングの統一的なアプローチを可能にする。
私たちの環境でポストトレーニングされた小さなモデルは、かなり弱いベースモデルにもかかわらず、最先端のフロンティアモデルと競合する。
論文 参考訳(メタデータ) (2026-04-17T17:40:26Z) - Agentic reinforcement learning empowers next-generation chemical language models for molecular design and synthesis [51.83339196548892]
ChemCraftは、知識ストレージから化学推論を分離する新しいフレームワークである。
ChemCraftは最小の推論コストで優れたパフォーマンスを実現する。
この研究は、AI支援化学のコスト効率とプライバシ保護のパラダイムを確立する。
論文 参考訳(メタデータ) (2026-01-25T04:23:34Z) - Large Language Models for Physics Instrument Design [0.0]
物理機器設計における大規模言語モデル(LLM)の利用について検討し、その性能を強化学習(RL)と比較する。
RL はより強力な最終設計をもたらすが、現代の LLM は、有効で、リソースを意識し、物理的に意味のある構成を一貫して生成する。
そのため、自動クローズドループ・インスツルメンツの設計に向け、最適化の構築と監督に要する人的労力を削減できる。
論文 参考訳(メタデータ) (2026-01-12T14:30:54Z) - Planning without Search: Refining Frontier LLMs with Offline Goal-Conditioned RL [62.984693936073974]
大きな言語モデル(LLM)は、質問応答や対話といったタスクに優れています。
交渉や説得のような相互作用を必要とする複雑なタスクは、さらなる長期の推論と計画を必要とする。
目的条件付き値関数を用いて LLM エージェントの推論を導出する手法を提案する。
論文 参考訳(メタデータ) (2025-05-23T16:51:54Z) - Cost-Optimal Grouped-Query Attention for Long-Context Modeling [45.981681856747365]
Grouped-Query Attention(GQA)は、大規模言語モデルにおける注目層の計算コストを削減するための広く採用されている戦略である。
我々は,文脈長,モデルサイズ,GQA構成,モデル損失の関係を分析する。
コスト最適GQA構成の導出法を提案する。
論文 参考訳(メタデータ) (2025-03-12T17:50:42Z) - Scaling Autonomous Agents via Automatic Reward Modeling And Planning [52.39395405893965]
大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な機能を示している。
しかし、彼らは多段階の意思決定と環境フィードバックを必要とする問題に苦戦している。
人間のアノテーションを使わずに環境から報酬モデルを自動的に学習できるフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-17T18:49:25Z) - MoExtend: Tuning New Experts for Modality and Task Extension [61.29100693866109]
MoExtendは、Mixture-of-Experts (MoE)モデルのモダリティ適応と拡張を効率化する効果的なフレームワークである。
MoExtendは、新しいエキスパートをトレーニング済みのMoEモデルにシームレスに統合し、トレーニング済みのモデルをチューニングすることなく、新しい知識を提供する。
論文 参考訳(メタデータ) (2024-08-07T02:28:37Z) - Many-Shot In-Context Learning for Molecular Inverse Design [56.65345962071059]
大規模言語モデル(LLM)は、数ショットのインコンテキスト学習(ICL)において、優れたパフォーマンスを示している。
マルチショットICLで利用可能な実験データの不足を克服する,新しい半教師付き学習手法を開発した。
示すように、この新しい手法は、既存の分子設計のためのICL法を大幅に改善し、科学者にとってアクセスしやすく、使いやすくする。
論文 参考訳(メタデータ) (2024-07-26T21:10:50Z) - ORLM: A Customizable Framework in Training Large Models for Automated Optimization Modeling [15.67321902882617]
本稿では,オープンソースのLLMをトレーニングし,モデリングやソルバコードの開発を最適化する実行可能なパスを提案する。
この研究は、実用的なOR問題の解決においてLLMを評価するための最初の産業ベンチマークであるIndustrialORも導入した。
論文 参考訳(メタデータ) (2024-05-28T01:55:35Z) - LMRL Gym: Benchmarks for Multi-Turn Reinforcement Learning with Language
Models [56.25156596019168]
本稿では,LMRL-Gymベンチマークを用いて,大規模言語モデル(LLM)のマルチターンRLの評価を行う。
我々のベンチマークは8つの異なる言語タスクで構成されており、複数ラウンドの言語相互作用が必要であり、オープンエンド対話やテキストゲームにおける様々なタスクをカバーする。
論文 参考訳(メタデータ) (2023-11-30T03:59:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。