論文の概要: LLM-to-Flow Distillation: Teaching Natural Language Goals to Scientific Generators

• arxiv url: http://arxiv.org/abs/2610.17246v1
• Date: Mon, 12 Oct 2026 18:11:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 02:35:57.416997
• Title: LLM-to-Flow Distillation: Teaching Natural Language Goals to Scientific Generators
• Title（参考訳）: LLM-to-Flow蒸留:自然言語のゴールを科学発電機に教える
• Abstract要約: 科学における生成的発見は、高レベルの科学的推論と、設計空間の構造を尊重するサンプルを生成する能力の結合を必要とする。 本研究では,これらの科学的ジェネレータを,明示的なプロキシ報酬を必要とせず,高水準の自然言語発見目標に整合させる方法について検討する。
• 参考スコア（独自算出の注目度）: 61.17684204264663
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative discovery in science requires coupling high-level scientific reasoning with the ability to generate samples respecting the structure of a design space. Yet these capabilities remain largely separated: foundation LLMs encode broad chemical and biological knowledge, while domain-specific flow- and diffusion-based generators capture the priors needed to produce valid sequences and geometries. We study how to align such scientific generators to high-level natural-language discovery goals without requiring an explicit proxy reward, which is often unavailable or poorly captured by learned predictors in experimental sciences. We introduce LLM-to-Flow Distillation (LFD), where a frozen LLM acts as an adaptive teacher for a domain-specific generator. Given a goal such as 'generate peptides with promising anticancer activity', the teacher constructs a curriculum of intermediate sub-goals aware of the flow's current capabilities, and progressively directs them toward the original discovery goal. At each round, the LLM judges sampled candidates under the current objective. These judgments induce preferences that are iteratively distilled into the generator through DPO. This procedure provides dense learning signals even when the initial model places negligible probability on designs satisfying the final goal, enabling adaptation toward poorly covered, out-of-distribution regions. Experiments on therapeutic peptides and small-molecule structure design demonstrate that LFD enables a new form of generative control: aligning arbitrary domain-specific scientific generators to scientific discovery tasks expressed via high-level natural-language goals.
• Abstract（参考訳）: 科学における生成的発見は、高レベルの科学的推論と、設計空間の構造を尊重するサンプルを生成する能力の結合を必要とする。 基礎的なLSMは幅広い化学的および生物学的知識を符号化し、一方、ドメイン固有のフローおよび拡散に基づくジェネレータは、有効なシーケンスとジオメトリーを生成するのに必要な事前情報をキャプチャする。 実験科学において、これらの科学的生成物は、明示的なプロキシ報酬を必要とせず、高水準の自然言語発見目標に整合させる方法を研究する。 LLM-to-Flow Distillation (LFD)を導入し、凍結LDMはドメイン固有のジェネレータの適応教師として機能する。 教師は「有望な抗がん活性を有するペプチドの生成」などの目標を与えられた後、フローの現在の能力を認識した中間的なサブゴールのカリキュラムを構築し、徐々に元の発見目標に向かって誘導する。 各ラウンドで、LLMは現在の目的の下でサンプリングされた候補を判断する。 これらの判断は、DPOを介して生成体に反復蒸留された嗜好を誘導する。 この手順は、初期モデルが最終目標を満たす設計に無視可能な確率を配置しても、密集した学習信号を提供する。 治療ペプチドおよび小分子構造設計の実験により、LFDは、任意のドメイン固有の科学的ジェネレータを高レベルな自然言語目標によって表現された科学的発見タスクに整合させることによって、新しい生成制御を可能にすることが示されている。

関連論文リスト

• Tool-Augmented On-Policy Distillation for LLM Domain Adaptation in Sequence-Based Omics Tasks [72.97315136048122]
  マルチオミクスシーケンスの最初の推論ベンチマークであるOmicsBenchを紹介する。 予測と科学的推論の両方を評価することが重要です ツール強化型オン・ポリケーション (TA-OPD) を導入し, シークエンス予測とエビデンス基底の生物学的推論を一致させる。
  論文  参考訳（メタデータ） (2026-09-20T08:08:34Z)
• Adopting Reinforcement Learning with Verifiable Rewards for Molecular Generation [17.176795343295854]
  分子生成のための大規模言語モデルを活用することは、化学および薬物設計において顕著な可能性を示している。 目的分子生成に対する検証可能な報酬を直接組み込んだ基本強化学習フレームワークである textbfLLMol を提案する。
  論文  参考訳（メタデータ） (2026-07-21T12:34:59Z)
• Empowering LLMs for Structure-Based Drug Design via Exploration-Augmented Latent Inference [5.052013621974765]
  大言語モデル(LLM)は、表現力と推論能力を持っているが、構造に基づく薬物設計(SBDD)への応用は、タンパク質構造や予測不可能な分子生成の理解が不十分なため制限されている。 本研究では,LLM生成過程を符号化,遅延空間探索,復号化ワークフローとして再解釈するフレームワークであるELILLM(Exploration-Augmented Latent Inference for LLMs)を提案する。 ELILLMは、デコードモジュールを使用して、よく知られた領域を処理し、化学的に有効で合成学的に合理的な分子を生成することで、モデル現在の知識を超えた設計問題の部分を明示的に探求する。
  論文  参考訳（メタデータ） (2026-01-20T08:10:48Z)
• Detailed balance in large language model-driven agents [1.2687030176231846]
  大規模言語モデル(LLM)によるエージェントは、複雑な問題を解決するための強力な新しいパラダイムとして登場しつつある。 本報告では, エージェント内に埋め込まれたLCMの生成方向を推定する手法を提案する。
  論文  参考訳（メタデータ） (2025-12-10T20:04:23Z)
• Accelerating Materials Design via LLM-Guided Evolutionary Search [12.872214023537898]
  LLM-Guided Evolution for Materials Design (LLEMA) について述べる。 大規模言語モデルに埋め込まれた科学的知識と、化学インフォームド進化規則とメモリベースの洗練とを結びつける。 電子、エネルギー、コーティング、光学、航空宇宙にまたがる14の現実的なタスクを 評価しました
  論文  参考訳（メタデータ） (2025-10-26T02:47:15Z)
• ResearchBench: Benchmarking LLMs in Scientific Discovery via Inspiration-Based Task Decomposition [67.26124739345332]
  大規模言語モデル(LLM)は科学的研究を支援する可能性を示しているが、高品質な研究仮説を発見する能力はいまだ検討されていない。 我々は,LLMを科学的発見のサブタスクのほぼ十分セットで評価するための,最初の大規模ベンチマークを紹介する。 学術論文から重要コンポーネント(研究質問、背景調査、インスピレーション、仮説)を抽出する自動フレームワークを開発する。
  論文  参考訳（メタデータ） (2025-03-27T08:09:15Z)
• Molecule Design by Latent Prompt Transformer [76.2112075557233]
  本研究は、分子設計の課題を条件付き生成モデリングタスクとしてフレーミングすることによって検討する。 本研究では,(1)学習可能な事前分布を持つ潜伏ベクトル,(2)プロンプトとして潜伏ベクトルを用いる因果トランスフォーマーに基づく分子生成モデル,(3)潜在プロンプトを用いた分子の目標特性および/または制約値を予測する特性予測モデルからなる新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-02-27T03:33:23Z)
• Exploring Chemical Space with Score-based Out-of-distribution Generation [57.15855198512551]
  生成微分方程式(SDE)にアウト・オブ・ディストリビューション制御を組み込んだスコアベース拡散方式を提案する。 いくつかの新しい分子は現実世界の薬物の基本的な要件を満たしていないため、MOODは特性予測器からの勾配を利用して条件付き生成を行う。 我々はMOODがトレーニング分布を超えて化学空間を探索できることを実験的に検証し、既存の方法で見いだされた分子、そして元のトレーニングプールの上位0.01%までも生成できることを実証した。
  論文  参考訳（メタデータ） (2022-06-06T06:17:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。