論文の概要: Training Reasoning Models to Generate Diverse Scientific Ideas
- arxiv url: http://arxiv.org/abs/2610.22324v1
- Date: Thu, 15 Oct 2026 17:52:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.259424
- Title: Training Reasoning Models to Generate Diverse Scientific Ideas
- Title(参考訳): 多様な科学的アイデアを生み出すための推論モデルの訓練
- Abstract要約: 我々は、大規模言語モデル(LLM)が生み出すアイデアの多様性の向上に焦点をあてて、文書基盤のアイデアについて研究する。
我々の設定では、1世代でモデルが元の論文に接地されたK個の構造化されたアイデアカードを書き、そのセットは共同でスコアされ、各アイデアの品質はその前に書かれたアイデアからの距離によって重み付けされる。
トレーニングした8Bモデルは,汚染のないベンチマークでClaude Opus 4.8とGPT-6 Astraよりも高い創造性(品質と多様性を組み合わせた尺度)を達成することを示す。
- 参考スコア(独自算出の注目度): 35.7991627128427
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: One of the first steps of a research pipeline is generating ideas. Large Language Models (LLMs) are increasingly used to automate this step, but most of this work optimizes the quality of individual ideas, while overlooking diversity. In our work, we study document-grounded ideation, focusing on increasing the diversity of LLM generated ideas and ensuring they are high quality. Given prior papers, a model must propose a set of ideas that are each high-quality and clearly distinct from one another, while also being grounded in the input documents. To optimize for this, we propose training with a set-level reinforcement learning objective. In our setup, in a single generation, the model writes K structured idea cards grounded in the source papers, and the set is scored jointly, where each idea's quality is weighted by its distance from the ideas written before it. This teaches the model to steer each new idea away from its predecessors. We show that our trained 8B model achieves higher creative utility (a measure combining quality and diversity) than Claude Opus 4.8 and GPT-6 Astra on our contamination-free benchmark. In a pilot human study with four experts, our sets are judged as promising as Claude Opus 4.8's and contain marginally more unique ideas. When a coding agent runs proof-of-concept experiments on the ideas, our model's success@k is comparable to Claude Opus 4.8's, so we see that the added diversity does not cost any executability.
- Abstract(参考訳): 研究パイプラインの最初のステップの1つはアイデアを生み出すことです。
大きな言語モデル(LLM)は、このステップの自動化にますます使われていますが、この作業のほとんどは、多様性を見下ろしながら、個々のアイデアの品質を最適化します。
本研究は,LLM 生成したアイデアの多様性を高め,高品質であることを保証することに焦点を当て,文書の基盤となるアイデアについて検討する。
先行論文を前提として、モデルでは、それぞれが高品質で明確に異なるアイデアの集合を提案し、入力文書にも基づかなければならない。
この最適化のために,設定レベル強化学習目標を用いたトレーニングを提案する。
我々の設定では、1世代でモデルが元の論文に接地されたK個の構造化されたアイデアカードを書き、そのセットは共同でスコアされ、各アイデアの品質はその前に書かれたアイデアからの距離によって重み付けされる。
これにより、モデルがそれぞれの新しいアイデアを前者から切り離すように教える。
トレーニングした8Bモデルは,汚染のないベンチマークでClaude Opus 4.8とGPT-6 Astraよりも高い創造性(品質と多様性を組み合わせた尺度)を達成することを示す。
4人の専門家によるパイロット・ヒューマン・スタディでは、我々のセットはクロード・オプス4.8として有望と判断され、より独特なアイデアを含んでいる。
コーディングエージェントが概念実証実験を行う場合、私たちのモデルの成功@kはClaude Opus 4.8に匹敵するものです。
関連論文リスト
- AgentIdeaBench: Benchmarking Scientific Ideation in the Agent Era [55.37558486468993]
AgentIdeaBenchは、静的観測とアクティブ探索という2つの一致した条件下で科学的思考を評価するベンチマークである。
5つの分野にまたがる40の高密度サブフィールドにおける33個のLDMの静的アクティブ評価を一致させた。
アクティブな探索により、ヘッドルームの能力は大幅に向上し、ヘッドルームはモデル間で不均一に分散される。
論文 参考訳(メタデータ) (2026-09-07T15:19:13Z) - CreativeInstruct: Scalably Teaching LLMs to Balance Quality, Creativity, and Diversity [67.74087963315213]
CreativeInstructは、大規模言語モデルに、創造的なベースモデルのような世代と、ポストトレーニング後のモデルの質のバランスをとるように教えるインストラクションチューニング手法である。
我々は,CreativeInstructが多モデルベースラインの多様性と,その出力の蒸留変種の両方に適合しているか,あるいは超越しているかを示す。
GRPOをCreative Instructチェックポイントに適用すると、AMCでは4%、MATHでは5%改善する。
論文 参考訳(メタデータ) (2026-08-07T17:55:48Z) - IDEAgent: Agentic Quality-Diversity Search for Research Idea Generation [43.08002957114291]
研究思想は両目的の連携として扱われ,品質多様性(QD)探索の枠組みとして扱われるべきである,と我々は主張する。
我々は,多目的フィードバックを用いて共同で品質を駆動し,軽量なシーケンシャルメモリによって多様性を実現する。
IDEAgentは,8倍以上のトピックで非ゼロのYieldを達成しながら,Yieldの3.89倍のベースラインを達成している。
論文 参考訳(メタデータ) (2026-07-24T15:03:14Z) - KARL: Knowledge Agents via Reinforcement Learning [63.627906947205624]
本稿では,強化学習による企業検索エージェントの訓練システムを提案する。
KARLBenchは、6つの異なる検索レギュレーションにまたがる多機能評価スイートである。
異種探索行動で訓練されたモデルは、どのベンチマークにも最適化されたモデルよりもかなりよく一般化されていることを示す。
論文 参考訳(メタデータ) (2026-03-05T14:30:25Z) - Four Eyes Are Better Than Two: Harnessing the Collaborative Potential of Large Models via Differentiated Thinking and Complementary Ensembles [24.75732964829523]
CVPR 2025でエゴ4Dチャレンジのランナーアップソリューションを提示する。
大規模モデルの成功に触発され、先導的なマルチモーダルな大規模モデルを評価し、活用する。
この研究が、大規模モデルの実践的応用の貴重な参考になることを期待している。
論文 参考訳(メタデータ) (2025-05-22T15:27:31Z) - Modifying Large Language Model Post-Training for Diverse Creative Writing [12.872333448726595]
創造的な文章生成において、出力の多様性と品質の両方を促進するためのポストトレーニングアプローチについて検討する。
私たちの中核となる考え方は、希少な高品質なインスタンスからの学習を容易にするためのトレーニング目標の逸脱を含めることです。
8Bパラメータの最良のモデルは、最高の命令チューニングモデルに似た出力品質を持ちながら、人間の作成したデータセットとしてオンパー多様性を達成することができる。
論文 参考訳(メタデータ) (2025-03-21T13:21:45Z) - Good Idea or Not, Representation of LLM Could Tell [86.36317971482755]
我々は、大規模言語モデルの知識を活用し、科学的アイデアのメリットを評価することを目的としたアイデアアセスメントに焦点をあてる。
我々は、このタスクに対する様々なアプローチのパフォーマンスを訓練し評価するために、細心の注意を払って設計された、フルテキストを持つ約4万の原稿からベンチマークデータセットをリリースする。
その結果, 大規模言語モデルの表現は, 生成出力よりもアイデアの価値を定量化する可能性が高いことが示唆された。
論文 参考訳(メタデータ) (2024-09-07T02:07:22Z) - Prompting Diverse Ideas: Increasing AI Idea Variance [0.0]
この論文は、アイデア生成プロセスの生産性と品質を高めるために、人工知能を活用することへの新たな関心を掘り下げるものである。
これまでの研究によると、AIのアイデアの平均品質は非常に高い。
以前の研究では、AIベースのブレインストーミングが、アイデアの十分な分散を生み出すことができないことも指摘されている。
論文 参考訳(メタデータ) (2024-01-27T21:02:50Z) - Unifying Language Learning Paradigms [96.35981503087567]
データセットやセットアップ全体にわたって普遍的に有効である事前学習モデルのための統一的なフレームワークを提案する。
本研究では, 事前学習対象を相互に配置し, 異なる対象間の補間を効果的に行う方法を示す。
また,テキスト内学習において,ゼロショットSuperGLUEで175B GPT-3,ワンショット要約でT5-XXLの性能を3倍に向上させた。
論文 参考訳(メタデータ) (2022-05-10T19:32:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。