論文の概要: Where Research Ideation Begins: Forward-Citation Supervision for Actionable Limitation Generation
- arxiv url: http://arxiv.org/abs/2610.23038v1
- Date: Fri, 16 Oct 2026 07:14:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.802274
- Title: Where Research Ideation Begins: Forward-Citation Supervision for Actionable Limitation Generation
- Title（参考訳）: 研究思想の成り立ち:行動可能限界生成のためのフォワード・キューテーション・スーパービジョン
- Abstract要約: 大規模言語モデル (LLMs) が 0.6B から 32B のパラメータにスケールするにつれて、どの制限が対処されるかを認識するのがはるかに良くなるが、それを生成するのに良くない。
本稿では, 教師付き微調整, 検証器による拒否サンプリング, オンライン高密度報酬として検証器を用いた強化学習の3段階後学習パイプラインを提案する。
- 参考スコア（独自算出の注目度）: 44.409563229688025
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automated research ideation has advanced rapidly, with multi-agent workflows that generate whole research ideas end to end. These frameworks leave largely unexamined the step that seeds a good idea: identifying an actionable limitation from literature. In this paper, we focus on this first step in the research ideation pipeline. Starting from a pilot study, we find that as large language models (LLMs) scale from 0.6B to 32B parameters, they become far better at recognizing which limitation later work addressed, but no better at generating one, suggesting that the bottleneck lies in the supervision signal rather than model capacity. We therefore construct ActLim-Bench from forward citations, yielding 18,279 evidence-linked supervision triples with human verification. On this signal, we propose a three-stage post-training pipeline: supervised fine-tuning, verifier-filtered rejection-sampling fine-tuning, and reinforcement learning with the verifier as an online dense reward. Experimental results show that our method achieves the highest recall score compared to existing methods among all frontier models. We further show that our generated limitations are preferred in 64.9% of non-tied human comparisons and improve downstream ideation systems. We will release our data and code upon publication.
- Abstract（参考訳）: 自動研究のアイデアは急速に進歩し、研究のアイデア全体をエンドツーエンドに生成するマルチエージェントワークフローが実現している。
これらのフレームワークは、文献から実行可能な制限を識別する、よいアイデアをシードするステップを、ほとんど検討していないままにしている。
本稿では,研究アイデアパイプラインのこの第一歩に焦点を当てる。
パイロットスタディから、大規模言語モデル(LLM)が0.6Bから32Bパラメータにスケールするにつれて、後続の処理に対処する制限を認識するのがはるかに優れているが、それを生成するのが得意ではないことが分かり、ボトルネックはモデルキャパシティよりも監視信号にあることを示唆している。
そこで我々は,ActLim-Benchを前方からの引用から構築し,人間の検証により18,279個の証拠リンク型監視トリプルを生成する。
本信号では, 教師付き微調整, 検証器フィルタによる拒否サンプリング, オンライン高密度報酬として検証器を用いた強化学習の3段階後学習パイプラインを提案する。
実験結果から,本手法はすべてのフロンティアモデルにおける既存手法と比較して,最も高いリコールスコアが得られることが示された。
さらに、我々の生成した制限は、非階層の人間比較の64.9%で望ましいことを示し、下流のアイデアシステムを改善する。
私たちは、公開時にデータとコードを公開します。
関連論文リスト
- From Passive Generation to Investigation: A Proactive Scientific Peer Review Agent [52.42081442204093]
我々は、紙の不審な部分を積極的に調査する柔軟性の欠如が、重要な制限であると主張している。
本稿では,保守的かつ構造化されたレビューログによってガイドされた論文を積極的にレビューする,科学的ピアレビューエージェントであるProReviewerを提案する。
実験の結果,8Bバックボーンを持つProReviewerは教師付き微調整によって訓練され,強化学習によって最適化され,5つの品質次元で最高の平均スコアが得られることがわかった。
論文 参考訳（メタデータ） (2026-06-11T13:38:23Z) - How Far Can Unsupervised RLVR Scale LLM Training? [57.44753418846446]
検証可能な報酬を伴う教師なし強化学習(URLVR)は、監督ボトルネックを越えてLLMトレーニングをスケールするための経路を提供する。
最近の研究は、モデル固有の信号を活用し、期待できる早期の利得を示しているが、その可能性と限界は未だ不明である。
我々は、URLVRメソッドを報酬源に基づく固有対外部に分類し、統一された理論的枠組みを確立する。
論文 参考訳（メタデータ） (2026-03-09T17:38:11Z) - Think Longer to Explore Deeper: Learn to Explore In-Context via Length-Incentivized Reinforcement Learning [53.58654277639939]
文脈内探索(In-context Exploring)は、単一の連続した文脈内で仮説を生成、検証、洗練する本質的な能力である。
本稿では,モデルにさらなる探索を促すLongth-Incentivized Explorationを提案する。
提案手法は、ドメイン内タスクの平均4.4%改善と、ドメイン外ベンチマークの2.7%向上を実現している。
論文 参考訳（メタデータ） (2026-02-12T09:24:32Z) - RE-TRAC: REcursive TRAjectory Compression for Deep Search Agents [144.5598958575922]
Re-TRACはクロス軌道探索を行うエージェントフレームワークである。
Re-TRAC は BrowseComp とフロンティア LLM で連続して ReAct を 15-20% 上回っていることを示す。
論文 参考訳（メタデータ） (2026-02-02T18:58:07Z) - PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations [52.67948063133533]
生成レコメンデーションは有望なパラダイムとして現れ、階層的なセマンティックIDよりもシーケンス・ツー・シーケンス生成タスクとしてレコメンデーションを改革している。
既存の手法は、セマンティックドリフト(Semantic Drift)と呼ばれる重要な問題に悩まされ、初期、高レベルのトークンのエラーは、生成軌道を無関係な意味部分空間に不可逆的に分散させる。
本稿では,高密度なステップバイステップ検証を生成モデルに統合する新しいフレームワークPromiseを提案する。
論文 参考訳（メタデータ） (2026-01-08T07:38:46Z) - From Search To Sampling: Generative Models For Robust Algorithmic Recourse [24.730097141422537]
我々は3つのリコース目標を共同でトレーニングするために設計されたジェネレーティブ・リコースモデルであるGenReを紹介する。
我々はGenReが、最先端のベースラインに比べてコスト、妥当性、妥当性の最良のトレードオフを提供することを示した。
論文 参考訳（メタデータ） (2025-05-12T08:44:28Z) - Scaling Flaws of Verifier-Guided Search in Mathematical Reasoning [16.824343439487617]
大規模言語モデル(LLM)は、推論時間スケーリングがパフォーマンス改善のための有望な戦略として現れている、多段階推論に苦しむ。
検証者誘導探索は、有効な推論経路を選択して優先順位付けすることにより、サンプリングサイズが制限されたときに繰り返しサンプリングより優れる。
サンプルサイズが大きくなるにつれて、検証者誘導探索は利点を減らし、最終的には繰り返しサンプリングを過小評価する。
論文 参考訳（メタデータ） (2025-02-01T02:08:49Z) - When in Doubt, Cascade: Towards Building Efficient and Capable Guardrails [19.80434777786657]
ターゲットデータとラベルデータを生成する合成パイプラインを開発した。
提案手法は,計算コストのごく一部で競争性能を達成できることを示す。
論文 参考訳（メタデータ） (2024-07-08T18:39:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。