論文の概要: Scaling Discovery Requires Forgetting
- arxiv url: http://arxiv.org/abs/2610.20563v1
- Date: Wed, 14 Oct 2026 17:49:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.287256
- Title: Scaling Discovery Requires Forgetting
- Title(参考訳): スケールするディスカバリには留意が必要だ
- Abstract要約: 発見を拡大する鍵は忘れることである。
我々は,コミュニケーションを行うエージェントのチームで忘れることを実装し,プログラミング,カーネル最適化,モデルトレーニングにまたがる4つのタスクでそれを評価した。
我々の結果は、オープンエンドな発見においては、エージェントがどれだけの計算が与えられたかという事柄を記憶できることを示唆している。
- 参考スコア(独自算出の注目度): 40.59385258836809
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automated research with LLM agents has shown promising results in various domains. Through iterative refinement and scored verifiers, LLM agents are capable of discovering new ideas. There are different ways to scale automated research: let one agent iterate for longer, run several agents in parallel, or further let the parallel agents communicate and build on one another's candidates. However, we find that all three strategies eventually plateau as the agents accumulate history. Each agent becomes anchored to its own past attempts, making fewer and smaller edits. Beyond this point, additional budget brings little further improvement. In this paper, we show that the key to scaling discovery further is to forget. Periodically discarding the search state, including every agent's session and the candidate history, and restarting from the best candidate found so far, unblocks the search and pushes the same budget further. We implement forgetting in a team of agents with communication and evaluate it on four tasks spanning heuristic programming, kernel optimization and model training. The results show up to 15% improvement compared to parallel agents, and up to 39% compared to a single agent. Our results suggest that, for open-ended discovery, what an agent is allowed to remember matters as much as how much compute it is given.
- Abstract(参考訳): LLMエージェントによる自動研究は、様々な領域で有望な結果を示している。
反復的精錬と採点検証により、LLMエージェントは新たなアイデアを発見することができる。
1つのエージェントをもっと長く反復させる、複数のエージェントを並行して実行する、あるいは、並列エージェントが互いに通信し、お互いの候補の上に構築する、という方法だ。
しかし、エージェントが歴史を蓄積するにつれて、最終的には3つの戦略が台頭する。
各エージェントは過去の試みに固定され、編集が少なくなる。
この点を超えて、追加予算は改善をほとんどたらさない。
本稿では,発見のスケールアップの鍵は忘れることであることを示す。
全てのエージェントのセッションや候補者履歴を含む検索状態を定期的に破棄し、これまで見つかった最高の候補から再起動することで、検索をブロックし、同じ予算を押し上げる。
我々は,コミュニケーションを行うエージェントのチームで忘れることを実装し,ヒューリスティックプログラミング,カーネル最適化,モデルトレーニングにまたがる4つのタスクでそれを評価した。
その結果, パラレルエージェントに比べて15%改善し, シングルエージェントに比べて39%改善した。
我々の結果は、オープンエンドな発見においては、エージェントがどれだけの計算が与えられたかという事柄を記憶できることを示唆している。
関連論文リスト
- AgentDiscover: Autonomous Discovery with Minimal Search Scaffolding [7.409479213840382]
我々は、AgentDiscoverを導入し、コーディングエージェントは、そのコンテキストをワーキングメモリとして使用して検索を計画できる。
サーバはデータベースを保守し、提出のたびにエージェントを操縦し、長期にわたってそれを継続する。
カーネルエンジニアリング、生物学、アルゴリズム設計、数学におけるタスクにおいて、AgentDiscoverは以前の発見フレームワークより優れている。
論文 参考訳(メタデータ) (2026-10-04T15:55:47Z) - Retrieval, Reward, and Training Protocols: What Matters in Training Search Agents? [15.605151408619895]
本稿では,探索エージェント訓練の3つの未探索次元を分離する制御的実証的研究について述べる。
まず、広く使われているWikipedia 2018コーパスにおける重要なデータカバレッジの問題を特定し、それを修正するだけで、トレーニングアルゴリズムの違いよりも大きな利益が得られることを示す。
第2に、結果に基づく報酬法とプロセスに基づく報酬法を3つのベースモデルで体系的に比較し、最も単純な結果に基づくアプローチが、ほとんどの設定において、競争力や優れたパフォーマンスを達成することを発見した。
第三に、トレーニングデータの多様性、非政治データ利用、検索予算のスケーリングを分析し、効果的な検索エージェントの訓練のための実践的ガイドラインを精査する。
論文 参考訳(メタデータ) (2026-05-27T03:04:36Z) - AgentFugue: Agent Scaling for Long-Horizon Tasks through Collective Reasoning [57.72181998599248]
AgentFugueは、共通の推論ハブを中心に構築された、集合的推論フレームワークである。
ピアエージェントが同じタスクを並列に探索する際、ハブは各エージェントが何を確立、試み、あるいは除外したかを簡潔に記録する。
この結果から,集団推論によってピアエージェントシステムのスケールアウトが実現可能であることが示唆された。
論文 参考訳(メタデータ) (2026-05-23T09:21:51Z) - AgentArk: Distilling Multi-Agent Intelligence into a Single LLM Agent [57.10083973844841]
AgentArkは、マルチエージェントダイナミクスを単一のモデルの重みに蒸留する新しいフレームワークである。
各種モデル,タスク,スケーリング,シナリオの3つの階層的蒸留戦略について検討する。
シミュレーションからトレーニングへ計算の負担をシフトさせることで、蒸留されたモデルは、複数のエージェントの強い推論と自己補正性能を示しながら、一つのエージェントの効率を保ちます。
論文 参考訳(メタデータ) (2026-02-03T19:18:28Z) - An Auditable Agent Platform For Automated Molecular Optimisation [0.0]
薬物発見は、データ、専門知識、ツールが散在すると、しばしば勢いを失う。
このループを短くするため、分子最適化を自動化するエージェントフレームワークを使用した階層的なツールを構築しました。
論文 参考訳(メタデータ) (2025-08-05T13:41:32Z) - MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。
MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
論文 参考訳(メタデータ) (2024-12-02T19:30:36Z) - Monte-Carlo Tree Search for Multi-Agent Pathfinding: Preliminary Results [60.4817465598352]
マルチエージェントパスフィンディングに適したモンテカルロ木探索(MCTS)のオリジナル版を紹介する。
具体的には,エージェントの目標達成行動を支援するために,個別の経路を用いる。
また,木探索手順の分岐係数を低減するために,専用の分解手法を用いる。
論文 参考訳(メタデータ) (2023-07-25T12:33:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。