論文の概要: Self-Evolving Algorithm-Design Agents: Escaping In-Context Evolutionary Stagnation via Population-Curated Policy Optimization
- arxiv url: http://arxiv.org/abs/2609.38757v1
- Date: Wed, 30 Sep 2026 01:43:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.977615
- Title: Self-Evolving Algorithm-Design Agents: Escaping In-Context Evolutionary Stagnation via Population-Curated Policy Optimization
- Title(参考訳): 自己進化型アルゴリズム設計エージェント:人口累積政策最適化による文脈内進化安定化の回避
- Abstract要約: 本稿では, エージェントが自己生成アルゴリズムを探索し, 学習できる, サンプル効率のパラメトリック自己進化法を提案する。
8Bサイズのベースモデルでは、PCPOはフロンティアのクローズドソースモデルと比較して競争性能が向上する。
PCPOは4つのGPUカーネル設計において、PyTorch Eagerベースラインに対して平均8.27$times$のスピードアップを実現している。
- 参考スコア(独自算出の注目度): 38.59295147769259
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models are increasingly participating in complex real-world tasks in the form of algorithm-design agents, designing and refining algorithms. Many successful algorithm-design agents adopt pure in-context evolutionary frameworks, but they may quickly plateau in domains that require specialized knowledge. Parametric adaptation offers a way to internalize specialized knowledge, but conventional training requires abundant domain-specific corpora while high-quality algorithms are scarce in complex algorithm-design scenarios. In this paper, we propose sample-efficient parametric self-evolution where agents can explore and learn from self-generated algorithms. First, we characterize in-context evolutionary stagnation and analytically propose the Improvement Chain proposition, showing how learning successive self-generated algorithms can locally increase the likelihood of neighboring algorithms. Motivated by this local-transfer perspective, we further propose Population-Curated Policy Optimization (PCPO) to utilize a global population and a hybrid policy update scheme for retaining and reusing high-quality, diverse self-generated algorithms, shifting the policy towards stronger algorithms. In the task of learning rate schedule design for global placement in electronic design automation, trained only on 4 chip cases, PCPO outperforms the state-of-the-art in-context evolutionary methods (e.g., OpenEvolve and ShinkaEvolve) on average across 16 chip cases. With an 8B-size base model, PCPO achieves competitive performance compared to frontier closed-source models such as GPT-5.5. PCPO also reduces inference-time token cost by internalizing grounded domain knowledge and prompt distillation. Moreover, PCPO achieves significant speedups on four GPU kernel designs, with an average of 8.27$\times$ speedup against the PyTorch Eager baseline.
- Abstract(参考訳): 大規模言語モデルは、アルゴリズム設計エージェント、アルゴリズムの設計と精錬という形で、複雑な現実世界のタスクにますます参加している。
多くの成功したアルゴリズム設計エージェントは、純粋にコンテキスト内進化のフレームワークを採用するが、専門知識を必要とするドメインではすぐにプラトーになる可能性がある。
パラメトリック適応は、専門知識を内部化する方法を提供するが、従来の訓練では、複雑なアルゴリズム設計シナリオでは、高品質なアルゴリズムが不足する一方で、豊富なドメイン固有のコーパスを必要とする。
本稿では, エージェントが自己生成アルゴリズムを探索し, 学習できるサンプル効率のパラメトリック自己進化法を提案する。
まず、文脈内進化の停滞を特徴付け、改善連鎖命題を解析的に提案し、連続した自己生成アルゴリズムの学習が近隣アルゴリズムの確率を局所的に増加させることを示す。
このローカル・トランスファーの観点から、グローバルな人口の活用と、高品質で多様な自己生成アルゴリズムの維持・再利用のためのハイブリッド・ポリシー・アップデート・スキームを更に提案し、より強力なアルゴリズムへと方針を転換する。
電子設計自動化におけるグローバル配置のための学習率スケジュール設計の課題は、4つのチップケースでしか訓練されていないが、PCPOは16のチップケースで、最先端のインコンテキスト進化手法(例:OpenEvolve、ShinkaEvolve)よりも優れている。
8Bサイズのベースモデルでは、PCPOはGPT-5.5のようなフロンティアのクローズソースモデルに比べて競争力がある。
PCPOはまた、接地されたドメイン知識を内部化し、蒸留を促進することで、推論時トークンコストを削減している。
さらに、PCPOは4つのGPUカーネル設計において、PyTorch Eagerベースラインに対して平均8.27$\times$のスピードアップを実現している。
関連論文リスト
- From AI Assistant to AI Scientist: Autonomous Discovery of LLM-RL Algorithms with LLM Agents [51.12380889298618]
POISEは、言語モデルのためのポリシー最適化アルゴリズムの自動発見のためのフレームワークである。
PoISEは構造化され、属学的にリンクされたアーカイブリンクの提案、実行可能な実装、標準化された評価、自然言語のリフレクションを維持している。
論文 参考訳(メタデータ) (2026-03-25T05:19:23Z) - Advancing Automated Algorithm Design via Evolutionary Stagewise Design with LLMs [69.91297564489464]
EvoStageは、産業規模のアルゴリズム設計の厳密な要求とLLMベースのアルゴリズム設計のギャップを埋める新しい進化パラダイムである。
EvoStageは、アルゴリズム設計プロセスを逐次的に管理可能なステージに分解し、リアルタイム中間フィードバックを反復的に洗練されたアルゴリズム設計方向に統合する。
商用グレードの3Dチップ配置ツールにデプロイすると、EvoStageはオリジナルのパフォーマンス指標を大幅に上回り、記録破りの効率を達成する。
論文 参考訳(メタデータ) (2026-03-09T05:13:44Z) - AdaEvolve: Adaptive LLM Driven Zeroth-Order Optimization [61.535567824938205]
本稿では,LLMによる進化を階層的適応最適化問題として再構成するフレームワークであるAdaEvolveを紹介する。
AdaEvolveは185の異なるオープンエンド最適化問題において、オープンエンドベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-02-23T18:45:31Z) - Discovering Multiagent Learning Algorithms with Large Language Models [8.649235365712004]
我々は,大規模言語モデルを用いた進化的符号化エージェントであるAlphaEvolveを用いて,新しいマルチエージェント学習アルゴリズムを自動発見する。
ゲーム理論学習の2つの異なるパラダイムのための新しい変種を進化させることにより、この枠組みの一般化を実証する。
論文 参考訳(メタデータ) (2026-02-18T22:41:00Z) - From Understanding to Excelling: Template-Free Algorithm Design through Structural-Functional Co-Evolution [39.42526347710991]
大規模言語モデル(LLM)はアルゴリズム生成と最適化の自動化を大幅に加速した。
LLMに基づくエンドツーエンドのアルゴリズム生成と最適化フレームワークを提案する。
我々のアプローチは、LLMの深い意味理解を利用して、自然言語の要求や人間による論文をコードソリューションに変換する。
論文 参考訳(メタデータ) (2025-03-13T08:26:18Z) - A Reinforcement Learning-assisted Genetic Programming Algorithm for Team
Formation Problem Considering Person-Job Matching [70.28786574064694]
解の質を高めるために強化学習支援遺伝的プログラミングアルゴリズム(RL-GP)を提案する。
効率的な学習を通じて得られる超ヒューリスティックなルールは、プロジェクトチームを形成する際の意思決定支援として利用することができる。
論文 参考訳(メタデータ) (2023-04-08T14:32:12Z) - An Efficient Application of Neuroevolution for Competitive Multiagent
Learning [0.0]
NEATは、最高のパフォーマンスのニューラルネットワークアーキテクチャを得るために使われる一般的な進化戦略である。
本稿では, NEATアルゴリズムを用いて, 変形したポンポンゲーム環境において, 競争力のあるマルチエージェント学習を実現する。
論文 参考訳(メタデータ) (2021-05-23T10:34:48Z) - Epistocracy Algorithm: A Novel Hyper-heuristic Optimization Strategy for
Solving Complex Optimization Problems [1.471992435706872]
本稿では,人間の社会・政治行動と知性を組み込んで複雑な最適化問題を解く,エピストクラシーという新しい進化的アルゴリズムを提案する。
エピストクラシーのアルゴリズムのインスピレーションは、教育を受けた人々が教育を受けていない人や教育を受けていない人よりも投票力を持つ政治体制に端を発する。
実験結果から, エピストクラシーアルゴリズムは, 性能, 精度, 堅牢性の観点から, 最先端の進化的, 群知能アルゴリズムよりも優れていることがわかった。
論文 参考訳(メタデータ) (2021-01-30T19:07:09Z) - Decentralized MCTS via Learned Teammate Models [89.24858306636816]
本稿では,モンテカルロ木探索に基づくトレーニング可能なオンライン分散計画アルゴリズムを提案する。
深層学習と畳み込みニューラルネットワークを用いて正確なポリシー近似を作成可能であることを示す。
論文 参考訳(メタデータ) (2020-03-19T13:10:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。