論文の概要: RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training

• arxiv url: http://arxiv.org/abs/2610.32026v1
• Date: Fri, 23 Oct 2026 01:05:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.316095
• Title: RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
• Title（参考訳）: RSI-Opt:モデルトレーニングのための再帰的自己改善最適化エージェント
• Abstract要約: ニューラルネットワークトレーニングでは、固定エージェントポリシーは実行中に経験を蓄積しない。 本稿では,再帰的自己改善エージェントであるRSI-Optを紹介する。 メタエージェントは、以前の実行時の証拠を使ってこのポリシーを書き直し、アーカイブはさらなる進化のための評価されたポリシーを保持します。
• 参考スコア（独自算出の注目度）: 7.74557503924273
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conventional neural-network training typically follows a predefined optimization recipe, motivating a LLM agent that monitors training dynamics and adjusts optimizer settings as training progresses, but a fixed agent policy does not accumulate experience across runs. We introduce RSI-Opt, a plug-and-play Recursive Self-Improvement Optimizer Agents which evolves the knowledge that guides this process: a prompt, a playbook of procedures, a library of tested optimizer code, and a decision cadence. A meta-agent rewrites this policy using evidence from earlier runs, and an archive retains evaluated policies for further evolution. Across 5 generations on three training tasks, the meta-agents develop reusable procedures and code and conduct their own CPU proxy experiments. RSI-Opt substantially improves optimizer-agent performance, with representative raw-space summary $z$-scores increasing from $+10.48$ to $+14.33$ on the evolution suite with Opus 5.5 and from $-0.36$ to $+3.11$ on held-out tasks with GPT-5.5 through cross-model policy transfer. On the Burgers PDE, it reduces mean relative $L_2$ error by approximately 2.7-fold with Opus 5.5 and 8.8-fold with GPT-6.1 over the fixed-prompt agent baseline, although PDE transfer varies across LLMs and tasks. Controlled comparisons show that the evolved policy combines reusable optimization knowledge with adaptation to each task: initial decisions capture most observed gains on seen tasks, while continued adaptation improves outcomes on unseen tasks. These findings demonstrate how procedures and executable tools accumulated across training runs can improve optimizer-agent performance and support transfer to scientific machine learning.
• Abstract（参考訳）: 従来のニューラルネットワークトレーニングは通常、事前に定義された最適化のレシピに従い、トレーニングのダイナミクスを監視し、トレーニングの進行に合わせて最適化設定を調整するLLMエージェントをモチベーションするが、固定されたエージェントポリシーは実行中のエクスペリエンスを蓄積しない。 RSI-Optは,プロンプト,プロシージャのプレイブック,テストされたオプティマイザコードのライブラリ,決定ケイデンスといった,このプロセスを導く知識を進化させる,プラグアンドプレイの自己改善エージェントである。 メタエージェントは、以前の実行時の証拠を使ってこのポリシーを書き直し、アーカイブはさらなる進化のための評価されたポリシーを保持します。 3つのトレーニングタスクで5世代にわたって、メタエージェントは再利用可能なプロシージャとコードを開発し、独自のCPUプロキシ実験を実行する。 RSI-Optは最適化エージェントのパフォーマンスを大幅に改善し、代表的な生スペースサマリー$z$-scoresはOpus 5.5の進化スイートでは$+10.48$から$+14.33$、GPT-5.5の保留タスクでは$-0.36$から$+3.11$に増加した。 Burgers PDEでは、平均相対的な$L_2$エラーをOpus 5.5で約2.7倍、GPT-6.1で約8.8倍に削減するが、PDE転送はLLMやタスクによって異なる。 制御された比較は、進化したポリシーが再利用可能な最適化知識と各タスクへの適応を組み合わせていることを示している。 これらの結果は、トレーニング実行中に蓄積されたプロシージャと実行可能なツールが、最適化エージェントのパフォーマンスを改善し、科学的な機械学習への移行をサポートすることを示す。

関連論文リスト

• EAU: Environment-Agent-User Co-evolution for Training User-Centric Agents [20.72212837616191]
  本稿では,環境管理のためのメタエージェントフレームワークEAUを紹介する。 EAUは、トラジェクトリ、ツールトレース、報酬、トレーニング統計を監視し、障害と非形式的相互作用を診断する。 EAUは、3つのインタラクティブエージェントベンチマークと2つのバックボーンモデルで、従来のRLメソッドよりも一貫して優れている。
  論文  参考訳（メタデータ） (2026-10-12T10:11:38Z)
• Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory [19.236924182307085]
  既存のカーネル最適化エージェントは、決定、その観察された実行フィードバック、そしてその証拠を使用する後の決定をほとんど保存しない。 ハードウェアカーネル最適化のための経験駆動型フレームワーク KOPE を提案する。
  論文  参考訳（メタデータ） (2026-08-26T09:27:39Z)
• Do Agent Optimizers Compound? A Continual-Learning Evaluation on Terminal-Bench 2.0 [53.71882250666667]
  エージェント最適化法で報告されているほとんどの利得はワンショットである。 これは、デプロイされたエージェントにとって重要な設定をテストするものではない。 エージェントハーネス最適化に対する3つのアプローチを比較する。
  論文  参考訳（メタデータ） (2026-07-15T16:36:04Z)
• Learning to Learn-at-Test-Time: Language Agents with Learnable Adaptation Policies [48.31565681022125]
  テスト・タイム・ラーニング(TTL)は、言語エージェントが推論時に環境と繰り返し対話することで、その性能を反復的に改善することを可能にする。 我々は,人間の直感に基づく手作業ではなく,タスク環境から最適な適応ポリシーを学ぶべきだと論じている。 本稿では,2段階最適化問題として効果的な適応ポリシーの発見を定式化するMeta-TTLを提案する。
  論文  参考訳（メタデータ） (2026-04-01T12:41:01Z)
• AgentPRM: Process Reward Models for LLM Agents via Step-Wise Promise and Progress [71.02263260394261]
  大規模言語モデル(LLM)は、マルチターン意思決定タスクにおいて依然として課題に直面している。 プロセス報酬モデル(PRM)を構築し、各意思決定を評価し、エージェントの意思決定プロセスを導く。 AgentPRMは、シーケンシャルな決定と最終的な目標への貢献の間の相互依存の両方をキャプチャする。
  論文  参考訳（メタデータ） (2025-11-11T14:57:54Z)
• DS-Agent: Automated Data Science by Empowering Large Language Models with Case-Based Reasoning [56.887047551101574]
  大規模言語モデル(LLM)エージェントとケースベース推論(CBR)を利用した新しいフレームワークであるDS-Agentを提案する。 開発段階では、DS-AgentはCBRフレームワークに従い、自動イテレーションパイプラインを構築する。 デプロイメントの段階では、DS-Agentは、シンプルなCBRパラダイムで低リソースのデプロイメントステージを実装し、LCMの基本能力に対する需要を大幅に削減する。
  論文  参考訳（メタデータ） (2024-02-27T12:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。