論文の概要: ParetoRSI-Gym: Can AI Agents Improve Language Models Across Multiple Domains?

• arxiv url: http://arxiv.org/abs/2610.34386v1
• Date: Sun, 25 Oct 2026 15:40:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.587059
• Title: ParetoRSI-Gym: Can AI Agents Improve Language Models Across Multiple Domains?
• Title（参考訳）: ParetoRSI-Gym: AIエージェントは複数のドメインにわたる言語モデルを改善することができるか?
• Abstract要約: 再帰的自己改善(Recursive self-improvement, RSI)は、自己の後継者を設計、訓練、評価するためのエージェントシステムを必要とする。 データ駆動のポストトレーニングはそのループの中心であるが、既存の評価では1つのベンチマークで測定されている。 エージェントがデータを検索し、それをキュレートし、トレーニングし、ドメインごとの結果を読み、繰り返し、保持するデータ以外の全てを繰り返すRSI-Gymを提案する。
• 参考スコア（独自算出の注目度）: 41.83852667369835
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recursive self-improvement (RSI) requires an agentic system to design, train, and evaluate its own successor. Data-driven post-training is a central part of that loop, yet existing evaluations measure it on a single benchmark, where an agent selects from a static pool or distills a stronger model to push one score up in one run. Real post-training is multi-domain, and a gain in one domain has to be weighed against a regression in another. We propose ParetoRSI-Gym, in which an agent searches for data, curates it, trains, reads back per-domain results, and repeats, with everything but the data held fixed: the initial LLM, the five domains (math, code, finance, medicine, science), the toolset, and the SFT pipeline. Generalization benchmarks in each domain separate capability gains from overfitting to the scores the agent optimizes against. Across three agent systems, three base models, five rounds and multiple seeds, the strongest system, Claude Code with Opus-5, raises the generalization scores of its proxy-best checkpoint by 9.2% relative to the starting model (+2.3 absolute points), averaged with equal weight over three base models and five domains, with a single-domain relative gain of up to 63% (medicine on Ministral-3-3B). Further analysis shows that the harness matters as much as the model it drives, and that each agent keeps a unique data selection strategy. We see our work as a step towards evaluation of RSI systems in real-world machine learning engineering.
• Abstract（参考訳）: 再帰的自己改善(Recursive self-improvement, RSI)は、自己の後継者を設計、訓練、評価するためのエージェントシステムを必要とする。 データ駆動のポストトレーニングは、そのループの中心であるが、既存の評価では、エージェントが静的プールから選択するか、より強力なモデルを蒸留して1回の実行でスコアを上げるという、単一のベンチマークでそれを測定している。 実際のポストトレーニングはマルチドメインであり、あるドメインでの利得は別のドメインでの回帰に対して評価されなければならない。 提案するParetoRSI-Gymは、エージェントがデータを検索し、それをキュレートし、トレーニングし、ドメインごとの結果を読み返し、保持するデータ以外の全てを繰り返すもので、初期LSM、5つのドメイン(数学、コード、金融、医学、科学)、ツールセット、SFTパイプラインである。 各ドメインの一般化ベンチマークでは、エージェントが最適化するスコアの過度な適合から、各ドメインの能力が向上する。 3つのエージェントシステム、3つのベースモデル、5つのラウンド、5つのシード、最強のシステムであるClaude Code with Opus-5は、開始モデル(+2.3絶対点)と比較してプロキシベストチェックポイントの一般化スコアを9.2%引き上げ、平均3つのベースモデルと5つのドメインで等しい重量で、単一のドメインの相対的なゲインは最大63%(Ministral-3-3Bのメディシン)である。 さらなる分析は、ハーネスがその駆動するモデルと同じくらい重要であり、各エージェントが独自のデータ選択戦略を保持することを示している。 我々は、実世界の機械学習工学におけるRSIシステム評価へのステップとして、我々の研究を捉えている。

関連論文リスト

• DataSense-Bench: The First Step Toward an AI Scientist [33.53152581612297]
  フロンティアAIモデルは、トレーニング用の適切なデータ、すなわち、確実に選択できるデータを持っているか? 我々は,機械学習におけるデータ選択と性能予測の根本的な問題を通じて,この能力を研究するためにDataSense-Benchを紹介した。
  論文  参考訳（メタデータ） (2026-10-08T15:50:57Z)
• Graph-of-Agents: A Graph-based Framework for Multi-Agent LLM Collaboration [57.23877089929136]
  Graph-of-Agents (GoA)はマルチエージェントLLM通信をモデリングするための新しいグラフベースのフレームワークである。 GoAは3つの選択されたエージェントしか使用せず、最近のマルチエージェントLCMベースラインよりも優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2026-04-18T21:13:03Z)
• Agent^2 RL-Bench: Can LLM Agents Engineer Agentic RL Post-Training? [23.212983812736343]
  Agent2 RL-BenchはエージェントRLのポストトレーニングを評価するためのベンチマークである。 固定予算下では,教師付きパイプラインがエージェント駆動のポストトレーニングを支配していることがわかった。
  論文  参考訳（メタデータ） (2026-04-12T09:35:27Z)
• AlphaLab: Autonomous Multi-Agent Research Across Optimization Domains with Frontier LLMs [14.167136550376497]
  計算集約ドメインの完全な実験サイクルを自動化する自律的な研究ハーネスであるAlphaLabを紹介する。 ドメインに適応し、データを探索し、分析コードを書き、研究レポートを作成する。 Strategist/Workerループを通じて大規模な実験を実行し、永続的なプレイブックでドメイン知識を蓄積する。
  論文  参考訳（メタデータ） (2026-03-31T21:16:20Z)
• Agent2World: Learning to Generate Symbolic World Models via Adaptive Multi-Agent Feedback [51.22403664895878]
  Agent2Worldは、強力な推論時ワールドモデル生成を実現するツール拡張マルチエージェントフレームワークである。 また、マルチエージェントフィードバックの生成を基盤にすることで、教師付き微調整のためのデータエンジンとしても機能する。
  論文  参考訳（メタデータ） (2025-12-26T18:54:14Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• Boosting Virtual Agent Learning and Reasoning: A Step-Wise, Multi-Dimensional, and Generalist Reward Model with Benchmark [72.46357004059661]
  Generalist Virtual Agents (GVA) は自律的なタスク実行において大きな可能性を示している。 これらの課題に対処するため,ステップワイズ多次元ジェネラリスト・リワードモデルを提案する。 同様に、エージェントトレーニング用のきめ細かい信号を提供し、推論時間スケーリングのためのより良いアクションを選択することができる。
  論文  参考訳（メタデータ） (2025-03-24T13:30:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。