論文の概要: ServeLearnBench: How Well Can Agents Self-Improve from Serving Experience?
- arxiv url: http://arxiv.org/abs/2610.07792v1
- Date: Tue, 06 Oct 2026 05:39:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.830187
- Title: ServeLearnBench: How Well Can Agents Self-Improve from Serving Experience?
- Title（参考訳）: ServeLearnBench: エージェントはどのようにして自己改善できるのか?
- Abstract要約: 大規模言語モデルエージェントは、現実世界の環境で複雑なタスクを実行するためにますますデプロイされる。
近年の継続的な学習ハーネスは、エージェントがサービス体験を改善することで、この問題に対処しようとしている。
我々はServeLearnBenchを紹介し,53の環境ウィンドウと7,718のタスクを備えた小売サポート,銀行,販売ピッチ生成を紹介した。
- 参考スコア（独自算出の注目度）: 25.04546844099514
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Large language model agents are increasingly deployed to perform complex tasks in real-world environments. However, the knowledge required for correct behavior in these environments is often implicit, undisclosed, and subject to change over time. Recent continual-learning harnesses seek to address this challenge by enabling agents to improve from serving experience. Yet the effectiveness and limitations of these methods are not yet well characterized. Existing benchmarks provide only partial coverage: some explicitly provide the target knowledge, others assume a static environment, and those that support continual adaptation remain limited in scale and knowledge diversity. To enable systematic evaluation, we formalize an evolving-environment streaming dataset (EESD), in which agents must infer, apply, and revise latent environment knowledge from interaction and outcome feedback as hidden policies evolve, and introduce ServeLearnBench, spanning retail support, banking, and sales-pitch generation with 53 environment windows and 7,718 tasks. We evaluate five learning harnesses (RAG, Mem0, SkillOpt, Continual Harness, and Prime) across six models (GPT-5.6 Terra, Opus 5, Kimi K3, GLM-5.3, DeepSeek V4.1 Flash, and GLM-5.3 Flash), covering 28 model-harness pairs and 252 learning runs. Our evaluation reveals three main findings: a substantial gap remains between task capability and learning from experience; continual adaptation is costly and can degrade already-correct behavior; and insufficient exploration emerges as a key bottleneck to effective adaptation. Overall, ServeLearnBench provides a controlled testbed for diagnosing these limitations and tracking progress toward agents that continually and reliably improve through serving experience.
- Abstract（参考訳）: 大規模言語モデルエージェントは、現実世界の環境で複雑なタスクを実行するためにますますデプロイされる。
しかしながら、これらの環境での正しい行動に必要な知識は暗黙的であり、開示されず、時間とともに変化する。
近年の継続的な学習ハーネスは、エージェントがサービス体験を改善することで、この問題に対処しようとしている。
しかし,これらの手法の有効性と限界はまだ十分に評価されていない。
既存のベンチマークは、対象とする知識を明示的に提供するもの、静的な環境を前提とするもの、連続的な適応をサポートするものは、スケールや知識の多様性に制限される。
組織的評価を実現するため,エージェントが隠れポリシーの進化に伴って対話や成果フィードバックから潜伏環境知識を推論し,適用し,修正する必要がある,進化環境ストリーミングデータセット(EESD)を定式化し,53の環境ウィンドウと7,718のタスクで小売サポート,銀行,セールスピッチ生成を行うServeLearnBenchを紹介した。
GPT-5.6 Terra, Opus 5, Kimi K3, GLM-5.3, DeepSeek V4.1 Flash, GLM-5.3 Flashの5つの学習ハーネス(RAG, Mem0, SkillOpt, Continual Harness, Prime)を評価し,28のモデルハーネスペアと252の学習実行をカバーした。
課題能力と経験からの学習の間には大きなギャップが残っており、継続的な適応はコストがかかり、既に正しい振る舞いを低下させることができる。
全体として、ServeLearnBenchはこれらの制限を診断し、サービスエクスペリエンスを通じて継続的に確実に改善されるエージェントへの進捗を追跡するためのコントロールされたテストベッドを提供する。
関連論文リスト
- ARISE: Adapting to Evolving Capability Gaps in Agentic Reinforcement Learning [28.762002702466532]
ARISEは、ロールアウトエビデンスを使用して評価基準、探索ガイダンス、トレーニング優先順位を継続的に適用する強化学習フレームワークである。
ARISEは、全体的なタスクパフォーマンスとトレーニング効率の両方をうまく向上させる。
論文 参考訳（メタデータ） (2026-09-28T16:14:07Z) - EVOHARNESSBENCH: Can Your Agents Keep Pace with an Evolving Harness? [83.21711423118768]
EVOHARNESSBENCHは、制御されたハーネス進化下でエージェントを評価するためのベンチマークである。
検証器ベースのベンチマークから決定的に構築された17のマルチステージハーネスストリームを含んでいる。
論文 参考訳（メタデータ） (2026-09-03T03:24:02Z) - S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? [66.17176838165994]
大規模言語モデル(LLM)は、ますます外部環境と相互作用し、かなりの行動経験を蓄積する。
エージェントがその振る舞いを積極的にテストし、得られた経験を判断し、その経験を使って将来の意思決定を改善することができるかどうかは不明だ。
LLM自己改善評価のための対話型ベンチマークである textbfStextsuperscript3Gym を導入する。
論文 参考訳（メタデータ） (2026-08-31T17:05:41Z) - TRACE: A Self-Evolving Skill Bank for Consistent, Limit-Aware LLM Agents [41.82249291285459]
TRACEは、モデルウェイトを変更することなく、スキルベースのエージェントの行動知識を反復的に改善する。
GPT-5.5では、TRACEは一貫性(Pass3)を34.6ポイント改善し、59.9%から94.5%に改善した。
これらの結果から,TRACEは高モデルポテンシャルを安定かつ一貫した性能向上に変換することを示した。
論文 参考訳（メタデータ） (2026-08-24T04:36:03Z) - AhaBench: Do Agents Turn Experience into Reusable Insights? A Long-Horizon Benchmark for Continual Learning [6.511310130508893]
AhaBenchは、経験から継続的に学ぶ言語エージェントの能力を評価する。
ベンチマークはエージェントの学習方法に非依存であり、評価されたエージェントは固定モデルウェイトを使用する。
オイラーでは、作業手順はモデル全体で 80.0-100.0% の精度を保留し、質問+回答の教育は 0.0-73.9% の精度を得る。
論文 参考訳（メタデータ） (2026-06-30T04:04:01Z) - Active Zero: Self-Evolving Vision-Language Models through Active Environment Exploration [72.84714132070404]
受動的相互作用から視覚環境の能動的探索に移行する枠組みを提案する。
Active-Zeroでは,3つの共進化エージェントが採用されている。 モデルの機能フロンティアに基づいて,オープンワールドリポジトリからイメージを取得する検索だ。
12ベンチマークにわたるQwen2.5-VL-7B-インストラクションについて : Active-Zero 53.97 における推論タスクの平均精度(5.7%の改善)と一般理解における 59.77 について(3.9%の改善)
論文 参考訳（メタデータ） (2026-02-11T17:29:17Z) - Autonomous Continual Learning of Computer-Use Agents for Environment Adaptation [57.65688895630163]
ACuRLは自律的なカリキュラム強化学習フレームワークで、エージェントを人間データゼロの特定の環境に継続的に適応させる。
本研究では,環境内学習と環境横断学習の両方を効果的に実現し,既存の環境を忘れずに4～22%の性能向上を実現した。
論文 参考訳（メタデータ） (2026-02-10T23:06:02Z) - Agent Learning via Early Experience [93.83579011718858]
言語エージェントの長期的な目標は、彼ら自身の経験から学び、改善することであり、最終的には複雑な現実世界のタスクにおいて人間より優れています。
現在のエージェントのほとんどは、専門家データによる教師付き微調整に依存しており、スケールと一般化が不十分である。
本研究では,(1)環境力学における政策の基盤として収集された状態を利用するインプリシット・ワールド・モデリング,(2)エージェントが最適な行動から学習し,推論と意思決定を改善するための自己回帰という2つの手法について検討する。
論文 参考訳（メタデータ） (2025-10-09T17:59:17Z) - Contextual Experience Replay for Self-Improvement of Language Agents [47.51006612841945]
本稿では,言語エージェントに対する効率的な自己改善を実現するために,コンテキスト体験リプレイ(CER)を提案する。
CERは過去の経験を蓄積し、動的メモリバッファに合成する。
我々は WebArena と VisualWebArena のベンチマークで CER を評価した。
論文 参考訳（メタデータ） (2025-06-07T07:47:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。