論文の概要: Rethinking Experience Utilization in Self-Evolving Language Model Agents
- arxiv url: http://arxiv.org/abs/2605.07164v1
- Date: Fri, 08 May 2026 02:48:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.763552
- Title: Rethinking Experience Utilization in Self-Evolving Language Model Agents
- Title(参考訳): 自己進化型言語モデルエージェントにおける体験利用の再考
- Authors: Weixiang Zhao, Yingshuo Wang, Yichen Zhang, Yanyan Zhao, Yu Zhang, Yang Wu, Dandan Tu, Bing Qin, Ting Liu,
- Abstract要約: 自己進化剤は過去の相互作用から経験を蓄積し再利用することで改善する。
本稿では,自己進化型エージェントの重要設計次元としての利用経験について考察する。
- 参考スコア(独自算出の注目度): 51.10420305280499
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-evolving agents improve by accumulating and reusing experience from past interactions. Existing work has largely focused on how experience is constructed, represented, and updated, while paying less attention to how experience should be used during runtime decision-making. As a result, most agents rely on rigid usage strategies, either injecting experience once at initialization or at every step, without considering whether it is needed for the current decision. This paper studies experience utilization as a critical design dimension of self-evolving agents. We ask whether agents benefit from interweaving experience use with decision-making, so that experience is invoked only when additional guidance is needed. To examine this question, we introduce {ExpWeaver}, a lightweight instantiation that leaves experience construction unchanged and modifies only runtime utilization by exposing experience as an optional resource during reasoning. Across four representative frameworks, seven LLM backbones, and three types of environments, ExpWeaver consistently achieves the best performance among different utilization strategies. Reinforcement learning experiments further show that this behavior can be amplified through training. Usage-pattern, causal ablation, and entropy-based analyses reveal that ExpWeaver enables agents to invoke experience selectively, at beneficial decision points, and under higher reasoning uncertainty. Overall, our findings call for a shift from merely studying \emph{what} experience to store toward understanding \emph{how} and \emph{when} experience should enter decision-making.
- Abstract(参考訳): 自己進化剤は過去の相互作用から経験を蓄積し再利用することで改善する。
既存の作業は、エクスペリエンスの構築、表現、更新に重点を置いている一方で、実行時の意思決定においてエクスペリエンスをどのように使用するべきかに注意を払っていない。
その結果、ほとんどのエージェントは、初期化時に一度注入するか、すべてのステップで経験を注入するか、現在の決定に必要かどうかを考慮せずに、厳格な利用戦略に依存している。
本稿では,自己進化型エージェントの重要設計次元としての利用経験について考察する。
エージェントは意思決定に使用した経験を織り交ぜることの恩恵を受けるかどうかを問う。
この問題を調べるために, ExpWeaverという軽量なインスタンス化を導入する。これは, コンストラクチャを変更せずに, 推論中に任意のリソースとしてエクスペリエンスを公開することで, ランタイム利用のみを変更できる。
4つの代表的なフレームワーク、7つのLDMバックボーン、3種類の環境において、ExpWeaverは、さまざまな利用戦略の中で一貫して最高のパフォーマンスを実現している。
強化学習実験はさらに、この動作がトレーニングによって増幅されることを示す。
使用パターン、因果弁別、エントロピーに基づく分析により、ExpWeaverは、エージェントが選択的に、有益な決定ポイントで、より高い推論の不確実性の下で、経験を呼び出せることを示した。
全体としては、単に \emph{what} 体験を学習するだけから、 \emph{how} と \emph{when} 体験を理解するためのストアへと移行する必要がある。
関連論文リスト
- MuSEAgent: A Multimodal Reasoning Agent with Stateful Experiences [39.79876767762482]
本研究では,多モーダル推論エージェントであるMuSEAgentを紹介する。
実験により、MuseAgentは、きめ細かい視覚知覚と複雑なマルチモーダル推論の両方に基づいて、強い軌道レベルの体験検索ベースラインを一貫して上回っていることが示された。
論文 参考訳(メタデータ) (2026-03-29T18:54:31Z) - Towards Effective Experiential Learning: Dual Guidance for Utilization and Internalization [71.41478888201401]
トレーニング効率を向上させるために、textbfDual textbfGuidance textbfOptimization(textbfDGO)を提案する。
論文 参考訳(メタデータ) (2026-03-25T08:52:56Z) - Retrieval-Augmented LLM Agents: Learning to Learn from Experience [16.248836438253814]
本研究では,検索対象のLLMエージェントを学習し,検索したトラジェクトリをコンテキスト内で活用する方法について検討する。
最先端のエージェントトレーニングパイプラインよりも優れたロラを用いた,堅牢な教師付き微調整(SFT)レシピを確立した。
その結果,この組み合わせによるタスクの一般化が著しく向上することが示唆された。
論文 参考訳(メタデータ) (2026-03-18T20:45:04Z) - Large Language Model Agents Are Not Always Faithful Self-Evolvers [84.08646612111092]
自己進化型大規模言語モデル(LLM)エージェントは、過去の経験を蓄積し再利用することによって継続的に改善される。
本稿では,経験の忠実さ,エージェントの判断が与えられた経験に因果的依存を初めて体系的に調査する。
論文 参考訳(メタデータ) (2026-01-30T01:05:15Z) - Agent Learning via Early Experience [93.83579011718858]
言語エージェントの長期的な目標は、彼ら自身の経験から学び、改善することであり、最終的には複雑な現実世界のタスクにおいて人間より優れています。
現在のエージェントのほとんどは、専門家データによる教師付き微調整に依存しており、スケールと一般化が不十分である。
本研究では,(1)環境力学における政策の基盤として収集された状態を利用するインプリシット・ワールド・モデリング,(2)エージェントが最適な行動から学習し,推論と意思決定を改善するための自己回帰という2つの手法について検討する。
論文 参考訳(メタデータ) (2025-10-09T17:59:17Z) - Iterative Experience Refinement of Software-Developing Agents [81.09737243969758]
大規模な言語モデル(LLM)は、過去の経験を活用してエラーを低減し、効率を高めることができる。
本稿では,LLMエージェントがタスク実行中に反復的に経験を洗練できる反復体験精錬フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-07T11:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。