論文の概要: Agent-Reflex: Teaching Language Agents to Act Reflectively
- arxiv url: http://arxiv.org/abs/2610.17953v1
- Date: Tue, 13 Oct 2026 08:36:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 08:02:07.164414
- Title: Agent-Reflex: Teaching Language Agents to Act Reflectively
- Title(参考訳): エージェント反射: 言語エージェントが反射的に行動するように教える
- Abstract要約: Agent-Reflexは、プロアクティブリフレクションをエージェントにインセンティブを与えるためのトレーニングフレームワークである。
Qwen3-8Bで構築されたエージェント-リフレックスは5つの長期ツール使用ベンチマークで58.6に到達した。
- 参考スコア(独自算出の注目度): 135.81207159393864
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models have evolved from single-turn chatbots into interactive agents capable of long-horizon reasoning. In real deployments, MCP tool services can return noisy feedback and users may intervene to correct the agent, but existing methods provide limited supervision for reflection learning and failure recovery. To bridge this gap, we propose Agent-Reflex, a general training framework for incentivizing proactive reflection in agents. Specifically, Agent-Reflex comprises three stages. First, Environment Reflection Skill Discovery (RSD) injects grounded tool-feedback perturbations into environment scaling, samples a capability-diverse LLM pool, mines matched success-failure pairs, and summarizes reusable reflection meta-skills. Building on this skill library, we then apply Reflective Supervised Fine-Tuning (ReSFT) that converts each skill into supervision for self-reflection, skill recovery, and user-centric correction, strengthening complementary reflective behaviors. Finally, we propose On-Policy Reflective Policy Optimization (ORPO) to combine agentic reinforcement learning under noisy interactions with reflection-guided on-policy distillation to further elicit proactive reflection. Built on Qwen3-8B, Agent-Reflex reaches 58.6 overall on five long-horizon tool-use benchmarks and 29.1 on AgentNoiseBench, surpassing strong environment-scaling and reflection baselines. Experiments on six challenging agent benchmark suites demonstrate the effectiveness of Agent-Reflex. Further analyses show that Agent-Reflex improves agents' robustness to noise while maintaining stable training dynamics, supporting scalable agent training. Our code is available at https://github.com/RUC-NLPIR/Agent-Reflex.
- Abstract(参考訳): 大規模言語モデルは、シングルターンチャットボットから、長距離推論が可能な対話型エージェントへと進化してきた。
実際のデプロイメントでは、MSPツールサービスはノイズの多いフィードバックを返すことができ、ユーザーはエージェントの修正に介入する可能性があるが、既存のメソッドはリフレクション学習と障害復旧の限られた監督を提供する。
このギャップを埋めるため,エージェントのプロアクティブリフレクションをインセンティブ化する一般的なトレーニングフレームワークであるAgent-Reflexを提案する。
具体的には、Agent-Reflexは3つのステージから構成される。
まず、環境リフレクションスキルディスカバリ(RSD)は、環境スケーリングに接地したツールフィードバックの摂動を注入し、能力多様性のLDMプールをサンプリングし、鉱山は成功と失敗のペアにマッチし、再利用可能なリフレクションメタスキルを要約する。
このスキルライブラリ上に構築したReflective Supervised Fine-Tuning(ReSFT)は,各スキルを自己反映,スキル回復,ユーザ中心の補正の監視に変換し,補完的な反射行動を強化する。
最後に, 反射誘導型オンライン蒸留法と雑音相互作用下でのエージェント強化学習と, 有効反射を更に引き起こすためのオンライン反射政策最適化(ORPO)を提案する。
Qwen3-8B上に構築されたAgent-Reflexは5つの長期ツール使用ベンチマークで58.6、AgentNoiseBenchで29.1に達し、強力な環境スケーリングとリフレクションベースラインを超えた。
6つのエージェントベンチマークスイートの実験では、Agent-Reflexの有効性が示されている。
さらに分析した結果,エージェント反射はエージェントのノイズに対する堅牢性を向上し,安定したトレーニングダイナミックスを維持し,スケーラブルなエージェントトレーニングをサポートすることがわかった。
私たちのコードはhttps://github.com/RUC-NLPIR/Agent-Reflex.comで公開されています。
関連論文リスト
- Self-Reflection Fine-Tuning: Enhancing Agent Security against Prompt Injection Attacks from Failure Experience [83.9792313419956]
Self-Reflection Fine-Tuning(SRFT)は、エージェントが自身の障害経験から学習することで堅牢性を向上させるためのトレーニングフレームワークである。
我々はこのフレームワークをLlama-3.1-8B-InstructとQwen3-8B上に構築したSR-Agentでインスタンス化し、静的および適応的なプロンプトインジェクションベンチマークで評価する。
論文 参考訳(メタデータ) (2026-10-03T03:45:44Z) - RetroAgent: From Solving to Evolving via Retrospective Dual Intrinsic Feedback [54.39884046754265]
RetroAgentは、エージェントが複雑なインタラクティブ環境をマスターできるオンラインRLフレームワークである。
実験の結果,RetroAgentはSOTA(State-of-the-art)の性能を達成できた。
論文 参考訳(メタデータ) (2026-03-09T16:23:33Z) - Agent-Pro: Learning to Evolve via Policy-Level Reflection and Optimization [53.510942601223626]
大規模言語モデル(LLM)は多様なタスクに対して堅牢な問題解決能力を示す。
これらのタスクソルバは、タスクルールを通知し、行動を調整するために手作業によるプロンプトを必要とする。
本稿では,ポリシーレベルのリフレクションと最適化を備えた LLM ベースのエージェントである Agent-Pro を提案する。
論文 参考訳(メタデータ) (2024-02-27T15:09:20Z) - Reflexion: Language Agents with Verbal Reinforcement Learning [44.85337947858337]
リフレクション(Reflexion)は、ウェイトを更新するのではなく、言語フィードバックによって言語エージェントを強化する新しいフレームワークである。
様々なタイプ(スカラー値または自由形式言語)とフィードバック信号のソース(外部または内部シミュレート)を組み込むのに十分な柔軟性がある。
例えば、ReflexionはHumanEvalのコーディングベンチマークで91%のパス@1精度を達成した。
論文 参考訳(メタデータ) (2023-03-20T18:08:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。